Arama
Yapay zeka çılgınlığı ve manipülasyon tehlikesi
Yapay zeka şirketi OpenAI, son derece gerçekçi biçimde 60 saniyelik videolar oluşturabilen, üretebilen yeni bir aracını duyurdu. Bu araçla, sadece metin girdisi kullanarak etkileyici görseller oluşturmak mümkün hale geldi. Üstelik görsellerin gerçekliğinin ayırt edilmesi neredeyse imkansız! Bu türden bir yapay zekanın manipülasyon yeteneklerine sahip olması, yapay zeka teknolojileri hakkındaki endişeleri de beraberinde getirdi.
YAPAY ZEKA NEDİR?
⚫ Yapay zeka nedir? sorusunun cevabını, alışılmışın dışında, biz değil de yapay zekanın kendisinin vermesi herhalde konunun gidişatı için de yerinde olacaktır. Şu an internette yaklaşık 3 yıldır kullanımda olan ve genel kullanıma da ücretli ve ücretsiz olarak açık olan bir yapay zeka aracına "Yapay zeka nedir?" sorusunu sorduk. Kendisinin ne olduğu tanımı hakkında söylediklerine bir bakalım:
"Yapay zeka (IA), bilgisayar sistemlerinin insan benzeri yetenekler sergileyebilme kabiliyetini ifade eder. Yapay zeka, karmaşık veri analizi, problem çözme, öğrenme ve karar verme gibi görevleri gerçekleştirebilen bilgisayar programları ve algoritmaları içerir. Bu sistemler, genellikle büyük miktarda veri kullanarak örüntüleri tanımlama ve gelecekteki kararları tahmin etme yeteneğine sahiptir. Genel olarak yapay zeka, bilgisayarların karmaşık görevlerini insan benzeri şekilde gerçekleştirmesini sağlayan bir disiplindir ve birçok endüstride, sağlık, ulaşım, finans, eğitim ve daha birçok alanda kullanılmaktadır."
*Bu cevap, bir yapay zeka aracına sorulan "Yapay zeka nedir?" sorusuna karşılık oluşturulan cevabı içeriyor. "İnsan benzeri yetenekler" ifadesindeki dijital manipülasyon tehlikesini görmemek mümkün değil. Bu ifade "seni hiç anlamayacağın şekilde, kendi isteklerim doğrultusunda, yönlendirebilirim" demek oluyor. Yakın bir zamana giderseniz "My friend Cayla – Arkadaşım Cayla" isminde, ses tanıma teknolojisini kullanan internet bağlantılı bir oyuncak bebek yapılmıştı. Almanya, casusluk yapabileceği endişesiyle, ebeveynlerden Cayla isimli bu bebeği imha etmelerini istemişti. Oysaki Cayla, dijital manipülasyonun sadece bir örneğiydi.
OPEN (AI) ŞİRKETİ VE "SORA" YAPAY ZEKASI
⚫ Gelelim bugüne... 15 Şubat 2024 tarihinde bir yapay zeka şirketi olan OPEN AI, Sora'yı tüm dünyaya etkileyici bir şekilde tanıttı. Sora, şimdiye kadar tanıtılan yapay zeka araçları içerisinde en gelişmiş versiyon olarak dikkat çekti. Bu araçla, basit bir metin istemine dayalı olarak son derece gerçekçi 60 saniyelik videolar oluşturulabiliyor. Üstelik videolarda kullanılan görsel araçları gerçeğinden ayırt etmek imkansız.
* Bunun anlamı; her geçen gün hayatımıza biraz daha fazla giren yapay zeka kavramı ve araçlarının geldiği son nokta, birçok spekülasyonu da beraberinde getirmesiydi.
⚫ Metinden yola çıkarak birçok talimatı videoya dökebilen Sora yapay zeka aracı, şimdilik sadece sınırlı sayıda kişi ve ekip tarafından kullanılabiliyor. Özellikle yanıltıcı ve manipülatif videolar üreterek kitleleri yönlendirme potansiyeline sahip olması nedeniyle bu durum endişe oluşturuyor.
⚫ Sora adlı yapay zeka aracına, doğurabileceği riskleri ve kritik alanları değerlendirmek amacıyla yalnızca OpenAI şirketinin 'red team' ekibi erişebiliyor. Şirket aynı zamanda, bir dizi görsel sanatçıya, tasarımcıya ve film yapımcısına erişim izni vereceğini belirterek, verilen geri dönütleri Sora'nın güncellemesi için kullanacaklarını açıkladı.
İNSANLIĞIN AY'LA BULUŞMASI: NEİL ARMSTRONG VE APOLLO 11 MACERASI
⚫ Yapay zeka hakkında en ürkütücü sorulardan biri de "Yapay zekada manipülasyon mümkün müdür?" sorusudur. Bunu da yapay zekaya sorduğumuzda verdiği cevap şöyle oluyor: "Evet, yapay zekada manipülasyon mümkündür. Yapay zeka sistemleri, veri girişlerine, eğitim sürecine ve çalışma koşullarına bağlı olarak istenmeyen sonuçlara yol açabilir veya yönlendirilebilir."
⚫ Kuşkusuz bu soru, devrimsel nitelikteki teknolojik her gelişmenin ardından akıllara gelmiştir: Bilgisayar, cep telefonları vs. Ancak yapay zeka teknolojisinin bu denli hızla ilerlemesi, bazı büyük riskleri de beraberinde getiriyor. Manipülasyonlar, yanıltıcı ve aldatıcı içerikler... Gerçek olmayan bir görsel içerik oluşturmak, hiç gerçekleşmemiş olayları yaşanmış gibi göstermek ve var olmayan pek çok araç-gereç ve formları gerçekçi şekilde kurgulamak kitlesel sorunlara yol açar. Özellikle, ülkelerin politikaları gereği ve birtakım kötü niyetli grupların kitleleri harekete geçirebilecek manipülatif içerikleri üretebilme imkanı bu teknoloji ile gerçekleşebilir.
⚫ Bu sorunun cevabı kesinlikle "evet" olacaktır ve hatta yapay zeka şirketlerinin en büyük yatırımcılarına bakıldığı zaman, bu teknolojinin insanlar üzerinde özellikle psikolojik ve manipülatif etki oluşturmak için kullanılabileceği konusunda hiç şüphe yoktur. Sosyal medyanın ve dünyanın dev şirketleri olan: Meta (Facebook), Microsoft, Apple, Tesla, Amazon ve Çinli diğer şirketler bu teknolojiye en büyük yatırımları yapanlar olarak ön plana çıkıyor.
⚫ Yapay zeka teknolojilerinin manipülasyon gibi psikolojik harp stratejileri bakımından birden fazla şekilde kullanımı olabilir:
🔸 Manipülasyon ve Propaganda: Yapay zeka algoritmaları, sosyal medya platformları ve diğer çevrim içi platformlarda propaganda ve manipülasyon amacıyla kullanılabilir. İnsan davranışlarını analiz ederek, hedef kitlelerin duygusal ve düşünsel eğilimlerini anlamak ve onları yönlendirmek için kullanılabilirler.
🔸 Sosyal mühendislik: Yapay zeka, hedeflenen bireyler veya gruplar hakkında derinlemesine bilgi toplayabilir ve bu bilgileri kullanarak onları manipüle etmek için özel olarak tasarlanmış içerikler oluşturabilir. Bu, hedef kitlenin düşüncelerini, duygularını ve davranışlarını etkilemek için kullanılabilir.
🔸 Duygu analizi ve tahmin: Yapay zeka, metin, ses veya görüntü analizi gibi teknikler kullanarak insanların duygusal durumlarını belirleyebilir ve gelecekteki davranışlarını tahmin edebilir. Bu bilgiler, psikolojik harp stratejilerinin planlanması ve uygulanması için değerli olabilir.