Arama
Yapay zeka çılgınlığı ve manipülasyon tehlikesi
Yapay zeka şirketi OpenAI, son derece gerçekçi biçimde 60 saniyelik videolar oluşturabilen, üretebilen yeni bir aracını duyurdu. Bu araçla, sadece metin girdisi kullanarak etkileyici görseller oluşturmak mümkün hale geldi. Üstelik görsellerin gerçekliğinin ayırt edilmesi neredeyse imkansız! Bu türden bir yapay zekanın manipülasyon yeteneklerine sahip olması, yapay zeka teknolojileri hakkındaki endişeleri de beraberinde getirdi.
⚫ Yapay zeka araçları hemen hemen hayatımızın pek çok noktasında insan yaşamını kolaylaştırmıştır. Sağlık sektöründen otomasyona, eğitimden görsel sanatlara kadar birçok alanda önemli kolaylıklar sağlarken aynı anda zamandan ve emekten de tasarruf sağlamaktadır. Ancak, bu teknolojinin kötü niyetli kişilerin eline geçmesi durumunda ortaya çıkabilecek riskleri de göz ardı etmemeliyiz. Sahte görüntülerin manipüle edilmesiyle çeşitli dolandırıcılık vakaları ortaya çıkabilir veya yanıltıcı içerikler üretilebilir. Bu nedenle, yapay zeka teknolojilerinin gelişimiyle birlikte etik ve güvenlik konularına daha fazla önem verilmesi gerekmektedir.
⚫ Bu soruların ve endişelerin bütün cevabı, yapay zeka araçlarını üreten şirketlerin inisiyatifinde. Henüz ülkeler ve uluslararası hukuk bazında bu konuyla alakalı bir düzenleme söz konusu değil ancak OpenAI, güvenlik önlemlerini sürekli güncellediğini belirtiyor.
⚫ Open AI şirketi, manipülasyon, dezenformasyon, yanlış bilgi, nefret içeriği ve ön yargı gibi konularda uzmanlaşmış "Red team"lerle iş birliği yaptığını açıkladı. Yapay zeka ile üretilen görsel içeriklere C2PA standardında metadata ekleneceğini açıkladı. Böylece, yapay zeka veya insan tarafından oluşturulan içeriğin tespiti ve takibi için bir izleme sistemi oluşturuluyor.
⚫ Bu önlemlerin yeterli olup olmayacağı belirsiz. Çünkü benzeri çalışmalar yapan şirketler de yeni ürünler üretmeye devam ediyor. Şirketler arasındaki rekabetin yoğunluğu göz önünde bulundurulduğunda, etik boyutun ne kadar önemsendiği de belirsiz kalıyor. Bu önlemlere ne kadar sadık kalacakları zamanla ortaya çıkacak.
⚫ 2016 ve 2020 Amerikan seçimleri öncesinde, yalan haber ve manipülasyon konuları Amerikan iç kamuoyunda yoğun biçimde tartışma konusu oldu. Demokrat aday Biden ve yardımcısı Kamala Harris üzerinden özellikle Facebook, YouTube ve Twitter gibi platformlarda manipülatif içeriklerin yayıldığı iddia edilmişti.
⚫ Amerika'da başkanlık seçimleri dönemlerinde iç politikadaki çekişmeler sonucunda üretilen gerçeğe aykırı ve manipülatif içeriklerin dijital ağlar üzerinden hızla yayılması da ayrı bir tartışma konusu oldu. Yaygın şekilde kullanılan sosyal ağlar üzerinden, yapay zeka destekli üretilen ve kullanıcıları yönlendirdiği iddia edilen yoğun bir bilgi dezenformasyonu ve manipülatif içeriklerin seçim dönemlerinde kullanıldığına dair ciddi iddialar ortaya atıldı. Benzer şekilde, Rusya ve Çin'in ABD ile olan ekonomik ve siyasi çatışmasının yapay zeka odaklı bir psikolojik harp tekniğinin nasıl kullanıldığı da test edilmiş oldu.
⚫ Yapay zekanın yazılı ve görsel içerik üretmedeki ilerlemesinin yanı sıra seslendirme alanında da büyük bir hızla ilerlemesi mevcut. Bir yapay zeka seslendirme şirketi olan Elevenlabs, yakın zaman önce bir duyuru yayınlayarak "Sesinizi kullanarak para kazanın!" ifadesiyle bir yazı paylaştı. Buna göre:
🔹 En az 30 dakikalık ses kaydınızı yüklemelisiniz
🔹 Sesinizi tanımlayın
🔹 Ücretinizi kendiniz belirleyin
🔹 Ödemeyi alacağınız gerekli bilgileri ekleyin
* Sadece 30 dakikalık bir ses kaydı yollayarak yıllar boyu süren bir kazanç modeli fikri kulağa oldukça hoş gelse de sesinizin nerelerde ve ne tür içeriklerde kullanılacağını hiç düşündünüz mü?
Üstelik sesinizi dünyanın dört bir yanından içerik üreticileri, şirketler, siyasetçiler istediği şekilde kullanabiliyor olacak. Yapay zeka şirketlerinin, 30 dakikalık bir ses kaydınızı sonsuz döngüde kullanabileceği ve sizin söylemediğiniz şeyleri bile sizin ağzınızdan ve konuşma biçiminizle kullanabileceği gerçeğini de unutmamak gerekir.
⚫ Yapay zeka şirketleri, yapay zeka modellerini eğitirken kullandıkları data setlerini gizlilik (!) nedeniyle paylaşmıyorlar. Bu konulardaki bilgi eksikliği endişe verici bir durum arz ediyor. Bu nedenle, New York Times gazetesi yapay zeka şirketlerine dava açtı; "bizim haberlerimizi kullanarak makinelerini eğitiyorlar" gerekçesi ile... Gerçek durum tam olarak bilinmiyor. Ancak yapay zeka endüstrisinde, insanların çalışmaları izinsiz olarak kullanılarak, rekabetçi araçlar üretilmeye çalışılıyor.
⚫ Bu durumun mutlaka yasa koyucular tarafından denetlenmesi gerekir. Ancak, yasa koyucuların öncelikle bu teknolojiyi iyi analiz etmesi ve anlaması gerekiyor, bu da zaman alması anlamına geliyor. Bu süre zarfında, dikkatli olunması ve standartların belirlenmesi önemli. Aksi takdirde, fil alegorisinde olduğu gibi kontrolsüzce hareket eden dev şirketler etrafı yıkarak, dağıtarak zarara yol açacaklardır.