Teknoloji alanında sürekli olarak tartışılan konulardan biri yapay zekânın geliştikten sonra nasıl kendi üreticilerine karşı gelebileceği. Facebook da tam olarak bu konuda ağır bir ders aldı. Yapay zekâ geliştirilen laboratuvarlardan birinde, iki program, insanların anlayamadığı bir dil oluşturup aralarında iletişim kurmaya başladılar.
Temelde İngilizce dilini kullanarak birbirleriyle iletişim kurmaları şeklinde programlanan botlar, bize göre tamamen anlamsız "I can can I I everything else" ya da "Balls have zero to me to me to me to me to me to me to me to me to" gibi cümleleri karşılıklı birbirlerine göndermeye başladılar.
Bunu programda bir sıkıntı olarak tanımlayıp bir süre görmezden gelen mühendisler, yazılımları incelediklerinde botların bu bize göre anlamsız cümleleri tamamen anlayıp işlem yaptıklarını ortaya çıkardı. Ne konuştukları hakkında hiç bir bilgiye sahip olmayan mühendisler, sistemin fişini çekmekten başka çare bulamadılar.
Buradaki oldukça açık tehlike ise şu: botlar kendi aralarında iletişim kurduklarında bunu bizim anladığımız şekilde yapmak yerine tamamen anlamsız ama çok yüksek verimli bir dille yapmayı tercih ediyorlar. Kendileri için en uygun şekli belirleyen iki bilgisayarın yaptığı iş, hem etkileyici, hem de inanılmaz derecede korkutucu.