Bilim insanları uyardı: “Süper zeki makineleri kontrol etmek mümkün değil”

İnsanlardan daha üstün zekaya ve kendi kendine öğrenme kabiliyetine sahip YZ, internet aracılığıyla insanlığın bütün verilerine erişebilir. Mevcut programların yerini alabileceği gibi internete bağlı bütün makineleri de kontrol edebilir. Bunun yaşanması halinde YZ’nin ütopya mı distopya mı meydana getireceği bilinmiyor. Max Planck Enstitüsü İnsan ve Makine Merkezi’nden Manuel Cebrian bu konuda şöyle konuştu:

“Dünyayı kontrol eden süper zeki makine kulağa bilim kurgu gibi geliyor. Fakat bazı önemli görevleri, programcılar nasıl öğrendiğini tam anlamadan bağımsız şekilde yerine getiren makineler halihazırda mevcut. Bu yüzden ortaya, bunun bir noktada kontrol edilemez ve insanlık için tehlikeli hale gelip gelmeyeceği sorusu çıkıyor.”

ScienceDaily'nin aktardığına göre, bilim insanları, YZ’nin nasıl kontrol edilebileceğine dair iki farklı fikirden bahsetse de bunların olumsuz yönleri de var. İlk fikir, YZ’nin kabiliyetlerini sınırlamak. Örneğin internet ve diğer tüm cihazlarla bağlantısını kesip dış dünyayla temas kurması engellenebilir. Ancak bu durum, YZ’nin becerilerini kısıtlayıp verilen görevlerdeki başarı yüzdesini düşürüyor. Diğeriyse YZ’yi en baştan itibaren etik ilkeler gibi maddelerle programlayarak sadece insanlığın çıkarına en uygun hedeflerle güdülenmesi. Fakat ekip, YZ’yi kontrol etmeye yönelik bu gibi tarihsel ve çağdaş fikirlerin kendi sınırları olduğunu ifade etti.

BİLİM İNSANLARI KORUMA ALGORİTMASI TASARLADI

Bilim insanları araştırma için, süper zeki YZ’yi taklit ederek ve zarar verdiği düşünüldüğünde onu durdurarak insanlara hiçbir koşulda zarar vermemesini sağlayan teorik koruma algoritması tasarladı. Dikkatlice yapılan analiz sonucunda, mevcut hesaplama paradigmasında bahsi geçen algoritmanın tasarlanamayacağı belirlendi.

İnsanlar ve Makineler Merkezi Direktörü Iyad Rahwan, sorunun teorik bilgisayar biliminden temel kurallara indirgenmesi durumunda, YZ’nin insanlığa zarar vermemesini sağlayacak algoritmanın kazara kendi işlemlerini durdurduğunu söyledi. Böyle bir durumda, söz konusu algoritmanın tehdidi analiz edip etmediğinin veya YZ tehdidi yüzünden durup durmadığının bilinemeyeceğini ekledi ve sözlerine şöyle devam etti:“Aslında bu, koruma algoritmasını kullanılamaz hale getiriyor.”

Araştırmanın sonucuna göre, koruma sorunu hesaplanamıyor. Yani tek bir algoritma, YZ’nin dünyaya zarar verip vermeyeceğini belirlemek için çözüm bulamıyor. Ayrıca bilim insanları, bir makinenin insanlardan daha üstün zekalı olup olmadığına karar vermenin koruma problemiyle aynı alanda bulunduğu için süper zeki makinelerin ne zaman ortaya çıkacağının bile bilinemeyeceğini söyledi.