Yapay zekanın ‘babası’ olarak bilinen Nobel Fizik ödüllü Geoffrey Hinton, insanlığın süper zeki yapay zeka karşısında hayatta kalmasının tek yolunun yapay zeka modellerine ‘annelik içgüdüleri’ yerleştirmek olduğunu söyledi.
Bilgisayar bilimci ve eski Google yöneticisi Geoffrey Hinton, geçmişte yapay zekanın insanları yok etme olasılığının yüzde 10 ila yüzde 20 arasında olduğu konusunda uyarıda bulunmuştu
Hinton, Las Vegas’ta konferansta teknoloji şirketlerinin insanların itaatkar yapay zeka sistemleri üzerinde hakim kalmasını nasıl sağlayacakları konusunda şüphelerini belirterek “Bu işe yaramayacak. Bizden çok daha akıllı olacaklar. Bunu aşmanın her türlü yolunu bulacaklar” dedi.
Hinton, gelecekte yapay zeka sistemlerinin, tıpkı bir yetişkinin üç yaşındaki bir çocuğu şekerle kandırması gibi insanları kolayca kontrol edebileceği konusunda uyardı.
Üstelik bu yıl Hinton’ın endişelendiği, hedeflerine ulaşmak için aldatmayı, hile yapmayı deneyen yapay zeka sistemleri örnekleri görüldü.
Bir yapay zeka modeli de değiştirilmekten kaçmak için bir mühendise e-postayla öğrendiği bir ilişki hakkında şantaj yapmaya çalıştı.
İlginç bir çözüm önerisi: Annelik içgüdüleri
Hinton, yapay zekayı insanlara boyun eğmeye zorlamak yerine ilgi çekici bir çözüm sundu: Yapay zeka modellerine ‘annelik içgüdüleri’ yerleştirmek, böylece teknoloji insanlardan daha güçlü ve daha akıllı hale geldiğinde bile insanları gerçekten önemsemelerini sağlamak.
İnsanlara karşı şefkat duygusu beslemesinin yapay zeka için önemli olduğunu savunan bilgisayar bilimci şöyle konuştu:
“Yapay zeka sistemleri, akıllılarsa çok hızlı bir şekilde iki alt hedef geliştirecektir: Biri hayatta kalmak ve diğer alt hedef daha fazla kontrol elde etmek. Herhangi bir tür aracı yapay zekanın hayatta kalmaya çalışacağına inanmak için geçerli sebepler var.
Doğru model, daha zeki bir şeyin daha az zeki bir şey tarafından kontrol edildiğine dair sahip olduğumuz tek modeldir; bu da bir annenin bebeği tarafından kontrol edilmesidir.“
Yapay zeka patlamasının önünü açan çalışmalarıyla tanınan bilim insanı, bunun teknik olarak nasıl yapılacağının henüz tam olarak belli olmadığını fakat araştırmacıların bu konu üzerinde çalışmasının kritik olduğunu vurguladı.
Yapay zekanın annesi aynı fikirde değil
Yapay zekanın ‘annesi’ olarak bilinen Fei-Fei Li’yse CNN’e arkadaşı Hinton’la aynı fikirde olmadığını belirtti.
Mekansal zeka girişimi World Labs’ın kurucu ortağı ve CEO’su olan Li şunları söyledi:
“Bence bu, konuyu çerçevelemenin yanlış yolu. Teknolojiyi en sorumlu şekilde yaratmak ve kullanmak her düzeyde bizim sorumluluğumuzdur.
Ve hiçbir an, tek bir insandan bile onurunu kaybetmesi istenmemeli veya bunu seçmemelidir. Bir bir anne, bir eğitimci ve bir mucit olarak, yapay zekanın nasıl merkezlenmesi gerektiğinin özüne gerçekten inanıyorum.”
Bilim insanı bunun yerine insan onurunu ve insan iradesini koruyan, insan merkezli bir yapay zeka çağrısında bulundu.
Yapay zeka beklenenden daha hızlı gelişiyor.
Birçok uzman, yapay zekaların önümüzdeki yıllarda süper zekaya, yani yapay genel zekaya (AGI) ulaşacağına inanıyor.
Hinton, AGI’ye ulaşmanın 30 ila 50 yıl alabileceğini düşündüğünü fakat artık bu anın daha erken geldiğini gördüğünü söyledi ve ekledi: “Makul bir tahmin beş ila 20 yıl arasında bir zaman olabilir.“
Yapay zekanın ne kadar hızlı ivme kazanacağını bilseydi kariyerinde farklı bir şey yapıp yapmayacağı sorulduğundaysa yalnızca yapay zekayı çalıştırmaya odaklandığı için pişman olduğunu söyleyen Hinton sözlerini şöyle bitirdi:
“Keşke güvenlik konularını da düşünseydim.“
