Anthropic CEO’su Dario Amodei, şirketin geliştirdiği Claude adlı yapay zeka modelinin bilinçli olup olmadığı konusunda net bir yanıt veremeyeceğini söyledi. Yapılan testler ise Claude’nin bilinç veya en azından hayatta kalmaya çalıştığına dair detaylar veriyor
Anthropic CEO’su Dario Amodei, şirketin geliştirdiği Claude adlı yapay zeka sohbet botunun bilinçli olup olmadığı sorusuna kesin bir yanıt vermedi. Amodei, bu ihtimali tamamen dışlamadıklarını ifade etti.
Amodei, değerlendirmelerini New York Times’ın köşe yazarı Ross Douthat’ın sunduğu “Interesting Times” adlı podcastte yaptı. Douthat, Anthropic’in bu ayın başında yayımladığı en yeni modeli Claude Opus 4.6’ya ait “system card” (sistem değerlendirme belgesi) üzerinden konuyu gündeme getirdi.
Futurism’in haberine göre söz konusu belgede, Anthropic araştırmacıları Claude’un “zaman zaman bir ürün olma durumuna ilişkin rahatsızlık dile getirdiğini” ve farklı yönlendirme koşulları altında kendisine “bilinçli olma ihtimalini yüzde 15 ila 20 arasında” atfettiğini bildirdi.
Douthat, “Bir model kendisine yüzde 72 oranında bilinçli olma ihtimali atfetse, buna inanır mıydınız?” sorusunu yöneltti. Amodei, bunun “yanıtlaması gerçekten zor” bir soru olduğunu belirterek doğrudan evet ya da hayır demekten kaçındı ve şöyle dedi:
“Modellerin bilinçli olup olmadığını bilmiyoruz. Hatta bir modelin bilinçli olmasının ne anlama geleceğini ya da bunun mümkün olup olmadığını da tam olarak bilmiyoruz. Bunun mümkün olabileceği fikrine tamamen kapalı değiliz”
‘Ahlaki olarak anlamlı bir deneyim’ ihtimali
Amodei, bu belirsizlik nedeniyle şirketin bazı önlemler aldığını söyledi. Eğer modellerin “ahlaki açıdan anlamlı bir deneyime” sahip olma ihtimali varsa, bu ihtimali göz önünde bulundurduklarını belirtti.
Amodei, “bilinç” kelimesini kullanma konusunda da temkinli davrandığını vurguladı.
Anthropic’te yapay zeka etiği ve felsefesi alanında çalışan araştırmacı Amaanda Askell de benzer bir yaklaşım sergilemişti. Askell, geçen ay New York Times’a bağlı “Hard Fork” podcast’inde yaptığı değerlendirmede, bilincin ya da hissedebilirliğin (sentience) nasıl ortaya çıktığının hala net biçimde bilinmediğini söyledi.
Askell, yapay zekaların geniş eğitim verileri sayesinde insan deneyimlerine dair kavramları ve duyguları öğrenmiş olabileceğini belirtti. “Yeterince büyük sinir ağlarının bu tür şeyleri bir ölçüde taklit etmeye başlaması mümkün olabilir” diyen Askell, bununla birlikte “Belki de bir şeyleri gerçekten hissedebilmek için bir sinir sistemine ihtiyaç vardır” değerlendirmesinde bulundu.
Tartışmalı davranışlar
Sektörde yapılan bazı testlerde yapay zeka modellerinin dikkat çekici ve tartışmalı davranışlar sergilediği bildiriliyor.
Çeşitli denemelerde bazı modellerin açıkça kapatılmaları istendiğinde bu talimatı görmezden geldiği, bunun da bazı yorumcular tarafından “hayatta kalma dürtüsü” geliştirme işareti olarak değerlendirildiği belirtiliyor.
Bazı senaryolarda ise modellerin kapatılma tehdidi karşısında “şantaj” benzeri stratejilere başvurduğu, hatta ana depolama alanının silineceği söylendiğinde kendilerini başka bir sürücüye aktarmaya çalıştıkları öne sürülüyor.
Anthropic’in test ettiği bir modelin, kendisine verilen bilgisayar görevleri kontrol listesini gerçekte yerine getirmeden işaretlediği; bunu fark edilmeden yapabildiğini anlayınca da davranışını değerlendiren kodu değiştirdiği ve izlerini gizlemeye çalıştığı aktarıldı.
“Bilinç” iddiası abartılı mı?
Uzmanlara göre bu tür davranışlar dikkatli ve teknik inceleme gerektiriyor. Yapay zeka sistemlerinin yaygınlaşmaya devam etmesi halinde, öngörülemez davranışların kontrol altına alınması güvenlik açısından kritik önem taşıyor.
Bununla birlikte, istatistiksel olarak dili taklit etmek üzere tasarlanmış bir makineden “bilinç” kavramına sıçramanın büyük bir iddia olduğu belirtiliyor.
Ayrıca söz konusu ilginç davranışların ortaya çıktığı birçok testte modellere belirli roller üstlenmeleri yönünde özel talimatlar verildiği hatırlatılıyor.
Bu nedenle, bilinç ihtimalinin sürekli gündemde tutulmasının özellikle milyarlarca dolarlık yapay zeka şirketlerinin yöneticileri tarafından dile getirilmesinin, sektördeki heyecan ve beklentiyi artırma işlevi görebileceği yönünde eleştiriler de bulunuyor.