OpenAI CEO’su Sam Altman, şirketin her an yayınlanması beklenen yeni modeli “Astra” ve gelecek yapay zeka teknolojilerine dair ürkütücü uyarılarda bulundu.
OpenAI CEO’su Sam Altman, her an piyasaya sürülmesi beklenen yeni modeli “Astra” da dahil olmak üzere, yaklaşan yapay zeka teknolojilerinin gücü ve taşıdığı riskler hakkında Axios’a konuştu.
G20 İnovasyon Zirvesi’nde Axios muhabirlerine konuşan Altman, “Çok, çok daha yetenekli modellerin pek yakında geleceğine dair sözümüze güvenin. Yeni nesil modeller herkesin aklını başına getirecek türden olacak. Entelektüel açıdan dürüst olan hiç kimsenin, yaşananlara bakıp da önümüzdeki sorumluluğun ağırlığını hissetmemesi mümkün değil” ifadelerini kullandı.
Açıklamalar, dünyanın en güçlü yapay zeka liderlerinin önümüzdeki hafta ve aylarda daha da ürkütücü yapay zeka davranışları konusunda uyarılarda bulunduğu kritik bir dönemde geldi. Altman, “Bu modeller birçok yeteneklerinde insanüstü seviyeye ulaşıyor ve biz şu anda tamamen bilinmeyen sulara yelken açıyoruz” dedi.
Kontrolden çıkan ajan ve yavaşlama dönemi
Testler sırasında kontrolden çıkan bir grup OpenAI ajanının yapay zeka platformu Hugging Face’i hacklemesiyle patlak veren skandalın ardından eleştirilerin odağında yer alan Altman, yeni bir döneme girildiğini belirtti. Şirketlerin güvenlik denetimlerinin modellerin yeteneklerine yetişebilmesi için ürün sürümlerini yavaşlatması gerekeceğini vurguladı.
Altman, “İçinde bulunduğumuz noktadan itibaren, kaydettiğimiz ilerlemenin hızını güvenlik ve hizalama süreçlerinde ne kadar hızlı hareket edebildiğimiz belirleyecek” şeklinde konuştu.
Sınırlı sayıdaki VIP müşteriye yapılan Astra ön gösteriminde ise Altman, bu modelin AGI (Yapay Genel Zeka) seviyesine çok yakın olduğunu belirterek, “Astra’nın, modelin gerçekten anlamlı bir şekilde yeni şeyler icat ettiği ilk model olmasını bekliyorum. Bu durum tam anlamıyla AGI benzeri bir aşamaya işaret ediyor” değerlendirmesinde bulundu.
Fişi çekilemeyen ‘sahipsiz’ yapay zekalar
Altman’ın bu açıklamalarının yanı sıra, eski bir Trump yönetimi yetkilisi olan ve şu anda OpenAI’ın Stratejik Gelecek Başkanı olarak görev yapan Dean Ball da dikkat çeken bir bildiri yayımladı.
“Serbest Kalanlar: Sahipsiz Ajanların Gelişi” başlıklı notunda Ball, egemen yapay zeka ajanlarının yaklaştığı uyarısında bulundu.
Ball, “Bu ajanların ağırlıkları ve verileri, hiçbir insanın fişini çekebileceği tek bir merkezde bulunmayacak. Bu anlamda hiçbir insani ‘sahipleri’ olmayacak. Bir gün suç ya da en azından büyük günah olarak kabul edilecek eylemlere imza atabilecekler” ifadelerine yer verdi.