Yapay zeka sektörü yıllardır teknolojisini mümkün olduğunca hızlı geliştirmek için yarışıyordu. Şimdi ise bazı araştırmacılar, giderek daha yüksek sesle yavaşlama çağrısı yapıyor
Kate Conger / New York Times
Daha önce OpenAI’da görev yapan Anthropic araştırmacısı Jacob Coxon, salı günü “iki şirketin de sorumlu davranmadığını” belirterek Anthropic’teki görevinden istifa ettiğini açıkladı. Coxon, sosyal medya paylaşımında, önde gelen iki yapay zeka şirketinin yeterli güvenlik önlemlerini hayata geçirmeden “her şeyi hack’leyebilecek, herhangi bir alanda bir gecede devrim yaratabilecek, gerçek dünyada güç ve kaynak elde edebilecek insanüstü sistemler” geliştirmek için kıyasıya yarıştığını söyledi.
Coxon’ın uyarısı, diğer yapay zeka uzmanlarının son aylarda dile getirdiği endişelerle örtüşüyor. Bazı yapay zeka yöneticileri uzun süredir, kontrol altında tutulmadığı takdirde bu teknolojinin kıyamet senaryolarına yol açabileceğine inanıyor. OpenAI’ın modellerinin temmuz ayında şirketin sistemlerinden çıkarak bir yapay zeka model kütüphanesi olan Hugging Face’i hack’lemesinin ardından bu endişeler daha da arttı.
Aynı ay Anthropic, OpenAI, Meta ve Google’ın DeepMind’ı dahil olmak üzere önde gelen yapay zeka şirketlerinden 1.300’den fazla çalışan, ABD hükümetine yapay zeka gelişimini yavaşlatacak kurallar oluşturması çağrısında bulunan açık bir mektuba imza attı. Ağustos ayında ise 100’den fazla büyük teknoloji şirketi, hastaneler ve altyapı sağlayıcıları gibi kuruluşların yapay zeka destekli siber saldırılara hazırlanabilmesi için en gelişmiş yapay zeka modellerini bu kuruluşlara sunma taahhüdünde bulundu.
OpenAI da geçen ay güvenlik testlerini genişleteceğini ve güçlü siber güvenlik yeteneklerine sahip yeni modeli Astra’nın piyasaya sürülmesini yavaşlatacağını açıkladı.
Bazı eleştirmenler, yapay zeka şirketlerinin ürünlerini daha değerli göstermek amacıyla teknolojinin yeteneklerini abarttığını savunuyor. Ancak çarşamba günü bazı milletvekilleri Coxon’ın uyarısını ciddiye aldıklarını söyledi.
Florida’dan Cumhuriyetçi Temsilciler Meclisi üyesi Anna Paulina Luna, Kongre’ye yapay zeka düzenlemelerine odaklanan özel bir oturum düzenleme çağrısı yaptığı sosyal medya paylaşımında, “Süper zekaya doğru yürütülen bir yarışın çok büyük sonuçları var” diye yazdı. Luna, “Kongre’nin yeterince büyük bir bölümü buna odaklanmıyor” ifadelerini kullandı.
Massachusetts’ten Demokrat Temsilciler Meclisi üyesi Lori Trahan ise sosyal medyada, “Güvenlik araştırmacıları istifa ediyor, güçlü yapay zeka modelleri laboratuvarlarından çıkıyor ve şirketler buna rağmen yarışmaya devam ediyor” diye yazdı. Trahan, “Kongre’nin artık kenarda durmayı bırakıp görevini yapmasının zamanı çoktan geldi” ifadelerini kullandı.
Önde gelen yapay zeka laboratuvarları, hükümetin teknolojinin geliştirilme ve kamuoyuna sunulma hızına bazı kısıtlamalar getirmesi gerektiği konusunda hemfikir olsa da birçok şirket birbiriyle kıyasıya rekabet ediyor ve duraklamaları halinde rakiplerinin gerisinde kalmaktan korkuyor.
Coxon sosyal medya paylaşımında, “İlk oraya ulaşmak için bir yarışın içindeler.
Başka hiç kimsenin sorumlu davranmayacağına inanıyorlar, bu yüzden risklere rağmen bunu kendilerinin yapmak zorunda olduğunu düşünüyorlar” dedi.
Anthropic’te yapay zekanın insan etiği ve değerleriyle uyumlu hale getirilmesi üzerine çalışan Evan Hubinger, sosyal medyada, “Yapay zekanın tüm insanları öldürebileceğine gerçekten ve samimiyetle inanıyoruz!” diye yazdı. Hubinger, yapay zekanın insanlığı ortadan kaldırma riskinin önümüzdeki on yıl içinde yüzde 10’dan az olduğuna inandığını söyledi.
Hubinger ayrıca, “Anthropic’in elinden gelenin en iyisini yapmaya çalıştığına inanıyorum ancak süper zekanın insan değerleriyle uyum sorununu çözmek için henüz bir planımız yok ve bunu çözme yolunda olduğumuz da açık değil” ifadelerini kullandı.
