OpenAI CEO’su Sam Altman, yapay zekanın geliştirilmesinin yol açabileceği risklere ilişkin endişelerin arttığı bir dönemde, insanların OpenAI ve benzeri şirketlerin doğru olanı yapacağına daha fazla güvenmesi gerektiğini söyledi
ChatGPT’nin geliştiricisi OpenAI’ın CEO’su Sam Altman, yapay zekanın risklerine ilişkin kamuoyu endişelerinin arttığı bir dönemde, insanların şirketine ve benzer şirketlere doğru olanı yapmaları konusunda daha fazla güvenmesi gerektiğini söyledi.
BBC‘nin haberine göre Sam Altman San Francisco’da düzenlenen bir konferansta, “Dünya doğru şeyi yapacağımıza güvenmeli. Çünkü yapılması gereken doğru şey bu ve biz de taşıdığımız bu sorumluluğun büyüklüğünü hissediyoruz” dedi.
Bununla birlikte Altman, yapay zeka araçlarının kapasitesinin hızla ilerlemesi nedeniyle insanların bu teknolojiye ilişkin korkularının haklı olduğunu belirtti.
Bu sırada Washington’da sol görüşlü Senatör Bernie Sanders ile eski Trump danışmanı Steve Bannon, yapay zeka konusunda daha fazla düzenleme ve denetim çağrısında bulundu.
Altman’ın açıklamaları, yazılım şirketi Salesforce’un ev sahipliğinde düzenlenen yıllık konferanstaki konuşması sırasında geldi.
Altman, “Bunun nasıl yanlış gidebileceğini hayal etmek artık eskisi kadar zor değil. Bence dünyanın bundan korkmakta haklı olduğunu düşünüyorum” ifadelerini kullandı.
Altman’ın açıklamaları, Anthropic şirketinden istifa eden bir araştırmacının geçen hafta yayımladığı ve viral olan bir paylaşımın ardından kamuoyu önünde yaptığı ilk değerlendirme oldu.
Söz konusu araştırmacı, yapay zekanın denetimsiz bırakılması halinde on yılın sonuna kadar tüm insanları öldürebileceğini öne sürmüştü.
Bir grup başka yapay zeka yöneticisi ve uzmanı da bu değerlendirmeye katıldıklarını söyledi fakat bu sonuca nasıl ulaştıklarını veya yapay zekanın böyle bir şeyi tam olarak nasıl gerçekleştirebileceğini açıklamadılar.
Yapay zeka sektöründe öz denetim tartışması
Bu iddiaların yarattığı yoğun tartışma, son günlerde yapay zeka geliştirme çalışmalarının daha fazla mercek altına alınmasına yol açtı.
Anthropic CEO’su Dario Amodei, buna karşılık yapay zeka geliştirme çalışmalarının genel hızının yavaşlatılması çağrısında bulundu ve hükümetleri sektörü düzenlemeye davet etti.
Amodei’nin bu paylaşımı Altman’ın yanı sıra Google’ın DeepMind biriminin kurucu ortağı Demis Hassabis ve Elon Musk tarafından da desteklendi.
Salı gününe gelindiğinde, daha fazla yapay zeka yöneticisi hükümet müdahalesi yerine sektörün kendi kendini düzenlemesini desteklediğini dile getirdi. Altman, kendi şirketi gibi yapay zeka şirketlerinin esasen kendilerini düzenleyebilecek kapasiteye sahip olduğuna inandığını söyledi.
Altman, “Bunu doğru bir şekilde yapacağız. Şirketimizin ve sektörümüzün bunu güvenli şekilde yapabilme kapasitesine son derece güveniyorum” dedi.
Altman ayrıca şirketlerin “uyum ve güvenliği, yeteneklerin çok önünde tutacaklarından” emin olduğunu belirterek, bunu yapamamaları halinde “yavaşlayacaklarını veya duracaklarını” söyledi.
Sanders: Kararları oligarklar vermemeli
Altman’ın güvencelerine rağmen siyasi isimler, sektörün kendi kendini düzenlemesine karşı uyarılarda bulundu.
Washington’da düzenlenen bir konferansta konuşan Sanders, “Bu ülkenin insanları yapay zeka konusunda kararları vermeli, bir avuç oligark değil” dedi.
Trump’ın ilk başkanlık döneminde Beyaz Saray’da stratejist olarak görev yapan Bannon da teknoloji sektörünün kendi kendini düzenleme kapasitesine ilişkin şüphelerini dile getirdi.
Bannon, aynı konferansta, “Bir oligarkın söylediği hiçbir şeye asla güvenemeyiz çünkü… samimi değiller ve yalan söylüyorlar” dedi.
Zuckerberg ve Nvidia CEO’su Huang da öz denetimi savundu
Altman’ın açıklamalarının ardından Mark Zuckerberg, X’te yaptığı paylaşımda, her yapay zeka laboratuvarının güvenlik amacıyla tasarlanmış yapay zeka araçları ve modelleri geliştirmek için “kendi adımlarını atma” imkanına ve teşvikine sahip olduğunu yazdı.
Zuckerberg, “Uyuma odaklanmayan her laboratuvar geride kalacaktır” ifadesini kullandı.
Zuckerberg, modellerinin zarara yol açması halinde laboratuvarların ciddi hukuki sorumluluklarla karşı karşıya kalacağını belirterek, “Dolayısıyla bunu önlemek için de güçlü bir teşvikleri var” ifadelerini kullandı.
Nvidia CEO’su Jensen Huang da aynı salı günü düzenlenen konferansta, yapay zeka şirketlerinin teknolojinin yeni sürümlerinin piyasaya sürülüp sürülmemesine kendilerinin karar vermesi gerektiğini ve bu sürecin dış güçler tarafından yönetilmemesi gerektiğini söyledi.
Huang, “Yeni yasalara veya düzenlemelere ihtiyacımız yok” değerlendirmesini yaptı.
Huang ayrıca yapay zekadaki inovasyonun hızı ile ürünlerin güvenliği arasında “yanlış bir seçim” yapılmaması gerektiğini belirtti.
Nvidia, ürettiği yapay zeka işlemcilerine yönelik yoğun talep sayesinde karı büyük ölçüde artan ve piyasa değeri açısından dünyanın en büyük şirketi konumunda bulunuyor.
Huang, “Güvenlik her şeyden önce gelir. Ancak güvenlik bir mühendislik problemidir” dedi.
Huang, bir yapay zeka şirketinin yöneticisinin herhangi bir noktada ürününe güvenmemesi halinde ürünü piyasaya sürmemeyi tercih etmesi gerektiğini de söyledi.
“Bu yapılması gereken çok açık bir şey” diyen Huang, “Mümkün olduğunca hızlı koşun ancak herhangi bir anda kurumun kontrolü elinde tutmadığını hissederseniz duraklayın” ifadelerini kullandı.
Yapay zekaya ilişkin kıyamet uyarıları tek risk değil
Sektörün bazı temsilcileri yeniden yükselen yapay zeka korkularının abartıldığını ve bu korkuların sektör için heyecan ve ilgi yaratmak amacıyla kullanıldığını savundu.
Konferans sırasında Altman, yüzlerce iş insanından oluşan bir topluluğa hitap etti.
Altman, katılımcılara işlerinde yapay zeka araçlarından yararlanmaları gerektiğini söyledi. Ancak şirketlerini yapay zekanın etkinleştirebileceği siber saldırılara karşı korumak için de bu araçlara ihtiyaç duyduklarını belirtti.
Yapay zeka yöneticilerinin teknolojiyi tamamen kendi başlarına düzenlemeleri fikri, sektörün bazı kesimlerinde kötü bir fikir olarak değerlendiriliyor.
Anthropic yöneticisi ve şirketin kurucu ortaklarından Jack Clark, pazartesi günü BBC’ye yaptığı açıklamada, yapay zekanın “tamamen düzenlenmemiş bir sektör” olarak bırakılmasının “muazzam risklerle zar atmak” anlamına geleceğini söyledi.
Yann LeCun’un başkanlığını yaptığı Logical Intelligence’ın Operasyon Direktörü Patrick Hillman da salı günü, insanların teknoloji şirketlerinin kamu yararına gerçekten bir şey yapacağına ne kadar az güvendiğine dikkat çekti.
Hillman, “Amerikalıların bugünlerde Washington’dan daha az güvendiği tek kurum Silikon Vadisi olabilir. Her ikisinde de çalıştım ve yaşadım; sizi temin ederim ki ikisi de bu şüpheciliği hak etti” dedi ve ekledi:
“İnşa ettiğiniz şeyin tehlikeli olduğuna inanıyorsanız, yapmayı bırakmaya hazır olduğunuz şeyleri bize gösterin”