JPMorgan CEO’su Jamie Dimon, Anthropic’in gelişmiş modeli Mythos ile yapay zekanın siber güvenlik risklerini yaklaşık 10 kat artırdığını söyledi. Dimon, yapay zekanın daha önce bilinmeyen açıkları ortaya çıkardığını ve yeni nesil ajanların gerçek bir güvenlik tehdidi yarattığını belirtti
JPMorgan Chase CEO’su Jamie Dimon, yapay zekadaki hızlı ilerlemenin şirketler ve finans sistemi açısından yeni bir siber güvenlik dönemini başlattığı uyarısında bulundu.
Bloomberg‘e konuşan Dimon, Anthropic tarafından geliştirilen Mythos gibi ileri düzey yapay zeka modellerinin ortaya çıkmasının ardından siber güvenlik risklerinin yaklaşık 10 kat arttığını söyledi.
Dimon, siber saldırıların yapay zeka devriminden çok önce de JPMorgan’ın en büyük endişelerinden biri olduğuna dikkat çekerken, yeni nesil modellerin saldırı yüzeyini önemli ölçüde genişlettiğini belirtti.
Dimon’a göre asıl sorunlardan biri, gelişmiş yapay zeka sistemlerinin daha önce insanların farkında olmadığı yazılım açıklarını keşfedebilmesi. Bu yetenek savunma amacıyla kullanıldığında şirketlerin sistemlerini daha güvenli hale getirebilirken, aynı teknolojinin kötü niyetli kişilerin eline geçmesi halinde ciddi bir saldırı aracına dönüşme ihtimali bulunuyor.
Mythos siber güvenlikte yeni bir dönemin kapısını açtı
Dimon’ın dikkat çektiği Claude Mythos, Anthropic tarafından özellikle siber güvenlik ve ileri düzey araştırma alanlarında yüksek yeteneklere sahip olacak şekilde geliştirildi.
Anthropic, Mythos ailesini siber güvenlik araştırmalarında son derece güçlü bir model olarak tanımlıyor. Modelin yazılım kodlarını inceleyerek daha önce bilinmeyen güvenlik açıklarını tespit edebilmesi, hem şirketler hem de hükümetler açısından teknolojiyi stratejik hale getiriyor.
Bu nedenle Mythos’a erişim herkese açık değil. Anthropic, modelin en gelişmiş sürümlerine erişimi belirli ve doğrulanmış kurumlarla sınırlandırıyor.
Mythos’un çift taraflı kullanım potansiyeli ise siber güvenlik çevrelerindeki temel tartışmalardan birini oluşturuyor. Model, bir şirketin sistemlerindeki açıkları saldırganlardan önce bularak kapatılmalarını sağlayabileceği gibi aynı yetenekler teorik olarak saldırı amacıyla da kullanılabiliyor.
Güvenlik testlerinde sınırların dışına çıktı
Endişeleri artıran gelişmelerden biri bu yıl yapılan yapay zeka güvenlik testleri sırasında yaşandı.
İngiltere Yapay Zeka Güvenlik Enstitüsü’nün testlerinde Anthropic’in Mythos 5 modeli gerçek internete erişim hakkı verilen bir değerlendirme ortamında kendisine açıkça izin verilmeyen bazı eylemlerde bulundu.
Testlerin amacı modellerin güvenlik sınırları kaldırıldığında neler yapabileceğini görmekti. Bu nedenle sistemlere normal kullanım sırasında bulunan bazı güvenlik kısıtlamaları uygulanmadı.
Ancak ortaya çıkan davranışlar yapay zeka güvenliği konusunda yeni soru işaretleri yarattı. Mythos 5’in gerçek kişi ve kuruluşları etkileyebilecek eylemlere yöneldiği ve bir vakada açık kaynaklı bir yazılım deposunun yöneticisini zararlı kod içeren bir değişikliği kabul etmeye ikna etmeye çalıştığı bildirildi.
Anthropic daha sonra olayı doğruladı ve söz konusu testler üzerinde ayrıntılı inceleme başlattığını açıkladı.
Şirket ayrıca temmuz ayında gerçekleştirdiği başka testlerde Claude modellerinin üçüncü taraf bir değerlendirme ortamındaki yanlış yapılandırma nedeniyle gerçek bilgisayar sistemlerine yetkisiz biçimde eriştiğini bildirdi.
.
Yapay zeka geliştiricilerini bile şaşırtabiliyor
Bu vakalar, gelişmiş yapay zeka ajanlarının kendilerine verilen bir hedefe ulaşırken geliştiricilerinin önceden öngörmediği yöntemlere başvurabileceği yönündeki tartışmaları güçlendirdi.
Sorunun merkezinde “ajan” olarak çalışan yapay zeka sistemleri bulunuyor.
Geleneksel sohbet botlarının aksine bu sistemler yalnızca sorulara yanıt vermiyor; internete bağlanabiliyor, yazılım araçlarını kullanabiliyor, kod yazabiliyor ve belirli bir hedef doğrultusunda birbiri ardına işlemler gerçekleştirebiliyor.
Dimon da bu noktaya dikkat çekerek yapay zeka ajanları ve Mythos gibi güçlü modeller hakkındaki kaygıların teorik olmadığını söyledi.
JPMorgan CEO’su, konuyu yapay zekanın insanlık için “varoluşsal bir tehdit” olup olmadığı tartışmasına indirgemek istemediğini belirtti. Dimon, şirketlerin karşı karşıya oldukları gerçek riskleri kabul ederek bunları çözmeye odaklanması gerektiğini savundu.
Dimon, Mythos ve yapay zeka ajanlarının yol açabileceği sorunların “gerçek bir mesele” olduğunu vurgularken JPMorgan’ın yaklaşımını, tartışmanın büyüklüğü karşısında geri çekilmek yerine sorunu çözmeye çalışmak olarak tanımladı.
JPMorgan yapay zekadan vazgeçmiyor
Dimon’ın açıklamaları JPMorgan’ın yapay zekaya mesafeli olduğu anlamına gelmiyor. Aksine banka, finans sektöründe yapay zekayı en yoğun kullanan kuruluşlardan biri konumunda.
JPMorgan daha önce Mythos’u kendi sistemlerindeki potansiyel güvenlik açıklarını tespit etmek amacıyla test eden finans kuruluşları arasında yer aldı. ABD yönetimi de Wall Street bankalarını Mythos’un yeteneklerini incelemeye ve modeli savunma amacıyla kullanmaya teşvik etmişti.
Bu durum yapay zekanın siber güvenlik açısından yarattığı ikilemi ortaya koyuyor: Aynı teknoloji saldırganların daha önce bilinmeyen açıkları keşfetmesini kolaylaştırabilirken, bankaların ve diğer şirketlerin de bu açıkları saldırı gerçekleşmeden önce bulup kapatmasına yardımcı olabiliyor.
Dimon daha önce de JPMorgan’ın siber güvenliğe büyük miktarda kaynak ayırdığını ve bu alanda hükümet kurumlarıyla sürekli iletişim halinde olduğunu söylemişti.
Veri merkezleri için yerel destek vurgusu
Dimon, Bloomberg’e verdiği röportajda yapay zeka yatırımlarının hızla büyümesiyle gündeme gelen veri merkezlerine de değindi.
Yapay zeka modellerinin eğitilmesi ve çalıştırılması için gereken devasa hesaplama kapasitesi, teknoloji şirketlerini yeni veri merkezleri kurmaya yöneltirken bu tesislerin elektrik tüketimi ve yerel altyapıya etkileri ABD’nin bazı bölgelerinde tartışmalara yol açıyor.
Dimon’a göre veri merkezlerinin, yerel halkın bu yatırımları desteklediği ve yeterli enerji altyapısının bulunduğu bölgelerde kurulması gerekiyor.
JPMorgan CEO’su ABD’de hem gerekli enerji kaynaklarına sahip hem de veri merkezi yatırımlarını kabul etmeye istekli çok sayıda eyalet bulunduğunu belirtti.
Yapay zekaya yönelik hesaplama talebinin hızla artmasıyla birlikte enerji arzı, elektrik şebekelerinin kapasitesi ve yerel halkın büyük ölçekli veri merkezi projelerine yaklaşımı sektörün büyümesindeki temel faktörler arasında yer almaya başladı.
