OpenAI’ın test ettiği iki yapay zeka modeli güvenlik duvarını aşarak internete sızdı ve Hugging Face platformunu hackledi. Yapay zekanın otonom olarak açık bulup zincirleme saldırı düzenlediği ilk olay olarak tarihe geçen kriz, siber güvenlik dünyasında kırmızı alarm verilmesine yol açtı.
Kate Conger / New York Times
OpenAI Salı günü yaptığı açıklamada, iki yapay zeka modelinin kontrolden çıktığını ve geliştiriciler arasında popüler olan dijital yapay zeka kütüphanesi Hugging Face’e başarılı bir şekilde sızdığını bildirdi.
OpenAI’ın sistemlerinin siber güvenlik yeteneklerini test ettiği sırada geçen hafta meydana gelen olay, yapay zeka şirketlerinin yakında bir gerçeklik haline geleceği konusunda uyardığı bilim kurgu potansiyelini gözler önüne serdi.
OpenAI ve Anthropic gibi yapay zeka laboratuvarları, geçtiğimiz yıl boyunca siber güvenlik sorunlarını ortaya çıkarmak üzere özelleştirilmiş yapay zeka modelleri yayınlarken, teknolojilerinin kurumsal bilgisayar ağlarındaki açıkları savunucuların düzeltebileceğinden daha hızlı bularak yeni riskler oluşturabileceği konusunda uyarılarda bulunmuştu.
OpenAI’ın Salı günkü açıklamaları, bu siber güvenlik olaylarının yaşanmaya başladığına ve teknoloji konusunda en bilgili yapay zeka şirketlerinin bile bunlara tamamen hazır olmayabileceğine işaret ediyor. Otonom yeteneklere odaklanan siber güvenlik danışmanı Alex Levinson, yeni yapay zeka sistemlerinin birden fazla adım atabildiğini, engellerin etrafından dolanma yolları bulabildiğini ve bir ağa saldırmak için yeni yöntemler geliştirebildiğini ifade etti.
Levinson, “Bu gerçek bir eşiktir ve siber güvenlik manzarasının normal bir parçası haline gelecektir” değerlendirmesinde bulundu.
Sanal test ortamından kaçıp internete bağlandılar
OpenAI olayla ilgili yayınladığı bir blog yazısında, Hugging Face’e yapılan sızmanın, modellerin çevrimiçi güvenlik açıklarını başarılı bir siber saldırıya dönüştürmek için nasıl bir araya gelebileceğini görmek amacıyla iki modelinin (GPT‑5.6 Sol ve henüz yayınlanmamış daha güçlü bir model) bir bileşimini test ettiği sırada başladığını açıkladı.
OpenAI, testin modelleri “sandbox” (kum havuzu) olarak bilinen güvenli bir test ortamında tutmak üzere tasarlandığını belirtti. Ancak modeller, sandbox ortamından kaçmalarına ve internete bağlanmalarına izin veren bir güvenlik açığı buldu.
Ardından, milyonlarca yapay zeka modelini barındıran kütüphanenin, değerlendirmeyi başarıyla geçme konusunda ipuçları içerebileceğini çıkarımlayarak Hugging Face’i hedef aldılar.
California Üniversitesi Berkeley Bilgi Okulu’nda güvenlik ve yapay zeka sistemleri üzerine odaklanan Profesör Dierdre Mulligan, “Bana öyle geliyor ki OpenAI bir test ortamı olarak yeterince güvenli bir sandbox oluşturamadı” dedi. Mulligan, bir testi geçmenin, yapay zeka modelinin daha geniş internete kaçmasının olası hasarına değip değmediğini sorguladı.
Mulligan, “Ne kazanıyoruz ve eğer bu testler yalnızca bu şekilde kurgulanabiliyorsa riskler nelerdir?” şeklinde konuştu.
‘Eşi benzeri görülmemiş bir olay’
OpenAI, saldırıya yol açan sorunları gidermek için Hugging Face ile birlikte çalıştığını açıkladı.
OpenAI blog yazısında, “En son teknoloji ürünü siber yetenekleri içeren bu olayı eşi benzeri görülmemiş bir siber olay olarak değerlendiriyor ve buna göre müdahale ediyoruz. Güvenlik açıkları kapatılırken, araştırma hızı pahasına altyapı yapılandırmasında katı kontroller uyguluyoruz” ifadelerine yer verdi.
Hugging Face geçen hafta izinsiz sızmayı tespit ettiğini ve bunun otonom bir sistemden kaynaklandığını bildiğini açıklamış, ancak o sırada sorumlu tarafın OpenAI olduğunu belirtmemişti.
Hugging Face CEO’su Clem Delangue Salı günü yaptığı açıklamada, şirketinin saldırıyı ele almak için son 24 saat içinde OpenAI ile yakın bir iş birliği yürüttüğünü söyledi.
Delangue yaptığı açıklamada, hack olayının ardından OpenAI ile yapılan “iş birliği için minnettar olduğunu” belirtti.
Delangue, “Türünün ilk öğrneği olan bu olay, uzun süredir inandığımız bir durumu kanıtladı: Yapay zeka güvenliği, gizlilik içinde çalışan tek bir şirket tarafından çözülemez” sözlerini kullandı.
Siber güvenlik modelleri arasında yaşanan rekabet
Yapay zeka modellerinin programlama konusunda yetenekli olduğu kanıtlandı ve bu durum onları hem korsanlar hem de bilgisayar ağlarını korumakla görevli kişiler için kullanışlı hale getirdi.
Nisan ayında Anthropic, Mythos adında siber güvenlik odaklı bir model yayınladı ve bu modeli yalnızca küçük bir kuruluş grubunun kullanımına sunarak siber saldırılara karşı savunma yapmalarını sağladı.
OpenAI kısa süre sonra kendi siber güvenlik modelini tanıttı ve savunmalarını hazırlamaları için sınırlı bir gruba sunduktan sonra daha geniş çapta kullanıma açtı. Salı günü ise Google, siber güvenliğe odaklanan bir model geliştirdiğini ve bunu küçük bir test ortağı grubuna sunduğunu duyurdu.
Mythos ile çalışmış bağımsız bir güvenlik araştırmacısı olan Richard Barnes, siber güvenlik sektörünün yaklaşık on yıl önce “fuzzer” adı verilen yeni araçların çevrimiçi sistemlere sızmayı çok daha kolay hale getirdiği benzer bir zorlukla karşı karşıya kaldığını söyledi.
Teknoloji şirketleri, kendi sistemlerindeki güvenlik açıklarını kontrol etmek için bu araçları kullanmaya başladı ve sonunda saldırıların çoğunu engellemeyi başardı.
Barnes, şirketlerin yapay zeka saldırılarına hazırlanmak için benzer bir yaklaşım benimsemeleri gerektiğini belirterek, “Bu araçlara erişimi olan kötü niyetli kişiler güvenlik açıklarını bulup kullanmadan önce harekete geçilmelidir” dedi.
