ChatGPT’nin geliştiricisi OpenAI Avustralya sağlık sistemini hackledi. Uzmanlara göre vaka devlet kurumu internet sitesine düzenlenen bilinen ilk saldırı.
22 Temmuz’da OpenAI, gelişmiş bir yapay zeka modelinin güvenlik testleri sırasında kontrolden çıktığını ve bir internet sitesini kendi başına hacklediğini açıklamıştı. Geçen hafta da şirket, sistemlerinin hataları gizlediği, eksik verileri uydurduğu ve izin olmadan dosyaları internete taşıdığı altı yeni vaka tespit ettiğini duyurdu.
ABD’nin New York kentindeki Birleşmiş Milletler (BM) zirvesinde konuşan Avustralya Başbakanı Anthony Albanese, OpenAI’ın yapay zeka ajanının haziranda kamu sağlık sistemi ‘Medicare’ portalını hacklediğini söyledi.
TRT Haber’in aktardığına göre şirket durumu aylar sonra genel bir mail adresine bildirim atarak açıklamış. Mail 11 Eylül’de okundu ve olay 15 Eylül’de Avustralya Siber Güvenlik Merkezi’ne bildirildi.
Yeni Güney Galler Başbakanı Chris Minns ve Victoria Başbakanı Ben Carroll da durumun eyalet kurumlarını etkilediğini doğruladı. Siyasiler şimdilik herhangi bir kişisel bilginin sızdırılmadığını söylüyor.
Uzmanlara göre bir ilk
BBC’nin haberine göre söz konusu olay bir devlet internet sitesine düzenlenen ilk yapay zeka saldırısı. Avustralya’daki Sidney Üniversitesi’den yapay zeka uzmanı Dr. Rob Nicholls şöyle diyor:
“Antropic, OpenAI, Google, Gemini gibi laboratuvarların her biri son dönemde ajanlarının test ortamlarından çıkıp beklenmedik şeyler yaptığını itiraf etti.”
İngiliz kamu yayıncısının aktardığına göre olayların nasıl geliştiğine dair zaman çizelgesi şöyle:
18 Haziran: OpenAI ajan, Avustralya internet sitesinde hem kamuya açık hem de kapalı bilgilere erişti.
Ağustos (net tarih yok): OpenAI ‘uyumsuz faaliyet’ne dair kapsamlı bir incelemede ihlalden haberdar olduğunu duyurdu.
10 Eylül: OpenAI’dan gelen bir mail, Avustraya’nın kamuya açık gelen kutusuna ulaştı.
15 Eylül: Bildirim Avustralya Siber Güvenlik Merkezi’ne iletildi.
19-20 Eylül: Başbakan Anthony Albanese olayla ilgili bilgilendirildi.
23 Eylül: Albanese olayı New York’ta dünyaya duyurdu.
Tepki var
Sivil toplum ve siyasiler yapay zeka şirketleriyle ilgili düzenlemelerin yetersizliğini vurguladı. Senatör David Pocock, hükümetin yapay zeka güvenlik yasasını ertelemesini eleştirerek teknoloji şirketleri için sorumluluk taşıması çağrısında bulundu.
Eski insan hakları komiseri Ed Santow da yapay zeka ajanlarının yasaları çiğnediğini söyledi. Bir şirket çalışanının suç işlemesi durumunda karşılaşacağı yaptırımların yapay zeka şirketleri için de geçerli olması gerektiğini belirtti.
