Microsoft, yapay zeka destekli iş asistanı Microsoft 365 Copilot Chat’te yaşanan bir hata nedeniyle bazı kullanıcıların ‘gizli’ etiketli e-postalarının yanlışlıkla işlenip özetlendiğini kabul etti. Şirket, sorunun küresel bir güncellemeyle giderildiğini açıkladı
Microsoft, kurumsal müşterilere yönelik sunduğu Microsoft 365 Copilot Chat aracında tespit edilen bir yapılandırma hatasının, bazı kullanıcıların Outlook’ta Taslaklar ve Gönderilmiş Öğeler klasörlerinde bulunan ve “confidential” (gizli) etiketi taşıyan e-postalarının Copilot tarafından özetlenmesine yol açtığını duyurdu.
BBC‘nin haberine göre şirket sözcüsü, erişim kontrolleri ve veri koruma politikalarının ihlal edilmediğini, Copilot’un kimseye yetkisi olmayan bir içeriğe erişim sağlamadığını belirtti.
Ancak söz konusu davranışın, korunmuş içeriklerin Copilot erişimi dışında tutulmasını amaçlayan tasarım ilkesiyle uyumlu olmadığı ifade edildi. Sorunun giderilmesi için kurumsal müşterilere yönelik küresel bir yapılandırma güncellemesi yayımlandı.
Hassas etiketli içerikler de işlendi
Teknoloji haber sitesi Bleeping Computer, servis uyarısına dayandırdığı haberinde Copilot Chat’in bazı durumlarda hassasiyet etiketi ve veri kaybı önleme (DLP) politikaları uygulanmış e-postaları da yanlış biçimde işlediğini aktardı.
Bildirime göre Copilot’un “Work” sekmesi, kullanıcının taslak ve gönderilmiş klasörlerindeki bazı e-postaları özetledi.
Microsoft’un hatadan ocak ayında haberdar olduğu öne sürülürken, sorunun nedeninin bir “kod hatası” olduğu belirtildi.
NHS sistemi de etkilendi
Hata bildiriminin İngiltere’de sağlık çalışanlarının kullandığı destek panelinde de yer aldığı görüldü. NHS England, Copilot tarafından işlenen taslak veya gönderilmiş e-postaların içeriklerinin kullanıcı hesapları dışında paylaşılmadığını ve hasta verilerinin açığa çıkmadığını açıkladı.
Uzmanlar uyarıyor: ‘Veri sızıntıları yaşanacak’
Kurumsal yapay zeka araçları genellikle sıkı güvenlik kontrolleriyle sunulsa da uzmanlar, üretken yapay zekâ özelliklerinin hızla devreye alınmasının benzer riskleri artırdığı görüşünde.
Gartner analisti Nader Henein, yeni ve karmaşık yapay zekâ özelliklerinin hızla piyasaya sürülmesi nedeniyle bu tür hataların “kaçınılmaz” olduğunu söyledi.
Surrey Üniversitesi’nden siber güvenlik uzmanı Prof. Alan Woodward ise bu araçların varsayılan olarak kapalı ve isteğe bağlı (opt-in) şekilde sunulmasının önemine dikkat çekerek, “Veri sızıntıları kasıtlı olmasa bile yaşanacaktır” değerlendirmesinde bulundu.
Microsoft, güncellemenin dünya genelinde tüm kurumsal müşterilere ulaştırıldığını ve sistemin artık tasarım amacına uygun şekilde çalıştığını bildirdi.
