Johnson; Johnson’ın yapay zekâ destekli TruDi sistemi, hızla artan arıza bildirimleri ve hasta yaralanmalarıyla gündemde. Uzmanlar, klinik deneye tabi tutulmayan yapay zekâ entegrasyonunun sağlık alanında ciddi güvenlik açıkları yarattığı uyarısında bulunuyor
Üreticiler tıbbi cihazlara hızla yapay zekâ entegre ederken, bu teknolojinin sağlıkta çığır açacağı savunuluyor. Ancak düzenleyici kurumlara yapılan hasta yaralanması bildirimlerindeki artış, güvenlik ve denetim tartışmalarını yeniden alevlendirdi.
2021 yılında, sağlık devi Johnson & Johnson’ın bir iştiraki olan Acclarent, kronik sinüzit tedavisinde kullanılan bir tıbbi cihaza yapay zekâ entegre ettiğini duyurarak bunu “büyük bir sıçrama” olarak tanımladı. Kulak burun boğaz uzmanlarının ameliyatlarda kullandığı TruDi Navigasyon Sistemi’ne eklenen yazılım, makine öğrenimi algoritmalarıyla cerrahlara yardımcı olmayı amaçlıyordu.
Ancak cihazın güvenliğine ilişkin soru işaretleri kısa sürede arttı. TruDi sistemi, yapay zekâ eklenmeden önce yaklaşık üç yıldır piyasadaydı ve bu süre zarfında Amerika Birleşik Devletleri Gıda ve İlaç Dairesi’ne (FDA) bildirilen doğrulanmamış arıza sayısı yedi, yaralanma bildirimi ise bir ile sınırlıydı. Yapay zekâ entegrasyonunun ardından FDA’e iletilen doğrulanmamış arıza ve olumsuz olay raporları en az 100’e ulaştı.
FDA kayıtlarına göre 2021’in sonlarından Kasım 2025’e kadar en az 10 kişi ameliyatlar sırasında yaralandı.
Raporların büyük bölümünde, TruDi sisteminin cerrahları ameliyat sırasında kullandıkları aletlerin hastanın kafası içindeki konumu hakkında yanlış bilgilendirdiği iddia ediliyor. Bazı vakalarda beyin omurilik sıvısının hastanın burnundan sızdığı, bir vakada kafatası tabanının yanlışlıkla delindiği, iki ayrı vakada ise ana bir damarın zarar görmesi sonucu hastaların felç geçirdiği bildirildi.
“Yapay zekadan önce daha güvenliydi”
FDA raporları eksik olabileceği ve tek başına neden-sonuç ilişkisi kurmak için tasarlanmadığı için, bu olaylarda yapay zekânın rolü net değil. Ancak felç geçiren iki hasta, Texas’ta açtıkları davalarda TruDi sistemindeki yapay zekânın yaralanmalarına katkıda bulunduğunu öne sürdü. Davalardan birinde, “Ürün, yapay zekâ entegre edilmeden önce, yazılım değişikliklerinden sonra olduğundan daha güvenliydi” ifadesi yer aldı.
Reuters, dava dosyalarındaki iddiaları bağımsız olarak doğrulayamadı.
Johnson;Johnson, FDA raporlarına ilişkin soruları 2024’te Acclarent’ı ve TruDi sistemini satın alan Integra LifeSciences’a yönlendirdi. Integra LifeSciences ise bu raporların yalnızca TruDi sisteminin kullanıldığı bir ameliyatta olumsuz bir olay yaşandığını gösterdiğini, yapay zekâ ile yaralanmalar arasında güvenilir bir nedensel bağ bulunmadığını savundu.
Tartışmalar, yapay zekânın sağlık alanında hızla yaygınlaştığı bir dönemde yaşanıyor.
Savunucular, yapay zekânın nadir hastalıkların tedavisinde, yeni ilaçların keşfinde ve cerrahların becerilerinin artırılmasında devrim yaratacağını öngörüyor. Ancak Reuters’ın güvenlik kayıtları, dava dosyaları ve sağlık çalışanlarıyla yaptığı görüşmelere dayanan incelemesi, bu hızlı yayılmanın ciddi riskler de barındırdığını ortaya koyuyor.
60 tıbbi cihaz 182 geri çağırma ile ilişkilendirildi
FDA verilerine göre bugün yapay zekâ kullanan en az 1.357 tıbbi cihaza onay verilmiş durumda; bu sayı 2022’ye kıyasla iki katına çıktı. TruDi sistemi bu cihazlar arasında tek tartışmalı örnek değil. Kalp ritim bozukluklarını kaçırdığı iddia edilen kalp monitörleri ya da fetüsün vücut bölümlerini yanlış tanımladığı öne sürülen ultrason cihazları da FDA raporlarına yansıdı.
Johns Hopkins Üniversitesi, Georgetown Üniversitesi ve Yale Üniversitesi’nden araştırmacılarının Ağustos ayında JAMA Health Forum’da yayımladığı bir araştırma mektubuna göre, FDA onaylı 60 yapay zekâ destekli tıbbi cihaz 182 geri çağırma ile ilişkilendirildi. Bu geri çağırmaların yüzde 43’ü, cihazların onaylanmasından sonraki ilk bir yıl içinde gerçekleşti; bu oran, benzer kurallarla onaylanan tüm cihazların yaklaşık iki katı.
FDA’in sınavı
Uzmanlara göre yapay zekâ patlaması, FDA için de ciddi bir sınav anlamına geliyor. Beş mevcut ve eski FDA bilim insanı, kurumun artan başvuru yüküyle başa çıkmakta zorlandığını söylüyor. ABD Sağlık ve İnsan Hizmetleri Bakanlığı (HHS) ise bu alandaki kapasitenin artırılacağını açıkladı.
Öte yandan üretken yapay zekâ sohbet botları da tıpta daha görünür hale geliyor. ChatGPT’nin piyasaya sürülmesiyle geniş kitlelere ulaşan bu teknoloji, bugün hasta notlarının yazımından ön tanı süreçlerine kadar pek çok alanda kullanılıyor. Ancak hekimler, hastaların sohbet botlarıyla kendi kendine teşhis koymasının yeni riskler doğurduğuna dikkat çekiyor.
Yapay zeka klinik deneye tabi tutulmuyor
Ancak düzenleme tarafında belirsizlik sürüyor. Uzmanlar, ilaçların aksine tıbbi cihazların çoğunun hasta üzerinde klinik deneylere tabi tutulmadığını, yapay zekâ entegrasyonunun bu boşlukları daha da riskli hale getirdiğini vurguluyor.
Washington Üniversitesi’nden Dr. Alexander Everhart’a göre, “FDA’nın geleneksel tıbbi cihaz düzenleme yaklaşımı, yapay zekâ destekli teknolojilerin güvenli ve etkili olduğunu garanti etmek için yeterli değil. Büyük ölçüde üreticilerin iyi niyetine güveniliyor.”
Reuters’ın ulaştığı eski FDA çalışanları da personel kesintileri sonrası denetim yükünün arttığını, kaynak yetersizliği nedeniyle risklerin gözden kaçabileceğini söylüyor. Kurum ise hasta güvenliğinin en yüksek öncelik olmaya devam ettiğini ve yapay zekânın sağlıkta büyük bir potansiyel taşıdığını savunuyor.