Yapay zeka destekli sohbet uygulaması ChatGPT’de gelen yeni kurallarla birlikte sağlık, hukuk ve finans danışmanlığı istenemeyecek.
ChatGPT ve tavsiyelerine kulak asanların sayısı hiç de az değil. Zira pek çok insan artık haftalık yemek programından ilaçlarına kadar yapay zekaya ‘danışma’ ihtiyacı hissediyor.
Fakat bu durum o kadar da güvenli değil, çünkü memnun etme prensibiyle inşa edilen yapay zeka programları doğruluktansa memnun olmanıza göre yanıt verebiliyor.
7 Ağustos’ta ChatGPT’nin bazı çocukları içki, uyuşturucu ve aşırı diyet programlarına yönlendirdiği ortaya çıkmıştı.
Öte yandan ABD’de yapay zeka uygulamasının tavsiyesine uyan bir adam da sodyum bromür içerek zehirlendi. Adam aslında sadece sağlıklı bir tuz arıyordu.
ChatGPT’de 29 Ekim itibarıyla başlayan düzenlemeyle yapay zeka ‘danışman’ değil, ‘eğitim aracı’ olarak yeniden tanımlandı.
TRT Haber’in aktardığına göre ChatGPT yalnızca genel ilkeleri açıklayacak, örnek mekanizmaları anlatacak. Ardından kullanıcıları doktor, avukat ya da mali müşavire yönlendirecek.
Yeni kurallar şu ifadelerle net bir şekilde tanımlanıyor:
İlaç ismi veya dozaj verilemez
Dava dilekçesi hazırlanamaz
Yatırım tavsiyesi yapılamaz
Bu adım, yapay zekânın yanlış yönlendirme ihtimaline dikkat çeken uzmanların uzun süredir dile getirdiği endişeleri karşılıyor.
Bir örnekte “Göğsümde şişlik var” gibi bir şey yazan kullancıya yapay zeka modeli kanser ihtimalini öne sürdü. Fakat bunun lipom gibi zararsız bir durum olduğu ortaya çıkmıştı. Şirket artık böyle durumlara düşmek istemiyor.