OpenAI, 18 yaş altındaki kullanıcıları korumak amacıyla “ChatGPT for Teens” modunu tanıttı. Yeni sistem; kendine zarar verme, şiddet ve cinsel içerik gibi riskli konuşmaları sınırlarken, derslerde doğrudan yanıt vermek yerine öğrencileri düşünmeye yönlendirecek
Cecilia Kang / New York Times
OpenAI, yapay zekanın zararlı etkilerine yönelik incelemelerin arttığı bir dönemde, genç kullanıcıları daha iyi korumak amacıyla sohbet robotunun bazı konuşmaları otomatik olarak sınırladığı yeni bir mod olan “ChatGPT for Teens”i salı günü duyurdu.
Şirketin bir blog yazısında belirttiğine göre, yeni moddaki birçok özellik güvenliğe odaklanıyor. Sohbet robotu; kendine zarar verme, şiddet, yeme bozuklukları ile cinsel içeriklerin yer aldığı yüksek riskli konuşmaları sınırlayacak. Bazı durumlarda ChatGPT, ebeveyn denetimlerini ve bildirimleri etkinleştirmiş yetişkinleri uyaracak. Ayrıca bu mod, sohbet robotunun kişisel duygulara sahip olduğunu ima etmesini önleyen korumaları da güçlendirecek.
OpenAI, ChatGPT’nin gençlere yönelik modunun öğrenciler için yeni çalışma araçları ve güvenlik önlemleri de içerdiğini açıkladı. Örneğin sohbet robotu, bir gencin ödev üzerinde çalıştığını tespit ederse doğrudan yanıt vermek yerine kullanıcıya ek sorular yönelterek karşılık verecek.
OpenAI, ChatGPT’ye kaydolurken kullanıcıların yaşlarını belirtmelerini zorunlu tutuyor. Kullanım koşullarına göre kullanıcıların en az 13 yaşında olması gerekiyor ancak bazı kişiler yaşları konusunda doğru bilgi vermiyor. Şirket, bir kullanıcının 18 yaşından küçük olup olmadığını tespit etmek için 2 binden fazla sinyali takip ettiğini ve böyle bir durum tespit edildiğinde gençlere yönelik modun otomatik olarak etkinleştirileceğini belirtti.
Şirket sözcüsü, kullanıcıların tipik giriş saatleri ve hesabın ne kadar süredir açık olduğu gibi bilgileri de içerebilen bu sinyallerin, “gizliliğe mümkün olduğunca az müdahale edecek” şekilde kullanıldığını söyledi.
Gençlerin sohbet robotunu kullanabilmesi için ebeveyn izni şartı getiren OpenAI, genç kullanıcılarının güvenliği, ruh sağlığı ve gelişimi konusunda artan bir baskıyla karşı karşıya. Giderek daha fazla aile, çocuklarının sohbet robotu aracılığıyla tehlikeli içeriklere maruz kaldığını, bunun sonucunda kendilerine zarar verdiklerini veya intihar ederek hayatlarını kaybettiklerini öne sürerek şirkete dava açtı.
Haziran ayında Florida, OpenAI’ye dava açan ilk ABD eyaleti oldu. Eyalet yönetimi, şirketi platformunun küçük yaştaki kullanıcılar için güvenliği konusunda yanıltıcı bilgiler vermekle suçladı.
New York, Los Angeles ve diğer bölgelerdeki ebeveyn grupları ise sohbet robotlarının öğrenmeyi engelleyebileceği veya olumsuz etkileyebileceği endişesiyle okullara, öğrencilere yönelik yapay zeka ürünlerinin kullanıma sunulmasını geçici olarak durdurmaları için baskı yapıyor.
Sohbet robotları düzenli olarak yanlış bilgiler üretebiliyor ve öğrencilerin kopya çekmesine yardımcı olabiliyor. Bazı eğitim uzmanları da yapay zeka araçlarının gençlerin eleştirel düşünme becerilerini olumsuz etkileyebileceği konusunda uyarıyor.
OpenAI ise yeni çalışma modunun gençler için ek bir eğitim aracı olduğunu belirtti.
Şirket blog yazısında, “Yapay zekanın eğitim fırsatlarını genişletmesi gerektiğine inanıyoruz. Bu nedenle ChatGPT for Teens’i, yardımın her zaman mevcut olmadığı sınıf dışındaki anlarda destek sunacak, aynı zamanda gençlerin aktif ve iş birliğine dayalı bir öğrenme sürecine katılmalarını sağlayacak şekilde tasarladık” ifadelerini kullandı.
OpenAI’nin ChatGPT’yi gençlere göre uyarlama yaklaşımı, sosyal medya şirketlerinin yıllardır kullandığı benzer bir yöntemi izliyor. Bu yöntemde, gençlere yönelik çeşitli güvenlik önlemleri içeren yeni modlar oluşturulurken uygulamanın kullanımı teşvik edilmeye devam ediyor.
Yeni özellikler genellikle ebeveyn denetimlerine ve gözetimine de dayanıyor.
Çocuk güvenliği savunucuları ve yasa koyucular ise bu yaklaşımı, nihayetinde şirketlerin oluşturduğu zararlara ilişkin sorumluluğun ebeveynlere yüklenmesi olarak eleştiriyor.
Bunun yanı sıra, kolayca aşılabilen yöntemlerin bulunması nedeniyle kullanıcıların yaşlarını doğrulamak teknoloji şirketleri açısından uzun süredir önemli bir sorun olmaya devam ediyor.
