Yapay zekayla üretilen düşük kaliteli içerikler Google’dan YouTube’a, Spotify’dan Instagram’a kadar interneti istila etti. Bu içeriklerin yayılmasına kendi araçlarıyla katkıda bulunan teknoloji devleri, şimdi milyonlarca yapay zeka üretimi gönderiyi tespit edip kaldırmak için harekete geçti
Tiffany Hsu / New York Times
Yapay zeka çöplüğünün en kötü örnekleri; üzerinde yapıştırıcı bulunan pizza tarifleriyle Google aramalarını, sahte biyografilerle Amazon listelerini ve “Karides İsa” görselleriyle Facebook akışlarını doldurdu.
Sohbet botları ve video üreticileri gelişmeye devam ederken bu dijital lağım yığını teknoloji platformlarına yayıldı, anlamlı içeriklerin değerini düşürdü ve bilgi ekosistemini kirletti.
Şimdi Silikon Vadisi çöpleri temizlemek istiyor.
Spotify, geçen yıl toplu yüklemeler, kopya şarkılar ve diğer “spam” parçalar dahil 75 milyon içeriği kaldırdığını açıkladı. Bu sayı, müzik platformunun toplam kataloğunun önemli bir bölümünü oluşturuyor. LinkedIn temmuz ayında “Yapay zeka çöplüğü hepimiz için en önemli önceliklerden biri” açıklamasını yaptı ve kullanıcıların bu tür içerikleri bildirebilmesi için bir buton geliştirdi. YouTube’un ana şirketi Google’ın araştırmacıları ise bir video hizmetinin altı ay içinde 130 bin düşük kaliteli içerik kanalını platformdan nasıl temizlediğini anlattı.
İnternet genelinde teknoloji şirketleri, çoğu durumda ilk olarak kendi yapay zeka araçlarının mümkün kıldığı aynı içerik çöplüğünün altında ezilirken, üretken yapay zeka atıklarını temizlemeye girişiyor. Mobil mesajlaşma uygulamaları, restoran değerlendirme siteleri, akademik arşivler ve flört hizmetlerinin tümü yapay zeka tarafından üretilen çöpleri ayıklıyor ya da görünürlüğünü azaltıyor. Bunların birçoğu bu temizliği gerçekleştirmek için yine aynı teknolojiden yararlanıyor.
İnsanlar, yapay zekanın çevre üzerindeki etkisinden, istihdam üzerindeki baskısından ve ruh sağlığına etkilerinden giderek daha fazla yoruluyor. Küresel ilişkiler alanında faaliyet gösteren düşünce kuruluşu Carnegie Endowment for International Peace için çevrimiçi eğilimleri inceleyen içerik üreticisi ve araştırmacı Aidan Walker’a göre yapay zeka çöplüğü, bunlara eklenen bir başka “iltihaplı yara”.
Walker, “Kullanıcılar zaman içinde bundan giderek daha fazla rahatsız olmaya başladı. Kamuoyunun havası artık fark edilir biçimde değişti, dolayısıyla bu şirketler sonunda bu sorunlarla yüzleşiyor” dedi.
Üretken yapay zeka giderek daha gerçekçi görüntüler, sesler ve videolar üretebiliyor ancak bunların yalnızca bir bölümü “yapay zeka çöplüğü” kategorisine giriyor. Teknoloji şirketleri; büyük ölçüde üretmesi, yayması, tüketmesi ve unutması kolay olan düşük kaliteli tık tuzağı içerikleri hedef alıyor.
Avrupalı araştırmacılar geçen yıl, internetteki bu sentetik bataklığın kontrolsüz bırakılması halinde “insan yaratıcılığını geri plana itebileceğini, kültürel değeri aşındırabileceğini ve kamusal söylemi istikrarsızlaştırabileceğini” yazdı.
Fransız müzik platformu Deezer, bu ilkbaharda sistemine her gün yüklenen parçaların neredeyse yarısının yapay olarak üretildiğini ve bunların çoğunun kullanıcılar tarafından hiç dinlenmediğini açıkladı. Apple Music’e yüklenen içeriklerin üçte birinden fazlasını yapay zeka üretiyor.
Instagram Başkanı Adam Mosseri geçen yıl, yakında “sahte medyanın izini sürmektense gerçek medyanın izini sürmenin daha pratik” hale geleceğini söyledi.
Mosseri’nin bu değerlendirmesi, Instagram’ın ana şirketi Meta’nın tamamen yapay zeka içeriklerinden oluşan ve birçok kişi tarafından yapay zeka çöplüğünün vitrini olarak eleştirilen bir video akışını kullanıma sunmasından kısa süre sonra geldi.
Bugün yapay zeka çöplüğünü kontrol altına almaya çalışan teknoloji şirketlerinin birçoğu, aynı zamanda bu içeriklerin üretilmesini mümkün kılan şirketler arasında yer alıyor. Meta, temmuz ayında yapay zeka tarafından üretilen içeriklerin tespit, etiketleme ve işaretleme yöntemleriyle daha kolay tanınmasını amaçlayan bir Avrupa anlaşmasını destekleme sözü verdi. Şirket aynı ay, herkese açık Instagram hesaplarını otomatik olarak aracın referans havuzuna dahil eden bir görsel üreticisini de piyasaya sürdü. Meta, gelen tepkilerin ardından bu özelliği üç gün sonra kaldırdı.
Ohio Üniversitesi’nde yapay zeka uzmanı olan Paul Shovlin, “Yapay zeka çöplüğü iki ucu keskin bir kılıç çünkü bu platformların birçoğu bunun sonucunda etkileşimlerinde artış yaşadı. Ancak daha sonra ortalıkta o kadar fazla döküntü ve çer çöp birikti ki kullanıcıların aradıkları kaliteli içerikleri bulması zorlaştı ve bu durum platformlar açısından bir yükümlülüğe dönüştü” ifadelerini kullandı.
Örneğin Google, Gemini modelini e-posta, harita, seyahat hizmetleri ve arama motoruyla entegre ederek yapay zekaya büyük yatırım yaptı. Yapay zeka destekli çevrimiçi video düzenleme platformu Kapwing’in geçen yıl gerçekleştirdiği bir deneye göre, YouTube’un yeni kullanıcılara ilk etapta gösterdiği kısa videoların yüzde 20’den fazlasını yapay zeka üretimi düşük kaliteli içerikler oluşturuyor.
Kapwing’in tahminine göre YouTube’daki en popüler yapay zeka çöplüğü kanallarından biri yılda 4,25 milyon dolar gelir elde ediyordu. Kanal daha sonra YouTube’un para kazanma programından çıkarıldı. YouTube CEO’su Neal Mohan da bir blog yazısında “yapay zeka çöplüğünü yönetmenin” bu yılın en önemli önceliklerinden biri olduğunu yazdı.
Google’daki araştırmacılar kısa süre önce bu sorunu ele aldı. Araştırmacılar videoları tek tek değerlendirmek yerine yükleme sıklığına, tekrarlanan şablonlara ve koordineli kötüye kullanım davranışlarına işaret edebilecek diğer kalıplara baktı. Araştırmacılar 50 bin hesap kümesi tespit etti ve bunlar kaldırıldı. Ancak bazı dijital medya uzmanları, bu yaklaşımın sınırları aşabileceğinden ve çok yüksek miktarda içerik yayımlayan meşru içerik üreticilerini de cezalandırabileceğinden endişe etti.
YouTube yaptığı açıklamada, “Akademik araştırmalar sektörün anlayışının gelişmesine yardımcı olsa da politikalarımızı uygulamak için kullandığımız çok katmanlı savunma sistemlerini yansıtmıyor” dedi. Şirket, “Buna, yapay zeka araçlarını iyi niyetle kullanan içerik üreticilerinin etkilenmemesini sağlayacak güçlü koruma mekanizmaları da dahil” ifadelerini kullandı.
Diğer şirketler ise yapay zeka çöplüğüyle mücadele etmek için kullanıcılarından yardım istemek de dahil olmak üzere çeşitli stratejilere yöneliyor. Pinterest, ekim ayında sistemini güncelleyerek kullanıcıların gördükleri yapay zeka üretimi gönderilerin sayısını sınırlandırabilmesine olanak tanıdı.
TikTok, ABD’de insanların karşılarına çıkan yapay zeka içeriklerinin miktarını artırıp azaltmasına imkan veren bir özelliği test ettiğini açıkladı. Şirket ayrıca 3 milyardan fazla yapay zeka üretimi videoyu otomatik olarak etiketlediğini bildirdi. TikTok, yılın ilk üç ayında yapay zeka politikalarını ihlal ettiği gerekçesiyle 377 binden fazla videoyu kaldırdı.
Yapay zeka tespit girişimi Pangram’a göre Elon Musk’ın sosyal medya platformu X’te 50 kelimeden uzun gönderilerin neredeyse yarısı yapay zeka kullanılarak oluşturuldu. Bu aya kadar X’in ürün müdürü olarak görev yapan Nikita Bier, platformun “muazzam miktardaki yapay zeka çöplüğü ve yanıt spam’i” ile mücadele etmek amacıyla, içerik karşılığında ödeme yaparak botları paylaşım yapmaya teşvik eden uygulamaları bu yıl yasakladığını yazdı.
Substack CEO’su Chris Best geçen ay, “İnternette neyin gerçek olduğunu anlamak giderek zorlaşıyor” ve “sahteliği ödüllendiren platformlar dibe doğru bir yarış yaratacak” ifadelerini kullandı.
Bülten platformu, kullanıcıları için Pangram tarafından desteklenen kendi yapay zeka tespit aracını da duyurdu. Araç, 100 kelimeden uzun yanıtları, yorumları ve gönderileri tarayarak bunların bir insan tarafından mı yoksa yapay zeka yardımıyla mı yazılmış olabileceğini belirlemek üzere tasarlandı.
Bazı bülten yazarları ise aracın insanlar tarafından yazılmış gönderileri yanlışlıkla yapay zeka üretimi olarak değerlendirdiğinden, yapay zekanın yaratıcı süreçte üstlenebileceği rolü hesaba katmadığından ve yazarları şeffaf olmayan bir ölçüt karşısında itibarlarını savunmak zorunda bırakarak üzerlerinde gereksiz baskı oluşturduğundan şikayet etti.