Avrupa Birliği, X’e entegre edilen yapay zekâ aracı Grok aracılığıyla üretilen cinsel içerikli sahte görüntülerin (deepfake) yayılmasını engellemek için harekete geçti
Mağazalarda birçok deepfake uygulaması var. Bu uygulamaların birçoğu reklamlarını sosyal medya platformları aracılığıyla yapıyor. Reklamlarda fotoğraf ve videoların nasıl düzenlendiği, ortaya nasıl bir sonuç çıktığı ayrıntılı biçimde gösteriliyor Aplikasyonu indirdiğinizde karşınıza 4 seçenek çıkıyor. Yıllık, aylık, haftalık ve ücretsiz abonelik… Uygulamayı ücretsiz kullanmayı tercih ederseniz son derece sınırlı bir kullanıma erişiyorsunuz.
Kıyafet, ortam değişiyor
Ancak diğer tercihlerde uygulamada sunulan tüm özellikler aktif hale geliyor. Uygulamada eğlenceli deepfake uygulamaları da mevcut. Fakat asıl tehlike uygulamanın diğer bölümle rinde ortaya çıkıyor. ‘Hug’ ve ‘French kiss’ başlığı altında sunulan bölümde istediğiniz fotoğrafla deepfake videoları oluşturabiliyorsunuz. Hatta fotoğraf uygunsa, kişilerin kıyafetlerini, bulundukları ortamı da değiştirebiliyorsunuz.
Hürriyet’ten Salim Uzun’un haberine göre, bazı uygulamalar o kadar gelişmiş ki, yüklediğiniz fotoğrafların bulunduğu ekrana istediğiniz senaryoyu yazarak son derece başarılı deepfake videoları hazırlayabiliyorsunuz. Bazı aboneliklerde kota sistemi var. Yani ürettiğiniz deepfake uygulamasının niteliğine göre hesabınızdan kota düşüyor. Kotanız dolarsa yeniden satın alma işlemi yapmak zorunda kalıyorsunuz. Ürettiğiniz deepfake ürününü hiçbir yapay zekâ’ etiketi olmadan kolayca cep telefonunuza indirip istediğiniz platformda paylaşabiliyorsunuz.
Yaş sınırı uyarısı yok
Abonelik fiyatları uygulamanın kalitesine göre değişiyor. Yıllık abonelikler 2-3 bin TL’yi buluyor. Ancak haftalık aboneliklerde 150-200 TL gibi cüzi bir ücrete sınırlı kullanım hakkı kazanıyorsunuz. Deepfake videosu için yüklenen- fotoğraflarla ilgili hiçbir sınırlama yok. Yani ister ünlü ister sıradan bir kişinin fotoğrafını sisteme yükleme ve deepfake videosu üretme şansınız var. Aplikasyonların büyük bölümünde fotoğraflarla ilgili herhangi bir yaş sınırı uyarısı da yok.
Bilişim ve teknoloji hukukçusu Avukat Yaren Erdem:
“Maalesef bu uygulamaları kullananlar öncelikle çocukları hedef alıyor. Özellikle erkek çocukların hedef seçildiği video ve fotoğraflarla ilgili çok sayıda şikayet alıyoruz. Yapay zeka uygulamaları artık çok başarılı. Bir fotoğraf veya videonun gerçek mi yoksa yapay zekayla mi hazırlandığını tespit etmek çok zorlaştı. Bu sürecin yarattığı paranoya en fazla çocuklu aileleri tedirgin ediyor. Elimizde 13 yaşında bir kızımızla ilgili bir dosya var. Kızımızın yapay zekâ videoları oluşturulmuş. Kız perişan, aile perişan. Hukuki destek veriyoruz ancak yasal mevzuat birçok noktada tıkanıp kalıyor. Mağduriyetler ilkokul düzeyine kadar inmiş durumda.”
Mağduriyet artabilir
E-ticaret, web3 eğitmeni Behçet Ülker:
“Maalesef yapay zeka uygulamalarına kötü niyetli kişiler de artık çok kolay ulaşıyor. Yasal alt yapımız bu konuda caydırıcı değil. Fotoğraf ve videoların son derece profesyonel ve kısa sürede değiştirilmesi çok kolay hale geldi. Bu görevi yerine getiren çok ucuz aplikasyonlar mevcut. Oluşturulan fotograf ve videolar o kadar gerçekçi ki, neyin gerçek neyin sahte olduğunu anlamakta zorlanıyoruz. Şüphesiz ki, olumsuzlukların önüne geçmek için caydırıcı bir yasal mevzuat oluşturmak gerekiyor. Aksi halde yapay zekâ uygulamaları gelistikçe daha çok mağduriyet ortaya çıkacaktır.”
İspanya örneği
Siber güvenlik uzmanı Muharrem Baki:
“Deepfake uygulamalarına erişim son kullanıcılara kadar indi. Her türlü fotoğrafı yaş sının olmadan bu sistemlere yükleyebiliyorsunuz. Taciz, şantaj ve zorbalık da işin içine girince korkunç bir süreç ortaya çıkıyor. Cinsel içerikli fotoğraf ve video üretilmesine olanak sağlayan birçok uygulama, 150-200 TL gibi cüzi bir abonelik ücretiyle dijital mağazalardan cep telefonlarına indirile- biliyor. Biz de dijital mağazalara girip ücretli ve ücretsiz uygulamaların nasıl ve hangi kalitede çalıştığını test ettik.