Yapay Zeka ile Üretilen Müstehcen Deepfake'ler Gençleri Tehdit Ediyor

Günümüzde akıllı telefonlarla herkesin kolayca dijital ortamda deepfake içerikler üretebildiği bir dönemde, yapay zeka destekli müstehcen görüntüler gençler arasında yeni bir zorbalık ve taciz türünü tetikledi. İnternette hızla yayılan bu içerikler, yasal düzenlemelerin yetersizliği nedeniyle ebeveynleri ve eğitimcileri çaresiz bırakıyor.

Tek Bir Fotoğraf Bile Yeterli Oluyor

2015 yılından bu yana var olan deepfake teknolojisi, başlangıçta çok sayıda fotoğraf gerektiriyordu ve bu nedenle genellikle ünlüler hedef alınıyordu. Ancak günümüzde, tek bir fotoğraf karesi bile yapay zekanın bir kişinin kıyafetlerini sanal olarak çıkarması için yeterli hale geldi. Dijital Adli Bilişim Profesörü Hany Farid, bu durumun tehdidin odağını ünlülerden, internette tek bir görüntüsü olan herkese kaydırdığını belirtiyor. Bu gelişme, sosyal medya kullanan her gencin potansiyel bir mağdur olabileceği anlamına geliyor.

Gençler Arasında Kullanım Yaygınlaşıyor

Uygulama mağazalarında kolayca erişilebilen yapay zeka destekli deepfake üretim araçları, gençler arasında hızla yayılıyor. George Mason Üniversitesi'nin bir araştırmasına göre, gençlerin yarısından fazlası bu araçları kullanarak en az bir görüntü oluşturduğunu kabul ediyor. The Tech Transparency Project tarafından yapılan bir incelemede ise, uygulama mağazalarında 100'den fazla müstehcen içerik üretme uygulaması tespit edildi. Bu uygulamaların milyonlarca indirme sayısına ulaşarak önemli gelirler elde ettiği belirtiliyor.

Mağdurlar İçin Ağır Sonuçlar

Deepfake tacizine maruz kalan gençler, eğitim ve sosyal hayatlarında derin yaralar alabiliyor. Bazı öğrenciler okullarını değiştirmek veya uzaktan eğitime geçmek zorunda kalırken, üretilen içeriklerin yarattığı travmayla başa çıkmak yetişkinler için bile zorlayıcı olabiliyor. Indianapolis'te öğrencileri tarafından deepfake görüntüleri oluşturulan bir öğretmen, yaşadığı baskılar nedeniyle başka bir şehre taşınıp kimliğini değiştirmeyi planlıyor. Daha trajik vakalarda ise, deepfake üzerinden yaratılan çıplak görüntülerle şantaja uğrayan gençlerin intihara sürüklendiği durumlar yaşanıyor.

Hukuki Boşluklar ve Sorumluluk Tartışmaları

Amerika Birleşik Devletleri ve Avrupa Birliği, bu tür uygulamaları kısıtlamak için adımlar atsa da, yasaların uygulanmasında ciddi sorunlar yaşandığı uzmanlar tarafından dile getiriliyor. Avukat Carrie Goldberg, deepfake taciz vakalarının yeterince bildirilmediğini ve soruşturulmadığını vurguluyor. Özellikle X platformuna ait Grok gibi sohbet robotlarının kısa sürede milyonlarca cinselleştirilmiş görüntü üretebilmesi, tartışmaları daha da alevlendirdi. Grok'a karşı açılan bir davanın avukatı Annika Martin, bu teknolojinin erişilebilirliğini tehlikeli bir silaha benzeterek, geçmişte basit çizimlerle yapılan zorbalıkların artık çok daha yıkıcı boyutlara ulaştığı uyarısında bulunuyor.

Risk Her Yerde Mevcut

Tehlike sadece fotoğraflarla sınırlı kalmıyor. Sadece 10 saniyelik ses kayıtlarıyla üretilen yapay zeka botları, kişilerin seslerini rızaları dışında cinsel fanteziler için kullanabiliyor. Uzmanlar, çevrimdışı kalmanın veya internetten uzak durmanın bile tam bir koruma sağlamadığını belirtiyor. Komşuların gizlice çekilen fotoğraflarından bile deepfake üreten kişilerin varlığı, durumun ciddiyetini gözler önüne seriyor. Çocuk güvenliği grubu Heat Initiative Yöneticisi Sarah Gardener, günümüzde dünyada var olmanın bile insanları bu tür suçlar için risk altına soktuğunu ifade ediyor.