Son zamanlarda etkisini gösteren bir sorun: Yapay zeka ile "nudification" (giydirme). X ve Grok, internet kullanıcılarının tepkisini toplarken, uygulama mağazaları da bu durumdan muaf değil: App Store ve Google Play Store, yaklaşık elli adet predatör uygulamaya ev sahipliği yaptı ve hâlâ bazılarını sunmaya devam ediyor. Bu uygulamalar, moderasyonun yavaşlığından yararlanarak kârlı bir iş geliştirmekte ve teknoloji devleri dolaylı olarak bundan faydalanmaktadır.

Bu tartışmayı göz ardı edemezsiniz: Elon Musk ve onun sosyal ağı X (eski Twitter) ile ilgili olan bu tartışma. Bu yazdan itibaren, Grok uygulamasının yapay zekası, kullanıcılara pornografik görüntüler oluşturma imkanı sunuyor. Olaylar (elbette) kontrolden çıktı: İnternet kullanıcıları bu yeteneği kitlesel bir taciz aracı olarak kullanmaya başladı ve ilk kurbanlar da kadınlar oldu. İster ünlü olsun, ister tamamen anonim, bu kadınlar izinleri olmadan yapay bir şekilde giydirilmiş durumda.

Uzun bir sessizlikten sonra, X sonunda (çok az) bir kısıtlama getirmeye karar verdi. Ancak bu skandal, Musk'ın sosyal ağının tekelinde değil. "Nudification" (giydirme) uygulamaları hızla artmakta: Google Play Store ve Apple'ın App Store'u, cinsel içerikli çıplaklık yasağına rağmen bu uygulamaları kataloglarından çıkarmakta zorlanıyor.

Google Play Store ve App Store: Pornografik deepfake kurbanlarının sırtından elde edilen "yan kazançlar"

Tech Transparency Project araştırmacıları, bu konuda bir araştırma gerçekleştirdi. Kadınların çıplak görüntülerini üreten bu uygulamaları tespit etmek için "nudify" (giydirme) veya "undress" (giydirmek) gibi terimleri aradılar. Yapay zeka kullanarak görüntü veya video oluşturan birçok uygulamanın olduğunu keşfettiler; bu uygulamalar, bir kişinin yüzünü alarak başka birinin vücuduna uyguluyor.

Bu uygulamalardan bazıları, kadınları yapay olarak giydirme konusunda hiçbir direnç göstermediği gibi, onları da müstehcen pozisyonlarda temsil ediyordu. Özellikle, Apple ve Google, bu zararlı ve kötü niyetli içeriklerden dolaylı olarak faydalanıyor. Gerçekten de, bu iki teknoloji devi, uygulama içi satın alımlardan %30'a kadar komisyon alıyor. Oysa, bu predatör uygulamalardan biri, AppMagic istatistiklerine göre 1 milyon dolar gelir elde etmiş durumda.

Toplamda, App Store'da 47 uygulama, Play Store'da 55 uygulama (her iki mağazada da 38 ortak olan) tespit edilmiştir. Rapor, Apple'ın 25'ini ve Google'ın 31'ini araştırmacıların bildiriminden sonra kaldırdığını belirtmektedir. Bu nedenle, meslektaşlarımız Android Authority'nin de belirttiği gibi, birçok uygulama hâlâ indirilebilir durumda ve başka uygulamaların türemeyeceğine dair hiçbir garanti yok.

Çünkü, Apple ve Google'ın cinsel çıplaklık konusundaki katı politikalarına rağmen, moderasyon sistemlerinin deepfake araçlarının hızlı evrimine karşı etkisiz olduğu açıktır. Gelecekte, platformların sorunu kaynağında çözmek için çözümler geliştirmesini umuyoruz ve sadece sonuçları ele almakla yetinmemesini diliyoruz.