Son zamanlarda tartışmaları bastırmak için X (eski adıyla Twitter), yalnızca Premium aboneliği olan kullanıcıların AI Grok'tan pornografik görüntüler oluşturmasını isteyebileceğini duyurdu. Ancak bu, sorunu çözmek için yeterli değil ve birçok uzman, bunun sadece buzdağının görünen kısmı olduğunu belirtiyor.

Elon Musk ve sosyal medya platformu X, tartışmalardan kaçamıyor. Ancak son tartışma, durumu değiştirdi. Kullanıcılar ve medya, bu konuyu geçiştirmek istemiyor. Eğer bu bilgiyi kaçırdıysanız, Grok, X'in AI'sı, bu yazdan itibaren kullanıcılarına pornografik görüntüler oluşturma imkanı sunuyor. İnternetin doğası gereği, Elon Musk'ın göreve gelmesiyle birlikte X'in kullanıcı kitlesinin önemli ölçüde değişmesi, bu tür olayların yaşanmasını kaçınılmaz kılıyordu.

Beklemek gerekmiyordu. Kullanıcılar çok geçmeden, ünlü ve anonim kadınların çıplak görüntülerini oluşturmaya başladılar. Tartışmalar patlak verdi ve birçok ünlü ve dernek, bu durumu kadınlara karşı yeni bir siber zorbalık aracı olarak nitelendirdi. X, aylarca sessiz kaldı ve kullanıcılarının istediklerini yapmalarına izin verdi. Nihayetinde, çeşitli ülkelerden yetkililer (özellikle Birleşik Krallık, rızası olmayan cinsel görüntülerin üretilmesini yasaklayacak) uyanınca, platform hafif bir kısıtlama getirmeye karar verdi.

Pornografik Deepfake'lerin Geleceği Parlak

Artık yalnızca premium aboneliği olan kullanıcılar Grok ile pornografik görüntüler oluşturabiliyor. Bu, yaşanan sorunun büyüklüğü ve ciddiyeti karşısında beklenenin çok altında bir kısıtlama. Reddit'te, Grok'ın sınırlamalarını aşmanın yollarını paylaşan kullanıcılar var ve bu yöntemler, bazı durumlarda çok daha açık ve hatta sert görüntüler oluşturmayı sağlıyor. Bu teknikler genellikle “jailbreak” adı altında toplanıyor ve çeşitli cihazların güvenlik duvarlarını aşmak için kullanılan hackleme teknikleriyle ilişkilendiriliyor.

Gerçek şu ki, Grok olayı sadece buzdağının görünen kısmı. Pornografik deepfake'ler yeni bir olgu değil: 2023'te FBI, bu uygulamanın webdeki şantaj vakalarını artırdığını bildirmişti. “Apple ve Google gibi popüler uygulama mağazalarında barındırılan yüzlerce uygulama, bunu mümkün kılıyor”, diyor dezenformasyon uzmanı Nina Jankowicz. “Deepfake ile cinsel saldırıların büyük bir kısmı, günlük olarak kullandığımız şirketler tarafından destekleniyor.”

Stratejik Diyalog Enstitüsü'nün bir araştırmasına göre, bugün kadınların çıplak görüntülerini oluşturmaya yarayan onlarca site ve uygulama mevcut ve bu platformlar, Mayıs 2025'te toplamda 21 milyon ziyaret aldı. Bu platformlar, X veya Telegram üzerinden kullanıcılar tarafından yoğun bir şekilde paylaşılıyor. ISD, yalnızca geçen Temmuz ayında X'te bu platformlara ait 290.000 mention kaydetti.

“Kadınlar ve kızlar, AI kullanma konusunda çok daha isteksiz”, diyor ISD araştırmacısı Clare McGlynn. “Bu kimseyi şaşırtmamalı. Kadınlar, bu teknolojiyi heyecan verici bir yenilik olarak değil, sadece bizi hedef alan, kötü muamele eden ve bağlantımızı kesmeye zorlayan yeni bir araç olarak görüyor.” Clare McGlynn ayrıca, ChatGPT'deki yetişkin modunun gelmesinin, bu uygulamanın daha da popüler hale gelmesine neden olabileceğinden endişe ediyor. Şu anda, yalnızca Claude, bir görüntü üzerindeki giysileri değiştirmeyi kesinlikle reddederek katı kısıtlamalar getiriyor.