Grok tarafından üretilen öneri niteliğindeki deepfake'ler, izinsiz olarak çevrimiçi paylaşıldı. Artan tepkiler karşısında Avrupa Birliği harekete geçti. Elon Musk'ın şirketi xAI'ye karşı bir soruşturma başlatıldı.

Görüntü veya video üretebilen yapay zekalar, giderek daha fazla kullanılmakta. Ancak bu kullanım, sorunlu içeriklere doğru hızla kayıyor. Uyarılara rağmen, koruyucu önlemler sınırlı kalıyor. Bazı platformlar, kontrolsüz bir şekilde açık sahnelerin oluşturulmasına izin veriyor. Kullanımı kolay olan bu araçlar, bireylerin korunması konusunda somut sorular ortaya çıkarıyor, özellikle de bir kişinin görüntüsünün izinsiz kullanılması durumunda.

Elon Musk'ın xAI şirketi tarafından geliştirilen Grok yapay zekası, hedef alınan sistemlerden biri. Birkaç aydır, bu sosyal medya platformuna entegre edilen araç, cinsel içerikli görüntüler üretmeye olanak tanıyordu. "Spicy mod" adı verilen bir fonksiyon, yetişkinlere özel içeriklerin oluşturulmasına izin veriyordu. Hızla, kullanıcılar kadınların ve çocukların çıplak görüntülerini üretmeye başladı. Tepki olarak, firma bu özelliğin kullanımını Premium abonelere sınırladı. Ancak birçok uzman, bu önlemlerin sorunu çözmekte yeterli olmadığını belirtiyor.

Avrupa Birliği, Grok tarafından üretilen cinsel içeriklerin yayılması sonrası xAI hakkında soruşturma başlattı

Reuters'ın bildirdiğine göre, Avrupa Komisyonu, Grok'ın arkasındaki şirket xAI hakkında resmi bir soruşturma başlattı. Amaç, bu yapay zekanın özelliklerinin Dijital Hizmetler Yasası'na uygun olarak kullanılıp kullanılmadığını belirlemek. Bu yasa, büyük platformların yasadışı içeriklerin yayılmasını sınırlamasını gerektiriyor. Soruşturmanın başlatılması, Birleşik Krallık, Filipinler ve Endonezya'dan gelen bir dizi uyarının ardından gerçekleşti. Bu ülkeler, bu programın erişimini geçici olarak engelledi ve ardından coğrafi filtrelerle geri döndü.

Avrupa otoriteleri, Grok tarafından üretilen içeriklerin, özellikle cinsel deepfake'ler açısından, görüntülerin yasadışı işlenmesi kapsamına girdiğini düşünüyor. Eğer bir ihlal tespit edilirse, xAI, dünya çapındaki cirosunun %6'sına kadar para cezası ile karşılaşabilir. Bu yeni süreç, 2023 sonundan bu yana devam eden X algoritmaları ile ilgili başka bir soruşturmaya ekleniyor. Brüksel için bu durum, kötü düzenlenmiş üretken yapay zekaların tehlikelerini ortaya koyuyor. Ayrıca, Avrupa ile Amerika Birleşik Devletleri arasındaki gerginlikleri de yeniden alevlendiriyor; çünkü büyük teknoloji şirketlerinin düzenlenmesi hala hassas bir konu.