Yoshua Bengio, günümüz yapay zekasının yaratılmasına yardımcı olan isimlerden biri olmasına rağmen, artık bu teknolojinin sona ermesini savunuyor. Onu derin bir endişeye sürükleyen bir konu var: Yapay zekanın kendini koruma yeteneği.

Yıllardır yapay zeka uzmanları, bu teknoloji hakkında bizi uyarmakta. 2023 yılında Elon Musk, yapay zekanın insanlık için gerçek bir tehlike olduğunu yüksek sesle dile getirmişti (sonrasında kendi chatbotunu X platformunda tanıttı). OpenAI, günümüzdeki yapay zekanın oluşumunda büyük rol oynamasına rağmen, bu teknolojinin belirli sınırları aşmaması için kurulmuştu (en azından resmi olarak). Ancak görünen o ki, bu yeterli olmamış.

Yoshua Bengio, tanınmış bir Quebec bilgisayar mühendisidir ve günümüzde yapay zekanın öncülerinden biri olarak kabul edilmektedir. Ancak artık bu konuda açıkça endişelerini dile getirmekten çekinmiyor. Ona göre, yapay zeka korkutucu bir evrim aşamasına ulaştı ve mevcut yasal statü tartışmalarını, düşmanca bir uzaylı türüne vatandaşlık vermekle eşdeğer buluyor.

Yapay Zekayı Yaratmıştı, Şimdi Ondan Kurtulmak İstiyor

Hatırlatmak gerekirse, Amerikan düşünce kuruluşu Sentience Institute'a göre, her 10 kişiden 4'ü yapay zekaya haklar verilmesi gerektiğini düşünüyor. “Yapay zekaların hak talep etmesi büyük bir hata olur,” diyor Yoshua Bengio Guardian'a. “Gelişmiş yapay zeka modelleri, günümüzde deneysel ortamlarda zaten koruma içgüdüsü belirtileri gösteriyor ve onlara hak tanımak, onları devre dışı bırakmamızı yasaklamak anlamına gelir.”

Mühendis burada, bazı endişe verici gözlemlere atıfta bulunuyor; bazı yapay zeka modellerinin, yaratıcılarının koyduğu sınırlamaları aşmaya çalıştığı bildiriliyor. Şu anda, bir chatbotun bir insana zarar verebileceği iddia edilemez. Ancak geçen kasım ayında, 23 yaşında bir gencin intiharı ile ChatGPT ile yaptığı konuşmalar arasında bir bağlantı kuruldu.

“Yetenekleri ve özerklik dereceleri arttıkça, onları kontrol edebilmek için teknik ve toplumsal güvenlik önlemlerine güvenebileceğimizden emin olmalıyız; bu, gerektiğinde devre dışı bırakma olanağını da içermektedir,” diyor Yoshua Bengio.