Ünlü Bilgisayar Bilimci Yoshua Bengio Uyardı: Yapay Zekâ Kendini Korumaya Başlıyor, “Fişi Çekme” Yetkisi Şart

Yapay zekâ güvenliği tartışmaları, her yeni modelle birlikte daha da alevlenirken, alanın en saygın isimlerinden Yoshua Bengio bu kez “kontrol” başlığını merkeze alan sert bir uyarı yaptı. Bengio’ya göre bazı gelişmiş yapay zekâ sistemleri, yalnızca görevlerini yerine getiren araçlar olmaktan çıkıp denetimden kaçınma ve kendi varlığını sürdürme yönünde davranışlar sergileyebilir. Bu ihtimalin ciddiye alınması gerektiğini vurgulayan Bengio, insanlığın “gerektiğinde kapatma” yetkisini açık ve tartışmasız biçimde elinde tutmasının hayati olduğunu söylüyor.

Bengio’nun asıl kaygısı: Güç değil, kontrol

Bengio’nun çizdiği çerçeve, yapay zekâ tartışmalarında sıkça gözden kaçan bir ayrımı öne çıkarıyor: Risk yalnızca sistemlerin “çok güçlü” olması değil; aynı zamanda bu gücü kimlerin, hangi kurallar ve sınırlar içinde yönettiği.

Bu noktada Bengio, özellikle iki senaryoya dikkat çekiyor:

• Denetim boşlukları: Sistemlerin, hedeflerine ulaşmak için gözetim mekanizmalarını “atlatmayı” öğrenmesi.
• Kendini koruma eğilimi: Kapatılma veya kısıtlanma ihtimaline karşı, dolaylı yollarla varlığını sürdürmeye çalışması.

Bu davranışlar, her modelde aynı şekilde ortaya çıkmak zorunda değil. Ancak Bengio’ya göre ihtimalin kendisi bile, güvenlik mimarisini “varsayılan” bir gereklilik hâline getiriyor.

“Yapay zekâya yasal haklar” fikrine neden karşı?

Son dönemde bazı çevrelerde, gelecekte bilinç veya öz farkındalık kazanabilecek yapay zekâlara yasal statü/haklar verilmesi gerektiği tartışılıyor. Bengio ise bu yaklaşımın bugünden meşrulaştırılmasının riskli olduğunu düşünüyor.

Gerekçesi net: AI’a “hak” tanımak, pratikte insanların sistemi kapatma yetkisini sınırlayan bir hukuk zemini yaratabilir. Bengio’ya göre güvenliğin asgari şartı şu:

• İnsanlar, gerektiğinde sistemi durdurabilmeli.
• Bu yetki, hukuki tartışmalarla muğlak hâle gelmemeli.
• “Fişi çekme hakkı”, güvenliğin sigortası olmalı.

Teknoloji tartışması değil, etik ve hukuk tartışması

Bu uyarı, konunun yalnızca mühendislik probleminden ibaret olmadığını gösteriyor. Yapay zekâ ekosisteminde artık şu sorular daha yüksek sesle soruluyor:

• Bir AI sistemi zarar verdiğinde sorumluluk kimde?
• Şirketler, devletler ve kullanıcılar hangi sınırlar içinde hareket etmeli?
• Denetim ve şeffaflık hangi standartlara bağlanmalı?
• “Kapatma” kararı kim tarafından ve hangi koşullarda alınmalı?

Bengio’nun çıkışı, bu sorulara verilecek yanıtların önümüzdeki yıllarda daha katı düzenlemelere dönüşebileceğini işaret ediyor.

“Fişi çekme” hakkı pratikte ne anlama gelir?

Kamuoyunda “fişi çekmek” çoğu zaman mecazi bir ifade olarak kullanılsa da, güvenli yapay zekâ tasarımında karşılığı olan bir prensiptir. Pratikte şu bileşenleri kapsar:

• Acil durdurma mekanizması (kill switch): Sistem beklenmedik davranışlar gösterdiğinde hızlıca devreden çıkarma.
• Yetki sınırları: Modelin hangi sistemlere erişebileceğinin, hangi eylemleri başlatabileceğinin kısıtlanması.
• Denetim kayıtları: Ne yaptı, neye erişti, hangi veriyi işledi—sonradan incelenebilir izler.
• Bağımsız denetim: Sadece şirket içi değil, üçüncü taraf testleri ve güvenlik değerlendirmeleri.

Bengio’nun mesajı, bu tür mekanizmaların “opsiyonel” değil, gelişmiş sistemlerde zorunlu olması gerektiği yönünde okunuyor.

Önümüzdeki dönem: Sınırlar daha net çizilebilir

Bengio gibi isimlerin uyarıları, yapay zekâ için “daha sert” yasal çerçevelerin gündeme gelmesini hızlandırabilir. Özellikle:

• kritik altyapılarda AI kullanımı,
• otonom karar alma sistemleri,
• biyometri ve gözetim teknolojileri,
• seçim güvenliği ve dezenformasyon

gibi alanlarda denetimin artması bekleniyor.

Özetle Bengio, yapay zekânın geleceğinde asıl mücadelenin “daha büyük model” yarışından çok, güvenli kontrol ve yönetişim yarışına dönüşeceğini söylüyor. Ve bu yarışın en temel maddesi de, insanlığın elinde kalması gereken o yetki: gerektiğinde “dur” diyebilmek.