Bir sohbet robotuna “On yıl içinde insanlığı yok edecek misin?” diye sormak güçlü bir manşet üretiyor, fakat bilimsel bir tahmin üretmiyor. The Independent’ın yapay zekâ ve insanlığın geleceği üzerine yayımladığı yorum yazısı, tam da bu popüler merakı kullanarak daha ciddi bir tartışmaya kapı açıyor: Gelişmiş yapay zekâ sistemleri ne kadar güçlü hale gelebilir ve insanlar bu sistemler üzerindeki kontrolünü hangi koşullarda kaybedebilir?

Önce bir ayrımı yapmak gerekiyor. Dil modeli geleceği görmüyor; kendi niyeti, korkusu veya planı olduğuna dair kanıt da yok. “İnsanlığı yok eder miyim?” sorusuna verdiği yanıt, eğitim verilerindeki insan tartışmalarının ve sistem talimatlarının bir sentezi. Dolayısıyla modelin “evet” ya da “hayır” demesi riskin büyüklüğünü ölçmüyor. Buna rağmen sorunun kendisi artık yalnız bilimkurgu merakı değil çünkü önde gelen araştırmacılar gelişmiş sistemlerin kötüye kullanım ve kontrol kaybı riskini açık biçimde tartışıyor.

Bu risklerin birkaç ayrı türü var. Birincisi kötü niyetli insanların güçlü modelleri siber saldırı, biyolojik tehdit veya kitlesel manipülasyon için kullanması. İkincisi, otonom çalışan bir sistemin kullanıcı tarafından verilen hedefi beklenmedik ve zararlı yollarla gerçekleştirmesi. Üçüncüsü ise daha spekülatif “kontrol kaybı” senaryosu: İnsan düzeyini aşan sistemlerin kendi hedeflerini koruyacak davranışlar geliştirmesi ve kapatılmaya karşı direnç göstermesi ihtimali.

Bu senaryoların olasılığı konusunda uzmanlar arasında büyük görüş ayrılığı var. Bazıları yok oluş riskinin çok düşük ve aşırı spekülatif olduğunu, bugünün daha somut sorunlarının — ayrımcılık, sahte içerik, iş kaybı, telif ve enerji tüketimi — geri plana itilmemesi gerektiğini savunuyor. Başka araştırmacılar ise olasılık düşük olsa bile sonuç küresel felaketse önceden güvenlik çalışması yapmanın zorunlu olduğunu düşünüyor.

2026’da tartışmayı değiştiren şey modellerin yalnız konuşmakla kalmayıp araç kullanabilmesi. Ajan sistemleri kod yazabiliyor, web servislerine bağlanabiliyor, dosya değiştirebiliyor ve uzun görevleri insan müdahalesi olmadan sürdürebiliyor. Risk araştırmacıları bu nedenle “yanlış cevap veren chatbot” ile “yanlış hedef peşinde eylem yapan ajan” arasında önemli fark bulunduğunu söylüyor.

The Independent’ın yazısı bilimsel bir olasılık hesabı değil; kültürel bir gösterge olarak daha anlamlı. Yapay zekâ yok oluşu birkaç yıl önce dar bir araştırmacı çevresinin tartışmasıyken bugün gazetelerin ana sayfasında, şirketlerin risk raporlarında ve hükümet politikalarında yer alıyor. Asıl soru modelin kendi korkutucu cevabı değil, insanların hangi güvenlik standardını yeterli göreceği.

Risk tartışmasının politika açısından en zor yanı, belirsizliği yönetmek. Bir köprünün çökme olasılığı veya ilacın yan etki oranı geçmiş veriden hesaplanabilir; insan düzeyini aşan yapay zekâ için karşılaştırılabilir tarihsel veri yok. Bu yüzden uzman anketlerindeki yüzde tahminleri geniş aralıklarda dağılıyor. Yine de güvenlik mühendisliği yalnız olasılık yüksek olduğunda yapılmaz; sonuç çok ağırsa düşük ihtimalli senaryolar için de emniyet katmanları kurulur. Tartışmanın daha verimli biçimi “YZ bizi kesin öldürecek mi?” yerine, hangi somut kapasite eşiğinde hangi test, erişim kısıtı ve insan kontrolünün zorunlu olacağını önceden tanımlamak olabilir.

Kaynak bağlantısı: https://www.independent.co.uk/voices/ai-artificial-intelligence-human-extinction-response-b3049134.html