Bugüne kadar yapay zekânın hep “somut” faturalarını konuştuk. Çip talebinin uçurduğu cihaz fiyatları, veri merkezlerinin enerji sistemlerine bindirdiği yük, açık web’in çöküşü, iş gücündeki yeni sınıf ayrımları ve mahremiyetin eğitim verisine dönüşmesi… Ancak masada çok daha derin, teolojik kâbusları andıran bir soru var: Ya yapay zekâ yalnızca teknolojik bir araç değil de, insanlığın kendisiyle ilgili en büyük sınavıysa?
Yapay zekâyı üç milyar yıllık evrimsel sürecin yeni bir aşaması, gezegenin üzerinde oluşan yeni bir “zihin katmanı” (noosphere) olarak okuyanlar var. İnsanoğlu tarih boyunca tanrılara üç temel özellik atfetti: Bilgi, güç ve yargı. Yapay zekâ tam da bu üçlüye oynamaya; her şeyi bilip optimize eden, bize ne yapmamız gerektiğini söyleyen bir “karar destek sistemi” olarak pazarlanmaya başlandı.
Ancak sorun şu: Tanrıya benzeyen bir sistem yaratıp ona güvenemiyorsanız, ortaya muazzam bir politik ve teknolojik kâbus çıkar.
Çizgi Film Senaryolarından Gerçek Kâbuslara
Yapay zekâ kıyameti, makineye “ataş üret” komutu verildiğinde dünyadaki tüm metali ataşa çevirdiği o meşhur bilimkurgu senaryoları kadar karikatürize olmak zorunda değil. Asıl tehlike çok daha sessiz ve pratik.
Bir yapay zekânın biyolojik silah tasarımına yardım etmesi, finans sisteminde zincirleme çöküşler yaratması veya kritik altyapıları hedefleyen siber saldırıları kolaylaştırması nükleer bir silahtan çok daha olası. Nükleer silah üretmek için devasa tesislere, uranyuma ve devlet gücüne ihtiyaç varken; AI felaketleri için bazen sadece erişim, uzmanlık ve kötü niyet yeterli. Tehlike artık daha ucuz, daha hızlı ve çok daha dağınık. Üstelik teknoloji şirketlerinin pazar payı ve yatırımcı baskısı altında kendi kendilerini “yavaşlatmalarını” beklemek büyük bir saflık.
Ütopya ile Kıyamet Arasındaki “Ruh Öldüren” Sıkıcılık
Yapay zekâ tartışmaları genellikle iki uçta yaşanıyor: Ya bütün dertlerimizi çözecek bir ütopya ya da bizi yok edecek bir kıyamet. Oysa arada çok daha sinsi bir gelecek ihtimali var: İnsan hayatını yok etmeyen ama fakirleştiren, ruhsuzlaştıran AI.
Bunun ilk fragmanını müşteri hizmetlerinde izliyoruz. Karşınızda şirket politikasını ezberlemiş, yorulmayan, sinirlenmeyen, empati taklidi yapan ama sizi asla “anlamayan” bir bot var. “Sizi anlıyorum” diyen ama bu anlamanın hiçbir insani bedelini ödemeyen pürüzsüz bir duvar. İnsan bir temsilcinin kabalığı veya bilgisizliği bile, içinde bir esneklik, bir “insan olma” ihtimali barındırdığı için değerlidir. Her şeyin kusursuzca optimize edildiği, insan temasının sıfırlandığı bir düzen, özgürlük değil, sadece steril bir kafes yaratır.
Bu Tanrı Kimin Reklam Departmanında Çalışıyor?
Eğer yapay zekâ olağanüstü bir bilişsel güçse, asıl soru kime hizmet edeceğidir. İnsanlığa mı, devlete mi, reklamcıya mı, yoksa platform sahibine mi?
AI sadece veriyi toplamakla kalmıyor; onu yorumluyor, paketliyor ve davranışları yönlendirme kapasitesini eşi görülmemiş bir seviyeye çıkarıyor. Geçmişin teknoloji hayali, makinenin sıkıcı işleri yapması, insanın ise sanata, kültüre ve boş zamana odaklanmasıydı. Oysa bugünkü AI düzeninde tam tersi bir tehlike var: Makine insanı özgürleştirmek yerine şirketlerin maliyet düşürme, takip etme ve daha etkin sömürme aracına dönüşüyor.
Metafizik Değil, Yönetişim Sorunu
Yapay zekâ artık kullanıp kullanmamayı seçebileceğimiz bir araç olmaktan çıkıp, tıpkı elektrik veya internet gibi içinde yaşadığımız bir “çevreye” dönüştü. Bu yüzden sormamız gereken sorular metafizik değil; tamamen politik: Kim geliştirecek? Kim denetleyecek? Kim hesap soracak ve kim “hayır, bunu otomatikleştirmiyoruz” diyebilecek?
Eğer güvenemeyeceğimiz bir tanrı yaratıyorsak, ona tapmayı bırakıp sağlam bir sözleşme yazmalıyız. Ve o sözleşmenin ilk maddesi net olmalı: Yapay zekâ insanı gereksizleştirmek için değil, insan hayatını genişletmek için kullanılacak.
Bunu başaramazsak, kıyamet gökten inen robot ordularıyla gelmeyecek. Belki de kıyamet, bir müşteri hizmetleri hattında sonsuza kadar “Sizi anlıyorum” diyen ruhsuz bir sesle başlayacak.
