Yapay zekâ dünyasında giderek daha sık duyulan bir uyarı var: Çok gelişmiş modeller insanlığın kontrolünden çıkabilir. Princeton Üniversitesi bilgisayar bilimi araştırmacısı Adji Bousso Dieng bu tür risklerin tümüyle hayal ürünü olduğunu söylemiyor. Ancak Al Jazeera'daki görüş yazısında, korku söyleminin büyük şirketlerin pazar gücünü korumasına da hizmet edebileceğini savunuyor.
Dieng'e göre en ileri sistemleri eğiten şirketler, modellerinin potansiyel tehlikelerini vurgulayarak devletlerden katı düzenlemeler isteyebiliyor. Bu kurallar hesaplama maliyeti, lisanslama veya değerlendirme yükümlülüklerini aşırı yükseltirse küçük şirketlerle üniversite araştırmacıları rekabet etmekte zorlanabilir. Böylece güvenlik gerekçesi, teknolojinin daha az elde toplanmasına yol açabilir.
Yazar özellikle açık kaynaklı modellerin önemini vurguluyor. Bir ülke veya üniversite dev bir modeli sıfırdan eğitemiyorsa erişilebilir modelleri kendi diline, yerel verilerine ve bilimsel ihtiyaçlarına uyarlayabilir. Bu seçenek ortadan kaldırıldığında teknoloji üretimi daha zengin ülkelerdeki birkaç özel şirkete bağımlı hale gelebilir.
Dieng, tartışmanın yalnızca gelecekteki büyük felaketlere sıkışmasına da itiraz ediyor. Bugün gerçekleşen iş kayıpları, ayrımcı algoritmalar, veri merkezi kaynaklı enerji tüketimi, otomatik dezenformasyon ve insan kararlarının kalitesinin zayıflaması gibi sorunlara yeterince ağırlık verilmediğini savunuyor.
Bu yaklaşım gelişmekte olan ülkeler için ayrı önem taşıyor. Bir sağlık veya eğitim sistemi başka bir ülkenin ekonomik koşullarına göre tasarlanmış modeli kullanırsa, yerel insanların ihtiyaçlarını yanlış değerlendirebilir. Yerel araştırmacıların modeli inceleme ve uyarlama imkânı, hem bağımsızlık hem güvenlik açısından gerekli görülebilir.
Görüş yazısı 'hiç güvenlik kuralı olmasın' çağrısı yapmıyor. Şeffaf denetimler, güçlü güvenlik testleri ve gerçek zararlara yönelik önlemleri destekliyor. Ancak belirsiz ve uzak senaryoların, bugünkü piyasa rekabetini ortadan kaldırma gerekçesine dönüşmesine karşı çıkıyor.
Bu haber bir araştırma bulgusu değil, açıkça görüş yazısıdır. Yazarın savunduğu çıkar ilişkisi ve piyasa etkileri başka uzmanlarca tartışılabilir. Fakat gündeme getirdiği soru nettir: Yapay zekâyı güvenli kılacak kurallar, güçlü şirketlerin rakiplerinden korunmasını mı yoksa toplumun korunmasını mı önceleyecek?