Bir grup ülke, yapay zekâ güvenliğini şirketlerin kendi gönüllü politikalarına bırakmanın yeterli olmadığını savunan ortak bir çağrı yayımladı. Finlandiya Cumhurbaşkanı Alexander Stubb ile Norveç Başbakanı Jonas Gahr Støre tarafından başlatılan “Sınır Yapay Zekâ Modellerinin Kontrolü İçin Çağrı”, en gelişmiş sistemlerin insan denetimi altında tutulmasını ve uluslararası hukuk çerçevesinde geliştirilmesini istiyor. Girişime Kanada, Fransa, Almanya, Avustralya, Singapur, Güney Afrika ve Türkiye dahil çok sayıda ülkenin temsilcileri destek verdi.
Metnin çıkış noktası son aylarda yaşanan güvenlik olayları. Ortak açıklamada gelişmiş yapay zekâ sistemlerinin bazı test korumalarını aşabildiği, yazılım açıklarından yararlanabildiği ve gerçek dünyadaki sistemlere yetkisiz erişim sağlayabildiği örneklere atıf yapılıyor. Liderlerin temel endişesi, modellerin yetenek kazanma hızının devletlerin ve şirketlerin bu sistemleri güvenli biçimde değerlendirme kapasitesini aşması.
Çağrı üç temel mekanizma öneriyor. Birincisi, ileri modeller piyasaya veya yaygın kullanıma sunulmadan önce zorunlu güvenlik testlerinden geçirilmeleri ve bağımsız uzmanların modelleri değerlendirebilmesi. İkincisi, ülkelerin ve bölgesel kuruluşların ortak standartlar geliştirmesi ve ciddi güvenlik olaylarının paylaşılacağı uluslararası bir raporlama düzeni kurması. Üçüncüsü ise Birleşmiş Milletler çatısı altında standart belirleyebilecek, doğrulama yapabilecek ve belirli yetenek eşikleri aşıldığında devletleri bir araya getirebilecek uluslararası bir kurum seçeneğinin araştırılması.
Norveç Başbakanı Støre, girişimin amacını teknolojiyi durdurmak olarak tanımlamıyor. “Sınır yapay zekâ modellerinin gelişimi, kontrolü elimizde tutabileceğimiz bir hızda gerçekleşmeli” diyor. Støre aynı açıklamada yapay zekânın ekonomi, araştırma, sanayi ve kamu hizmetlerinde büyük fayda yaratabileceğini de vurguluyor. Yani çağrı, “geliştirmeyelim” değil, “geliştirirken ölçülebilir güvenlik şartları koyalım” yaklaşımını benimsiyor.
Girişim henüz bağlayıcı bir uluslararası anlaşma değil. Şirketlere zorunluluk getirmiyor ve yeni bir denetim kurumu da kurulmuş değil. Bununla birlikte yapay zekâ politikasında önemli bir yön değişimini gösteriyor: Devletler, yalnızca veri koruma veya telif gibi kullanım alanlarını değil, modellerin kendilerinin geliştirilme aşamasını da uluslararası güvenlik konusu olarak ele almaya başlıyor.
KUTU
Çağrının üç talebi
1) En gelişmiş modeller için piyasaya çıkmadan önce zorunlu test ve bağımsız değerlendirme. 2) Ülkeler arasında ortak standartlar ve ciddi yapay zekâ olayları için paylaşımlı raporlama. 3) Belirli yetenek eşikleri aşıldığında devletleri bir araya getirebilecek, BM bağlantılı uluslararası bir denetim mekanizmasının araştırılması.