Yapay zekâ şirketlerinin hangi kurallarla denetleneceği tartışılırken Claude'un geliştiricisi Anthropic alışılmadık bir adım attı: ABD Kongresi üyelerine kendi hazırladığı yasa taslağını sundu. Politico'nun ortaya çıkardığı girişim, şirketlerin yalnızca gelecekteki düzenlemelere uymak değil düzenlemelerin nasıl yazılacağını da etkilemek istediğini gösteriyor.
Reuters'in aktardığı taslağın en dikkat çekici özelliği, modelin durdurulabilmesi için çok yüksek bir risk eşiği öngörmesi. Yetkili makamların müdahalesi, yakın ve öngörülebilir biçimde 1 milyar doları aşan maddi zarar veya 50'den fazla kişinin ölümü ya da ciddi biçimde yaralanması riski halinde mümkün olabilecek.
Üstelik zarar türleri sınırsız değil. Biyolojik silah geliştirilmesi, büyük bir siber saldırı veya modelin geliştiricisinin denetiminden kaçması gibi belirli durumlar sayılıyor. Bu yüzden taslak, bir modelin yanlış bilgi vermesini ya da sıradan bir güvenlik şikâyetini otomatik olarak durdurma gerekçesi yapmıyor.
Öneride bağımsız değerlendiriciler de önemli yer tutuyor. Ticaret Bakanlığı'na kayıt yaptıran kuruluşların laboratuvarları ve modelleri düzenli biçimde incelemesi öngörülüyor. Bu değerlendirmeleri şirketler finanse edebilecek ancak ödemenin sonucu etkileyecek koşullara bağlanmaması gerekecek.
Denetçiler listelenmiş yakın bir ağır risk tespit ederse bulgularını 72 saat içinde Ticaret Bakanlığı'na iletecek. Bakanlık, modelin durdurulmasını gerekli görürse yargıya başvurabilecek; federal yargıç durdurma kararı verebilecek. Yani önerinin mantığı bir bakanın tek taraflı düğmeye basması değil, belirli eşiklerle sınırlı yargısal müdahale.
Bu taslak henüz yasa değil. Ayrıca önerinin çok yüksek müdahale eşiği ayrı bir tartışma konusu. İnsanlara zarar verebilen ama 50 ölüm veya 1 milyar dolar zarara ulaşmayan risklerin nasıl karşılanacağı, düzenlemenin koruyucu etkisini belirleyecek.
Şirketin kendi sektörü için kural hazırlaması da çıkar çatışması sorusunu gündeme getiriyor. Büyük laboratuvarların karşılayabildiği değerlendirme maliyetleri, küçük rakipler için ağır bir engel olabilir. Güvenlik standardının gerçekten kamuyu koruyup korumadığı, taslağın Kongre'deki müzakerelerinde ortaya çıkacak.