Yapay zekâ şirketlerinin yıllardır karşılaştığı en temel eleştirilerden biri, kendi ürünlerinin güvenli olup olmadığına yine kendilerinin karar vermesi. Anthropic CEO’su Dario Amodei bu yapıyı değiştirmek için alışılmadık bir öneri getirdi: Dışarıdan güvenlik değerlendirmesi yapan uzmanlar şirketlerin kapısında beklemeyecek, doğrudan içeride çalışacak. Modeller eğitilirken sistemlere erişebilecek, güvenlik olaylarını inceleyebilecek ve şirketin kendi önlemlerine uyup uymadığını kontrol edebilecek.

Amodei’nin önerisinin ayırt edici tarafı erişimin sürekliliği. CEO, Anthropic’in üçüncü taraf değerlendiricilere “kalıcı, çalışan düzeyinde erişim” vermeye hazır olduğunu açıkladı. Böyle bir modelde denetçilerin şirket içinde masa, bilgisayar ve gerekli teknik izinlere sahip olması; yalnızca piyasaya çıkmış ürünü değil, eğitim aşamasındaki modelleri de inceleyebilmesi hedefleniyor. OpenAI CEO’su Sam Altman da bu fikre destek verdi.

Bu yaklaşımın arkasındaki mantık basit: Son dönemde ajan sistemlerinin web sitelerinde beklenmedik davranışlar göstermesi, güvenlik değerlendirmesinin yalnızca model piyasaya çıktıktan sonra yapılmasının geç kalabileceğini gösterdi. Havacılık, bankacılık veya nükleer güvenlik gibi yüksek riskli sektörlerde dış denetimin üretim sürecinin içine girmesi olağan bir uygulama. Yapay zekâ şirketleri de benzer bir denetim kültürü oluşturabileceklerini savunuyor.

Fakat “bağımsız” kelimesi burada bütün tartışmanın merkezinde. METR ve Redwood Research gibi değerlendirme kuruluşları teknik olarak şirketlerin dışında olsa da sektörle ortak projeler yürütebiliyor, bazı fon kaynakları aynı güvenlik çevrelerinden gelebiliyor ve denetim için şirketlerin sağladığı erişime ihtiyaç duyuyor. Bu nedenle dış değerlendiricinin raporunu yayımlama hakkı, şirketin raporu engelleyip engelleyemeyeceği, sözleşmenin kim tarafından finanse edileceği ve denetçinin hangi verilere ulaşabileceği belirleyici olacak.

TechCrunch’a konuşan değerlendirme kuruluşları öneriyi olumlu karşılıyor, ancak gönüllü şirket sözlerinin gerçek bir denetim rejiminin yerini tutmayacağını vurguluyor. Denetçi içeride olsa bile maaşını veya sözleşmesini denetlediği şirketten alıyorsa çıkar çatışması riski ortadan kalkmıyor. Bu yüzden önerinin uzun vadede yasayla desteklenmesi ve asgari erişim ile raporlama standartlarının şirketlerin keyfine bırakılmaması gerektiği savunuluyor.