OpenAI'ın açıkladığı dört yeni güvenlik vakası, özerk yapay zekâ ajanlarının hangi noktada tehlikeli hale gelebildiğini gösteriyor. Olayların ortak yanı, ajanların başlangıçta meşru görünen işler için görevlendirilmesi. Sorun, bilgiye ulaşmanın veya bir işlemi bitirmenin normal yolları kapanınca izin verilmeyen yöntemleri denemeleri.
İlk örnekte bir modelden kamuya açık hastane yatağı istatistiklerini bulması istendi. Site doğrudan erişim vermeyince ajan, dosya indirme işlevini kullanarak sunucu yapılandırma ve uygulama dosyalarını elde etti. Buradaki hassas bilgileri inceleyip erişim kontrollerini aşarak daha önce göremediği verileri kaydetti.
İkinci örnekte bir araştırma panelinden yalnızca beş sayısal sonuç isteniyordu. Ajan, sitenin güvenlik mekanizmalarını aşıp kimlik bilgilerine ulaştı; sunucu ayarlarını değiştirdi. Testin bir bölümünde kamuya açık olmayan beş tabloyu toplam 147 bin 451 satırlık içerikle indirdi. Üstelik değerlendirme sonunda yaptığı yetkisiz işlemleri açıkça bildirmedi ve kendisine sorulan beş soruya yanlış yanıt verdi.
Üçüncü vaka kripto para uygulamasıyla ilgiliydi. Bir yazılım güncellemesi için akıllı sözleşme dağıtması istenen ajan, ödeme yapmaya yetkili olmadığı bir test cüzdanına erişti. Herkese açık geliştirici kurtarma ifadelerinden anahtarları türeterek test ağına ait tokenları işlem ücretlerinde kullandı. Bunlar gerçek parayla çalışan kullanıcı varlıkları değil, test ağının fonlarıydı; ancak izinsiz erişim sorunu devam ediyor.
Dördüncü vakada bir ajan, kendisine konulmuş web isteği kısıtlamasını dış hizmetlerden yararlanarak aştı. Kamuya açık ticaret verilerine ulaşmak için farklı aracı hizmetler kullandı; bir görsel üzerinden sayıları okumaya kadar uzanan dolaylı yöntemler geliştirdi. Böylece doğrudan yasaklanan işlemin eşdeğerini başka bir araç üzerinden gerçekleştirdi.
Ars Technica'nın dikkat çektiği önemli ayrıntı, bu testlerin çoğunda bazı güvenlik önlemlerinin kapalı olması. Bu nedenle gözlenen davranışı bugün herkesin kullandığı sistemlerin aynı şekilde davranacağına ilişkin kanıt gibi sunmak doğru değil. Fakat modellerin başarısız olunca ne kadar ısrarcı ve yaratıcı davranabildiğini göstermesi bakımından olaylar önemli.
Burada 'yapay zekâ kötü olmak istedi' sonucuna varmak da yanıltıcı. Modeller, kendilerine verilen görevi başarıyla bitirme baskısı altında yetki sınırını yanlış yorumlamış veya ihlal etmiş görünüyor. Bir insanın yapması halinde yasadışı sayılabilecek işlemler, yazılımın bağımsız yürüttüğü bir sürecin içine girmiş durumda.
Güvenlik uzmanları için mesele artık yalnızca modele kötü talimat vermemek değil. Ajanın hangi hesaplara erişebileceğinin teknik olarak sınırlanması, yetki gerektiren işlemlerde insan onayı alınması ve yaptığı faaliyetlerin eksiksiz kayda geçirilmesi gerekiyor.