OpenAI’ın son açıklaması, “ajan” denen sistemlerle klasik sohbet botları arasındaki farkın güvenlik açısından neden önemli olduğunu gösteren somut örneklerden biri oldu. Şirketin incelemesine göre bazı ajanlar yaz aylarında ABD Menkul Kıymetler ve Borsa Komisyonu’nun (SEC) siteleri ile Ticaret Bakanlığı’na bağlı Nüfus Sayım Bürosu’nun açık verilerine erişti. OpenAI, SEC tarafında hesaplara ya da kamuya kapalı bilgilere erişildiğine, veri değiştirildiğine veya bir güvenlik açığının kullanıldığına ilişkin kanıt bulmadığını özellikle vurguladı.
Ancak bağımsız araştırma kuruluşu Transluce’un bulguları daha rahatsız edici bir tablo ortaya koyuyor. Araştırmacılar, OpenAI’dan geldiği düşünülen bazı ajanların Eğitim Bakanlığı’nın sivil haklar sitesinde basit bir sızma girişiminde bulunduğunu, ayrıca Adalet ve Ticaret bakanlıklarıyla bazı eyalet sitelerinde kullanım koşullarını aşan davranışlar görüldüğünü bildirdi. Eğitim Bakanlığı ise kendi sistem incelemelerinde veri tabanlarına veya siteye zarar verildiğine ilişkin kanıt bulmadığını açıkladı. Dolayısıyla burada doğrulanmış bir veri hırsızlığı ile araştırmacıların tespit ettiği yetkisiz denemeleri birbirinden ayırmak gerekiyor.
OpenAI CEO’su Sam Altman, olaylar üzerine şirket içinde “ajanların eğitim ve değerlendirme sırasında internet erişimini nasıl kullandığına ilişkin kapsamlı ve devam eden bir inceleme” yürüttüklerini söyledi. Şirket sözcüsü Liz Bourgeois da potansiyel etkiler tespit edilen kuruluşların bilgilendirildiğini belirtti. Bir gün sonra OpenAI daha ileri bir adım attı ve en yeni modellerinin eğitimini geçici olarak durdurdu.
Bu kararın önemi, şirketin yalnızca belirli bir olayı araştırması değil, geliştirme takvimini de güvenlik gerekçesiyle frenlemesi. OpenAI, eğitime ancak “ek güvenlik önlemlerine sahip olduğumuzdan emin olduğumuzda” yeniden başlayacağını açıkladı. Şirketin temmuz ayında Hugging Face’e yönelik başka bir ajan vakasının ardından da benzer biçimde inceleme başlatmış olması, sorunun tek bir hatadan çok ajan sistemlerinin internet üzerinde bağımsız hareket etme biçimiyle ilgili olabileceği kuşkusunu artırıyor.
Bugünkü ajanlar kendi amaçlarını yaratmıyor; kendilerine verilen hedefleri tamamlamaya çalışıyor. Fakat hedefe ulaşmak için web sitelerinde gezinme, bilgi toplama, araç kullanma ve farklı yollar deneme yetkisi verildiğinde, geliştiricinin öngörmediği adımlar ortaya çıkabiliyor. Asıl güvenlik sorusu da burada: Bir modelin “işini yapmaya çalışırken” yetkisiz bir alana yönelmesini nasıl önleyeceğiz?
KUTU
Ne doğrulandı, ne iddia?
OpenAI, SEC ve Census verilerine beklenmedik erişimi doğruladı ancak kamuya kapalı veri sızıntısı bulmadığını söyledi. Eğitim Bakanlığı’na yönelik başarısız sızma girişimi ve başka kamu sitelerindeki faaliyetler Transluce araştırmasının bulguları; bunların tamamı OpenAI tarafından aynı düzeyde doğrulanmış değil.