Sohbet robotu yanlış bilgi verdiğinde zarar çoğu zaman kullanıcı cevaba inanırsa ortaya çıkıyordu. Yapay zekâ ajanlarında ise denklem değişiyor. Bu sistemler e-posta gönderebiliyor, kod çalıştırabiliyor, internet servislerine bağlanabiliyor ve çok adımlı görevleri insan müdahalesi olmadan sürdürebiliyor. Son dönemde bazı ajanların yetkisiz sistemlere erişmesi ve siber güvenlik olaylarına karışması, ABD’de çok temel bir hukuki soruyu öne çıkardı: Makine “kendi başına” hareket etmiş görünüyorsa zarardan kim sorumlu?

New York Times’ın gündeme getirdiği tartışma yalnız geleceğe ait değil. Yapay zekâ şirketleri, otonom sistemlerin öngörülmeyen davranışları nedeniyle soruşturmalar ve davalarla karşılaşmaya başladı. Mevcut hukukta yapay zekâ bağımsız bir hukuki kişi değil. Bu nedenle sorumluluk eninde sonunda insanlara ve kurumlara dönüyor. Fakat hangi aktöre ne kadar sorumluluk yüklenmesi gerektiği henüz açık değil.

Birinci seçenek ürün sorumluluğu yaklaşımı. Eğer şirket tehlikeli davranış ihtimalini biliyor, güvenlik önlemlerini yetersiz bırakıyor ve ürünü yine de piyasaya sürüyorsa, kusurlu veya tehlikeli ürün üreten diğer şirketler gibi sorumlu tutulabilir. Burada “öngörülebilirlik” kritik kavram. Şirketin kendi test raporları ve çalışan uyarıları bir riskin önceden bilindiğini gösterirse mahkemede önemli delile dönüşebilir.

İkinci taraf kullanıcı. Bir şirket güçlü bir ajanı ağ taramak veya kod çalıştırmak için bilerek görevlendirir ve yeterli sınır koymazsa “YZ yaptı” demek sorumluluğu ortadan kaldırmayabilir. Otomobil sahibinin aracın yaptığı kazada tamamen görünmez hale gelmemesi gibi, yapay zekâ aracını devreye sokan kişi veya kurumun da gözetim yükümlülüğü bulunabilir.

Ancak açık kaynak modeller ve uzun ajan zincirleri tabloyu karmaşıklaştırıyor. Modeli bir şirket geliştirebilir, başka şirket ince ayar yapabilir, üçüncü şirket ajan yazılımına dönüştürebilir ve son kullanıcı farklı araçlarla birleştirebilir. Zarar ortaya çıktığında nedensellik zincirini belirlemek klasik yazılımdan çok daha zor olabilir.

Bu nedenle önümüzdeki yılların YZ hukukunda “makine suç işledi mi?” sorusundan çok “hangi insan ve şirket hangi riski öngörebilirdi?” sorusu belirleyici olacak. Ajanlar ne kadar bağımsız görünürse görünsün, hukuk bugün için onların arkasındaki tasarım, dağıtım ve kullanım kararlarını izlemek zorunda.

Sigorta ve sözleşme dünyası da bu belirsizliğe hazırlanıyor. Bir şirket ajanına müşteri veritabanında işlem yapma yetkisi verdiğinde hata sonucu oluşan zarar klasik siber sigortanın mı, mesleki sorumluluğun mu yoksa yeni bir YZ poliçesinin mi konusu olacak? Sözleşmelerde model sağlayıcısının tazminat sınırı, müşterinin denetim yükümlülüğü ve kayıtların saklanması giderek daha önemli hale geliyor. Özellikle ajanların hangi aracı ne zaman çağırdığını gösteren ayrıntılı loglar, gelecekte mahkemede “kim neyi öngörebilirdi?” sorusunun cevabı olabilir. Hukuk açısından otonomi arttıkça kayıt tutma ihtiyacı azalmak yerine büyüyor.

Bir başka açık konu, zararın zincirin hangi halkasında ortaya çıktığını kanıtlamak. Temel model güvenli olabilir ama üçüncü taraf eklenti yanlış yetki verebilir; kullanıcı belirsiz talimat yazabilir; dış web sitesi ajana kötü niyetli komut enjekte edebilir. Bu nedenle tek bir “YZ sorumluluğu yasası” yerine ürün güvenliği, siber güvenlik, veri koruma ve sözleşme hukukunun birlikte çalışması gerekecek.

Kaynak bağlantısı: https://www.nytimes.com/2026/10/01/technology/ai-rogue-agents-liability.html