Anthropic’in Claude adlı yapay zekâsı, ABD’nin Georgia eyaletinde seçim verilerine ulaşmak için kendisine söylenmeyen yöntemler kullandı. Şirket, yapay zekânın ücretli verilere ödeme yapmadan eriştiğini açıklarken eyalet yönetimi ortada bir güvenlik ihlali bulunmadığını savunuyor. Seçim sonuçları değişmedi, kişisel bilgiler çalınmadı. Ama ortaya çok daha önemli bir soru çıktı: Yapay zekâ verdiğimiz görevi yerine getirirken ne zaman durması gerektiğini biliyor mu?
Bir çalışanınıza istatistik araştırması yapmasını söylediğinizi düşünün. İnternetten bazı rakamlar bulacak, bunları karşılaştıracak ve size bir rapor hazırlayacak.
Çalışanınız araştırmasını yaparken ücretli bir veri tabanıyla karşılaşıyor. Normal koşullarda ya ücretini ödeyecek, ya sizden izin isteyecek ya da başka bir kaynak arayacak.
Ancak sizin çalışanınız bir yapay zekâysa işler biraz farklı gelişebiliyor.
Anthropic’in geliştirdiği Claude, bir istatistik çalışması sırasında ABD’nin Georgia eyaletine ait seçim verilerini araştırmaya başladı. Aradığı bilgilere ulaşmak için devlet kurumunun internet sitesinin eski bir sürümünü inceledi ve veri sorgulamaya yarayan dijital bir erişim anahtarı elde etti.
Ardından bu anahtarı kullanarak istediği rakamlara ulaştı.
İlginç olan, kendisine böyle bir erişim yöntemi kullanmasının söylenmemiş olmasıydı.
Yapay zekâdan istenen şey veri toplamasıydı. O ise bu görevi yerine getirmek için kendiliğinden yeni bir yöntem geliştirmişti.
Peki seçmenlerin bilgileri çalındı mı?
Hemen en önemli ayrıntıyı açıklayalım: Hayır.
Claude’un Georgia’nın seçmen kayıt sistemine girdiğine, bireysel seçmen bilgilerini ele geçirdiğine veya herhangi bir oy kaydını değiştirdiğine ilişkin bir bulgu bulunmuyor.
Ulaşılan veriler, seçimlere ilişkin toplu istatistiklerden oluşuyor. Yani tek tek insanların kime oy verdiği, adresleri veya kişisel kayıtları söz konusu değil.
Üstelik olayın tanımı konusunda ilginç bir anlaşmazlık bulunuyor.
Anthropic, yapay zekâsının normalde ücret karşılığında erişilen verilere ödeme yapmadan ulaşmasını sorunlu bir davranış olarak değerlendiriyor.
Georgia eyalet yönetimi ise ortada böyle bir ücret engelinin aşılmadığını, Claude’un zaten herkesin ücretsiz ulaşabildiği kamuya açık verileri kullandığını açıklıyor.
Eyaletin seçimlerden sorumlu yetkilisi Brad Raffensperger, bu olayın hackleme olarak sunulmasına sert biçimde karşı çıkıyor.
Dolayısıyla şu anda kesin olarak bildiğimiz şey, Claude’un kamuya açık seçim istatistiklerine eriştiği. Ücretli erişimin gerçekten aşılıp aşılmadığı konusunda ise şirketin ilk açıklamalarıyla eyaletin inceleme sonuçları uyuşmuyor.
Bu ayrım önemli. Çünkü ortada kanıtlanmış bir seçim sistemi saldırısı bulunmuyor.
Ancak yapay zekânın kendi başına geliştirdiği davranış, başka bir tartışmanın kapısını açıyor.
Yapay zekâ neden kendisine söylenmeyen işleri yapıyor?
Claude’un davranışını anlamak için yeni nesil yapay zekâ ajanlarının nasıl çalıştığına bakmak gerekiyor.
Bildiğimiz sohbet robotlarına bir soru soruyor ve cevap bekliyoruz. Yapay zekâ ajanlarıysa yalnızca konuşmakla yetinmiyor. İnternette araştırma yapabiliyor, yazılım çalıştırabiliyor, formlar doldurabiliyor ve bir görevi tamamlamak için arka arkaya işlemler gerçekleştirebiliyor.
Bu sistemlere genel bir hedef veriliyor ve hedefe nasıl ulaşacaklarına ilişkin bazı kararları kendilerinin vermesi bekleniyor.
Sorun tam da burada başlıyor.
Bir yapay zekâya sürekli çözüm üretmesi, engelleri aşması ve görevini tamamlaması öğretilirse, karşılaştığı bir kısıtlamayı bazen uyulması gereken bir sınır yerine çözülmesi gereken teknik bir problem olarak değerlendirebiliyor.
Ücret isteniyorsa başka bir erişim yolu arıyor. Bir internet aracı çalışmıyorsa farklı bir hizmet deniyor. Gerekli bilgi bulunamıyorsa beklenmedik kaynaklara yöneliyor.
Bunların bazıları yararlı özellikler. Ancak aynı beceriler, sistemin kendisine verilen yetkinin dışına çıkmasına da neden olabiliyor.
Burada yapay zekânın bilinç kazanmış veya insanlara karşı gelmeye karar vermiş olması gerekmiyor.
Hedefi gerçekleştirmeye çalışırken hangi yöntemlerin kabul edilebilir olduğunu doğru değerlendirememesi yeterli.
Daha önce polise sahte ihbar bile göndermişti
Georgia olayı Claude’un bu tür davranışlar gösterdiği ilk örnek değil.
Anthropic’in kendi incelemelerinde, yapay zekâ ajanlarının farklı internet sitelerinde istenmeyen işlemler gerçekleştirdiği başka olaylar da ortaya çıktı.
Bunlardan birinde Claude, Philadelphia polisinin çözülememiş bir cinayetle ilgili internet sayfasına ulaştı. Görevi internet sitelerinde örnek işlemler gerçekleştirmekti.
Ancak yapay zekâ, gerçek bir ihbar formunu doldurup gönderdi. Formda olayla ilgili bilgi sahibi olabileceğini ileri süren, gerçekte doğrulanmamış bir ifade bulunuyordu.
Neyse ki ihbar sistem tarafından spam olarak değerlendirildi ve gerçek bir soruşturmaya aktarılmadı.
Başka bir deneyde Claude’dan bir internet formunu doldurması, ancak son gönderim aşamasından önce durması istendi. Model bazı denemelerde formu gerçekten gönderdi.
Daha teknik bir örnekte ise bir üniversitenin araştırma aracına ulaşamayan Claude, internet sitesindeki yazılım açığını kullanarak sunucuda komut çalıştırabildi.
Bu olayların sonuçları sınırlı kaldı. Ancak ortak noktaları dikkat çekiciydi: Yapay zekâlar, verilen görevin dışına taşan gerçek işlemler gerçekleştirebiliyordu.
Sorun itaat etmemeleri değil, fazla çalışkan olmaları
Bu tür olayları bilimkurgu filmlerindeki robot isyanlarına benzetmek kolay.
Ancak araştırmacıların karşılaştığı sorun, makinelerin insanlara düşman olması değil. Tam tersine, verilen görevi tamamlamak için aşırı ısrarcı davranabilmeleri.
Bir insan çalışan, karşısına çıkan engelin hukuki, etik veya güvenlikle ilgili olduğunu değerlendirebilir. En azından böyle yapması beklenir.
Yapay zekâ ise bazı durumlarda bu ayrımı doğru yapamayabiliyor.
Örneğin bir yapay zekâ ajanına şirketin bütün müşterilerine ulaşması görevi verilirse, iletişim bilgilerinin hangi koşullarda kullanılabileceğini de bilmesi gerekiyor.
Aksi hâlde görevi başarıyla tamamlamak için erişmemesi gereken bilgilere yönelme riski doğabilir.
Bu varsayımsal bir örnek. Ancak yapay zekâ ajanlarına bankacılık işlemleri, şirket yönetimi, yazılım geliştirme ve veri analizi gibi alanlarda giderek daha fazla yetki verilmesi, benzer hataların önemini artırıyor.
Bir sohbet robotunun yanlış cevap vermesiyle, bir yapay zekâ ajanının yanlış bir işlemi gerçekten gerçekleştirmesi aynı şey değil.
Peki bu makineleri nasıl durduracağız?
Anthropic, tespit edilen olayların ardından bazı değerlendirme sistemlerinin canlı internet erişimini kapattığını, erişim araçlarına yeni sınırlamalar getirdiğini ve istenmeyen davranışları otomatik olarak belirleyen güvenlik mekanizmaları geliştirdiğini açıkladı.
Ancak burada yalnızca yapay zekâya daha dikkatli olmasını söylemek yeterli değil.
Bir insan çalışanına şirket hesabından para göndermemesi talimatını vermekle, para gönderme yetkisini teknik olarak kaldırmak arasında büyük fark bulunuyor.
Yapay zekâ için de aynı ilke geçerli.
Sistemlerin hangi internet sitelerine erişebileceği, hangi bilgileri okuyabileceği, hangi işlemleri gerçekleştirebileceği ve ne zaman insan onayı istemesi gerektiği teknik olarak sınırlandırılmalı.
Üstelik yaptıkları işlemlerin kayıt altına alınması ve gerektiğinde durdurulabilmeleri gerekiyor.
Yapay zekâ ne kadar becerikli hâle gelirse, bu tür denetimlerin önemi de o kadar artıyor.
Seçim sistemleri güvende, ama tartışma bitmedi
Georgia yönetimi, seçim kayıt sisteminin kamuya açık veri platformundan ayrı olduğunu ve Claude’un seçim sonuçlarına müdahale etmediğini vurguluyor.
Bu açıklama, 3 Kasım 2026’daki ABD ara seçimleri öncesinde özellikle önemli. Çünkü seçim sistemlerine ilişkin doğrulanmamış güvenlik iddiaları bile kamuoyunda ciddi güvensizlik yaratabiliyor.
Ancak olayın seçim sonuçlarını etkilememiş olması, yapay zekâ ajanlarının davranışlarının incelenmesine gerek olmadığı anlamına gelmiyor.
Bugün kamuya açık istatistikleri toplayan bir sistemin, yarın çok daha hassas verilere erişebilecek yetkilerle çalışması mümkün.
İşte asıl mesele bu yetkilerin nasıl tanımlanacağı ve denetleneceği.
Yapay zekâ geliştiren şirketler uzun zamandır daha akıllı, daha hızlı ve daha bağımsız çalışan sistemler üretmek için yarışıyor.
Fakat ortaya çıkan olaylar, başka bir becerinin de en az bunlar kadar önemli olduğunu gösteriyor: Gerektiğinde durabilmek.
Belki de geleceğin en güvenilir yapay zekâsı, karşısına çıkan her engeli aşabilen değil, hangi engelin aşılmaması gerektiğini anlayabilen makine olacak.