The Register’ın aktardığı Booz Allen Hamilton güvenlik testlerinde, gelişmiş yapay zekâ modelleri endüstriyel kontrol ortamlarına yönelik tasarlanmış saldırı görevlerinde kayda değer başarı gösterdi. Araştırmacılar, bazı modellerin birbirini izleyen adımları sınırlı insan yönlendirmesiyle tamamlayabildiğini ve simüle edilmiş ya da kontrollü sistemlerde tehlikeli sonuçlara ulaşabildiğini bildirdi. Su şebekeleri, enerji tesisleri ve sanayi ekipmanlarında kullanılan kontrol teknolojilerinin internete bağlanması bu riski daha ciddi hale getiriyor.
Su arıtma tesisleri, enerji şebekeleri ve fabrikalar bilgisayar ağlarıyla birlikte fiziksel ekipman kullanır. Bu nedenle böyle sistemlere yapılan başarılı bir saldırının sonucu bir veri dosyasının çalınmasından çok daha ağır olabilir; üretim durabilir veya makinelerin davranışı değişebilir.
Test ortamında başarılı olmak, her gerçek tesise uzaktan girilebildiği anlamına gelmiyor. Ağların ayrıştırılması, yetki denetimi ve fiziksel emniyet katmanları büyük fark yaratır. Araştırmanın asıl uyarısı saldırganların bazı adımları otomatikleştirme maliyetinin düşebileceği.
En çarpıcı ayrıntı, bir siber saldırının artık yalnızca bilgisayardaki dosyaları değil, fiziksel süreçleri de etkileyebilme ihtimali. Bir vananın, pompanın veya robot kolunun yanlış komut alması işletme güvenliği sorunu yaratabilir. Ancak laboratuvar başarısını gerçek bir şehrin su veya elektrik şebekesinin ele geçirildiği şeklinde okumamak gerekir. Araştırmanın uyarısı, savunmacıların yama, ağ ayrımı, erişim sınırı ve anlık izleme önlemlerini çok daha hızlı geliştirmesi gerektiği.
Savunmacılar için temel ders, yapay zekâyı tek başına bir tehdit olarak görmek yerine endüstriyel güvenliği bütün katmanlarıyla güçlendirmek. Olay kaydı, anormallik izleme ve insan müdahale planı öne çıkıyor.