Üretken yapay zekâ, bir gencin birkaç saniye içinde metin, fotoğraf ya da video üretmesini sağlıyor. Aynı kolaylık zararlı içerik için de geçerli. Clemson Üniversitesi’nin 1 Ekim 2026’da başlayan yeni araştırma projesi, klasik “yasak kelime filtresi” yaklaşımının bu yeni dönemde yeterli olmadığını savunuyor. ABD Ulusal Bilim Vakfı’nın desteklediği dört yıllık çalışma için 1,2 milyon dolar kaynak ayrıldı.

Projeyi Clemson’dan Linke Guo liderliğindeki disiplinlerarası ekip yürütüyor; bilgisayar bilimi ve mühendisliğinin yanında davranış bilimlerinden araştırmacılar da yer alıyor. University of Texas at Arlington’dan Ming Li de işbirliğine katılıyor. Bu yapı tesadüf değil. Çünkü sistemin yalnız teknik olarak zararlı içeriği tanıması değil, bu içeriğin gençlerin davranışları ve ruh sağlığı üzerindeki etkisinin de ölçülmesi hedefleniyor.

Araştırma dört ana başlıktan oluşuyor. İlk bölüm, büyük dil modellerinde kullanıcının söylediğiyle davranışı arasındaki tutarsızlıkları algılayabilen daha bağlamsal koruma mekanizmaları üzerine çalışacak. İkinci bölüm görüntü üretiminde zararlı unsurları kaldırırken komutun geri kalan anlamını ve görsel bütünlüğü korumaya odaklanıyor. Amaç her riskte bütün resmi reddetmek yerine sorunlu öğeyi daha hassas biçimde engelleyebilmek.

Üçüncü bölüm metin, görüntü ve videoları yalnız modelin kendi eğitimine dayanarak değil, dışarıdan sağlanan güvenilir politika ve yaşa uygunluk bilgileriyle değerlendiren bir güvenlik katmanı geliştirecek. Bu yaklaşım retrieval-augmented generation ve görsel-dil modellerini bir araya getiriyor. Böylece sistemin “neden bunu reddettiği” daha denetlenebilir hale getirilmeye çalışılacak.

Dördüncü ve belki de en önemli bölüm teknoloji dışına çıkıyor. Araştırmacılar gençlerle ve ebeveynlerle anketler ve derinlemesine görüşmeler yaparak güvenlik mekanizmalarının gerçekten davranışsal zararı azaltıp azaltmadığını ölçmek istiyor. Çünkü bir filtrenin teknik testte zararlı görüntüyü engellemesi, kullanıcının daha güvenli bir deneyim yaşadığı anlamına gelmeyebilir.

Projenin arka planında üretken modellerin pornografi, kendine zarar verme, nefret, zorbalık, manipülasyon ve yaşa uygun olmayan içerikleri çok düşük maliyetle üretebilmesi yatıyor. Genç kullanıcılar için sorun yalnız tek bir kötü cevap değil; sistemle uzun süreli etkileşimin davranışları ve normal kabul edilen sınırları nasıl değiştirdiği.

Clemson ekibinin hedefi 2030’a kadar daha şeffaf, denetlenebilir ve bağlama duyarlı güvenlik yöntemleri geliştirmek. Başarıya ulaşırsa sonuç yalnız çocuklara yönelik uygulamalarda değil, bütün üretken yapay zekâ servislerinde “güvenli cevap” kavramının daha ölçülebilir hale gelmesine katkı sağlayabilir.

Çalışmanın sonunda üretilecek araçların laboratuvardan ürüne geçmesi de ayrı bir sorun. Çocuk güvenliği için geliştirilen bir filtre, farklı yaş gruplarında ve kültürel bağlamlarda aynı sonucu vermeyebilir. Örneğin sağlık eğitimi amacıyla sorulan bir soru ile kendine zarar verme niyeti taşıyan benzer kelimeleri ayırmak bağlam gerektiriyor. Aşırı sert sistem yararlı bilgiyi de engelleyebilir; gevşek sistem ise riskli içeriği kaçırabilir. Clemson projesinin davranış bilimcileri dahil etmesinin nedeni bu dengeyi yalnız “kaç içerik bloklandı?” metriğine bırakmamak. Başarı, genç kullanıcının gerçekten daha güvenli karar verip vermediğiyle ölçülecek.

Kaynak bağlantısı: https://news.clemson.edu/new-safeguards-could-help-protect-young-people-from-unsafe-content-generated-by-artificial-intelligence/