Yapay zeka bir metni yazanın yapay zeka olup olmadığını söyleyemiyor

Yapay zeka ile oluşturulan içeriklerin sayısı gün geçtikçe artıyor. Özellikle kimi iş yerlerinde ve okullarda insan emeğinin isteniyor ve yapay zeka kullanılmasına sıcak bakılmıyor. O yüzden de yapay zekanın yazdıklarını insan emeğinden ayıracak araçlar aranıyor. Yapay zekanın en önemli yaratıcılarından biri olan OpenAI “benim böyle bir aracım var” diyerek herkesi şaşırttı.

Ama…

OpenAI, düşük doğruluk oranı nedeniyle insan yazımını AI’dan ayırt etmesi beklenen bir aracı kapattı. Bu konuda bir blog yazısı yazan OpenAI, AI sınıflandırıcısını 20 Temmuz itibarıyla sonlandırmaya karar verdiğini söyledi. Şirket, “Geri bildirimleri dahil etmek için çalışıyoruz ve şu anda metin için daha etkili köken teknikleri üzerinde araştırma yapıyoruz.” dedi.

AI üretilmiş yazıları yakalamak için aracı kapatırken, OpenAI sesli veya görsel içeriğin AI tarafından oluşturulup oluşturulmadığını anlamak için kullanıcılara olanak sağlayan mekanizmaları “geliştirme ve dağıtma” planlarını açıkladı. Ancak, bu mekanizmaların ne olabileceği hakkında henüz bir bilgi yok.

OpenAI, sınıflandırıcının hiçbir zaman AI üretimi metni yakalamada çok iyi olmadığını tamamen kabul etti ve yanlış pozitiflerin, yani AI üretilmiş olarak etiketlenen insan yazımı metnin çıkabileceği konusunda uyardı. Araç kapatıldıktan önce OpenAI, sınıflandırıcının daha fazla veriyle daha iyi olabileceğini söyledi.

OpenAI’nin ChatGPT’si sahneye fırlayıp şimdiye kadar en hızlı büyüyen uygulamalardan biri olduktan sonra, insanlar teknolojiyi kavramaya çalıştı. Özellikle öğrencilerin artık çalışmayı bırakıp sadece ChatGPT’nin ödevlerini yazmasından endişe eden eğitimciler olmak üzere birçok sektör, AI üretimi metin ve sanat konusunda alarm verdi. Doğruluk, güvenlik ve hile yapma konularındaki endişelerle New York okulları, okul alanlarına ChatGPT’ye erişimi bile yasakladı.

AI aracılığıyla yanıltıcı bilgi de bir endişe olmuştur, çalışmalar AI üretilmiş metinlerin, tweetlerin gibi, insanların yazdığından daha ikna edici olabileceğini göstermiştir. Hükümetler, AI’yi nasıl kontrol edeceklerini henüz çözemedi ve şimdiye kadar bunu bireysel gruplara ve organizasyonlara bıraktı, kendi kurallarını belirlemeleri ve bilgisayar tarafından oluşturulan metin akınını idare etmek için kendi koruyucu önlemlerini geliştirmeleri gerekiyor. Ve şimdilik, başlangıçta jeneratif AI çılgınlığını başlatan şirket bile, bununla nasıl başa çıkılacağına dair cevaplara sahip değil. Bazı insanlar yakalanıyor olsa da, AI ve insan işini kolayca ayırt etmek giderek zorlaşacak.

OpenAI ayrıca, Federal Ticaret Komisyonu’nun OpenAI’yi bilgi ve veri kontrolü nasıl yaptığı konusunda soruşturduğu bir dönemde güven ve güvenlik liderini de kaybetti. OpenAI, blog yazısının ötesine geçmeyen bir yorum yapmayı reddetti.