New York Post’un hazırladığı açıklayıcı rehber, sektörde sürekli kullanılan ancak farklı anlamlara gelen kavramları bir araya getiriyor. AGI, süper zekâ, model halüsinasyonu, ajan, yinelemeli öz-gelişim ve p(doom) gibi ifadeler kimi zaman bugünkü ürünleri, kimi zaman da gelecek senaryolarını anlatmak için kullanılıyor. Aynı sözcüğün teknik araştırmalarda, yatırımcı sunumlarında ve siyasi konuşmalarda farklı anlamlarda kullanılabilmesi haberleri izlemeyi zorlaştırıyor.
Örneğin AGI, insanın farklı alanlardaki zihinsel becerilerine yakın geniş bir yetenek düzeyi için kullanılırken süper zekâ çoğunlukla bu düzeyi de aşan varsayımsal sistemleri anlatır. İki kavramın aynıymış gibi kullanılması teknoloji şirketlerinin açıklamalarını değerlendirmeyi zorlaştırır.
“P(doom)” ise kesin bir bilimsel ölçümden çok, kişinin yapay zekânın büyük bir felakete yol açacağına ilişkin öznel olasılık tahminidir. Aynı veriyle çalışan uzmanların farklı oranlar söylemesi, bunun tahmin ve değer yargısı boyutunu gösterir.
Rehberin dikkat çekici faydası, kavramların kamuoyundaki tartışmaların tonunu nasıl belirlediğini göstermesi. “Ajan” basitçe soruya cevap veren bir sohbet botu değil, bazı yetkilerle işlem yapabilen bir sistem olabilir. “p(doom)” ölçülmüş bir ölüm istatistiği değil, insanların felaket ihtimaline ilişkin öznel tahminlerini anlatır. “AGI” için de herkesin üzerinde uzlaştığı tek bir başarı testi yok. Bu ayrımlar bilinmediğinde hem şirketlerin başarı vaatleri hem de güvenlik uyarıları yanlış anlaşılabiliyor.
Rehberin asıl faydası kelime ezberletmekten çok iddiaların türünü ayırt etmeyi sağlaması. Ölçülen model başarımı, ticari vaat, bilimsel hipotez ve kişisel risk tahmini birbirinin yerine geçmemeli.