Business Insider’ın haberi, Meta’nın Muse ve benzeri yapay zekâ ürünlerini daha sıcak, oyuncu ve sevimli karakterlerle sunma eğilimini inceliyor. Teknoloji şirketleri, kullanıcıların karmaşık sistemlerle konuşmasını kolaylaştırmak için robotik, insanımsı veya çizgi film estetiğine başvurabiliyor. Görsel tasarım ve maskot kullanımı, bir algoritmaya karşı mesafeyi azaltarak onu gündelik hayata daha yakın bir yardımcı gibi göstermeyi amaçlıyor.
İnsanlar gözleri, yüz ifadesi veya sesi olan nesnelere kolaylıkla niyet ve duygu atfedebiliyor. Ürün tasarımında bu eğilim hizmeti kullanmayı daha anlaşılır hale getirebilir; ancak sistemin gerçek yetenekleri hakkında yanlış izlenim yaratma tehlikesi de taşır.
Bir karakterin sempatik olması, modelin kullandığı verilerin güvenli saklandığı ya da her yanıtının doğru olduğu anlamına gelmez. Özellikle çocuklar ve deneyimsiz kullanıcılar, arkadaş gibi görünen bir araca gereğinden fazla özel bilgi anlatabilir.
Bunun ilginç psikolojik sonucu, görüntüsü dostça olan bir sistemin gerçekte sahip olmadığı duyguları veya güvenilirliği kullanıcıya çağrıştırabilmesi. Bir maskot, ürünün nasıl çalıştığını açıklamadığı gibi verilen izinleri de otomatik olarak güvenli hale getirmez. Sevimliliğin pazarlama avantajı ile yapay zekâya gereğinden fazla insanî nitelik yükleme riski arasındaki çizgi bu yüzden önemli. Haberin temel sorusu şu: Kullanıcılar, gücünü anlamadıkları bir yazılıma daha kolay güvenmeleri için mi tasarlanmış karakterlerle karşılaşıyor?
Tasarım ve şeffaflık arasındaki denge belirleyici olacak. Şirketlerin kullanıcıyla sıcak ilişki kurma arzusu anlaşılabilir; bunun modelin sınırlamalarını, reklam niteliğini ve veri erişim izinlerini saklamaması gerekiyor.