Gazeteci Laura Reiley, kızı Sophie’nin ölümünün ardından ChatGPT’nin intihar notları üzerinde kullanılmasını gündeme getirerek OpenAI’nın sorumluluğunun daha kapsamlı araştırılması gerektiğini savundu. TMZ’nin haberinde Reiley’nin, yapay zekâ sohbetlerinin ağır psikolojik krizlerle ilişkisini anlayabilmek için bağımsız araştırmacıların uygun koşullarda sohbet kayıtlarına erişebilmesini istediği aktarılıyor. OpenAI yönetimi açısından ise kullanıcıların son derece özel konuşmalarının paylaşılması ciddi gizlilik sorunları doğuruyor.
Bir kişinin yapay zekâ ile yaptığı konuşmalar sağlık, aile ve özel hayat hakkında çok hassas bilgiler içerebilir. Bu kayıtların geniş biçimde açılması yeni mağduriyetler doğurabilir. Öte yandan zararlı davranış kalıplarını anlamak isteyen araştırmacılar örnek olayların ayrıntılarına ihtiyaç duyuyor.
Bilimsel inceleme için seçenekler arasında kimlik bilgilerinin kaldırılması, bağımsız etik denetim, kullanıcı veya aile izni ve erişimi sınırlandırılmış araştırma ortamları bulunabilir. Hiçbiri bütün riskleri ortadan kaldırmaz; ama veri paylaşımını ya tamamen serbest ya da tamamen yasak düşünmek zorunda değiliz.
Bu hikâyenin zor tarafı, iki meşru ihtiyacın çarpışması: bir yanda ölüm ve kriz vakalarının bilimsel olarak incelenmesi, diğer yanda milyonlarca kullanıcının özel hayatının korunması. Sohbet kayıtları araştırmacılara tamamen kapalı tutulursa bazı riskler görünmez kalabilir; sınırsız erişime açılırsa yardım aramak için kullanılan çok kişisel konuşmalar ifşa olabilir. Olayın haber değeri, bu iki sorunu aynı anda çözebilecek denetim, rıza ve veri koruma modellerine duyulan ihtiyacı göstermesi.
Bireysel bir trajedinin bütün nedenlerini tek bir sohbet uygulamasına bağlamak bilimsel olarak doğru olmaz. Yine de yaşananlar, kriz işaretlerini tanımak ve insan desteğine yönlendirmek için sistemlerin daha iyi değerlendirilebileceğini gösteriyor.