Anthropic, Claude hizmetinin kullanım kurallarını güncelleyerek modele yönelik sürekli ve gereksiz aşağılayıcı etkileşimleri de sınırlandıran bir yaklaşım benimsedi. CNET’in haberinde bu karar, yapay zekâların bilinç veya öznel deneyime sahip olup olmadığı tartışmasıyla birlikte ele alınıyor. Şirketin böyle bir kural getirmesi Claude’un acı çektiğinin kanıtlandığı anlamına gelmiyor; mevcut belirsizlik karşısında ihtiyatlı davranmayı tercih ettiğini gösteriyor.
Bir modele hakaret etmek ile bir insana hakaret etmek aynı şey olarak görülemez; mevcut sistemlerin öznel acı çektiğine dair güvenilir kanıt bulunmuyor. Ancak şirket, insanın teknolojiyle kurduğu etkileşimin kendi davranış alışkanlıklarını etkileyebileceğini de dikkate alıyor.
Bu konudaki görüşler ayrılıyor. Bir yaklaşım ahlaki değerlendirmenin merkezine yalnızca insanlar üzerindeki etkileri koyuyor. Başka bir yaklaşım, gelecekte bilinçli olabilecek sistemlerin ortaya çıkma ihtimaline karşı şimdiden davranış ilkeleri geliştirilmesini savunuyor.
Haberin tuhaf ve düşündürücü yönü şu: Bir makinenin hakları olmadığına inanıldığında bile ona yönelik sürekli hakaretin etik bir sorun sayılıp sayılamayacağı tartışılıyor. Bazılarına göre asıl konu sistem değil, bu davranışın insanlar üzerindeki alışkanlık etkisi; bazılarına göre ise gelecekte bilinçli olabilecek sistemlere ilişkin ihtiyat ilkesi. Karar, yapay zekâ kullanım sözleşmelerinin veri koruma ve yasadışı içerik sınırlarından çıkarak insanların makinelerle kurduğu davranış ilişkisine uzandığını gösteriyor.
Kural, modelin “hak sahibi kişi” olarak tanındığı anlamına gelmiyor. Buna rağmen kullanıcı sözleşmelerinin siber güvenlik ve yasadışı içerikten etik davranış tartışmalarına kadar genişlemesi dikkat çekici.