İngiliz otoriteleri yapay zekanın attığı adımlardan tatmin oldu

Birleşik Krallık’ın veri koruma gözetimcisi, Snap’in AI sohbet botu My AI ile ilgili neredeyse bir yıl süren soruşturmasını kapattı. Sosyal medya şirketinin çocukların gizlilik risklerine yönelik endişeleri giderdiğinden memnun olduğunu belirtti. Aynı zamanda, Bilgi Komisyonu Ofisi (ICO), sektör genelinde, üretken yapay zeka araçlarını piyasaya sürmeden önce insanların haklarına yönelik riskleri proaktif olarak değerlendirme konusunda genel bir uyarı yayınladı.

Üretken Yapay Zeka ve Snap’in My AI Sohbet Botu

Üretken yapay zeka (GenAI), içerik oluşturmayı ön planda tutan bir yapay zeka türü. Snap’in durumunda, bu teknoloji, kullanıcılarla insan benzeri şekilde etkileşimde bulunabilen, metin mesajları ve snapler gönderebilen bir sohbet botunu güçlendirir. Snap’in AI sohbet botu, OpenAI’nin ChatGPT’si tarafından desteklenmektedir. Ancak sosyal medya firması, uygulamaya çeşitli güvenlik önlemleri uyguladığını ve yaş uygunluğu göz önüne alındığında çocukların yaşa uygun olmayan içerikleri görmesini engellemeye çalıştığını belirtti. Ayrıca, ebeveyn denetimleri de eklendi.

ICO’nun Uyarıları ve Bulguları

ICO’nun düzenleyici riskten sorumlu icra direktörü Stephen Almond, “My AI üzerindeki soruşturmamız, sektör için bir uyarı niteliğinde olmalıdır” dedi;: “Üretken yapay zeka geliştiren veya kullanan kuruluşlar, veri korumayı en başından itibaren dikkate almalı, ürünleri piyasaya sürmeden önce insanların haklarına ve özgürlüklerine yönelik riskleri titizlikle değerlendirip hafifletmelidir.”

Geçen yılın Ekim ayında, ICO, Snap’e, üretken yapay zeka sohbet botu My AI’nin gizlilik risklerini düzgün bir şekilde değerlendirememe olasılığına ilişkin bir ön yaptırım bildirimi göndermişti. Bu ön bildirim, Snap için kamuoyuna açık tek azarlama gibi görünüyor. Teoride, rejim doğrulanmış veri ihlalleri durumunda şirketin yıllık cirosunun %4’üne kadar para cezası verebilir.

Snap’in Yanıtı ve Alınan Önlemler

Snap, ICO’nun müdahalesinin ardından My AI’nin oluşturduğu risklerin daha kapsamlı bir şekilde gözden geçirilmesi için “önemli adımlar” attığını ve endişelere yanıt olarak “uygun hafifletici önlemler” uyguladığını gösterdiğini belirtti. ICO, Snap’in artık My AI ile ilgili veri koruma yasasına uygun bir risk değerlendirmesi yaptığını belirtti. ICO, My AI’nin kullanıma sunulmasını ve ortaya çıkan risklerin nasıl ele alındığını izlemeye devam edecek.

Snap’in Açıklaması

Snap sözcüsü, soruşturmanın sonuçlanmasına ilişkin olarak yaptığı açıklamada, “Topluluğumuzu My AI kullanırken korumak için uygun önlemleri aldığımızı kabul eden ICO’dan memnunuz. My AI’nin oluşturduğu riskleri dikkatlice değerlendirirken, değerlendirmemizin daha net bir şekilde belgelenebileceğini kabul ediyoruz ve ICO’nun yapıcı geri bildirimlerini yansıtmak için küresel prosedürlerimizde değişiklikler yaptık. Risk değerlendirmemizin Birleşik Krallık veri koruma yasalarına tam olarak uyduğunu belirten ICO’nun sonucunu memnuniyetle karşılıyoruz ve yapıcı ortaklığımızı sürdürmeyi dört gözle bekliyoruz” dedi.

Birleşik Krallık düzenleyicisi, üretken yapay zekanın uygulama önceliği olmaya devam ettiğini belirtti ve geliştiricileri, yapay zeka ve veri koruma kuralları hakkında ürettiği rehberliğe yönlendirdi. Ayrıca, üretken yapay zeka modellerinin geliştirilmesi ve kullanılması sırasında gizlilik yasasının nasıl uygulanması gerektiği konusunda geri bildirim talep eden bir danışma süreci de yürütüyor.

Avrupa Birliği, yapay zeka için risk bazlı bir çerçeveyi onaylayan yasa koyucularla, şeffaflık yükümlülüklerini içeren yeni kurallar getirmiştir ve bu kurallar önümüzdeki aylarda ve yıllarda uygulamaya konacaktır.