Microsoft, Azure OpenAI Hizmeti aracılığıyla ABD polis departmanlarının yüz tanıma için üretken AI kullanması yasağını bir kez daha doğruladı. Bu hizmet, OpenAI teknolojisini kapsayan kurumsal odaklı yönetilen bir hizmett. Azure OpenAI Hizmeti kullanım şartlarına eklenen dil, bu hizmetin “polis departmanları tarafından veya polis departmanları için” ABD’deki yüz tanıma amaçlı kullanımını daha açık bir şekilde hukuki olarak yasaklıyor. Bu, OpenAI’nin mevcut ve muhtemelen gelecekteki görüntü analiz modelleri ile entegrasyonları da içeriyor.
Ayrıca, yeni bir madde “global olarak herhangi bir kanun uygulayıcıyı” kapsayacak şekilde eklendi ve mobil kameralar üzerindeki “gerçek zamanlı yüz tanıma teknolojisi” kullanımını açıkça yasakladı. Bu, kontrol edilmeyen, doğal ortamlarda bir kişinin kimliğinin tespit edilmeye çalışılmasını da kapsıyor.
Bu politika değişiklikleri, Axon isimli, askeri ve kanun uygulama alanında teknoloji ve silah ürünleri üreten bir şirketin, vücut kameralarından ses özetleri çıkarmak için OpenAI’nin GPT-4 üretken metin modelini kullanan yeni bir ürün duyurmasından bir hafta sonra gündeme geldi. Eleştirmenler, en iyi üretken AI modellerinin bile gerçek dışı bilgiler üretebilmesi (hallüsinasyonlar) ve eğitim verilerinden kaynaklanan ırksal önyargılar gibi potansiyel sorunlara işaret ettiler.
Axon’un GPT-4’ü Azure OpenAI Hizmeti üzerinden kullanıp kullanmadığı ve güncellenmiş politikanın Axon’un ürün lansmanına yanıt olarak mı yapıldığı belirsiz. OpenAI, daha önce API’leri aracılığıyla modellerinin yüz tanıma için kullanılmasını kısıtlamıştı.
Yeni şartlar Microsoft için bazı esneklikler sağlıyor. Yasak, yalnızca ABD’deki, uluslararası olmayan polisleri kapsıyor ve sabit kameralarla kontrol edilen ortamlarda yapılan yüz tanımayı içine almıyor. Yani bir şirketin kapalı ortamında kimin kim olduğunu araştıran bir yapay zekayı kullanmakta sorun yok.
OpenAI, Pentagon ile siber güvenlik yetenekleri dahil bir dizi projede çalışıyor. Bu, girişimin daha önceki askeriye AI sağlama yasağından bir kopuş anlamına geliyor. Ayrıca, Microsoft, Savunma Bakanlığı’na (DoD) askeri operasyonları yürütmek için yazılım geliştirmesi için OpenAI’nin görüntü oluşturma aracı DALL-E’yi kullanmayı teklif etti.
