Microsoft ve OpenAI, seçmenleri “aldatmak ve demokrasiyi baltalamak” amacıyla yapay zeka ve derin sahteciliklerin (deepfake) kullanımıyla ilgili artan risklerle mücadele etmek için 2 milyon dolarlık bir fon oluşturduğunu açıkladı.
Bu yıl, 50 ülkeyi kapsayan seçimlerde rekor sayıda, yaklaşık 2 milyar insanın sandık başına gitmesi bekleniyor. Bu nedenle yapay zekanın, her grdüğüne inanan “savunmasız kitleler” üstünde kötü bir etkisi olacağı endişesi artıyor.
ChatGPT gibi popüler sohbet robotları da dahil olmak üzere, üretici yapay zekanın yükselişi, AI tarafından üretilen ve yanıltıcı bilgi yaymayı amaçlayan “deepfake”lerin yeni bir tehdit oluşturmasına yol açtı. Bu yeni araçların geniş çapta kullanılabilir olması ve yüksek profilli siyasi figürlerin sahte videolarını, fotoğraflarını veya ses kayıtlarını kolayca yaratmayı herkese mümkün hale getirmesi herkesi korkutuyor.
Bu bağlamda, Microsoft ve OpenAI da dahil olmak üzere tüm büyük teknoloji şirketleri, bu tür risklere karşı gönüllü taahhütlerde bulunarak ve seçmenleri yanıltmak amacıyla açıkça oluşturulan deepfake’lerle başa çıkmak için ortak bir plan yaptılar.
Büyük yapay zeka şirketleri, bu risklere karşı yazılımlarına kısıtlamalar getirdi. Örneğin, Google, Gemini AI sohbet robotunun seçimlerle ilgili soruları yanıtlamasına izin vermeyeceğini söyledi. Facebook’un ana şirketi Meta ise kendi AI sohbet robotu aracılığıyla seçimle ilgili yanıtları sınırlıyor.
OpenAI yanıltıcı bilgi bulmak için yeni bir deepfake dedektörü devreye aldı. Bu dedektör, kendi DALL-E görüntü üreticisi tarafından oluşturulan sahte içerikleri tanımlamayı amaçlıyor.
Adına “toplumsal dayanıklılık fonu” denen bu oluşum, Microsoft ve OpenAI’nin sorumlu AI hamlesinin bir parçası. Microsoft’a göre, bu hibeler toplumun yapay zeka ve yetenekleri hakkında daha iyi bir anlayış geliştirmesini amaçlıyor.
