Meta, Çarşamba günü yalnızca beyaz erkeklerden oluşan bir yapay zeka danışma kurulu oluşturduğunu duyurdu. Kadınlar ve diğer ırklardan insanlar, yapay zeka dünyasında nitelikli ve bu alanın evriminde kilit rol oynamalarına rağmen, on yıllardır göz ardı edilip dışlanıyor ve sonuç bu…
Bu yeni danışma kurulu, Meta’nın gerçek yönetim kurulu ve cinsiyet ve ırksal temsilde daha çeşitli olan Denetim Kurulu’ndan farklı. Bu yapay zeka kurulunu hissedarlar seçmedi ve ayrıca herhangi bir mali sorumluluğu da yok. Meta, Bloomberg’e kurulun “teknolojik gelişmeler, yenilik ve stratejik büyüme fırsatları hakkında içgörüler ve tavsiyeler sunacağını” söyledi. Kurul “dönemsel olarak” toplanacak.
Yapay zeka danışma kurulunun, etikçilerden veya derin araştırma geçmişine sahip akademisyenlerden değil, tamamen iş insanlarından ve girişimcilerden oluşması dikkat çekici. Şu anki ve eski Stripe, Shopify ve Microsoft yöneticilerinin piyasaya sundukları ürünlerin çokluğu göz önüne alındığında Meta’nın yapay zeka ürün yol haritasını denetlemeye uygun oldukları ileri sürülebilir, ancak yapay zekanın diğer ürünlerden farklı olduğu defalarca kanıtlanmış. Yapay zeka, yanlış yapılması durumunda özellikle marjinal gruplar için geniş kapsamlı sonuçlara yol açabilecek riskli bir iş.
AI Now Institute’un sosyal yapay zeka sonuçlarını araştıran bir kar amacı gütmeyen kuruluşun yönetici direktörü Sarah Myers West, TechCrunch ile yaptığı yakın tarihli bir röportajda, yapay zeka üreten kurumları “kritik bir şekilde incelemenin” ve “kamu ihtiyaçlarının karşılandığından” emin olmanın önemli olduğunu söyledi: “Bu, hataya açık bir teknoloji ve bağımsız araştırmalardan biliyoruz ki bu hatalar eşit dağılmıyor; uzun süredir ayrımcılığın yükünü çeken topluluklara orantısız zarar veriyor,” dedi. “Çok daha yüksek bir standart belirlemeliyiz.”
Kadınlar, yapay zekanın karanlık tarafını erkeklere kıyasla çok daha fazla deneyimliyor. Sensity AI, 2019 yılında çevrimiçi AI derin sahte videolarının %96’sının izinsiz, cinsel içerikli videolar olduğunu buldu. O zamandan beri üretken yapay zeka çok daha yaygın hale geldi ve kadınlar hala bu saldırgan davranışların hedefi oluyor.
Ocak ayında meydana gelen yüksek profilli bir olayda, Taylor Swift’in izinsiz pornografik derin sahte görüntüleri X platformunda viral oldu; en yaygın gönderilerden biri yüz binlerce beğeni aldı ve 45 milyon görüntülendi. X gibi sosyal platformlar, kadınları bu tür durumlardan koruma konusunda tarihsel olarak başarısız oldu — ancak Taylor Swift dünyanın en güçlü kadınlarından biri olduğundan, X “taylor swift ai” ve “taylor swift deepfake” gibi arama terimlerini yasaklayarak müdahale etti.
Ancak, bu size olursa ve küresel bir pop yıldızı değilseniz, şansınız yaver gitmeyebilir. Ortaokul ve lise çağındaki öğrencilerin sınıf arkadaşlarına ait açık saçık derin sahte görüntüler yaptığına dair sayısız rapor var. Bu teknoloji bir süredir var olsa da, erişmek hiç bu kadar kolay olmamıştı. Kadınların fotoğraflarını “çıkarmak” veya yüzlerini pornografik materyele yerleştirmek üzere reklamı yapılan uygulamaları indirmek için teknolojik bilgiye sahip olmanız gerekmiyor.
Yapay zeka ürünlerinin yenilik sürecine kadınların ve renkli insanların seslerinin dahil edilmesi zorunlu. Bu tür marjinal gruplar, dünyayı değiştiren teknolojilerin ve araştırmaların gelişiminden uzun süre dışlandı ve sonuçları felaket oldu.
Zaten ayrımcı verilere dayanan algoritmalar, insanlara öğrettikleri önyargıları sadece tekrarlayacak. Genel olarak, AI sistemlerinin istihdam, konut ve ceza adaletinde ırksal ayrımcılığı sürdürdüğünü ve artırdığını zaten görüyoruz. Sesli asistanlar, çeşitli aksanları anlamakta zorlanıyor. Genellikle yerli İngilizce konuşmayanların çalışmalarını AI tarafından üretilmiş olarak işaretliyor. Çünkü İngilizce AI’nın ana dili. Yüz tanıma sistemleri, Siyah insanları beyaz insanlara göre daha sık suçlu şüpheli olarak eşleştiriyor.
Yapay zekanın mevcut gelişimi, sınıf, ırk, cinsiyet ve Avrupa merkezli güç yapılarını aynı şekilde bünyesinde barındırıyor ve yeterli liderin bunu ele aldığı görülmüyor. Bunun yerine, güç yapılarını pekiştiriyor. Yatırımcılar, kurucular ve teknoloji liderleri, hızla ilerleyip bir şeyleri bozmak için o kadar odaklanmış durumdalar. Şu anda moda olan üretken yapay zekanın sorunları daha iyi hale getirmek yerine daha da kötüleştirebileceğini anlamıyorlar. McKinsey’in bir raporuna göre, yapay zeka, yıllık 42.000 doların üzerinde ödeme yapan ve dört yıllık bir diploma gerektirmeyen işlerin yaklaşık yarısını otomatikleştirebilir, bu işlerde azınlık işçiler aşırı temsil edilmekte.
Dünyanın en önde gelen teknoloji şirketlerinden birinde, tümü beyaz erkeklerden oluşan bir ekibin, yapay zeka kullanarak dünyayı kurtarma yarışına girdiği düşünülürse, tüm insanlar için ürünler konusunda nasıl tavsiyelerde bulunabileceği konusunda endişelenmek için sebep var. Herkesin kullanabileceği teknolojiyi geliştirmek büyük bir çaba gerektirecek. Aslında, güvenli ve kapsayıcı AI inşa etmek için gerekli katmanlar araştırmadan toplumsal düzeyde kesişimsel anlayışa kadar, o kadar karmaşık ki, bu danışma kurulunun Meta’nın doğru yapmasına yardımcı olmayacağı neredeyse açık. En azından Meta’nın eksik kaldığı yerde, başka bir girişim yükselebilir.