Yapay zekanın standartları ne olmalı

Türk Standartları Enstitüsü bir açıklama yaparak yapay zekaya standartlar getirileceğini belirtti. Türk basını bunu sanki Türkiye yapay zekaya standartlar getiriyor gibi görse de olay bambaşkaydı çünkü TSİ aynalama tekniğiyle dünyada olan biten standartlaşma çabasını Türkiye’ye “aktardı”.

Teknik olarak sızma, bilgi işlemeyi inceleme gibi standartları cebimizde tutalım ama bu işin bazı evrensel konuları var. Standart deyince ben bunu iki açıdan inceliyorum: Maksimum ve minimum standartları. Yani minimum standart deyince onun altına düşmesi kabul edileleyen şeyler, maksimum deyince ideal dünya…

Gelin bunlara bir göz atalım:

Minimum Standartlar

Bunlar, yapay zekâ sistemlerinin en azından “zarar vermemesi” ve temel insan haklarına saygılı çalışması için mutlaka bulunması gereken temel kurallardır. Bir nevi “yapay zekânın insanlıkla uyum içinde kalması için alt sınır”dır.

1. Temel Şeffaflık: Kullanıcı, bir sistemin yapay zekâ ile çalıştığını açıkça bilmelidir.
2. Veri Gizliliği: Kullanıcı verileri açık rıza olmadan toplanamaz ve üçüncü taraflarla paylaşılamaz.
3. Ayrımcılık Yasağı: Algoritmalar ırk, cinsiyet, din, yaş gibi önyargılar barındırmamalı veya ayrımcılık yaratmamalıdır.
4. İnsan Denetimi: Kritik karar süreçlerinde (adalet, sağlık, güvenlik) nihai karar insanda olmalıdır.
5. Temel Güvenlik: Yapay zekâ saldırılara karşı korunmalı, kötüye kullanılmaya açık olmamalıdır.
6. Sorumluluk Zinciri: Bir hata ya da zarar durumunda hukuki ve teknik sorumluluk zinciri açıkça tanımlanmalıdır.
7. Temel Risk Değerlendirmesi: Piyasaya çıkmadan önce yapay zekânın riskleri analiz edilmeli ve belgelenmelidir.
8. Çıktı İzlenebilirliği: YZ’nin nasıl bir karar verdiği ve hangi verileri kullandığı izlenebilir olmalıdır.
9. Acil Durdurma Mekanizması: İnsanların müdahale edebileceği bir “off switch” veya kriz anında kapatma fonksiyonu bulunmalıdır.
10. Yasal Uyum: Ulusal ve uluslararası insan hakları, veri koruma ve siber güvenlik yasalarına tam uyum sağlanmalıdır.

🔎 Kısa yorum: Bu 10 madde, yapay zekânın “tehlikeli veya sorumsuz” bir hale gelmemesi için dünyadaki tüm ülkelerde uygulanması gereken asgari güvenlik çerçevesidir. AB’nin AI Act’i ve ISO/IEC 42001 gibi standartlar zaten bu minimumu hedefler.

Maksimum Standartlar

Bunlar, sadece güvenli ve etik bir yapay zekâ değil, adil, insan merkezli, çevreyle uyumlu ve toplumsal fayda odaklı bir yapay zekâ dünyası için benimsenmesi gereken ileri düzey kurallardır. “Altın standart” olarak düşünülebilir.

1. Derin Açıklanabilirlik: Sadece kararın sonucu değil, modelin nasıl öğrendiği ve hangi mantıksal adımları izlediği de anlaşılır olmalı.
2. Etik Denetim Kurulları: Her büyük YZ projesi, bağımsız etik komiteler tarafından düzenli olarak denetlenmeli.
3. Önyargı Giderme Zorunluluğu: Sistem geliştikçe önyargılar otomatik olarak tespit edilmeli ve giderilmelidir.
4. Toplumsal Etki Analizi: Her büyük YZ uygulaması için sosyal adalet, demokrasi, istihdam, psikolojik etkiler gibi faktörler analiz edilmelidir.
5. Kullanıcı Hakları Genişletmesi: Kullanıcılar yapay zekâ kararlarını itiraz edebilir, alternatif karar talep edebilir.
6. Enerji ve Karbon Standardı: Büyük modeller için karbon ayak izi ölçülmeli, belli bir sürdürülebilirlik standardını aşan modeller yasaklanmalı.
7. Açık Denetim Altyapısı: Tüm yüksek riskli yapay zekâ sistemleri bağımsız kuruluşlarca test edilip onaylanmadan piyasaya sürülmemeli.
8. İnsan Refahı Ölçütü: Yapay zekânın nihai amacı ekonomik verimlilik değil, insan refahı ve toplumsal fayda olmalı.
9. Kuantum ve AGI Önlemleri: AGI veya kuantum destekli YZ’ler için özel regülasyon ve gözetim protokolleri oluşturulmalı.
10. Küresel Etik Mutabakatı: Tüm ülkelerin üzerinde anlaştığı, nükleer silah anlaşmalarına benzer bağlayıcı “Yapay Zekâ Anlaşması” hazırlanmalı.

🔭 Kısa yorum: Bu maksimum standartlar, sadece güvenli yapay zekâ değil, aynı zamanda adil, sürdürülebilir ve insanlık merkezli bir yapay zekâ dünyası kurmayı hedefler. Şu anda dünyada bu seviyeye ulaşan hiçbir ülke veya kurum yok, ancak AB, OECD, IEEE ve UNESCO bu yönde yol haritası çizmeye çalışıyor.

Karşılaştırma Tablosu