Algoritmik Etki Değerlendirmesi nedir, nasıl hazırlanır?
Türkiye Yapay Zekâ Eylem Planı hangi sistemler için Algoritmik Etki Değerlendirmesi istiyor, belgede ne yazar, kısa form ile genişletilmiş form arasındaki fark nedir.
Algoritmik Etki Değerlendirmesi (AED), bir yapay zekâ sisteminin devreye alınmadan önce kimleri, nasıl etkileyeceğini yazılı olarak analiz eden belgedir. Türkiye Yapay Zekâ Eylem Planı bu belgeyi risk düzeyine göre kademeli bir yükümlülük hâline getiriyor.
Planın kendi tanımı şöyle:
Bir yapay zekâ sisteminin bireyler, toplum ve kurumlar üzerindeki olası etkilerini önceden analiz eden ve belgelendiren sistematik değerlendirme süreci.
Kimden isteniyor?
Eylem 4, yükümlülükleri üç kademeye ayırıyor:
Risk düzeyine göre kademeli yükümlülükler tanımlanacaktır. Düşük riskli uygulamalar için sade kontrol listeleri, orta riskli uygulamalar için kısa-form Algoritmik Etki Değerlendirmesi, yüksek etkili sistemler için ise genişletilmiş Algoritmik Etki Değerlendirmesi, kamuya açık özet Model Kartı ve denetleyici kurumlara sunulacak ayrıntılı teknik dosya standart hâle getirilecektir.
Yani AED yalnızca yüksek etkili sistemlerin işi değil. Orta riskli bir uygulama da kısa-form AED üretmek zorunda.
Ayrıca kademeden bağımsız iki durum var:
- Kamu destekli her PoC ve pilot projede. Eylem 2, hızlandırma programı kapsamındaki projeler için şunu yazıyor: "her projede kısa-form Algoritmik Etki Değerlendirmesi ve model kartı üretimiyle güvenilirlik boyutu da içselleştirilecektir."
- Kamuda devreye alınan yüksek etkili sistemlerin tamamında. Eylem 4'ün ilk 12 aylık hedefi bunu açıkça sayıyor.
Sisteminizin hangi kademede olduğunu buradan belirleyebilirsiniz →
Belgede ne yazar?
Plan, AED'nin alt başlıklarını tek tek saymıyor. Ancak Ulusal Yapay Zekâ Etik Kurulu'nun hangi konularda rehber yayımlayacağını sayıyor ve bu liste değerlendirmenin doğal eksenlerini veriyor:
Kurul; adalet ve yanlılık, açıklanabilirlik, veri menşei, güvenlik ve sağlamlık, insan gözetimi ile çocuklar ve hassas gruplara yönelik yapay zekâ uygulamaları için pratik rehberler yayımlayacaktır.
Altı boyut çıkıyor:
| Boyut | Cevaplanması gereken soru |
|---|---|
| Adalet ve yanlılık | Hangi gruplar için hatalı sonuç riski var, bu nasıl ölçüldü |
| Açıklanabilirlik | Sistem bir sonucu neden ürettiğini açıklayabiliyor mu |
| Veri menşei | Veri nereden geldi, kullanım hakkı neye dayanıyor |
| Güvenlik ve sağlamlık | Sistem yanılırsa ne olur, bozuk girdide nasıl davranıyor |
| İnsan gözetimi | Çıktıyı kim gözden geçiriyor, nasıl durdurulur |
| Çocuklar ve hassas gruplar | Bu gruplar etkileniyorsa hangi ek önlemler alındı |
Bunların üzerine künye, amaç ve kapsam, kalan risk ve izleme planı eklenir.
Kısa form ile genişletilmiş form farkı
Kısa form orta riskli sistemler içindir; 3–5 sayfa civarında kalır. Altı boyutun her biri için bir-iki soru sorar, kalan riski ve izleme planını kaydeder.
Genişletilmiş form yüksek etkili sistemler içindir. Aynı altı boyutu derinleştirmenin yanında şunları da içerir:
- Paydaş katılımı — etkilenen kişilerin görüşü alındı mı
- Alternatiflerin değerlendirilmesi — yapay zekâ dışında ne denendi
- Orantılılık — beklenen fayda, yarattığı riske göre neden orantılı
- Alt gruplara göre performans tablosu — yanlılık iddiası ancak bununla desteklenir
- Otomasyon yanlılığı — gözeten kişinin sistemi sorgusuz onaylaması riskine karşı ne yapılıyor
- Bağımsız teknik değerlendirme sonucu
Genişletilmiş AED tek başına gitmez: yanında kamuya açık özet Model Kartı ve ayrıntılı teknik dosya bulunur.
Ne zaman hazırlanır, ne zaman yenilenir?
Bu, en çok gözden kaçan noktadır. Plan iki tetikleyici tanımlıyor:
Yüksek etkili yapay zekâ sistemleri canlıya alınmadan önce ve büyük sürüm güncellemelerinde bu kriterler bakımından değerlendirmeye tabi tutulacaktır.
Yani AED tek seferlik bir belge değildir. Modelinizi her önemli sürümde yeniden değerlendirmeniz ve belgeyi güncellemeniz gerekir. Belgeyi baştan sürüm takibiyle kurmak, iki yıl sonra geriye dönük yazmaktan kat kat ucuzdur.
"Ölçmedik" demek geçerli mi?
Evet — ama boş bırakmak değil. Yanlılık ölçümü yapılmadıysa bunu yazmak, alanı boş bırakmaktan iyidir; değerlendirici eksiği zaten görecektir, gizlenmiş olması güven kaybettirir. Yüksek etkili sistemlerde ise ölçmemenin gerekçesi kalan risk bölümüne yazılmalıdır.
Şu an resmî şablon var mı?
Hayır. Plan, orantılı risk rehberinin ve sektör eklerinin ilk 12 ay içinde yayımlanacağını söylüyor — yani yaklaşık 2027 Ağustos'una kadar. Eylem 7 ayrıca kurumlar için "rehberler, kontrol listeleri ve standart şablonlar" yayımlanacağını yazıyor.
O zamana kadar yapılabilecek en iyi şey, planın kendi saydığı boyutları ve uluslararası kabul görmüş yapıyı esas alan bir belge üretmektir. Rehber yayımlandığında belgeyi ona göre güncellemek, sıfırdan yazmaktan çok daha kolaydır — çünkü asıl emek belgeyi doldurmak değil, cevapları toplamaktır.