Model Kartı nedir, içinde ne yazar?
Yapay zekâ model kartı kimden isteniyor, hangi bölümlerden oluşur, kamuya açık bir belgede neyin yazılmaması gerekir.
Model Kartı, bir yapay zekâ modelinin ne yaptığını, hangi veriyle eğitildiğini, nerede iyi nerede kötü çalıştığını ve bilinen sınırlarını kamuya açık olarak özetleyen belgedir.
Türkiye Yapay Zekâ Eylem Planı bunu yüksek etkili sistemler için zorunlu belgeler arasında sayıyor:
...yüksek etkili sistemler için ise genişletilmiş Algoritmik Etki Değerlendirmesi, kamuya açık özet Model Kartı ve denetleyici kurumlara sunulacak ayrıntılı teknik dosya standart hâle getirilecektir.
Kimden isteniyor?
Üç ayrı yerde geçiyor:
- Yüksek etkili sistemlerde, genişletilmiş AED ile birlikte (Eylem 4)
- Her PoC ve pilot projede, kısa-form AED ile birlikte (Eylem 2)
- İhraç edilen her model sürümünde — Eylem 11: "ihraç edilen her model sürümü model kartı ve güvenlik testi paketi ile piyasaya çıkacaktır."
Üçüncüsü özellikle önemli: yurt dışına satış yapıyorsanız model kartı, risk kademenizden bağımsız olarak gerekiyor.
En kritik nokta: bu belge kamuya açık
Model Kartı ile teknik dosyayı karıştırmak, uygulamada en sık yapılan hatadır.
| Model Kartı | Teknik dosya | |
|---|---|---|
| Kime gider | Herkese, yayımlanır | Denetleyici kuruma |
| Uzunluk | 2–3 sayfa | 20–40 sayfa |
| Ticari sır | Girmez | Girer |
| Mimari ayrıntı | Genel düzeyde | Ayrıntılı |
| Güvenlik bulguları | Girmez | Girer |
Model kartına şunlar yazılmaz: model mimarisinin ayrıntısı, güvenlik açığı detayları, API anahtarları, kişisel veri örnekleri, tedarikçi sözleşmelerinin ticari şartları.
Bölümler
1. Model künyesi — ad, sürüm ve yayın tarihi, geliştiren kurum, iletişim, lisans, model türü (genel düzeyde).
2. Kullanım amacı ve sınırları — amaçlanan kullanım, amaçlanan kullanıcılar, ve en önemlisi amaçlanmayan kullanımlar. Çıktının doğrudan karar mı, karara girdi mi olduğu burada belirtilir.
3. Eğitim verisi ve menşei — verinin genel tanımı, kaynak türleri, kapsadığı dönem, kişisel veri kullanıldıysa nasıl korunduğu, ve veride bilinen temsil boşlukları.
4. Performans — ölçülen metrikler ve hangi veri kümesinde ölçüldüğü; mümkünse alt gruplara göre performans tablosu; performansın düştüğü bilinen koşullar.
5. Bilinen riskler ve sınırlar — bilinen yanlılıklar, tipik hata türleri, öngörülen kötüye kullanım senaryoları, alınan önlemler.
6. İnsan gözetimi ve şeffaflık — çıktının nasıl gözden geçirildiği, kullanıcıların yapay zekâ kullanıldığını nasıl öğrendiği, itiraz yolu.
7. Sürüm geçmişi — bu sürümde ne değişti ve performansa etkisi ne oldu.
Boş bırakılan iki alan belgeyi işe yaramaz kılar
"Amaçlanmayan kullanımlar" ve "bilinen riskler". Bu iki bölümü boş bir model kartı, değerlendirmede güven vermez — çünkü her modelin sınırı ve riski vardır; yazmamak onları yok etmez, yalnızca değerlendiriciye "bu ekip düşünmemiş" mesajı verir.
Nerede kullanılmaması gerektiğini yazmak, nerede kullanılacağını yazmaktan daha değerlidir.
Sürüme bağlıdır
Model kartı tek seferlik bir belge değildir. Plan, yüksek etkili sistemler için "canlıya alınmadan önce ve büyük sürüm güncellemelerinde" değerlendirme istiyor; Eylem 11 ise ihracatta her model sürümü için model kartı şart koşuyor.
Pratik sonuç: sürüm geçmişi bölümünü baştan tutmaya başlayın. İki yıl sonra geriye dönük "hangi sürümde ne değişmişti" diye çıkarmak, üretirken kaydetmekten kat kat pahalıdır.