Kısaca: Yapay zeka yönetişimi, bir kurumda yapay zekanın kim tarafından, hangi amaçla, hangi kurallar ve denetimle kullanılacağını belirleyen roller, politikalar ve süreçler bütünüdür.
Ne anlama geliyor?
Yönetişim, tek bir belge ya da yazılım değil, bir karar düzenidir. Temel soruları cevaplar: Şirkette hangi yapay zeka araçları ve modelleri kullanılıyor? Hangisi hangi risk sınıfında? Yeni bir kullanımı kim onaylıyor? Hangi veri hangi araca girebilir? Bir hata olduğunda kim fark ediyor ve kime bildiriyor?
En çok başvurulan çerçevelerden biri ABD Ulusal Standartlar ve Teknoloji Enstitüsü’nün (NIST) 26 Ocak 2023’te yayımladığı Yapay Zeka Risk Yönetimi Çerçevesi’dir (AI RMF 1.0). Çerçeve dört işlev tanımlar: yönetişim (Govern), haritalama (Map), ölçme (Measure) ve yönetme (Manage). Belgelendirilebilir bir yönetim sistemi isteyen kurumlar için ISO/IEC 42001 standardı vardır.
Şirket için neden önemli?
Yapay zeka kullanımı ekip ekip yayıldıkça onaysız araçlar (gölge yapay zeka), denetlenmeyen ajanlar ve kaynağı belirsiz içerik aynı anda artıyor. AB Yapay Zeka Yasası yüksek riskli sistemler için risk yönetimi, kayıt ve insan denetimini zorunlu tutuyor; bunlar yönetişim yapısı olmadan karşılanamaz.
Asgari bileşenler genellikle şunlardır: yapay zeka envanteri, risk sınıflandırması, kullanım onay süreci, veri kuralları, insan denetimi noktaları, olay kaydı ve düzenli gözden geçirme.
Örnek
Bir sigorta şirketi hasar dosyalarını ön inceleme için bir modele açmak istiyor. Yönetişim süreci kullanımı envantere ekler, kişisel veri içerdiği için hukuk ve bilgi güvenliği onayına gönderir, modelin reddettiği dosyaların bir uzman tarafından yeniden incelenmesini şart koşar ve sapma oranını üç ayda bir raporlatır.
Sık karıştırılan
- Bilgi güvenliğiyle aynı şey değildir. Güvenlik sistemi korur; yönetişim neyin, neden ve kimin sorumluluğunda kullanıldığına karar verir.
- Etik ilkeler bildirgesi tek başına yönetişim sayılmaz; ilkeleri uygulayan rol ve süreç yoksa belge kağıt üzerinde kalır.
Nereden başlanır?
- Bir sorumlu atayın ya da küçük bir kurul kurun: hukuk, bilgi güvenliği, veri ve iş birimlerinden birer kişi yeterli.
- Kullanılan araç, model ve ajanların envanterini çıkarın; gölge kullanımı da kayda alın.
- Basit bir risk sınıflandırması ve onay akışı tanımlayın: düşük riskli kullanım hızlı geçsin, yüksek riskli kullanım ayrıntılı incelensin.
- Olay bildirimi ve altı ayda bir gözden geçirme takvimi belirleyin.
Ekibinize sorun
- Şirkette yapay zeka kullanımının yazılı bir sahibi var mı?
- Kullanılan tüm araçların güncel bir listesi var mı?
- Bir yapay zeka hatası olduğunda kime ve nasıl bildiriliyor?
İlgili terimler
Siyah Tilki’de ilgili yazılar
- Kurumsalda Yapay Zeka Yönetimi
- OzU AI Platformu: Yapay Zekada Ekosistem ve Yönetişim
- TP, ISO 42001 Yapay Zeka Yönetimi Sertifikalı İlk BPO
