AIGP (Artificial Intelligence Governance Professional)

• Tasarım, Veri Toplama, Eğitim ve Dağıtım Aşamalarında Riskler:AI sistemlerinin tüm yaşam döngüsü boyunca ortaya çıkabilecek riskler (veri yanlılığı, model güvenliği, performans düşüşü vb.) detaylı olarak incelenecektir.
• NIST AI RMF (Govern, Map, Measure, Manage) fonksiyonlarının kurumsal süreçlere uygulanması:NIST AI RMF'nin dört ana fonksiyonunun (Yönet, Haritala, Ölç, Yönet) AI projelerinin her aşamasına nasıl entegre edileceği pratik örneklerle açıklanacaktır.
• AI tedarik zinciri riskleri (Hazır 3. taraf LLM'ler, API'ler ve açık kaynak kütüphaneler):Üçüncü taraf AI bileşenlerinin kullanımından kaynaklanan güvenlik, etik ve uyumluluk riskleri ve bu risklerin yönetimi ele alınacaktır.

• Eğitim Verilerinde Önyargı ve Ayrımcılık Analizi:AI modellerinin eğitiminde kullanılan veri setlerindeki önyargıların (bias) türleri ve bu önyargıların ayrımcı sonuçlara yol açma potansiyeli incelenecektir.
• Veri setlerindeki temsil önyargısı (representation bias), historical bias ve etiketleme hataları:Farklı önyargı türleri, bunların AI model performansına etkileri ve tespit yöntemleri detaylandırılacaktır.
• Algoritmik adalet metriklerinin belirlenmesi ve yanlılık testlerinin denetlenmesi:AI modellerinin adil sonuçlar üretmesini sağlamak için kullanılan metrikler ve yanlılık testlerinin nasıl uygulanacağı ve denetleneceği açıklanacaktır.

• Adversarial Saldırıları ve AI Model Güvenliği:AI modellerine yönelik kötü niyetli saldırı türleri (adversarial attacks) ve bu saldırılara karşı savunma mekanizmaları incelenecektir.
• Model zehirleme (Data poisoning), prompt injection ve model inversion risklerinin yönetimi:Belirli saldırı türlerinin işleyişi, potansiyel etkileri ve bu riskleri azaltmaya yönelik stratejiler ele alınacaktır.
• AI sistemlerinin hata toleransı ve kesinti senaryolarına dayanıklılığı:AI sistemlerinin beklenmedik durumlar, hatalar veya kesintiler karşısında nasıl performans gösterdiği ve dayanıklılıklarının nasıl artırılacağı açıklanacaktır.

• Kullanıcıların Yapay Zeka ile Etkileşiminde Şeffaflık:AI sistemlerinin kullanıcılarla etkileşimde nasıl şeffaf olması gerektiği, bilgi verme yükümlülükleri ve en iyi uygulamalar incelenecektir.
• Deepfake, chatbot ve otomatik karar verme sistemlerinde kullanıcıya bildirim yapma zorunlulukları:Bu tür AI uygulamalarında kullanıcılara AI ile etkileşimde oldukları ve otomatik kararlara tabi tutuldukları hakkında bilgi verme gereklilikleri detaylandırılacaktır.
• AI tarafından üretilen içeriklerin etiketlenmesi ve telif/fikri mülkiyet hakları:AI tarafından oluşturulan içeriklerin (metin, görsel, ses) nasıl etiketlenmesi gerektiği ve bu içeriklerin telif hakkı ve fikri mülkiyet sorunları ele alınacaktır.

• Model Kararlarının Anlaşılabilirliği:Yapay zeka modellerinin neden belirli kararlar aldığını veya tahminlerde bulunduğunu anlamanın önemi ve zorlukları incelenecektir.
• Kara kutu (Black-box) modellerin zorlukları ve şeffaf model gereksinimleri:Karmaşık AI modellerinin (derin öğrenme gibi) şeffaflık eksikliğinin getirdiği sorunlar ve daha açıklanabilir model tasarımlarına yönelik gereksinimler ele alınacaktır.
• SHAP, LIME gibi açıklanabilirlik araçlarının teknik ve yönetsel çıktıları:SHAP (SHapley Additive exPlanations) ve LIME (Local Interpretable Model-agnostic Explanations) gibi popüler XAI araçlarının nasıl çalıştığı, teknik çıktıları ve bu çıktıların iş kararları için nasıl yorumlanacağı açıklanacaktır.

• Karar Mekanizmalarında İnsan Kontrolü Tasarımı:Yapay zeka sistemlerinin karar alma süreçlerine insan müdahalesinin veya denetiminin nasıl entegre edileceği incelenecektir.
• Yüksek riskli AI kararlarında insan müdahalesi (Human oversight) mekanizmalarının kurulması:Özellikle yüksek riskli AI uygulamalarında insan gözetiminin önemi, farklı insan müdahalesi modelleri (Human-in-the-Loop, Human-on-the-Loop) ve bunların nasıl yapılandırılacağı detaylandırılacaktır.
• İnsan operatörlerin override (kararı iptal etme) yetkilerinin ve süreçlerinin tanımlanması:İnsan operatörlerin AI tarafından alınan kararları geçersiz kılma yetkileri, bu yetkilerin kullanım senaryoları ve ilgili süreçler ele alınacaktır.

• AI Modellerinin Eğitiminde PII Verilerinin İşlenmesi:Yapay zeka modellerinin eğitiminde kullanılan kişisel olarak tanımlanabilir verilerin (PII) işlenmesi süreçleri ve bu süreçlerdeki mahremiyet riskleri incelenecektir.
• GDPR ve KVKK ilkelerinin (veri minimizasyonu, amaç sınırlaması) AI modellerine uyarlanması:Genel Veri Koruma Yönetmeliği (GDPR) ve Kişisel Verilerin Korunması Kanunu (KVKK) gibi düzenlemelerin temel ilkelerinin AI modellerinin tasarımına ve kullanımına nasıl entegre edileceği açıklanacaktır.
• Unutulma hakkının (Right to be Forgotten) AI modellerinde eğitimi ve verinin unutulması zorlukları:Bireylerin kişisel verilerinin silinmesini talep etme hakkının AI modelleri üzerindeki etkileri ve bu hakkın teknik olarak nasıl uygulanabileceği ele alınacaktır.

• Algoritmik Etki ve Mahremiyet Etki Değerlendirmeleri:Yapay zeka sistemlerinin bireyler ve toplum üzerindeki potansiyel olumsuz etkilerini değerlendirme süreçleri (Algorithmic Impact Assessment - AIA) ve Veri Koruma Etki Değerlendirmesi (DPIA) ile ilişkisi incelenecektir.
• Yüksek riskli AI projeleri için Algorithmic Impact Assessment (AIA) raporlarının hazırlanması:Yüksek riskli AI projelerinde AIA raporlarının nasıl hazırlanacağı, hangi bilgileri içermesi gerektiği ve bu raporların önemi detaylandırılacaktır.
• Veri koruma otoriteleriyle yürütülecek uyum ve denetim süreçleri:Veri koruma otoriteleriyle işbirliği, denetim süreçlerine hazırlık ve uyumun sağlanması ele alınacaktır.

• GenAI Çıktıları ve Telif Hakları Riski:Üretken yapay zeka (GenAI) modellerinin oluşturduğu içeriklerin (metin, görsel, kod) telif hakkı durumu ve bu alandaki potansiyel riskler incelenecektir.
• Eğitim verilerinde telif hakkı ihlalleri ve üretilen kod/içeriklerin mülkiyet durumu:AI modellerinin eğitiminde kullanılan verilerdeki telif hakkı ihlali riskleri ve AI tarafından üretilen çıktıların mülkiyetinin kime ait olduğu konusundaki yasal belirsizlikler ele alınacaktır.

• AI Yönetim Sistemleri Denetim Kriterleri:Yapay Zeka Yönetim Sistemlerinin (AIMS) denetiminde kullanılan kriterler, uluslararası standartlar (ISO 42001) ve yasal düzenlemeler (EU AI Act) çerçevesinde incelenecektir.
• ISO 42001 ve EU AI Act gereksinimlerine göre bağımsız denetim planlaması:AI sistemlerinin bağımsız denetim süreçlerinin nasıl planlanacağı, denetim kapsamının belirlenmesi ve denetçi seçimi ele alınacaktır.
• Denetim kanıtı toplama, model loglarının ve karar izlerinin (Audit Trail) incelenmesi:AI denetimlerinde gerekli kanıtların (dokümantasyon, log kayıtları, model çıktıları) nasıl toplanacağı ve karar izlerinin (audit trail) nasıl analiz edileceği açıklanacaktır.

• AI Sistemlerinin Canlı Ortamda Takibi:Yapay zeka modellerinin canlı ortamda performansının sürekli olarak nasıl izleneceği ve potansiyel sorunların nasıl tespit edileceği incelenecektir.
• Data drift ve concept drift durumlarının tespit edilmesi:Modelin eğitildiği veri dağılımı ile canlı ortamdaki veri dağılımı arasındaki farklılıklar (data drift) ve hedef değişken ile giriş değişkenleri arasındaki ilişkinin değişmesi (concept drift) durumlarının nasıl tespit edileceği detaylandırılacaktır.
• Periyodik model yeniden değerlendirme (re-evaluation) döngüleri:Model performansının zamanla düşmesini önlemek için periyodik olarak modelin yeniden değerlendirilmesi ve güncellenmesi süreçleri ele alınacaktır.

• Algoritmik Hatalar ve İhlal Yönetimi:Yapay zeka sistemlerinin neden olduğu hatalı kararlar, ayrımcılık vakaları veya güvenlik ihlalleri gibi olayların nasıl yönetileceği incelenecektir.
• Yapay zeka sistemlerinin neden olduğu hatalı kararların ve ayrımcılık vakalarının yönetimi:Bu tür olayların kök neden analizleri, etkilerinin değerlendirilmesi ve çözüm stratejileri ele alınacaktır.
• Düzeltici ve önleyici faaliyet (CAPA) planlarının oluşturulması:Tespit edilen sorunların tekrarını önlemek ve sistem performansını sürekli iyileştirmek için düzeltici ve önleyici faaliyet (CAPA) planlarının nasıl oluşturulacağı açıklanacaktır.

• Eğitimin tüm modülleri tamamlandıktan sonra, katılımcıların edindikleri tüm kazanımları somut bir kurumsal başarıya dönüştürmeleri amacıyla 3 farklı kulvarda seçmeli bitirme projesi sunulmaktadır:
• Seçmeli Proje 1 (Kurumsal Temel Mimari & Standartlar)::Derin iş mantığı, katmanlı mimari, veri bütünlüğü ve en iyi pratikler. Katılımcılar, bir kurumsal yapay zeka projesi için EU AI Act ve ISO 42001 standartlarına uygun bir yönetişim çerçevesi tasarlayacak, risk sınıflandırması yapacak ve etik kurul yönergesi hazırlayacaklardır.
• Seçmeli Proje 2 (Dağıtık Sistemler, Ölçeklenebilirlik & Otomasyon)::Cloud-Native mimariler, asenkron akışlar ve otomasyon boru hatları. Katılımcılar, yüksek riskli bir AI sistemi için NIST AI RMF'ye uygun bir risk yönetim planı oluşturacak, model yanlılığı analizi yapacak ve açıklanabilirlik (XAI) araçlarını kullanarak model kararlarını yorumlayacaklardır.
• Seçmeli Proje 3 (Yüksek Performans, Dayanıklılık & Modern Entegrasyon)::Gerçek zamanlı veri akışı, resiliency, gözlemlenebilirlik ve modern servis entegrasyonu. Katılımcılar, bir AI projesi için Algoritmik Etki Değerlendirmesi (AIA) raporu hazırlayacak, veri mahremiyeti ve fikri mülkiyet risklerini değerlendirecek ve AI denetim kanıtı toplama simülasyonu gerçekleştireceklerdir.
• Her katılımcı ilgi alanına uygun projeyi seçerek; mimari şemaları (Mermaid), kapsamlı geliştirme yol haritaları ve GitHub README standartları doğrultusunda uluslararası portföy kalitesinde bir proje teslim edecektir.

• Eğitimin Ötesinde:Kurumunuzla Birlikte Çalışıyor, Denetimlere Hazırlıyor ve Eksiklikleri Gideriyoruz
• Vebende Akademi olarak, kurumsal regülasyon ve denetim uyumluluğunu yalnızca teorik eğitimlerle sınırlı değerlendirmiyoruz. Kurumunuzun faaliyet alanına, tabi olduğu yasal düzenlemelere (BDDK, TCMB, KVKK, SPK, ISO/IEC, SOC 2, EU AI Act), teknolojik altyapısına, organizasyonel yapısına ve mevcut kontrol mekanizmalarına göre kapsamlı bir ortak mühendislik çalışması yürütüyoruz.
• İhtiyaç duyulması halinde ilgili eğitim programıyla birlikte veya bağımsız bir kurumsal hizmet kapsamında; denetim ve teftiş öncesinde kurumunuzun ilgili ekipleriyle birlikte çalışıyor, mevcut durumunuzu analiz ediyor, regülasyonlara uygunluk kontrollerini gerçekleştiriyor ve tespit edilen eksikliklerin giderilmesi için teknik ve organizasyonel iyileştirme çalışmalarını yürütüyoruz.

• 1. Kurumsal Yetkinlik Geliştirme (Eğitim Modeli):40 saatlik modüler uzmanlık eğitimi, canlı uygulamalı laboratuvarlar, hands-on workshoplar, kurumsal mimari aktarımı ve ekip yetkinlik değerlendirmesi.
• 2. Kurumsal Denetim, Uyum ve Birlikte Mühendislik Çalışması (Danışmanlık ve Birlikte Çalışma):360° mevcut durum analizi, denetim simülasyonları, teknik kontroller, kurum ekipleriyle birlikte mühendislik ve altyapı iyileştirmesi, yeniden test ve 13 kurumsal rapor paketi.
• (Bu iki çalışma modeli kurumun ihtiyacına göre bağımsız olarak veya birbiriyle entegre bir program olarak tercih edilebilir).

• 1. 01 – Kurumsal Keşif ve Kapsam Analizi:Kurumun faaliyet alanı, iş modeli, tabi olduğu yasal düzenlemeler ve teknolojik envanterin incelenmesi. (Çıktı: Kapsam ve Mevcut Durum Raporu)
• 2. 02 – 360° Kurumsal Olgunluk ve Gap Analysis:Politika, prosedür, süreç ve teknik altyapının regülasyon standartlarına göre incelenmesi. (Çıktı: Kurumsal Olgunluk ve Eksiklik Analizi)
• 3. 03 – Denetim ve Kontrol Simülasyonu:Gerçekçi denetçi soru setleri, teknik test senaryoları ve mülakat simülasyonları. (Çıktı: Denetim Simülasyonu ve Bulgu Raporu)
• 4. 04 – Birlikte Geliştirme ve İyileştirme:Tespit edilen eksikliklerin kurumun teknik ve yönetim ekipleriyle birlikte kapatılması, kodlama ve altyapı iyileştirmeleri. (Çıktı: İyileştirilmiş Kontrol ve Altyapı Yapısı)
• 5. 05 – Yeniden Test ve Uygunluk Doğrulaması:Kapatılan bulguların yeniden kontrolü, kontrol etkinliği testleri ve kalan risk değerlendirmesi. (Çıktı: Retest ve Uygunluk Doğrulama Raporu)
• 6. 06 – Nihai Kurumsal 360° Raporlama:Yönetim kurulu ve teknik ekipler için kanıt dosyaları, sorumluluk matrisleri ve sürekli uyum planı. (Çıktı: Kurumsal 360° Sonuç ve İyileştirme Raporu)

#9501 AIGP (Artificial Intelligence Governance Professional) İçin Kurumsal Çalışma ve Denetim Hazırlık Haritası mimarisi, pratik kullanım detayları ve kurumsal standartlar.

• | Çalışma Alanı | Yapılacak Kapsamlı Çalışmalar |
• |---|---|
• | AI Envanteri | Kurumda kullanılan bütün AI modelleri, üçüncü taraf API servisleri, açık kaynak kütüphaneler ve otonom ajanlar |
• | AI Yönetişimi | AI politika, strateji, kurumsal sorumluluk, etik ilkeler, onay mekanizmaları ve AI Yönetişim Kurulu |
• | Risk Sınıflandırması | AI kullanım senaryolarının yasal risk bazlı (Kabul Edilemez, Yüksek, Sınırlı, Minimal) sınıflandırılması |
• | Veri Yönetimi | Eğitim, doğrulama ve üretim verilerinin kaynak, temsil, kalite, telif ve gizlilik analizi |
• | Model Yönetimi | Model seçimi, mimari değişiklikler, sürüm yönetimi ve model yaşam döngüsü kontrolleri |
• | İnsan Gözetimi (HITL) | İnsan müdahalesi, karar onay hiyerarşisi ve algoritmik kararlara itiraz mekanizmaları |
• | Şeffaflık ve Açıklanabilirlik | AI kararlarının açıklanabilirliği (XAI), model kartları ve son kullanıcı bilgilendirmesi |
• | Üçüncü Taraf AI Riskleri | Harici model sağlayıcılar, LLM API'leri, SaaS AI ve tedarikçi bağımlılık riskleri |

• Kurumsal AI envanterinin eksiksizliğinin ve gölge yapay zeka (Shadow AI) kullanımının kontrolü
• Risk sınıflandırma kararlarının denetçi perspektifiyle teknik ve mevzuatsal sorgulanması
• Yüksek riskli AI kullanım senaryoları için teknik ve organizasyonel kontrollerin incelenmesi
• Model çıktılarında ayrımcılık (bias), önyargı ve performans doğrulaması testleri
• AI kararlarının izlenebilirliği, log tutarlılığı ve insan gözetimi süreç testi
• Bir yapay zeka sisteminde kişisel veri sızıntısı yaşanması senaryosuyla olay yönetimi simülasyonu

• Kurumsal AI Governance Framework ve Etik Kurulu tüzüğünün oluşturulması
• AI kullanım ve kabul politikalarının kurumsal ölçekte hazırlanması
• AI Risk Register ve Risk Treatment (Risk İyileştirme) planlarının oluşturulması
• AI kullanım senaryoları için devreye alma onay ve değişiklik süreçlerinin kurulması
• Model ve veri yaşam döngüsü kontrolleri (Lineage, Provenance) entegrasyonu
• AI tedarikçi değerlendirme, güvenlik skoru ve uyum mekanizmasının yapılandırılması
• Model performansı, önyargı, drift (sapma) ve güvenlik izleme sistemlerinin devreye alınması

• İncelenecek Sistemler:Kurumsal AI modelleri, LLM API bağlantıları, veri depoları, RAG mimarileri, vektör veritabanları, model sunucuları, AI ajanları ve loglama sistemleri

• Kurumsal Yapay Zekâ Varlık Envanteri:
• AI Governance ve Yönetişim Modeli Dokümanı:
• Kurumsal AI Risk Analiz Raporu:
• AI Kullanım ve Kabul Politikaları Paketi:
• Model Kontrol ve RACI Matrisi:
• AI Denetim Kanıt Dosyası:
• AIMS (ISO/IEC 42001) Geçiş Yol Haritası:

• 1. Executive Summary:Üst yönetim için genel durum, kritik riskler ve yönetim özeti
• 2. Regulatory Compliance Assessment:Tabi olunan regülasyon ve standart bazında detaylı uygunluk analizi
• 3. Gap Analysis:Eksik, yetersiz veya henüz uygulanmamış kontrollerin ayrıntılı dökümü
• 4. Risk Assessment:Olasılık, etki, risk seviyesi ve kontrol sonrası kalıntı (residual) risk analizi
• 5. Technical Infrastructure Audit:Sistem, ağ, bulut, uygulama ve güvenlik altyapısının teknik inceleme raporu
• 6. Governance Assessment:Yönetim organizasyonu, kurumsal politikalar, süreçler ve görev sorumlulukları incelemesi
• 7. Control Effectiveness Report:Kontrollerin tasarımı ile fiili çalışma etkinliğinin ölçüm raporu
• 8. Audit Simulation Report:Gerçekleştirilen denetim senaryoları, simülasyonlar ve teknik test sonuçları
• 9. Evidence Register:Teftiş kuruluna sunulacak kanıtlar, dokümanlar, loglar ve doğrulama kayıtları kütüğü
• 10. Remediation Roadmap:Tespit edilen eksikliklerin giderilmesi için önceliklendirilmiş mühendislik planı
• 11. Retest Report:İyileştirme çalışmaları sonrasında gerçekleştirilen yeniden doğrulama test sonuçları
• 12. Competency Assessment:Kurumsal ekiplerin denetim ve regülasyon farkındalık ve yetkinlik değerlendirmesi
• 13. Continuous Compliance Plan:Denetim sonrasında sürdürülebilir, yaşayan sürekli uyumluluk ve izleme takvimi

• Her kontrol bulgusu için şu kurumsal yapı kullanılır:Bulgu ID, Regülasyon, Kontrol Referansı, Mevcut Durum, Beklenen Durum, Kanıt, Risk Seviyesi, İş Etkisi, İyileştirme Çözümü, Sorumlu, Hedef Tarih, Yeniden Test Sonucu, Nihai Durum (Açık, İyileştirildi, Doğrulandı, Kabul Edilmiş Risk).

• > Sorumlu Güvence Beyanı:Denetim öncesinde tespit edilen uygunsuzlukların giderilmesi, kritik risklerin azaltılması ve ilgili kontrollerin doğrulanması için kapsamlı hazırlık çalışmaları yürütülür. Hedef, açık bulguların mümkün olan en yüksek oranda kapatılması ve denetlenebilir bir kontrol ortamının oluşturulmasıdır. Nihai denetim sonucu, yetkili denetim heyetinin takdirindedir.
• >
• > Yetkili Denetim Sınırları:9501 çalışması kurumsal AI yönetişimini, risk çerçevesini ve organizasyonel yetkinliği yapılandırır; ISO/IEC 42001 sertifikasyonu akredite üçüncü taraf belgelendirme kuruluşlarının yetkisindedir.

• Denetim öncesinde yapılan hazırlık çalışmasıyla sınırlı kalmayıp; kurumlar için yıllık veya dönemsel kontrol etkinliği takibi, regülasyon ve mevzuat değişikliklerinin değerlendirilmesi, üçüncü taraf tedarikçi denetimleri ve periyodik teknik güvenlik kontrolleri düzenli olarak sunulmaktadır.