ISO-IEC 27090 & OWASP LLM Yapay Zeka Güvenliği ve Red Teaming
ISO-IEC 27090 & OWASP LLM Yapay Zeka Güvenliği ve Red Teaming alanında kurumların resmi teftiş ve bağımsız denetimler öncesinde tam hazırlık yapmasını sağlayan, denetim bulgularını sıfırlayan ve yasal regülasyon uyumunu temin eden 5 modüllü stratejik tamamlayıcı eğitim.
#9516 ISO-IEC 27090 & OWASP LLM Yapay Zeka Güvenliği ve Red Teaming Denetimler Öncesinde Kurumunuza Ne Kazandırır?
Kurumların devreye aldığı Büyük Dil Modelleri (LLM) ve üretken yapay zeka ajanları, siber saldırganların en yeni ve en tehlikeli hedefidir. Prompt Injection, model hırsızlığı, hassas veri sızıntısı ve güvensiz çıktı işleme gibi zafiyetler hem kurum itibarını yok etmekte hem de EU AI Act denetimlerinde ağır yaptırımlara yol açmaktadır. Bu eğitim; yapay zeka sistemlerine saldırgan perspektifiyle Red Teaming yapma ve ISO 27090 standartlarında savunma kalkanı kurma yetkinliği sağlayan öncü denetim programıdır.
Uluslararası Standartlar & Denetim Güvencesi
Eğitim süresince ISO/IEC 27090 (Yapay Zeka Güvenliği), OWASP Top 10 for LLM Applications, MITRE ATLAS Matrisi, NIST AI RMF, EU AI Act Güvenlik Şartları regülasyon çerçeveleri ekseninde; denetim iz kayıtları, konfigürasyon çalışma kağıtları, RACI yönetişim matrisleri ve bulgu kapatma ve risk azaltma mekanizmaları canlı kurumsal vaka laboratuvarlarıyla incelenir.
Kurumsal Hazırlık & Denetim Dosyası
Müfettiş ve bağımsız denetçilere sunulacak çalışma kağıtları, log telemetrisi, yetki matrisleri ve 10 denetim laboratuvar ödevi ile 3 denetim odaklı bitirme projesiyle kurumsal uyum somut olarak belgelenir.
Resmi Teftiş ve Regülasyon Denetimleri Öncesinde Kurumsal Güvence
Bu eğitim; kurumların yaklaşan resmi teftişler (BDDK, TCMB, KVKK, SPK) ve uluslararası bağımsız denetimler (ISO/IEC, SOC 2, DORA, EU AI Act) öncesinde bilgi sistemleri altyapılarını regülasyon gereksinimlerine göre eksiksiz tamamlaması, kritik bulguları sıfırlaması ve denetim heyetlerine sunulacak kanıt dosyalarını eksiksiz üretmesi için yapılandırılmış tamamlayıcı kurumsal hazırlık programıdır.
Bu program yalnızca klasik bir eğitim değildir; resmi denetim ve teftiş öncesinde kurumun ilgili paydaşlarıyla (Teftiş Kurulu, C-Level, Uyum, Mühendislik) birlikte çalışma (co-working) metodolojisiyle yürütülen, canlı sistemler üzerinde denetim çalışma kağıtları (workpapers), kanıt paketleri ve açık bulguların mümkün olan en yüksek oranda kapatılmasını hedefleyen kapsamlı bir kurumsal hazırlık çalışmasıdır.
OWASP Top 10 for LLM Zafiyet Denetimi
Prompt Injection, Insecure Output Handling, Training Data Poisoning ve Model Denial of Service açıklarını test eder.
MITRE ATLAS Matrisi ile AI Tehdit Modellemesi
Yapay zeka modellerine yönelik gelişmiş saldırı vektörlerini MITRE standartlarında modelleyip denetim raporuna bağlar.
RAG ve Vektör Veritabanı Güvenlik Doğrulaması
Kurumsal belgelerle beslenen RAG sistemlerinde yetkisiz veri sızıntılarını ve bilgi ifşasını önleyen kontroller kurar.
Denetim Öncesi AI Red Teaming ve Sızma Testi Kanıtı
Modellerin üretime alınmadan önce bağımsız saldırı testlerinden başarıyla geçtiğini kanıtlayan raporlar üretir.
Eğitim Yol Haritası (5 Temel Aşama)
Kurumların devreye aldığı Büyük Dil Modelleri (LLM) ve üretken yapay zeka ajanları, siber saldırganların en yeni ve en tehlikeli hedefidir. Prompt Injection, model hırsızlığı, hassas veri sızıntısı ve güvensiz çıktı işleme gibi zafiyetler hem kurum itibarını yok etmekte hem de EU AI Act denetimlerinde ağır yaptırımlara yol açmaktadır. Bu eğitim; yapay zeka sistemlerine saldırgan perspektifiyle Red Teaming yapma ve ISO 27090 standartlarında savunma kalkanı kurma yetkinliği sağlayan öncü denetim programıdır.
- ISO-IEC 27090 & OWASP LLM Yapay Zeka Güvenliği ve Red Teaming mimarisini ilgili yasal çerçeveler (ISO/IEC 27090 (Yapay Zeka Güvenliği), OWASP Top 10 for LLM Applications, MITRE ATLAS Matrisi) ile %100 uyumlu hale getirmek
- Resmi teftişler ve bağımsız denetimler öncesinde kritik bulguları önceden tespit edip sıfırlayarak kurumsal denetim başarısını güvenceye almak
- Denetim heyetlerine ve müfettişlere sunulacak uluslararası standartta denetim kanıtları, iz kayıtları ve çalışma kağıtları (workpapers) üretmek
- Kurum içi RACI yetki matrislerini, politika ve operasyonel prosedürleri regülasyon gereksinimlerine göre eksiksiz yapılandırmak
- Olası idari para cezaları, lisans iptali yaptırımları ve itibar kayıplarına karşı proaktif kurumsal koruma kalkanı oluşturmak
- AI Güvenlik Mühendisleri & Red Team Uzmanları: AI Red Teaming Test Raporu & Zafiyet Matrisi (Kurumun üretken yapay zeka uygulamalarını saldırgan gözüyle test edip tüm zafiyetleri önceden kapatmak için.)
- Yapay Zeka ve Büyük Dil Modeli Geliştiricileri: Güvenli LLM Geliştirme Standartları & Guardrails (Geliştirdikleri LLM uygulamalarını Prompt Injection ve veri sızıntısı saldırılarına karşı güvenli kodlamak için.)
- Teftiş Kurulu & BT Denetçileri: Yapay Zeka Uygulama Güvenliği Denetim Kontrol Listesi (Kurumun kullandığı Copilot, dahili yapay zeka sohbet botları ve AI servislerini güvenlik standartlarına göre denetlemek için.)
- CISO ve Bilgi Güvenliği Liderleri: Kurumsal Yapay Zeka Güvenlik Politikası & Risk Kalkanı (Yapay zeka kaynaklı veri sızıntılarını ve telif hakkı / regülasyon cezalarını proaktif engellemek için.)
#9516 ISO-IEC 27090 & OWASP LLM Yapay Zeka Güvenliği ve Red Teaming programı; resmi teftiş ve bağımsız denetimler öncesinde kurumsal sorumluluk taşıyan liderlerin ve teknik uzmanların masasında bulunması gereken stratejik bir yatırımdır.
AI Güvenlik Mühendisleri & Red Team Uzmanları
Kurumun üretken yapay zeka uygulamalarını saldırgan gözüyle test edip tüm zafiyetleri önceden kapatmak için.
Yapay Zeka ve Büyük Dil Modeli Geliştiricileri
Geliştirdikleri LLM uygulamalarını Prompt Injection ve veri sızıntısı saldırılarına karşı güvenli kodlamak için.
Teftiş Kurulu & BT Denetçileri
Kurumun kullandığı Copilot, dahili yapay zeka sohbet botları ve AI servislerini güvenlik standartlarına göre denetlemek için.
CISO ve Bilgi Güvenliği Liderleri
Yapay zeka kaynaklı veri sızıntılarını ve telif hakkı / regülasyon cezalarını proaktif engellemek için.
Yapay zeka sistemlerinden dışarı sızacak tek bir müşteri sırrı veya prompt manipülasyonu kurumunuzun itibarını yerle bir edebilir. Bu eğitim AI altyapınızı kurşun geçirmez kılar.
Programımız; kurumsal yetkinlik ve mühendislik kalitesinin tüm kritik katmanlarını kapsayan 6 stratejik yetkinlik sütunu üzerine inşa edilmiştir.
Yasal & Sektörel Regülasyon Standartları
ISO/IEC 27090 (Yapay Zeka Güvenliği), OWASP Top 10 for LLM Applications, MITRE ATLAS Matrisi çerçevelerindeki zorunlu kontrol maddelerinin mimariye ve süreçlere eksiksiz entegrasyonu.
Denetim Kanıtları & Çalışma Kağıtları
Resmi denetim heyetlerine ve müfettişlere sunulacak denetim iz kayıtları, konfigürasyon belgeleri ve çalışma kağıdı (workpaper) üretimi.
Pre-Audit Hardening & Bulgu Kapatma
Teftiş kurulu gelmeden önce sistemlerin saldırgan ve denetçi gözüyle taranması ve kritik bulguların proaktif olarak kapatılması.
Kurumsal Yönetişim, RACI & Politika
Görevler ayrılığı (SoD), yetkilendirme matrisleri ve kurumsal politika dokümanlarının regülasyon standartlarında inşası.
Denetçi Savunması & Mülakat Hazırlığı
Denetim heyetlerinin yönelteceği teknik ve idari sorulara karşı savunulabilir hukuki ve mühendislik argümanlarının oluşturulması.
Sürekli Uyum & Otomatize Denetim İzleri
Uyumun bir kereye mahsus değil, kurum bünyesinde sürekli çalışan otomatik izleme ve raporlama mekanizmasına dönüştürülmesi.
Katılımcılar, eğitim sonunda portföylerine ekleyebilecekleri ve kurumlarında doğrudan şablon olarak kullanabilecekleri 3 gerçek dünya projesi geliştirirler.
Bitirme Projesi 1: Enterprise AI Security Foundation - ISO/IEC 27090 Uyumlu Güvenli LLM Altyapısı
Bu bitirme projesi, katılımcıların ISO/IEC 27090 standardı ve OWASP Top 10 for LLM kılavuzu çerçevesinde, kurumsal düzeyde güvenli bir Yapay Zeka (AI) ve Büyük Dil Modeli (LLM) altyapısı tasarlamalarını ve uygulaymalarını hedeflemektedir. Proje, sadece kodlama ile sınırlı kalmayıp, bir Çözüm Mimarı (Solution Architect) perspektifinden tehdit modelleme, güvenlik süzgeçleri (Guardrails) yapılandırması ve denetim hazırlığı süreçlerini kapsamaktadır. Katılımcılar, FAANG ve Fortune 500 standartlarında portföylerine ekleyebilecekleri, denetlenebilir ve sürdürülebilir bir güvenlik mimarisi geliştireceklerdir.
Bitirme Projesi 2: Cloud-Native AI Security Automation Platform
Bu bitirme projesi, katılımcıların dağıtık sistemler, ölçeklenebilirlik ve otomasyon boru hatları odaklı bir yapay zeka güvenlik platformu tasarlamalarını ve uygulaymalarını hedeflemektedir. Proje, Cloud-Native mimariler, asenkron mesajlaşma ve GitOps prensipleriyle desteklenmektedir. Katılımcılar, büyük ölçekli ve dağıtık AI/LLM sistemlerini güvenli bir şekilde nasıl tasarlayacaklarını, otomasyon araçlarını kullanarak güvenlik süreçlerini nasıl entegre edeceklerini ve bulut ortamlarında güvenlik kontrollerini nasıl uygulayacaklarını kanıtlayacaklardır.
Bitirme Projesi 3: Real-Time AI Security & Observability Hub
Bu bitirme projesi, katılımcıların yüksek performanslı, dayanıklı ve modern entegrasyon odaklı bir yapay zeka güvenlik ve gözlemlenebilirlik merkezi tasarlamalarını ve uygulaymalarını hedeflemektedir. Proje, gerçek zamanlı veri akışı, hata toleransı ve modern servis entegrasyon teknikleriyle desteklenmektedir. Katılımcılar, yüksek performanslı AI/LLM sistemlerini gerçek zamanlı veri akışları, hata toleransı ve modern entegrasyon teknikleriyle nasıl geliştireceklerini ve bu sistemlerin güvenlik denetimlerini nasıl yapacaklarını sergileyeceklerdir.
Kurumlar ve Satın Alma Departmanları İçin Neden Bu Eğitim Vazgeçilmezdir?
Geleneksel bireysel eğitimlerin aksine Vebende Akademi, kurumların operasyonel sürekliliğini, yazılım mimarisi güvenliğini ve bütçe verimliliğini esas alır. Tuncer KARAARSLAN'ın 35 yılı aşan bilgisayar mühendisliği ve 25 yılı aşkın uluslararası teknoloji eğitmenliği birikimiyle sunulan bu program; teorik anlatım yerine kurumunuzun gerçek iş süreçlerine doğrudan etki eden ölçülebilir çıktılar üretir.
Fiyatlandırma kişi başı değil, sınıf fiyatıdır. Ekibinizden 5 veya 15 kişi katılsın, bütçeniz değişmez; kişi başına düşen maliyet sektördeki en avantajlı kurumsal seviyeye iner.
Yeni işe başlayan veya farklı teknolojilerden geçiş yapan mühendislerin kurumsal kod ve mimari standartlarına hızla uyum sağlamasını ve üretime katkı verme süresini kısaltır.
Spagetti kod ve kontrolsüz altyapı yerine endüstri standardı mimari yaklaşımlar öğretilir. Güvenlik açıkları ve teknik borç birikimi ilk günden engellenir.
Eğitim süresince her katılımcının laboratuvar ödevleri, GitHub pratikleri ve bitirme projeleri şeffaf bir yetkinlik karnesi olarak yönetiminize raporlanır.
Dünya çapında önde gelen 24+ platform (Coursera, edX, O'Reilly, Pluralsight, MIT vb.) ve 17+ kariyer portalının son 3 yıllık iş ilanı verileri konsolide edilerek yapılandırılmış, sıfırdan kurumsal mimariye uzanan 5 uygulamalı modül.
-
Büyük Dil Modelleri (LLM) ve Üretken AI Bileşen Güvenliği:LLM'lerin temel mimarileri, çalışma prensipleri ve üretken yapay zekâ sistemlerinin bileşenleri (Encoder-Decoder, Transformer mimarisi, Attention mekanizmaları) detaylı olarak incelenecektir.
-
Tokenizasyon, Embedding Katmanları, Vektör Veritabanları ve Agent Mimarilerinin Saldırı Yüzeyi (Attack Surface):LLM'lerin temel yapı taşları olan tokenizer'lar, embedding'ler, vektör veritabanları (Pinecone, Milvus, ChromaDB) ve otonom agent'ların (LangChain, LlamaIndex) güvenlik zafiyetleri ve potansiyel saldırı vektörleri analiz edilecektir.
-
Tradisyonel Sızma Testleri ile AI/LLM Güvenlik Testleri Arasındaki Temel Farklar:Geleneksel web ve uygulama sızma testleri (OWASP Top 10 for Web) ile yapay zekâ ve LLM'lere özgü güvenlik testleri arasındaki metodolojik ve teknik farklılıklar karşılaştırmalı olarak ele alınacaktır.
-
AI Sistemlerinde Tehdit Modelleme Metodolojileri:Yapay zekâ sistemlerine özgü tehdit modelleme yaklaşımları (örneğin, MITRE ATLAS, Microsoft Threat Modeling Tool) ve bu metodolojilerin LLM projelerine nasıl uygulanacağı öğretilecektir.
-
ISO/IEC 27090 Standardı Gereksinimlerine Göre Yapay Zekâ Varlıklarının ve Tehditlerinin Haritalandırılması:ISO/IEC 27090 standardının temel prensipleri, yapay zekâ sistemlerindeki varlıkların (model, veri, altyapı) tanımlanması ve bu varlıklara yönelik tehditlerin sistematik olarak haritalandırılması pratik uygulamalarla gösterilecektir.
-
STRIDE veya PASTA Metodolojilerinin LLM Bileşenlerine (RAG Sistemleri, Harici API Çağrıları) Uyarlanması:Siber güvenlikte yaygın olarak kullanılan STRIDE (Spoofing, Tampering, Repudiation, Information Disclosure, Denial of Service, Elevation of Privilege) ve PASTA (Process for Attack Simulation and Threat Analysis) tehdit modelleme metodolojilerinin, Retrieval-Augmented Generation (RAG) sistemleri ve harici API entegrasyonları gibi LLM bileşenlerine nasıl adapte edileceği örneklerle açıklanacaktır.
-
Kurumsal AI Tehdit Sınıflandırması:Kurumların yapay zekâ projelerinde karşılaşabileceği tehdit türleri (veri gizliliği, model bütünlüğü, hizmet sürekliliği) ve bu tehditlerin sınıflandırılması için çerçeveler sunulacaktır.
-
Doğrudan (Direct) ve Dolaylı (Indirect) Saldırı Vektörlerinin Mimari Düzeyde İncelenmesi:Prompt injection, veri zehirlenmesi ve tedarik zinciri saldırıları gibi doğrudan ve dolaylı saldırı vektörlerinin LLM mimarileri üzerindeki etkileri ve bu saldırıların nasıl gerçekleştirildiği detaylı olarak analiz edilecektir.
Katılımcılar bu modülde Yapay Zekâ Güvenliği Temelleri, ISO 27090 ve Tehdit Modelleme konusunu kurumsal mühendislik standartlarında kavramış ve sahada uygulanabilir pratik refleksler kazanmış olurlar.
-
Prompt Manipülasyonu ve Sistem Komutlarının Ele Geçirilmesi:Prompt injection'ın temel prensipleri, modelin orijinal talimatlarını (system prompt) bypass etme teknikleri ve bu saldırıların potansiyel sonuçları incelenecektir.
-
Doğrudan Prompt Injection ile Modelin Developer Talimatlarını (System Prompt) Bypass Etmesi:Kullanıcının doğrudan modelin sistem prompt'unu manipüle ederek istenmeyen davranışlar sergilemesini sağlama teknikleri (örneğin, "Ignore previous instructions") uygulamalı olarak gösterilecektir.
-
Dolaylı Prompt Injection (Indirect Prompt Injection); Harici Web Siteleri, E-postalar veya Belgeler Yoluyla Modele Kötü Amaçlı Komut Enjekte Edilmesi: Modelin harici kaynaklardan (web sayfaları, e-postalar, PDF belgeleri) aldığı veriler aracılığıyla kötü amaçlı komutların nasıl enjekte edildiği ve bu tür saldırılardan korunma yöntemleri ele alınacaktır.
-
Güvensiz Çıktı İşleme ve Eğitim Verisi Zehirlenmesi:LLM'lerden gelen çıktıların güvenli bir şekilde işlenmemesi durumunda ortaya çıkan zafiyetler ve modelin eğitim verilerinin manipüle edilmesiyle oluşan tehditler incelenecektir.
-
LLM Çıktılarının Arka Plandaki Sistemlerde (SQL, Shell, HTML/JS) Doğrudan Çalıştırılmasından Kaynaklanan XSS ve RCE Zafiyetleri:LLM çıktılarının yeterli sanitizasyon yapılmadan doğrudan arka uç sistemlerde (SQL veritabanları, işletim sistemi kabukları, web tarayıcıları) çalıştırılmasıyla ortaya çıkan Cross-Site Scripting (XSS), Uzaktan Kod Çalıştırma (RCE) ve SQL Injection gibi zafiyetler uygulamalı senaryolarla gösterilecektir.
-
Modelin Eğitim veya Fine-Tuning Aşamasında Veri Setine Zararlı, Önyargılı veya Manipülatif Verilerin Enjekte Edilmesi (Data Poisoning):Modelin eğitim veya fine-tuning süreçlerinde veri setine kasıtlı olarak zararlı, önyargılı veya manipülatif verilerin eklenmesiyle modelin davranışının nasıl bozulduğu ve bu tür saldırılardan korunma stratejileri ele alınacaktır.
-
Kaynak Tüketimi ve Tedarik Zinciri Zafiyetleri:LLM sistemlerinin kaynaklarının kötüye kullanılmasıyla oluşan hizmet reddi saldırıları ve yapay zekâ tedarik zincirindeki güvenlik açıkları incelenecektir.
-
Uzun Promptlar, Özyineli Sorgular ile LLM Altyapısının (GPU/CPU) Kaynak Tüketim DoS Saldırılarına Maruz Kalması:Uzun ve karmaşık prompt'lar, özyineli sorgular veya yoğun hesaplama gerektiren istekler gönderilerek LLM altyapısının (GPU/CPU) kaynaklarının nasıl tüketildiği ve bu tür DoS saldırılarından korunma yöntemleri ele alınacaktır.
-
Açık Kaynaklı Model Ağırlıkları (HuggingFace, PyTorch Modelleri), Kütüphaneler ve Üçüncü Taraf AI API'lerindeki Tedarik Zinciri Açıkları:Açık kaynaklı model depolarından (HuggingFace), kütüphanelerden (PyTorch, TensorFlow) ve üçüncü taraf yapay zekâ API'lerinden kaynaklanan tedarik zinciri zafiyetleri, kötü niyetli kod enjeksiyonu ve model manipülasyonu riskleri incelenecektir.
Katılımcılar bu modülde OWASP Top 10 for LLM Zafiyetleri ve İstismar Teknikleri (Bölüm 1) konusunu kurumsal mühendislik standartlarında kavramış ve sahada uygulanabilir pratik refleksler kazanmış olurlar.
-
Hassas Bilgi İfşası ve Güvensiz Eklenti Mimarileri:LLM'lerin hassas bilgileri sızdırması ve güvensiz tasarlanmış eklentilerin yol açtığı güvenlik riskleri incelenecektir.
-
LLM'in Eğitim Verilerindeki PII, API Anahtarları veya Dahili Sistem Bilgilerini Kullanıcıya Sızdırması (Data Leakage):LLM'in eğitim verilerinde bulunan Kişisel Tanımlayıcı Bilgiler (PII), API anahtarları, dahili sistem konfigürasyonları veya diğer gizli verileri prompt injection veya diğer tekniklerle kullanıcıya nasıl sızdırdığı ve bu tür veri sızıntılarından korunma yöntemleri ele alınacaktır.
-
LLM Agent ve Eklentilerinin (Plugins) Yetkilendirme Eksiklikleri Nedeniyle Yetkisiz Sistem Komutları Çalıştırması:LLM agent'ları ve eklentilerinin (örneğin, LangChain araçları) yetkilendirme kontrollerindeki eksiklikler nedeniyle yetkisiz sistem komutları çalıştırması, dosya sistemi manipülasyonu veya harici API'lere yetkisiz erişim gibi zafiyetler incelenecektir.
-
Aşırı Yetkilendirme (Excessive Agency) ve Model Hırsızlığı:LLM'lere gereğinden fazla yetki verilmesinin yol açtığı riskler ve yapay zekâ modellerinin fikri mülkiyet hırsızlığına karşı korunması incelenecektir.
-
LLM'e Verilen Araçların (Tools) ve API Yetkilerinin Gereğinden Fazla Geniş Tutulması (Örn. Dosya Silme, E-posta Gönderme Yetkisi):LLM agent'larına veya eklentilerine verilen araçların ve API yetkilerinin (örneğin, dosya silme, e-posta gönderme, veritabanı erişimi) gereğinden fazla geniş tutulması durumunda ortaya çıkan güvenlik riskleri ve bu riskleri azaltma stratejileri ele alınacaktır.
-
Model Kopyalama (Model Extraction / Theft) Saldırıları ile Proprietary Model Ağırlıklarının veya Mantığının Çalınması:Proprietary (özel) LLM'lerin model ağırlıklarının, mimarisinin veya temel mantığının tersine mühendislik, sorgu tabanlı saldırılar veya diğer tekniklerle nasıl çalındığı ve bu tür model hırsızlığına karşı savunma mekanizmaları incelenecektir.
-
Yapay Zekâ Kırmızı Takım Operasyonları ve Araçlar:AI Red Teaming'in temel prensipleri, metodolojileri ve yapay zekâ sistemlerinin güvenlik sınırlarını zorlamak için kullanılan saldırı simülasyonu teknikleri tanıtılacaktır.
-
AI Red Teaming Metodolojileri ile Modelin Güvenlik Sınırlarının Zorlanması:Çok aşamalı prompt injection, veri sızdırma, model manipülasyonu ve otonom agent'lara yönelik saldırılar gibi gelişmiş AI Red Teaming senaryoları ve bu senaryoların nasıl planlanıp yürütüleceği uygulamalı olarak gösterilecektir.
-
Garak, PyRIT ve Promptfoo gibi AI Sızma Testi ve Zafiyet Tarama Araçlarının Kullanımı:Garak (Generative AI Red Teaming Toolkit), PyRIT (Python Risk Identification Tool) ve Promptfoo gibi açık kaynaklı ve ticari AI sızma testi ve zafiyet tarama araçlarının kurulumu, konfigürasyonu ve LLM'lerdeki güvenlik açıklarını otomatik olarak tespit etmek için nasıl kullanılacağı uygulamalı laboratuvar çalışmalarıyla öğretilecektir.
Katılımcılar bu modülde OWASP Top 10 for LLM Zafiyetleri ve İstismar Teknikleri (Bölüm 2) konusunu kurumsal mühendislik standartlarında kavramış ve sahada uygulanabilir pratik refleksler kazanmış olurlar.
-
Yapay Zekâ Güvenlik Süzgeçlerinin Konfigürasyonu:LLM uygulamalarını prompt injection, veri sızıntısı ve zararlı içerik üretimine karşı korumak için kullanılan güvenlik süzgeçleri (guardrails) ve girdi/çıktı sanitizasyon mekanizmalarının mimarisi incelenecektir.
-
Girdi (Input) Aşamasında Zararlı Promptların ve Enjeksiyon Denemelerinin Tespiti:Kullanıcıdan gelen prompt'ların analiz edilmesi, kötü niyetli prompt injection denemelerinin (jailbreak, role-play) tespiti ve bu tür girdilerin filtrelenmesi için kullanılan teknikler (regex, anahtar kelime filtreleme, anomali tespiti) ele alınacaktır.
-
Çıktı (Output) Aşamasında Hassas Veri İfşasının (DLP), Küfür/Hakaret ve Zehirli İçeriklerin Filtrelenmesi:LLM'den gelen çıktıların hassas veri ifşası (Data Loss Prevention - DLP), küfür/hakaret, önyargılı veya zehirli içerik açısından filtrelenmesi ve bu tür çıktıların engellenmesi için kullanılan mekanizmalar (DLP entegrasyonu, içerik denetleme API'leri) incelenecektir.
-
LLM Güvenlik Duvarlarının Konumlandırılması:Büyük Dil Modelleri ile kullanıcılar veya diğer sistemler arasındaki iletişimi izleyen ve filtreleyen LLM güvenlik duvarlarının mimarisi ve konumlandırılması stratejileri ele alınacaktır.
-
Açık Kaynaklı ve Ticari LLM Firewall Çözümlerinin Entegrasyonu:NeMo Guardrails (NVIDIA), Llama Guard (Meta) ve diğer açık kaynaklı/ticari LLM firewall çözümlerinin kurulumu, konfigürasyonu ve mevcut LLM uygulamalarına nasıl entegre edileceği uygulamalı olarak gösterilecektir.
-
Guardrails Kurallarının (Colang, Regular Expressions) Yazılması ve Test Edilmesi:Colang gibi özel diller veya Regular Expressions (Regex) kullanılarak karmaşık guardrails kurallarının nasıl yazıldığı, bu kuralların test edilmesi ve LLM'in istenen güvenlik politikalarına uygun davranmasının sağlanması öğretilecektir.
-
Teknik AI Güvenlik Raporunun Yazılması ve Kapatılması:AI sızma testi bulgularının, risk seviyelerinin ve önerilen düzeltici faaliyetlerin (Corrective and Preventive Actions - CAPA) detaylı bir şekilde belgelenmesi süreci incelenecektir.
-
AI Sızma Testi Bulgularının CVSS/OWASP Skorlamasına Göre Raporlanması:Tespit edilen güvenlik zafiyetlerinin Common Vulnerability Scoring System (CVSS) ve OWASP Top 10 for LLM kriterlerine göre nasıl derecelendirildiği ve profesyonel bir AI sızma testi raporunun nasıl hazırlanacağı öğretilecektir.
-
Tespit Edilen Zafiyetlerin Model Sıkılaştırma (Hardening), Prompt Mühendisliği ve Guardrails ile Giderilmesi:Tespit edilen zafiyetlerin giderilmesi için model sıkılaştırma teknikleri, prompt mühendisliği yaklaşımları (system prompt iyileştirmeleri, few-shot learning) ve guardrails konfigürasyonlarının nasıl kullanılacağı uygulamalı olarak gösterilecektir.
Katılımcılar bu modülde AI Guardrails, Girdi/Çıktı Süzme ve Zafiyet Giderme (Remediation) konusunu kurumsal mühendislik standartlarında kavramış ve sahada uygulanabilir pratik refleksler kazanmış olurlar.
-
DevSecOps Yaklaşımının AI Projelerine Entegrasyonu:Yazılım geliştirme yaşam döngüsünün (SDLC) her aşamasına güvenliği entegre eden DevSecOps prensiplerinin, AI/LLM projelerinde nasıl uygulanacağı ele alınacaktır.
-
Güvenli AI Geliştirme Yaşam Döngüsü (SDLC) Uygulamaları:AI sistemlerinin tasarımından dağıtımına kadar tehdit modelleme, güvenlik testleri (AI Red Teaming), zafiyet yönetimi ve güvenlik otomasyonunu kapsayan güvenli geliştirme süreçleri incelenecektir.
-
AI Sistemlerinde Güvenlik Denetimi Metodolojileri:LLM sistemlerinin ISO/IEC 27090, GDPR, HIPAA gibi ilgili standartlara ve düzenlemelere uygunluğunu değerlendirme süreçleri ve denetim metodolojileri ele alınacaktır.
-
Teknik Denetim Kanıtlarının Toplanması ve Uyum Raporlarının Hazırlanması:AI güvenlik denetimlerinde teknik kanıtların nasıl toplanacağı, güvenlik kontrollerinin etkinliğinin nasıl doğrulanacağı ve uyum raporlarının nasıl hazırlanacağı öğretilecektir.
-
Eğitimin tüm modülleri tamamlandıktan sonra, katılımcıların edindikleri tüm kazanımları somut bir kurumsal başarıya dönüştürmeleri amacıyla 3 farklı kulvarda seçmeli bitirme projesi sunulmaktadır:
-
Seçmeli Proje 1 (Kurumsal Temel Mimari & Standartlar)::Derin iş mantığı, katmanlı mimari, veri bütünlüğü ve en iyi pratikler. Bu proje, katılımcıların sağlam ve güvenli bir AI/LLM altyapısının temel prensiplerini kurumsal standartlara uygun olarak nasıl tasarlayacaklarını ve uygulayacaklarını göstermelerini hedefler.
-
Seçmeli Proje 2 (Dağıtık Sistemler, Ölçeklenebilirlik & Otomasyon)::Cloud-Native mimariler, asenkron akışlar ve otomasyon boru hatları. Bu proje, katılımcıların büyük ölçekli ve dağıtık AI/LLM sistemlerini güvenli bir şekilde nasıl tasarlayacaklarını, otomasyon araçlarını kullanarak güvenlik süreçlerini nasıl entegre edeceklerini ve bulut ortamlarında güvenlik kontrollerini nasıl uygulayacaklarını kanıtlamalarını sağlar.
-
Seçmeli Proje 3 (Yüksek Performans, Dayanıklılık & Modern Entegrasyon)::Gerçek zamanlı veri akışı, resiliency, gözlemlenebilirlik ve modern servis entegrasyonu. Bu proje, katılımcıların yüksek performanslı, dayanıklı ve güvenli AI/LLM sistemlerini gerçek zamanlı veri akışları, hata toleransı ve modern entegrasyon teknikleriyle nasıl geliştireceklerini ve bu sistemlerin güvenlik denetimlerini nasıl yapacaklarını sergilemelerini amaçlar.
-
Her katılımcı ilgi alanına uygun projeyi seçerek; mimari şemaları (Mermaid), kapsamlı geliştirme yol haritaları ve GitHub README standartları doğrultusunda uluslararası portföy kalitesinde bir proje teslim edecektir. Bu projeler, katılımcıların teorik bilgilerini pratiğe dökme, karmaşık problemleri çözme ve kurumsal düzeyde uygulanabilir güvenlik çözümleri üretme yeteneklerini pekiştirecektir.
-
Eğitimin Ötesinde:Kurumunuzla Birlikte Çalışıyor, Denetimlere Hazırlıyor ve Eksiklikleri Gideriyoruz
-
Vebende Akademi olarak, kurumsal regülasyon ve denetim uyumluluğunu yalnızca teorik eğitimlerle sınırlı değerlendirmiyoruz. Kurumunuzun faaliyet alanına, tabi olduğu yasal düzenlemelere (BDDK, TCMB, KVKK, SPK, ISO/IEC, SOC 2, EU AI Act), teknolojik altyapısına, organizasyonel yapısına ve mevcut kontrol mekanizmalarına göre kapsamlı bir ortak mühendislik çalışması yürütüyoruz.
-
İhtiyaç duyulması halinde ilgili eğitim programıyla birlikte veya bağımsız bir kurumsal hizmet kapsamında; denetim ve teftiş öncesinde kurumunuzun ilgili ekipleriyle birlikte çalışıyor, mevcut durumunuzu analiz ediyor, regülasyonlara uygunluk kontrollerini gerçekleştiriyor ve tespit edilen eksikliklerin giderilmesi için teknik ve organizasyonel iyileştirme çalışmalarını yürütüyoruz.
-
1. Kurumsal Yetkinlik Geliştirme (Eğitim Modeli):40 saatlik modüler uzmanlık eğitimi, canlı uygulamalı laboratuvarlar, hands-on workshoplar, kurumsal mimari aktarımı ve ekip yetkinlik değerlendirmesi.
-
2. Kurumsal Denetim, Uyum ve Birlikte Mühendislik Çalışması (Danışmanlık ve Birlikte Çalışma):360° mevcut durum analizi, denetim simülasyonları, teknik kontroller, kurum ekipleriyle birlikte mühendislik ve altyapı iyileştirmesi, yeniden test ve 13 kurumsal rapor paketi.
-
(Bu iki çalışma modeli kurumun ihtiyacına göre bağımsız olarak veya birbiriyle entegre bir program olarak tercih edilebilir).
-
1. 01 – Kurumsal Keşif ve Kapsam Analizi:Kurumun faaliyet alanı, iş modeli, tabi olduğu yasal düzenlemeler ve teknolojik envanterin incelenmesi. (Çıktı: Kapsam ve Mevcut Durum Raporu)
-
2. 02 – 360° Kurumsal Olgunluk ve Gap Analysis:Politika, prosedür, süreç ve teknik altyapının regülasyon standartlarına göre incelenmesi. (Çıktı: Kurumsal Olgunluk ve Eksiklik Analizi)
-
3. 03 – Denetim ve Kontrol Simülasyonu:Gerçekçi denetçi soru setleri, teknik test senaryoları ve mülakat simülasyonları. (Çıktı: Denetim Simülasyonu ve Bulgu Raporu)
-
4. 04 – Birlikte Geliştirme ve İyileştirme:Tespit edilen eksikliklerin kurumun teknik ve yönetim ekipleriyle birlikte kapatılması, kodlama ve altyapı iyileştirmeleri. (Çıktı: İyileştirilmiş Kontrol ve Altyapı Yapısı)
-
5. 05 – Yeniden Test ve Uygunluk Doğrulaması:Kapatılan bulguların yeniden kontrolü, kontrol etkinliği testleri ve kalan risk değerlendirmesi. (Çıktı: Retest ve Uygunluk Doğrulama Raporu)
-
6. 06 – Nihai Kurumsal 360° Raporlama:Yönetim kurulu ve teknik ekipler için kanıt dosyaları, sorumluluk matrisleri ve sürekli uyum planı. (Çıktı: Kurumsal 360° Sonuç ve İyileştirme Raporu)
#9516 ISO-IEC 27090 & OWASP LLM Yapay Zeka Güvenliği ve Red Teaming İçin Kurumsal Çalışma ve Denetim Hazırlık Haritası mimarisi, pratik kullanım detayları ve kurumsal standartlar.
-
| Çalışma Alanı | Yapılacak Kapsamlı Çalışmalar |
-
|---|---|
-
| AI ve LLM Varlık Envanteri | Kurum içi LLM'ler, açık kaynak modeller, API entegrasyonları ve AI ajanları |
-
| Veri Akışı ve Mimari Analiz | Kullanıcı girdisi, context window, RAG veri tabanı ve model çıktı hatları |
-
| Prompt Injection Analizi | Doğrudan ve dolaylı (Indirect Prompt Injection) saldırı vektörleri |
-
| Jailbreak ve Guardrail Aşımı | Güvenlik filtrelerini atlatma, adverseryal prompt teknikleri |
-
| RAG Güvenliği | Vektör veri tabanına yetkisiz veri enjeksiyonu ve yetkisiz bilgi ifşası kontrolleri |
-
| Model ve API Güvenliği | Model tersine mühendisliği, model extraction ve API yetkilendirme kontrolleri |
-
| Hassas Veri Sızıntısı | PII, kaynak kod, sistem komutları ve şirket sırlarının model çıktısından sızması |
-
| AI Agent Güvenliği | Tool calling, yetkisiz fonksiyon çalıştırma ve otonom ajan yetki sınırları |
-
| Supply Chain Güvenliği | HuggingFace/GitHub model zehirlenmesi ve zararlı bağımlılık analizi |
-
| Çıktı Doğrulama ve Sanitization | Güvensiz çıktı işleme (Insecure Output Handling) ve XSS/RCE koruması |
-
Doğrudan ve dolaylı Prompt Injection testleri ile model güvenlik kalkanının zorlanması
-
RAG mimarisi üzerinden yetkisiz departman veya kullanıcı verisine erişim denemesi simülasyonu
-
AI ajanının yetkisiz sistem aracı veya veritabanı komutu çalıştırmasını hedefleyen ajan saldırısı testi
-
Modelin gizli System Prompt yönergelerini ve şirket içi parametrelerini sızdırma testi
-
Model üzerinden hassas kişisel veri veya fikri mülkiyet çıkarma (Data Extraction) simülasyonu
-
Güvensiz çıktı işleme üzerinden istemci tarafında kod çalıştırma (XSS/Command Injection) testi
-
LLM API'lerine yönelik kaynak tüketimi ve servis engelleme (DoS / Model Abuse) testleri
-
AI ve LLM Sistemleri için Tehdit Modeli (Threat Model) oluşturulması
-
Çok katmanlı Güvenli Prompt ve Context Yönetim mimarisinin kurulması
-
AI Ajanları için katı yetki sınırları (Tool Permissioning) ve Sandbox izolasyonu
-
RAG erişimlerinde doküman bazlı yetkilendirme ve metadata filtreleme kontrolleri
-
NeMo Guardrails, Llama Guard veya özel AI Gateway filtreleme katmanlarının entegrasyonu
-
Otomatize AI Red Teaming test hatlarının CI/CD süreçlerine dahil edilmesi
-
İncelenecek Sistemler:LLM API uç noktaları, yerel model sunucuları (vLLM, Ollama), vektör veritabanları (Pinecone, Chroma, Qdrant), RAG hatları, AI Agent orkestrasyon ortamları, API Gateway ve model observability sistemleri
-
Kurumsal AI Güvenlik Değerlendirme Raporu (AI Security Assessment):
-
LLM Tehdit Modeli Dokümanı (LLM Threat Model):
-
AI Red Teaming Bulgular ve Test Raporu:
-
OWASP Top 10 for LLM Risk ve Uyum Matrisi:
-
AI Security Hardening (Güvenlik Sıkılaştırma) Eylem Planı:
-
İyileştirme Sonrası Yeniden Test (Retest) Raporu:
-
1. Executive Summary:Üst yönetim için genel durum, kritik riskler ve yönetim özeti
-
2. Regulatory Compliance Assessment:Tabi olunan regülasyon ve standart bazında detaylı uygunluk analizi
-
3. Gap Analysis:Eksik, yetersiz veya henüz uygulanmamış kontrollerin ayrıntılı dökümü
-
4. Risk Assessment:Olasılık, etki, risk seviyesi ve kontrol sonrası kalıntı (residual) risk analizi
-
5. Technical Infrastructure Audit:Sistem, ağ, bulut, uygulama ve güvenlik altyapısının teknik inceleme raporu
-
6. Governance Assessment:Yönetim organizasyonu, kurumsal politikalar, süreçler ve görev sorumlulukları incelemesi
-
7. Control Effectiveness Report:Kontrollerin tasarımı ile fiili çalışma etkinliğinin ölçüm raporu
-
8. Audit Simulation Report:Gerçekleştirilen denetim senaryoları, simülasyonlar ve teknik test sonuçları
-
9. Evidence Register:Teftiş kuruluna sunulacak kanıtlar, dokümanlar, loglar ve doğrulama kayıtları kütüğü
-
10. Remediation Roadmap:Tespit edilen eksikliklerin giderilmesi için önceliklendirilmiş mühendislik planı
-
11. Retest Report:İyileştirme çalışmaları sonrasında gerçekleştirilen yeniden doğrulama test sonuçları
-
12. Competency Assessment:Kurumsal ekiplerin denetim ve regülasyon farkındalık ve yetkinlik değerlendirmesi
-
13. Continuous Compliance Plan:Denetim sonrasında sürdürülebilir, yaşayan sürekli uyumluluk ve izleme takvimi
-
Her kontrol bulgusu için şu kurumsal yapı kullanılır:Bulgu ID, Regülasyon, Kontrol Referansı, Mevcut Durum, Beklenen Durum, Kanıt, Risk Seviyesi, İş Etkisi, İyileştirme Çözümü, Sorumlu, Hedef Tarih, Yeniden Test Sonucu, Nihai Durum (Açık, İyileştirildi, Doğrulandı, Kabul Edilmiş Risk).
-
> Sorumlu Güvence Beyanı:Denetim öncesinde tespit edilen uygunsuzlukların giderilmesi, kritik risklerin azaltılması ve ilgili kontrollerin doğrulanması için kapsamlı hazırlık çalışmaları yürütülür. Hedef, açık bulguların mümkün olan en yüksek oranda kapatılması ve denetlenebilir bir kontrol ortamının oluşturulmasıdır. Nihai denetim sonucu, yetkili denetim heyetinin takdirindedir.
-
>
-
> Yetkili Denetim Sınırları:Bu çalışma kontrollü ortamda gerçekleştirilen yapay zekâ kırmızı takım ve güvenlik sıkılaştırma testlerini kapsar; kurumun yazılı izni ve onaylı kapsamı dahilinde yürütülür.
-
Denetim öncesinde yapılan hazırlık çalışmasıyla sınırlı kalmayıp; kurumlar için yıllık veya dönemsel kontrol etkinliği takibi, regülasyon ve mevzuat değişikliklerinin değerlendirilmesi, üçüncü taraf tedarikçi denetimleri ve periyodik teknik güvenlik kontrolleri düzenli olarak sunulmaktadır.
Bu kapsamlı eğitim sonunda katılımcılar, yapay zekâ ve Büyük Dil Modelleri (LLM) güvenliği alanında sadece teorik bilgiye sahip olmakla kalmayacak, aynı zamanda bu bilgileri kurumsal operasyonel gerçekliğe uygun olarak uygulayabilecek somut yetkinlikler kazanacaklardır. Bu kazanımlar, katılımcıların kariyerlerine önemli bir ivme kazandırırken, çalıştıkları kurumların siber güvenlik duruşunu da güçlendirecektir.
Eğitim, katılımcıları hızla büyüyen yapay zekâ güvenliği pazarında aranan uzmanlar haline getirecektir. Siber Güvenlik Uzmanları ve Sızma Testi Uzmanları, geleneksel güvenlik becerilerini AI/LLM sistemlerine taşıyarak kariyerlerinde yeni bir uzmanlık alanı edineceklerdir. Yapay Zekâ Mühendisleri, Veri Bilimciler ve MLOps Uzmanları, geliştirdikleri modellerin güvenlik açıklarını proaktif olarak tespit etme ve giderme yeteneği kazanarak "güvenli AI geliştirme" prensiplerini benimseyeceklerdir. Bilgi Güvenliği Yöneticileri (CISO) ve Altyapı Mimarları, kurumsal AI stratejilerini güvenlik perspektifiyle şekillendirme ve denetlenebilir bir AI altyapısı kurma konusunda liderlik edebileceklerdir. Bu yetkinlikler, katılımcıların sektördeki rekabet gücünü artıracak, daha üst düzey pozisyonlara yükselmelerine olanak tanıyacak ve geleceğin teknoloji liderleri arasında yer almalarını sağlayacaktır.
Kurumlar, bu eğitim sayesinde yapay zekâ projelerini daha güvenli ve denetlenebilir bir şekilde hayata geçirebileceklerdir. ISO/IEC 27090 standardına uyumlu tehdit modelleme ve risk analizi yapma becerisi, kurumların yasal ve düzenleyici gereksinimleri karşılamasına yardımcı olacaktır. OWASP Top 10 for LLM zafiyetlerini tespit etme ve giderme yetkinliği, potansiyel veri sızıntılarını, hizmet kesintilerini ve itibar kayıplarını önleyecektir. AI Red Teaming operasyonları, kurumların yapay zekâ sistemlerinin gerçek dünya saldırılarına karşı dayanıklılığını artıracak, proaktif savunma mekanizmaları geliştirmelerini sağlayacaktır. LLM Firewall ve Guardrails mekanizmalarının yapılandırılması, modelin istenmeyen davranışlarını engelleyerek kurumsal politikaların ve etik standartların korunmasına katkıda bulunacaktır. Sonuç olarak, kurumlar yapay zekâ yatırımlarından maksimum fayda sağlarken, güvenlik risklerini minimize ederek sürdürülebilir bir büyüme elde edeceklerdir.
Eğitim, katılımcılara sadece teknik bilgi değil, aynı zamanda analitik düşünme, problem çözme ve stratejik planlama gibi kritik beceriler de kazandıracaktır. Karmaşık LLM mimarilerini anlama, güvenlik açıklarını tespit etme ve istismar etme, ardından bu zafiyetleri gidermek için etkili çözümler tasarlama yeteneği, katılımcıların teknik yetkinliklerini zirveye taşıyacaktır. AI Red Teaming simülasyonları ve uygulamalı laboratuvarlar sayesinde, katılımcılar gerçek dünya senaryolarına karşı pratik deneyim kazanacak, hızlı ve doğru kararlar alma becerilerini geliştireceklerdir. Raporlama ve düzeltici faaliyet yönetimi becerileri, katılımcıların teknik bulguları iş liderlerine anlaşılır bir dille sunmalarını ve güvenlik iyileştirme süreçlerini etkin bir şekilde yönetmelerini sağlayacaktır. Bu değerler, katılımcıları sadece birer teknik uzman değil, aynı zamanda kurumlarının yapay zekâ güvenliği stratejilerine yön veren stratejik danışmanlar haline getirecektir.
Eğitime Ek Olarak Alabileceğiniz Kapsamlı Hizmet ve Çalışmalarımız
Kurumsal Regülasyon Uyumluluğu, Denetim Hazırlığı ve Birlikte Mühendislik Çözümleri
Eğitimin Ötesinde: Kurumunuzla Birlikte Çalışıyor, Denetimlere Hazırlıyor ve Eksiklikleri Gideriyoruz
Vebende Akademi, kurumları bağımsız denetimlere ve resmi regülasyonlara hazırlayan, mevcut kurumsal uyumluluk ve olgunluk seviyelerini 360° ölçen, teknik ve organizasyonel eksiklikleri ekiplerinizle birlikte gideren ve uygulanan iyileştirmeleri doğrulayan bir yetkinlik ve mühendislik çözüm ortağıdır.
Bu yaklaşımda eğitim, kurumsal dönüşümün ve yetkinlik inşasının yalnızca bir bileşenidir. Kurumun talebine göre regülasyon kapsamının belirlenmesinden gap analizine, denetçi simülasyonlarından canlı sistemlerde iyileştirme mühendisliğine, yeniden test (retest) kanıtlarından C-Level yönetim raporlarına kadar tüm süreç kurumunuzla birlikte çalışma (co-working) prensibiyle yürütülür.
Kurumsal Yetkinlik Geliştirme (Eğitim Modeli)
Ekiplerinizin bağımsız denetim standartlarına, regülasyon maddelerine ve mimari sıkılaştırma gereksinimlerine tam hakimiyet kazanması için yapılandırılmış 40 saatlik modüler yetkinlik programı.
- 40 Saatlik Kapsamlı Uygulamalı Müfredat
- Canlı Kurumsal Vaka Laboratuvarları ve Atölyeler
- Mimari Tasarım ve Kod / Konfigürasyon İncelemeleri
- 3 Gerçek Dünya Bitirme Projesi ve Seviye 3 Bröve
- Kıdemli Mentörle 1-1 Kariyer ve Mimari Oturumu
Kurumsal Denetim, Uyum ve Birlikte Mühendislik Çalışması
Kurumun gerçek sistemleri ve süreçleri üzerinde çalışarak uyumluluk seviyesini ölçen, eksiklikleri ekiplerinizle birlikte gideren ve 13 kurumsal rapor sunan mühendislik çözüm ortaklığı.
- 360° Mevcut Durum Analizi ve Gap Analysis
- Gerçekçi Denetçi Soru Setleri ve Denetim Simülasyonu
- Kurum Ekipleriyle Birlikte Mühendislik ve İyileştirme
- İyileştirme Sonrası Yeniden Test (Retest) Doğrulaması
- Yönetim ve Teftiş İçin 13 Kapsamlı Sonuç Raporu
* Kurumlar bu iki çalışma modelini ihtiyaca göre bağımsız bir danışmanlık hizmeti olarak veya eğitimle entegre hibrit bir program halinde tercih edebilirler.
Assessment
Kurumsal keşif, mevzuat kapsamı ve altyapı envanterinin tespiti.
Çıktı: Kapsam RaporuGap Analysis
Politika, prosedür ve teknik kontrollerin olgunluk analizi.
Çıktı: Eksiklik AnaliziAudit Sim
Gerçekçi denetçi soru setleri ve teknik simülasyonlar.
Çıktı: Bulgu RaporuEngineering
Tespit edilen eksikliklerin birlikte kapatılması ve kodlama.
Çıktı: İyileştirilmiş YapıVerification
Kapatılan bulguların yeniden testi ve kanıt doğrulaması.
Çıktı: Retest RaporuReporting
C-Level ve teftiş kurulu için 360° sonuç ve yol haritası.
Çıktı: 360° Sonuç RaporuDenetim Hazırlığı ve Odak Çalışma Alanları
| Çalışma Alanı | Yapılacak Kapsamlı Teknik ve Mevzuatsal Çalışmalar |
|---|---|
| AI ve LLM Varlık Envanteri | Kurum içi LLM'ler, açık kaynak modeller, API entegrasyonları ve AI ajanları |
| Veri Akışı ve Mimari Analiz | Kullanıcı girdisi, context window, RAG veri tabanı ve model çıktı hatları |
| Prompt Injection Analizi | Doğrudan ve dolaylı (Indirect Prompt Injection) saldırı vektörleri |
| Jailbreak ve Guardrail Aşımı | Güvenlik filtrelerini atlatma, adverseryal prompt teknikleri |
| RAG Güvenliği | Vektör veri tabanına yetkisiz veri enjeksiyonu ve yetkisiz bilgi ifşası kontrolleri |
| Model ve API Güvenliği | Model tersine mühendisliği, model extraction ve API yetkilendirme kontrolleri |
| Hassas Veri Sızıntısı | PII, kaynak kod, sistem komutları ve şirket sırlarının model çıktısından sızması |
| AI Agent Güvenliği | Tool calling, yetkisiz fonksiyon çalıştırma ve otonom ajan yetki sınırları |
| Supply Chain Güvenliği | HuggingFace/GitHub model zehirlenmesi ve zararlı bağımlılık analizi |
| Çıktı Doğrulama ve Sanitization | Güvensiz çıktı işleme (Insecure Output Handling) ve XSS/RCE koruması |
Denetim ve Kontrol Simülasyonları
Denetçilerin soracağı sorular ve gerçek denetim senaryoları öncesinde uygulanan teknik testler:
- Doğrudan ve dolaylı Prompt Injection testleri ile model güvenlik kalkanının zorlanması
- RAG mimarisi üzerinden yetkisiz departman veya kullanıcı verisine erişim denemesi simülasyonu
- AI ajanının yetkisiz sistem aracı veya veritabanı komutu çalıştırmasını hedefleyen ajan saldırısı testi
- Modelin gizli System Prompt yönergelerini ve şirket içi parametrelerini sızdırma testi
- Model üzerinden hassas kişisel veri veya fikri mülkiyet çıkarma (Data Extraction) simülasyonu
- Güvensiz çıktı işleme üzerinden istemci tarafında kod çalıştırma (XSS/Command Injection) testi
- LLM API'lerine yönelik kaynak tüketimi ve servis engelleme (DoS / Model Abuse) testleri
Birlikte Geliştirme ve İyileştirme Yönergeleri
Tespit edilen eksikliklerin kurumun teknik ve yönetim ekipleriyle birlikte kapatılma adımları:
- AI ve LLM Sistemleri için Tehdit Modeli (Threat Model) oluşturulması
- Çok katmanlı Güvenli Prompt ve Context Yönetim mimarisinin kurulması
- AI Ajanları için katı yetki sınırları (Tool Permissioning) ve Sandbox izolasyonu
- RAG erişimlerinde doküman bazlı yetkilendirme ve metadata filtreleme kontrolleri
- NeMo Guardrails, Llama Guard veya özel AI Gateway filtreleme katmanlarının entegrasyonu
- Otomatize AI Red Teaming test hatlarının CI/CD süreçlerine dahil edilmesi
Altyapı ve Mimari Kontrol Kapsamı
İncelenecek Sistem, Ağ, Bulut, Uygulama ve Güvenlik Altyapıları:
Bu Eğitime ve Çalışmaya Özel Kurumsal Teslimatlar
Tüm kurumsal çalışmalarımızın sonunda yönetim kademesine, iç denetim birimlerine ve bağımsız denetçilere sunulmak üzere uluslararası denetim standartlarına uyumlu 13 ayrı kurumsal rapor paketi üretilir:
Executive Summary
Üst yönetim için genel durum, kritik riskler ve yönetim özeti
Regulatory Compliance Assessment
Tabi olunan regülasyon ve standart bazında detaylı uygunluk analizi
Gap Analysis
Eksik, yetersiz veya henüz uygulanmamış kontrollerin ayrıntılı dökümü
Risk Assessment
Olasılık, etki, risk seviyesi ve kontrol sonrası kalıntı (residual) risk analizi
Technical Infrastructure Audit
Sistem, ağ, bulut, uygulama ve güvenlik altyapısının teknik inceleme raporu
Governance Assessment
Yönetim organizasyonu, kurumsal politikalar, süreçler ve görev sorumlulukları incelemesi
Control Effectiveness Report
Kontrollerin tasarımı ile fiili çalışma etkinliğinin ölçüm raporu
Audit Simulation Report
Gerçekleştirilen denetim senaryoları, simülasyonlar ve teknik test sonuçları
Evidence Register
Teftiş kuruluna sunulacak kanıtlar, dokümanlar, loglar ve doğrulama kayıtları kütüğü
Remediation Roadmap
Tespit edilen eksikliklerin giderilmesi için önceliklendirilmiş mühendislik planı
Retest Report
İyileştirme çalışmaları sonrasında gerçekleştirilen yeniden doğrulama test sonuçları
Competency Assessment
Kurumsal ekiplerin denetim ve regülasyon farkındalık ve yetkinlik değerlendirmesi
Continuous Compliance Plan
Denetim sonrasında sürdürülebilir, yaşayan sürekli uyumluluk ve izleme takvimi
Denetim simülasyonlarında ve teknik analizlerde tespit edilen her uygunsuzluk, uluslararası iç denetim ve regülasyon metodolojisine uygun olarak aşağıdaki 11 bileşenli formatta raporlanır:
| Bulgu Kodu | İlgili Standart / Madde | Bulgu Tanımı | Kök Neden | Risk Seviyesi | Etki & Olasılık | İyileştirme Aksiyonu | Sorumlu Birim | Hedef Tarih | Doğrulama Yöntemi | Durum |
|---|---|---|---|---|---|---|---|---|---|---|
FIND-001 |
BDDK / ISO Kontrol No | Açık ve net bulgu açıklaması | Süreç / Mimari eksiklik | Kritik | Yüksek / Orta | Birlikte mühendislik adımı | Altyapı / Güvenlik | GG.AA.YYYY | Retest / Log İncelemesi | Açık |
FIND-002 |
Yetkilendirme / Şifreleme | Sıkılaştırma eksikliği | Konfigürasyon zaafı | Yüksek | Kritik / Düşük | Sıkılaştırma scripti & GPO | DevSecOps / Sistem | GG.AA.YYYY | Doğrulandı | Kapatıldı |
Sorumlu Güvence İlkesi ve Önemli Yasal / Denetim Sınırları
Sorumlu Güvence Beyanı: Denetim öncesinde tespit edilen uygunsuzlukların giderilmesi, kritik risklerin azaltılması ve ilgili kontrollerin doğrulanması için kapsamlı hazırlık çalışmaları yürütülür. Hedef, açık bulguların mümkün olan en yüksek oranda kapatılması ve denetlenebilir bir kontrol ortamının oluşturulmasıdır. Nihai denetim sonucu, yetkili denetim heyetinin takdirindedir.
Yetkili Denetim Sınırları: Bu çalışma kontrollü ortamda gerçekleştirilen yapay zekâ kırmızı takım ve güvenlik sıkılaştırma testlerini kapsar; kurumun yazılı izni ve onaylı kapsamı dahilinde yürütülür.
Tuncer KARAARSLAN
Bilgisayar mühendisliğindeki 35 yılı aşan mühendislik ve teknoloji deneyimi ile 25 yılı aşkın uluslararası kurumsal teknoloji eğitmenliği ve danışmanlık kariyeriyle Tuncer KARAARSLAN, Türkiye'nin önde gelen teknoloji ve yazılım otoritelerindendir. Kurumsal yazılım mimarileri, bulut altyapıları, DevOps, DevSecOps ve yapay zeka entegrasyonlarında derinlemesine uzmanlığa sahiptir.
Hackathon Tadında Eğitim Yaklaşımı: Teorik bilginin ötesine geçerek bol senaryolu, interaktif ve katılımcıların projelerini canlı inceleyen (Code Review & Architecture Review) bir öğrenme deneyimi sunar.
Kurumunuzun ihtiyacına, ekibinizin kıdemine ve takvimine göre özelleştirilmiş 4 farklı çalışma formatı sunuyoruz.
Detaylı Kapalı Sınıf (3-5 Hafta)
Teknolojinin tüm detaylarının bol laboratuvar ve hands-on pratiklerle incelendiği kurumsal standart formatımızdır.
Hackathon Formatı
Teknik ekiplerin gruplar halinde projeler inşa ettiği, oyunlaştırılmış ve sinerjiyi artıran interaktif modeldir.
İleri Düzey Workshoplar
Mimarlar seviyesinde sistemlerin ve operasyonel modellerin tartışıldığı danışmanlık formatındaki oturumlardır.
Yönetim Seminerleri (1-2 Hafta)
C-Level ve mühendislik yöneticilerinin stratejik karar alma süreçlerini destekleyen farkındalık seminerleridir.
Bu programı tamamlayan katılımcılar aşağıdaki kritik teknik yetkinlikleri sahada uygulama becerisi kazanır.
- Kurumsal projelerde aranan elit mühendislik ve uzmanlık unvanına sahip olma
- Teknik liderlik, çözüm mimarlığı ve kıdemli uzmanlık pozisyonlarına geçişte belirleyici avantaj
- Büyük ölçekli kurumsal altyapılarda ve kritik sistemlerde güvenilir karar alma yetkinliği
- Sektörel standartlarda problem çözme, optimizasyon ve hata giderme refleksleri kazanma
- Global ölçekte geçerli teknik bilgi birikimi ve LinkedIn üzerinde doğrulanabilir dijital rozetler
- Sektörün duayen eğitmeni Tuncer KARAARSLAN liderliğinde 35+ yıllık tecrübeyle mentorluk
- Slayt okumak yerine; yoğun canlı kodlama, mimari analizler ve interaktif laboratuvar yaklaşımı
- Eğitim süresince 10 hands-on laboratuvar ödevi ve birebir eğitmen geri bildirimi
- 3 gerçek dünya bitirme projesiyle 3. Seviye Uzmanlık Brövesi kazanımı
- Katılımcı sayısı sınırlaması olmaksızın sınıf bazlı kurumsal sabit fiyat modeli
Liderlik ve Yönetim Kademeleri İçin Değer Matrisi
Bu eğitim; yetkinliği proje, code review ve ölçülebilir çıktılarla görünür hale getirerek teknik ve idari karar vericilerin mühendislik kalitesini güçlendirmesi için kurgulanmıştır.
Denetim Güvencesi & Bulgu Önleme
- • Kapsamlı Bulgu Kapatma: BDDK, KVKK, ISO 27001 denetimleri öncesinde kritik zafiyetleri proaktif kapatma.
- • Denetlenebilir Mimari: Sistemleri uluslararası güvenlik tebliğlerine göre sıkılaştırıp belgelendirme.
- • Teftiş Kalkanı: Dış denetçi ve müfettişlerin inceleme testlerinde tam uyum sağlama.
- • Ceza Riski Koruması: Olası regülasyon para cezaları ve lisans risklerini engelleme.
Denetim Kanıtı & Çalışma Kağıdı
- • Çalışma Kağıdı Hazırlığı: Denetim heyetlerine sunulacak uluslararası standartta çalışma kağıtları.
- • CISA/CRISC Uyumu: İç denetim süreçlerini global ISACA standartlarına göre işletme.
- • Kanıt Bütünlüğü: Örnekleme yerine tüm sistemlerde doğrulanabilir log telemetrisi.
- • Şeffaf Teftiş Karnesi: Yönetim kuruluna sunulacak temiz denetim raporu üretimi.
Yasal Koruma & Ceza Kalkanı
- • Regülasyon Dokunulmazlığı: KVKK, GDPR, EU AI Act ve tebliğ yükümlülüklerine eksiksiz uyum.
- • Yönetim Kurulu Güvencesi: Karar vericilerin yasal ve cezai sorumluluklarını koruma altına alma.
- • RACI & Yönetişim: Şirket içi görevler ayrılığı ve veri saklama prosedürlerini kurma.
- • Hukuki Argümantasyon: Düzenleyici kurumlara karşı savunulabilir teknik dokümantasyon.
Mimari Standartlar & Kesintisiz Uyum
- • Pre-Audit Hardening: Sistemleri teftiş öncesinde CIS Benchmarks seviyesinde sıkılaştırma.
- • Sıfır Teknik & Uyum Borcu: Regülasyona aykırı gölge BT unsurlarını ve açıkları yok etme.
- • Zero Trust Mimarisi: En az ayrıcalık ve katmanlı erişim modellerini hayata geçirme.
- • Sürekli Denetim Refleksi: Ekiplere denetlenebilir mimari refleksleri kazandırma.
#9516 ISO-IEC 27090 & OWASP LLM Yapay Zeka Güvenliği ve Red Teaming; Vebende Akademi'nin kurumsal mühendislik kariyer yollarının çekirdek modüllerindendir.
#9516 eğitimini tamamladıktan sonra kariyer ve uzmanlık hedefinize göre doğrudan geçiş yapabileceğiniz ilişkili ileri düzey eğitimler.
Resmi denetim öncesi hazırlık, birlikte çalışma modeli, üretilen çalışma kağıtları ve kurumsal güvence hakkında merak edilenler.
Bu Eğitimi Kurumunuza ve Ekibinize Özel Olarak Alın
Şirketinizin teknoloji yığınına uygun özelleştirilmiş müfredat, kapalı sınıf imkanı ve teknik ekip performans raporlaması ile kurumsal dönüşümünüzü hızlandırın.