1. GİRİŞ

Yapay zekâ (AI) sistemleri hızla iş süreçlerinin merkezine yerleşirken, modellerin güvenliği ve bütünlüğü kritik bir konu haline geldi. Model güvenliği yalnızca modelin doğruluğunu korumak değil; aynı zamanda veri gizliliği, sistemin istikrarı, kullanıcı güveni ve regülasyon uyumluluğu açısından da hayati önemdedir. Son yıllarda adversarial saldırılar, model inversion, model theft, data poisoning ve prompt injection gibi yeni tehdit vektörleri ortaya çıktı. Bu tür saldırılar sadece araştırma sorunu olmaktan çıkarak gerçek dünya uygulamalarında üretim hizmetlerini hedef alan güvenlik risklerine dönüştü.

Bu rehber mühendisler, güvenlik mühendisi, MLOps ekipleri, CTO'lar ve teknik liderler için hazırlandı. Amaç; AI model güvenliğinin neden bugün kritik olduğunu açıklamak, temel kavramları ve tehditleri netleştirmek, teknik mimari ve savunma stratejilerini detaylandırmak, gerçek dünya örnekleri üzerinden uygulama rehberi sunmak ve üretime alma sırasında dikkat edilecek en iyi pratikleri paylaşmaktır.

Kısa cevaplar:

• Bu teknoloji neden konuşuluyor? Çünkü AI sistemleri iş kararlarını etkiliyor ve saldırıya uğradıklarında ciddi maddi ve itibari kayıplara yol açabiliyor.
• Kimler için önemli? Herhangi bir AI/ML ürünü sunan kuruluş için — özellikle finans, sağlık, e‑ticaret ve kamu sektörü.
• Hangi problemleri çözer? Model çalınması, veri sızıntıları, yanlış veya manipüle edilmiş tahminler, ve düzenleyici uyumsuzluk riskleri.

2. KAVRAMSAL TEMELLER

2.1 Temel Kavramlar ve Tanımlar

• Adversarial Attack: Modele kasıtlı olarak yanlış sonuçlar ürettirmek için giriş verilerine küçük ama etkili değişiklikler yapmak.
• Data Poisoning: Eğitim verisine kötü niyetli örnekler ekleyerek modelin davranışını bozmaya çalışmak.
• Model Inversion: Modelin çıktıları ve erişilebilir bilgileri kullanarak eğitim verisinin özelliklerini veya bireysel örnekleri yeniden oluşturmak.
• Model Stealing / Extraction: Sorgu‑tabanlı erişimle modelin davranışını kopyalayarak kendi eşdeğer modelini oluşturmak.
• Prompt Injection: LLM tabanlı hizmetlerde kötü niyetli kullanıcı girdileri ile modelin beklenmedik görevler yapmasını sağlama.
• Confidentiality, Integrity, Availability (CIA): Geleneksel güvenlik üçlüsü; ML bağlamında veri gizliliği, model bütünlüğü ve hizmet erişilebilirliği anlamına gelir.

2.2 Tehdit Vektörleri — Kısa Özet

1. Training‑time attacks (data poisoning, backdoor)
2. Inference‑time attacks (adversarial examples, evasion)
3. API abuse (rate limiting, query probing, model extraction)
4. Data leakage (model inversion, memorization)
5. Supply chain (third‑party models, weights tampering)

2.3 Bileşenler ve Mimariler

Model güvenliği nihayetinde aşağıdaki bileşenlerin ortak sorumluluğudur:

• Data pipeline (ingestion, labeling, storage)
• Training infra (compute nodes, artifact storage)
• Model registry & version control
• Serving layer (API gateways, inference servers)
• Monitoring & observability (metrics, logs, alerts)
• Access control & secrets management (KMS, IAM)

3. NASIL ÇALIŞIR? — TEKNİK MİMARİ VE SAVUNMA STRATEJİLERİ

3.1 Güvenli Veri Yönetimi

Güvenli veri yaşam döngüsü şu adımlarla sağlanır:

• Veri sınıflandırması: Hangi verilerin PII/PHI/secret olduğunu belirleyip sınıflandırın.
• Data provenance & lineage: Her veri parçasının kaynağı, işlenme adımları ve anotasyon geçmişi izlenmelidir.
• Immutability & versioning: Ham veriyi değiştirilemez katmanda saklayın ve değişiklikleri kayıt altına alın.
• Labeling governance: İnsan anotatörlerin erişimini kontrol edin; kalite kontrol süreçleri uygulayın.
• PII masking / anonymization: Eğitime girmeden önce hassas alanları maskeleyin veya anonimleştirin.

3.2 Eğitim (Training) Güvenliği

Training‑time saldırılara karşı savunma önerileri:

• Data validation & sanitization: Otomatik ve manuel kontroller: outlier detection, duplicate detection, semantik tutarsızlık tespiti.
• Poisoning detection: Influence functions, robust statistics, ve k‑NNT tabanlı anomalilere bakma yöntemleri kullanılabilir.
• Robust training: Adversarial training, differential privacy ve robust loss fonksiyonları ile dayanıklılığı artırın.
• Secure compute: Güvenli training ortamı (isolated networks, signed images, sealed environment) kullanın.
• Third‑party model evaluation: Pretrained veya third‑party modeller kullanmadan önce verifikasyon, watermark veya provenance kontrolü uygulayın.

3.3 Model Registry ve Supply Chain Güvenliği

Model artefaktlarının güvenliği, yazılım supply chain prensiplerine benzer şekilde ele alınmalıdır:

• Signed artifacts: Model ağırlıkları ve container imajları dijital olarak imzalanmalı.
• Provenance & metadata: Hangi veri, hangi commit ve hangi ortamda üretildi kaydı tutulmalı.
• Model vulnerability scanning: Known vulnerabilities (e.g., malicious code in custom layers) için tarama yapılmalı.
• Access control: Model registry’ye yalnızca yetkili roller yazma/okuma yetkisi olmalı ve tüm erişimler auditlenmeli.

3.4 Inference‑time Güvenlik

Gerçek zamanlı endpointler için savunmalar:

• Input validation & sanitization: İstemci girdilerini normalize edin, beklenen şema dışı girişleri reddedin.
• Rate limiting & throttling: API abuse ve model extraction saldırılarına karşı davranış tabanlı limitler ve quota'lar uygulayın.
• Adversarial detection: Modelin output veya input özelliklerine göre anomali tespit sistemleri (confidence score, distribution monitoring).
• Ensemble & detection models: Şüpheli istekleri tespit edecek hafif modeller koyun; şüpheli durumlarda fallback mekanizması çalıştırın.
• Reject option: Low confidence veya şüpheli girişler için modelin "bilgim yok" veya insana yönlendirme cevabı vermesi tercih edilir.

3.5 LLM‑Spesifik Konular: Prompt Injection ve Context Hygiene

LLM tabanlı sistemlerde prompt injection riski önemlidir. Korunma yolları:

• Prompt sandboxing: Kullanıcı girdilerini model prompt'undan mümkün olduğunca ayrıştırın; sabit sistem mesajları (system prompt) güvenilir ortamda tutulmalı.
• Instruction filtering: Girdilerde "ignore previous instructions" gibi tehlikeli tokenları tespit eden filtreler kullanın.
• Output filtering: Modelin döndürdüğü metni policy motoru ile tarayarak hassas içerik veya komutları bloklayın.
• Context provenance: RAG senaryosunda hangi belge parçalarının prompt'a girdiğini kaydederek after‑the‑fact inceleme ve attribution yapın.

3.6 Privacy: Differential Privacy ve Federated Learning

Veri gizliliğini sağlamak için iki önemli yaklaşım:

• Differential Privacy (DP): Eğitim sürecine gürültü ekleyerek bireysel örneklerin etkisini azaltır; model inversion riskini düşürür.
• Federated Learning (FL): Veriyi merkezileştirmeden yerel cihazlarda eğitim yapıp sadece model güncellemelerini paylaşma yaklaşımıdır; PII riskini azaltır ancak communication ve poisoning riskleri getirir.

3.7 Monitoring, Logging ve Forensics

Güvenlik olaylarını hızlı tespit ve müdahale için:

• Per‑request tracing: hangi model/versiyon, hangi konteks, hangi input/metadata ile cevap üretildi kaydı
• Anomaly detection: input/output distribution drift ve outlier detection
• Audit logs: kim erişti, ne zaman, hangi sonuç döndü — immutable log saklama
• Playbook & incident response: model compromise senaryoları için hazır yanıt planları

4. GERÇEK DÜNYA KULLANIMLARI

4.1 Finans — Fraud Detection ve Model Integrity

Finans kurumlarında yanlış bir model sonucu doğrudan para kaybına neden olur. Bu nedenle model değişiklikleri sıkı onay süreçleri, shadow deploy, canary testleri ve explainability raporları ile entegre edilir. Ayrıca adversarial transaction örneklerine karşı robust training önemlidir.

4.2 Sağlık — Gizlilik ve Regülasyon

Sağlık verileri hassastır; DP ve on‑prem inference tercihleri, model kayıtları ve doğrulama süreçleri regülasyon uyumu için zorunlu hale gelmiştir. Model inversion riski hasta verisinin ortaya çıkmasına yol açabilir, bu yüzden ekstra önlemler gerekir.

4.3 E‑ticaret — Recommendation Manipulation

Öneri sistemleri manipülasyona açıktır; kötü niyetli aktörler sahte etkileşimlerle modeli yanıltabilir. Bu tür saldırılara karşı input sanitization, bot detection ve robust training uygulanır.

4.4 OpenAI Benzeri Hizmetler — Prompt Security ve Abuse Prevention

LLM sağlayıcıları abuse prevention, content filtering, watermarking ve rate limiting ile hizmetlerini korur. Prompt injection korunması ve model abuse monitoring önemli operasyonel gereksinimlerdendir.

5. AVANTAJLAR VE SINIRLAMALAR

Avantajlar

• Güvenli modeller iş sürekliliğini, kullanıcı güvenini ve düzenleyici uyumu artırır.
• Proaktif güvenlik tedbirleri uzun vadede maliyetli olayları ve itibar kaybını önler.
• Gelişmiş monitoring ve guardrail'ler ile model kalitesini korumak kolaylaşır.

Sınırlamalar

• Güvenlik önlemleri (DP, adversarial training) bazen doğruluk maliyeti getirir.
• Federated learning ve secure enclaves gibi yaklaşımlar operasyonel karmaşıklık artırır.
• Model güvenliği sürekli evrim gerektirir; yeni saldırılara karşı güncel kalmak maliyetlidir.

6. ALTERNATİFLER VE KARŞILAŞTIRMA

7. EN İYİ PRATİKLER

Production Kullanımı

• Model ve veri versiyonlama zorunlu olmalı; her üretim değişikliği kaydedilmeli ve geri alınabilir olmalı.
• Canary / shadow deploy ile yeni modellerin kademeli denenmesi; otomatik rollback kriterleri tanımlayın.
• Per‑request telemetry, explainability traces ve audit log toplayın.
• Rate limiting, authentication, authorization ve quota mekanizmalarını implement edin.

Performans & Güvenlik Dengesi

• DP veya adversarial training gibi yöntemleri uygulamadan önce iş hedefleri ile doğruluk/maliyet trade‑off'unu değerlendirin.
• Key security mechanisms için SLA ve SLO'lar belirleyin (ör. incident MTTR).

Governance & Compliance

• Model risk yönetim süreci kurun: risk değerlendirmeleri, owner atama, approval gates.
• Data subject requests (DSR) ve right to be forgotten süreçlerini otomatikleştirin.

8. SIK YAPILAN HATALAR

• Güvenlik sonradan eklenir: Güvenliği tasarımın başında dikkate almamak büyük risk oluşturur.
• Monitoring ihmal edilir: Model davranışı izlenmeden saldırılar uzun süre fark edilmez.
• 3rd‑party modeller kontrolsüz kullanılır: Ön değerlendirme ve scanning olmadan dış modeller kullanılmamalı.
• Access control zayıf: Model registry ve artifact erişimi sıkı yönetilmezse kötü niyetli değişiklik riski artar.

9. GELECEK TRENDLER

1. Model watermarking ve provenance: Model ve output watermark teknikleri, model theft tespitinde yaygınlaşacak.
2. ML‑driven security: Güvenlik kontrol ve anomalileri tespit eden ML modelleri daha fazla kullanılacak.
3. Regülasyonlar: AI güvenliği ve explainability için uluslararası standartlar ve regülasyonlar gelişecek.
4. Secure model marketplaces: Third‑party modellerin güvenli bir şekilde paylaşıldığı doğrulanmış pazarlar ortaya çıkacak.

EK BÖLÜMLER

Sık Sorulan Sorular (FAQ)

1. Model theft nedir ve nasıl korunurum?

   Model theft, bir saldırganın API sorguları aracılığıyla model davranışını kopyalaması veya ağırlıkları yeniden oluşturmasıdır. Korunma: rate limiting, query monitoring, watermarking, ve output throttling ile model extraction azaltılabilir.

2. Prompt injection riskini nasıl azaltırım?

   Input sanitization, prompt sandboxing, sistem mesajlarını ayrı güvenli katmanda tutma ve output filtering kullanın.

3. Data poisoning tespit etmek mümkün mü?

   Evet; influence functions, data provenance, anomalous label detection ve robust statistics ile şüpheli örnekler tespit edilebilir. Ancak zor saldırılar için insan incelemesi de gerekebilir.

4. Differential privacy uygulamak doğruluğu düşürür mü?

   Genelde bir miktar utility kaybı olur; fakat doğru parametrizasyon (epsilon seçimleri) ile gizlilik ve fayda arasında dengelenebilir.

5. Federated learning güvenli midir?

   FL, veri gizliliğini artırır ancak poisoning ve Byzantine güncellemelerine karşı savunmalar gerektirir (secure aggregation, robust aggregation).

6. Model watermarking nasıl çalışır?

   Model çıktılarında veya ağırlıklarda belirli imzalar/işaretler bırakma teknikleridir; model dışa çıkarıldığında özgünlüğü doğrulamaya yardımcı olur.

7. Üretim ortamında hangi metrikleri izlemeliyim?

   Input distribution drift, prediction distribution, confidence/fallback rate, query frequency, model latency, and audit logs izlenmelidir.

8. 3rd‑party pretrained modelleri güvenle kullanmanın yolu nedir?

   Model scanning (malicious code), provenance check, signed artifacts, ve izolasyon (sandbox) ile entegre edin; production için kendi doğrulama ve test setinizde değerlendirin.

Anahtar Kavramlar

Adversarial Example

Modeli yanıltmak için tasarlanmış küçük, insan gözüyle fark edilemeyen giriş değişiklikleri.

Data Poisoning

Eğitim setine kötü amaçlı örnekler ekleyerek model davranışını değiştirme saldırısı.

Differential Privacy

Bireysel örneğin modele katkısını sınırlayan matematiksel gizlilik garantisi.

Model Watermarking

Model veya output üzerinde tescilli imza bırakarak doğrulama imkânı sağlayan teknik.

Öğrenme Yol Haritası

1. Temel: Güvenlik temel kavramları — CIA triad, threat modeling ve risk assessment öğrenin.
2. ML Güvenlik: Adversarial ML, data poisoning, model extraction attack'leri çalışın.
3. Privacy: Differential privacy, federated learning ve secure multiparty computation konularını öğrenin.
4. MLOps: Model registry, artifact signing, CI/CD güvenliği ve infrastructure hardening pratiklerini uygulayın.
5. Pratik: Bir model pipeline kurun; adversarial örnek üretip adversarial training deneyin; production monitoring ve incident playbook hazırlayın.