1. GİRİŞ

Yapay zekâ uygulamalarının üretime alınması ile birlikte güvenlik artık sadece altyapı ve uygulama güvenliğinden ibaret değildir; modellerin, eğitim verilerinin ve model servislerinin kendine özgü saldırı yüzeyleri vardır. "AI Defense Strategies" konusu, ML/AI sistemlerini hedef alan tehditlere karşı hem teknik hem de operasyonel savunma katmanları tasarlamayı amaçlar. Bu makale, pratik mühendislik rehberi olarak, savunma tekniklerini, MLOps süreçlerine entegrasyon yollarını, monitoring ve incident response uygulamalarını ele alır.

Bu neden bugün önemli?

• LLM'ler, görüntü sınıflandırıcılar, öneri sistemleri ve otonom sistemler gibi AI bileşenleri kritik iş kararları alıyor; manipülasyonları doğrudan operasyonel veya hukuki sonuçlar doğurabilir.
• Adversarylerin AI'ye yönelik yeni vektörleri (adversarial örnekler, data poisoning, model extraction, prompt injection) gelişiyor; savunmaların buna paralel evrilmesi gerekiyor.
• Regülasyon, etik ve uyumluluk talepleri (explainability, privacy) savunma stratejilerini kabul edilebilir kılıyor.

Kimler için önemli?

• ML mühendisleri, veri bilimciler ve MLOps ekipleri
• Güvenlik mühendisleri, SOC ve IR ekipleri
• CTO/CISO'lar, ürün yöneticileri ve uyumluluk uzmanları

2. KAVRAMSAL TEMELLER

2.1 Temel kavramlar

• Robustness: Modelin küçük bozulmalara veya malicious girdilere karşı dayanıklılığı.
• Integrity: Eğitim verisi, modellere ait artefaktlar ve inference sonuçlarının doğruluğu ve değişmezliği.
• Availability: Model servislerinin erişilebilirliği ve performans sürekliliği.
• Privacy: Bireysel verinin açığa çıkmaması (membership inference, model inversion gibi saldırılara karşı korunma).

2.2 Bileşenler

• Data ingestion ve labeling
• Feature store ve preprocessing
• Training infra (compute, images, libs)
• Model registry, artifact storage, signed models
• Serving (online inference), API gateway, rate limiting
• Monitoring, telemetry ve model observability

3. NASIL ÇALIŞIR? — SAVUNMA MİMARİSİ VE VERİ AKIŞI

3.1 Defense-in-depth yaklaşımı

AI savunmasında defense‑in‑depth prensibi uygulanmalıdır: veri katmanında doğrulama, eğitim sırasında robustification, servis katmanında erişim kontrolü ve çıkışlarda sanitizasyon gibi ardışık katmanlar birbirini tamamlamalıdır. Her katmanda preventive, detective ve responsive kontroller olmalıdır.

3.2 Veri katmanında savunmalar

• Provenance & lineage: Verinin kaynağı, versiyonu ve işleme geçmişi tutulmalı; değişiklikler hash'lenip imzalanmalı.
• Schema & distribution checks: Otomatik validasyon ile beklenmeyen alan/format değişiklikleri reddedilmeli.
• Annotator governance: İnsan etiketleyicilerin kimlik doğrulaması, performans takibi, blind review ve consensus mekanizmaları kurulmalı.
• Trusted holdout: Güvenilen bir doğrulama seti retraining ve canary testler için saklanmalı.

3.3 Eğitim (training) katmanı savunmaları

• Adversarial training: Modeli adversarial örneklere karşı eğitmek dayanıklılığı artırır; maliyet ve overfitting riskleri yönetilmelidir.
• Robust optimization: Loss function veya regularization ile poisoning etkisi azaltılabilir.
• Gradient clipping / sanitization: Distributed training ortamlarında malicious gradient etkisini sınırlayan mekanizmalar uygulanmalı.
• Signed artifacts & reproducible builds: Container imajları, dependency hash'leri ve model artefaktları imzalanmalı.

3.4 Serving katmanı savunmaları

• Authentication & authorization: API anahtarları, mTLS ve IAM ile model endpoint erişimi sınırlandırılmalı.
• Rate limiting & quota: Model extraction ve excessive probing önlemek için istek hız sınırlaması uygulanmalı.
• Input sanitization & anomaly detection: Girdi dağılımından sapma gösteren sorgular izole edilmeli.
• Output minimization & sanitization: Fazla detaylı model çıktıları maskelenmeli; confidence/uncertainty değerleri export edilerek karar destek mekanizması kullanılmalı.

3.5 Monitoring ve canary stratejileri

• Distribution drift detection (input ve feature drift)
• Performance degradation, latency ve error rate izleme
• Shadow testing ve canary deploy: yeni model önce sınırlı trafikte denenmeli
• Adversarial score, membership inference alarms ve privacy leakage ölçümleri

4. GERÇEK DÜNYA KULLANIMLARI

4.1 Finans: fraud detection ve risk modelleri

Finans kurumları için model manipülasyonu doğrudan para kaybına neden olur. Savunma stratejileri arasında transaction provenance, feature tamper detection, real‑time anomaly scoring ve retraining guardrails bulunur. Canary segmentlerde yeni modeller test edilir; yüksek riskli işlemler için step‑up authentication tetiklenir.

4.2 Sağlık: teşhis destek ve gizlilik

Sağlık modelleri hem adversarial örneklere hem de model inversion saldırılarına karşı hassastır. Defanslar hardware‑backed key management, encrypted training (HE/MPC) araştırma düzeyinde uygulanabildiği gibi, differential privacy ve strict data governance daha yaygın pratiklerdir.

4.3 LLM servis sağlayıcıları

LLM'lerde prompt injection, data leakage ve model misuse önleme önemli. Savunmalar: system prompt hardening, input sanitation, retrieval filtering, response filtering, rate limiting ve watermarking ile abuse detection katmanlarıdır.

4.4 Otonom sistemler ve perception stack

Görüntü algılama tabanlı sistemlerde sensor fusion, input redundancy, adversarial training ve physical world testing (realistic adversarial stickers) savunma kombinasyonlarıdır.

5. AVANTAJLAR VE SINIRLAMALAR

Avantajlar

• Kombine savunmalar model güvenilirliğini ve iş güvenliğini artırır.
• Proaktif monitoring ile saldırılar erken aşamada tespit edilebilir.
• MLOps entegrasyonu ile savunmalar otomasyonla sürdürülebilir hâle gelir.

Sınırlamalar

• Adversarial training ve privacy teknikleri performans/doğruluk/latency trade‑off'u yaratır.
• Layered defenses kompleks ve operasyonel maliyeti yüksek olabilir.
• Some advanced cryptographic defenses (HE/MPC) production‑ready değildir veya maliyetlidir.

6. ALTERNATİFLER VE KARŞILAŞTIRMA

7. EN İYİ PRATİKLER

7.1 Production kullanımına yönelik rehber

• Threat modeling'i ML lifecycle'a entegre edin; veri, eğitim, deploy, monitoring adımlarını belgeleyin.
• Model registry ve signed artifacts kullanın; sürüm, metadata ve provenance saklayın.
• Canary ve shadow deploy ile değişiklikleri riskli segmentlerde test edin.
• Per‑request tracing uygulayın: hangi veri, hangi model versiyonu, hangi retrieval parçası kullanıldı kaydedin.

7.2 Performans optimizasyonu

• Güvenlik kontrollerinin kritik path üzerindeki etkisini ölçün; mümkünse asenkron veya sampling tabanlı kontroller uygulayın.
• Model quantization/optimization ile latency azaltırken güvenlik kontrollerini koruyun.

7.3 Güvenlik & ölçeklenebilirlik

• Rate limiting, caching ve quota management ile extraction riskini düşürün.
• Distributed monitoring ve alert aggregation ile false positive maliyetini azaltın.

8. SIK YAPILAN HATALAR

• Sadece tek bir savunma mekanizmasına güvenmek (ör. sadece adversarial training) — defense‑in‑depth gerekir.
• Monitoring eksikliği veya yanlış metrik seçimi — drift/poisoning sinyalleri gözden kaçabilir.
• Model çıktılarının fazlaca açıklayıcı tutulması — fazla bilgi leakage yaratabilir.
• Deployment süreçlerinde provenance ve imza kontrollerini atlamak.

9. GELECEK TRENDLER

9.1 AI‑driven defense ve otomatik red teaming

Savunma ekipleri AI tabanlı saldırı simülasyonları ile modelleri sürekli test edecek; otomatik red teaming döngüleri, üretim modellerini düzenli olarak zorlayacak ve savunma gereksinimlerini güncelleyecektir.

9.2 Federated learning güvenliği

Federated learning ortamlarında client vetting, secure aggregation ve robust aggregation algoritmaları hayati önem taşıyacak; client seviyesinde tutulan veriler üzerinden poisoning riskleri özel çözümler gerektirecek.

9.3 Regülasyon, standartlar ve explainability

AI için güvenlik standartları ve regülasyonlar olgunlaştıkça, defense stratejileri uyumluluk gereksinimleri ile daha yakın çalışacak. Explainability teknikleri hem güven hem de saldırı tespiti için kullanılacak, ancak explainability aynı zamanda yeni saldırı yüzeyleri de açabilir.

EK BÖLÜMLER

Sık Sorulan Sorular (FAQ)

1. 1. AI savunmasında ilk hangi adımı atmalıyım?

   Basit ama etkili başlangıç: model ve veri envanteri oluşturun, threat modeling yapın ve trusted holdout ile baseline validation kurun.

2. 2. Adversarial training her saldırıyı engeller mi?

   Hayır; adversarial training belirli saldırılara karşı dayanıklılık sağlar fakat evrensel bir korunma sağlamaz. Diğer savunmalarla kombine edilmelidir.

3. 3. Rate limiting model extraction'ı tamamen engeller mi?

   Hayır; ancak extraction maliyetini arttırır ve saldırganların hedefi zorlaştırır. Quota, throttling ve anomaly detection ile birlikte kullanın.

4. 4. Differential privacy kullanmalı mıyım?

   Veri hassasiyeti, regülasyon gereksinimleri ve model performans hedeflerinize bağlı. DP kritik gizlilik gereksinimi varsa değerlendirilmeli.

5. 5. Model watermarking ne işe yarar?

   Model theft durumunda kimin veya hangi kurumun modeli kullandığını tespit etmeye yardımcı olur; ancak kırılabilir ve tek başına yeterli değildir.

6. 6. Canary deploy nasıl konfigure edilmelidir?

   Küçük bir yüzde trafiği yeni modele yönlendirip performansı, drift, adversarial score ve iş metriklerini izleyin; herhangi bir anormallikte geri alma mekanizması olsun.

7. 7. Production için hangi metrikleri izlemeliyim?

   Input/feature distribution drift, model confidence distribution, error/latency rate, unusual query patterns, membership inference score, privacy leakage göstergeleri.

8. 8. Küçük bir ekip AI savunmasını nasıl başlatır?

   1) Temel veri ve model envanteri; 2) Basit validation ve monitoring; 3) Threat modeling ve bir canary deploy süreci ile başlayın.

Anahtar Kavramlar

• Adversarial training: Modeli adversarial örneklere karşı eğitme tekniği.
• Differential privacy: Bireysel kayıtların gizliliğini matematiksel olarak sağlama yaklaşımı.
• Model registry: Model versiyonları, metadata ve imzaların saklandığı bileşen.
• Canary deploy: Yeni modelin küçük bir trafiğe açılarak test edilmesi.

Öğrenme Yol Haritası

1. 0–1 ay: ML temel kavramları, threat modeling ve temel güvenlik prensiplerini öğrenin.
2. 1–3 ay: Adversarial ML, data provenance, model registry ve basic monitoring araçlarını uygulamalı öğrenin.
3. 3–6 ay: Adversarial training, DP, watermarking, canary deploy ve MLOps güvenliği üzerine projeler yapın.
4. 6–12 ay: Federated learning güvenliği, TEE/secure enclaves, otomatik red teaming ve production‑grade monitoring sistemleri geliştirin.