1. GİRİŞ

Yapay zekâ (AI) artık deneysel bir teknoloji olmaktan çıkarak ürün odaklı organizasyonların çekirdek yeteneği hâline geldi. AI ile zenginleştirilmiş ürünler; kişiselleştirme, otomasyon, öngörü ve karar desteği sunarak müşteri deneyimini ve iş değerini doğrudan etkiliyor. Ancak bir model eğitmek tek başına yeterli değil: modeli üretime almak, ölçeklemek, izlemek ve sürekli güncel tutmak için bir ürün mimarisi kurmak gerekiyor. "AI Product Architecture" kavramı bu ihtiyaca yanıt verir — makine öğrenmesi, mühendislik, veri altyapısı ve ürün süreçlerini birleştiren disiplinlerarası bir bakış sunar.

Bu rehber mühendisler, veri bilimciler, ürün yöneticileri, MLOps ekipleri ve teknik liderler için yazıldı. Amacımız, AI tabanlı ürünlerin tasarımında uygulanabilir, teknik ve stratejik bir yol haritası sunmaktır. Rekabetçi ve sürdürülebilir AI ürünleri oluşturmak için hangi bileşenlerin olması gerektiğini, hangi kararların kritik olduğunu ve üretimde karşılaşılacak başlıca zorlukları derinlemesine ele alacağız.

Özetle cevaplar:

• Bu teknoloji neden konuşuluyor? AI ürünleri kullanıcı deneyimini kişiselleştirip otomasyonu yaygınlaştırarak rekabet avantajı sağlıyor.
• Kimler için önemli? Ürün ekipleri, yazılım mühendisleri, veri ekipleri ve iş liderleri.
• Hangi problemleri çözüyor? Ölçeklenebilir model dağıtımı, veri kalitesi sorunları, model drift ve model governance problemleri.

2. KAVRAMSAL TEMELLER

2.1 Temel Kavramlar

• Model vs. Ürün: Model bir bileşendir; ürün ise kullanıcı değerini üreten ve modeli entegre eden uçtan uca deneyimdir.
• MLOps: Model geliştirme, dağıtım, izleme ve yeniden eğitim süreçlerini otomatikleştirir.
• Feature Store: Online/offline tutarlılığı sağlayan, paylaşılan özellik yönetimi katmanı.
• Model Registry: Model artefaktları, metadatalar, sürümler ve doğrulama kayıtlarının merkezi depo­sudur.
• Inference Serving: Latency ve throughput hedeflerine göre online veya batch şekilde çalışan scoring katmanı.

2.2 Terminoloji

• Canary Deployment: Yeni model sürümünü sınırlı trafikle test etme.
• Shadow Mode: Yeni modelin gerçek trafikte pasif olarak skor üretip, sonuçları mevcut model ile karşılaştırması.
• Data/Model Drift: Zaman içinde veri veya model performansındaki bozulma.

2.3 Bileşenler

1. Veri kaynakları ve ingestion pipeline'ları
2. Feature engineering ve Feature Store
3. Model geliştirme ve deney ortamları
4. Model Registry ve CI/CD
5. Serving (online, batch, stream)
6. Monitoring, observability ve alarm mekanizmaları
7. Governance, audit, privacy ve güvenlik

3. NASIL ÇALIŞIR?

3.1 Sistem Mimarisi — Yüksek Seviyede Akış

AI ürün mimarisi birden çok disiplini entegre eden katmanlı bir yapıdır. Aşağıda tipik bir akışın ana adımları yer alır:

1. Veri kaynaklarından sürekli ingestion (event stream, batch ETL)
2. Veri kalite kontrolleri ve veri katalogu
3. Feature engineering: offline ve online transformasyonların oluşturulması
4. Model eğitimi: eksperimantasyon, hyper‑parameter tuning, validation
5. Model packaging ve registry'ye kayıt
6. CI/CD pipeline ile model doğrulamaları, canary/blue‑green deploy
7. Online/batch serving ve A/B testleri
8. Monitoring: performans, latency, drift, fairness
9. Feedback loop: kullanıcı etkileşimi ve yeni etiketlerin geri beslenmesi

3.2 Veri Akışı ve Feature Tutarlılığı

Feature tutarlılığı (training vs serving) AI ürünlerinin en kritik gereksinimlerinden biridir. Çoğu hata, offline eğitimde kullanılan transformasyonların production serving ile eşleşmemesinden kaynaklanır. Bunun için:

• Feature definisyonlarını deklaratif ve versioned saklayın.
• Hem offline hem de online için aynı transformasyon kodunu veya shared library'leri kullanın.
• Online store (Redis, RocksDB) ve offline store (Parquet/Delta Lake) arasında senkronizasyon stratejileri planlayın.

3.3 Model Deployment Stratejileri

Model dağıtımında yaygın stratejiler:

• Blue/Green: Yeni sürüm paralel olarak deploy edilir ve trafik yönlendirmesi yapılır.
• Canary: Kademeli trafik verilir, performans izlenir. Hata durumunda rollback kolaydır.
• Shadow: Yeni model gerçek veriye bakar ancak sonuçları üretime etkilemez; offline karşılaştırma için kullanışlıdır.
• A/B Testing: Farklı model veya parametre kombinasyonlarıyla kullanıcı ve iş KPI'larını doğrudan ölçün.

3.4 Ölçeklenebilir ĞServing

Online serving için dikkat edilmesi gerekenler:

• Latency hedefleri: SLO tanımlayın (ör. p95 < 100ms)
• Concurrency ve batching: CPU/GPU kaynaklarını verimli kullanmak için batch inference veya dynamic batching
• Autoscaling: Kubernetes HPA/Custom metrics ile scale mekanizması
• Cache: Sık sorulan sorgular veya yoğun kullanıcı segmentleri için cache katmanı

4. GERÇEK DÜNYA KULLANIMLARI

4.1 Netflix — Kişiselleştirme Mimarisi Örneği

Netflix, öneri mekanizmalarında online ve offline bileşenleri birleştirir: offline büyük batch modelleri daha ağır öznitelikleri üretir, online ranking modeli ise düşük latency gereksinimini karşılar. A/B test ve canary deploy stratejileriyle yeni modellerin etkisi doğrudan iş KPI'larına bağlanır.

4.2 Uber — Gerçek Zamanlı Öngörü ve Fiyatlandırma

Uber gibi platformlar gerçek zamanlı sinyallerle dinamik fiyatlama ve sürücü yönlendirme yapar. Streaming ingestion, düşük latency feature serving ve hızlı model güncelleme yetenekleri kritik önemdedir.

4.3 Amazon — Öneri Sistemleri ve Önbellekleme

Amazon, tavsiye sistemlerinde çok katmanlı bir mimari uygular: offline collaborative filtering, embeddings ve online reranker kombinasyonu ile ölçeklenebilir servisler sağlar. Cache ve CDN kullanımı müşteri deneyimini iyileştirir.

4.4 OpenAI — Model Governance ve API Ürünleri

OpenAI ve benzeri model sağlayıcıları, API bazlı servislerde sürümleme, throttle, telemetry ve kullanım bazlı faturalama ile bir ürün deneyimi sunar. Governance ve abuse prevention kritik bileşenlerdir.

4.5 Stripe — Fraud Detection ve Real‑time Scoring

Stripe benzeri ödeme şirketleri, sahtekârlık tespitinde hem batch öğrenme hem de real‑time scoring kullanır. Feature latency ve güncellik (freshness) yüksek önceliklidir.

5. AVANTAJLAR VE SINIRLAMALAR

Avantajlar

• Hızlı değer üretimi: Doğru mimariyle modeller iş KPI'larına doğrudan bağlanır.
• Ölçeklenebilirlik: Containerized, autoscaling servislerle yüksek trafikte bile hizmet verilir.
• Tekrar kullanılabilirlik: Feature store ve model registry ekipler arası verimlilik sağlar.

Sınırlamalar

• Maliyet: GPU/TPU, storage ve veri taşıma maliyetleri yüksek olabilir.
• Karmaşıklık: Organizasyonel ve teknik entegrasyonlar zorlayıcıdır.
• Güvenlik ve Gizlilik: Hassas verilerle çalışırken regülasyonlara uyum gerektirir.

6. ALTERNATİFLER VE KARŞILAŞTIRMA

7. EN İYİ PRATİKLER

Production Kullanımı

• Small scope pilotlar ile başlamak; iş KPI'larına dayalı metric'lerle ölçün.
• Feature definisyonlarını version'layın ve test edin.
• Canary ve shadow test stratejileri uygulayın.
• Model, veri ve kararların audit trail'ini saklayın.

Performans Optimizasyonu

• Model distillation ve quantization ile inference maliyetlerini düşürün.
• Dynamic batching ve hardware-aware optimizasyonlar yapın.
• Cache ve edge caching kullanarak latency'yı düşürün.

Güvenlik ve Uyumluluk

• Data masking, PII detection ve KMS kullanın.
• RBAC ve audit log'larla erişimi yönetin.
• Differential privacy veya federated learning gerektiğinde değerlendirin.

8. SIK YAPILAN HATALAR

• Modeli ürün yerine koymak: Model üretimi ürün yapmak anlamına gelmez; entegrasyon ve UX gereklidir.
• Feature mismatch: Training ve serving arasındaki tutarsızlıklar kritik hatalara yol açar.
• Yetersiz monitoring: Drift, latency veya resource usage izlenmezse operasyon riski artar.
• Governance eksikliği: Model lineage ve approval süreçleri olmadan yasal riskler artar.

9. GELECEK TRENDLER

1. Composable AI architectures: Modüler ve servisleşmiş AI bileşenleri yaygınlaşacak.
2. Edge + Cloud hybrid deployments: Latency ve gizlilik gereksinimlerine göre hibrit modeller artacak.
3. AutoMLOps: Otomatik model seçimi, tuning ve deployment süreçleri olgunlaşacak.
4. Responsible AI: Explainability, fairness ve provenance üretim süreçlerine daha sıkı entegre edilecek.

EK BÖLÜMLER

Sık Sorulan Sorular (FAQ)

1. AI ürünü geliştirmek için ilk adım nedir?

   İş problemi tanımı ve başarının nasıl ölçüleceğini belirlemek; veri erişilebilirliğini kontrol etmek ve küçük bir pilot ile başlamak en iyi yaklaşımdır.

2. Modeli canlıda nasıl takip ederim?

   Prediction distribution, accuracy, latency, data drift ve business KPI'larını izleyen merkezi dashboard'lar kurun.

3. Feature store neden gerekli?

   Training/serving tutarlılığı sağlamak, özellikleri paylaşmak ve yeniden kullanılabilirlik kazandırmak için gereklidir.

4. Canary ile A/B arasındaki fark nedir?

   Canary yeni sürümü sınırlı trafikle test eder; A/B iki farklı versiyonun kullanıcılar üzerinde doğrudan karşılaştırılmasıdır.

5. API tabanlı model servisi mi, yoksa on‑device inference mı?

   Latency ve gizlilik gereksinimlerine göre karar verin. Kritik gizlilik gereksinimleri varsa on‑device veya on‑prem inference tercih edilir.

6. Model governance nasıl uygulanır?

   Model registry, approval gates, audit logging ve owner atama ile governance sağlanır.

7. Bir model ne zaman yeniden eğitilmelidir?

   Performans düşüşü, veri drift tespiti veya iş hedeflerinin değişmesi durumunda yeniden eğitim tetiklenmelidir.

8. Başarı metrikleri nelerdir?

   Business KPI'lar (conversion, retention), model accuracy, latency, cost per prediction ve MTTR (mean time to recovery) gibi metrikler.

Anahtar Kavramlar

Feature Store

Online ve offline feature'ların tutarlı biçimde sağlandığı yapı.

Model Registry

Model sürümlerinin, test sonuçlarının ve metadata'nın saklandığı merkez.

MLOps

Model lifecycle automation ve operational best practices seti.

Canary Deployment

Yeni model sürümünün kademeli trafik ile doğrulanması stratejisi.

Öğrenme Yol Haritası

1. Temel: Yazılım mühendisliği, dağıtık sistemler ve veri altyapısı temelleri.
2. Data & ML: Veri mühendisliği, feature engineering ve temel makine öğrenmesi modelleri.
3. MLOps: CI/CD, model registry, feature store ve serving pattern'leri.
4. Production ops: Monitoring, logging, alerting ve incident response pratikleri.
5. Güvenlik & Governance: Data privacy, RBAC, audit ve compliance konuları.
6. Pratik proje: Küçük bir AI ürünü uçtan uca kurun: ingestion → feature → training → deploy → monitor.