1. Giriş

Son yıllarda yapay zekâ (AI) ve makine öğrenimi (ML) terimleri neredeyse eş anlamlı kullanılsa da, üretimde karşılaştığımız teknik ve operasyonel zorluklar bu iki alan arasında net ayrımlar olduğunu gösteriyor. "AI Engineering" geniş bir disiplin olup sistem mühendisliği, veri mühendisliği, güvenlik, model yönetimi ve ürün odaklı entegrasyonları içerir. "Machine Learning Engineering" ise model geliştirme, veri hazırlama ve eğitim sürecine odaklanan daha dar bir uzmanlık alanıdır.

Bu makale, AI Engineering ile Machine Learning Engineering arasındaki farkları teknik ve pratik açıdan ele alır. Hedefimiz, yazılım mühendisleri, altyapı ve ürün ekipleri için referans niteliğinde, uygulamaya dönük ve SEO uyumlu bir kaynak sunmaktır.

Neden bugün önemli?

• Model tabanlı uygulamalar artık üretim kritik hizmetler sunuyor (arama, öneri, dolandırıcılık tespiti, otomasyon).
• Büyük modellerin (LLM) entegrasyonu, yüksek işletme ve altyapı gereksinimleri getiriyor.
• Regülasyon, veri gizliliği ve güvenlik gereksinimleri mühendislik disiplininin genişlemesini zorunlu kılıyor.

Kimler için önemli?

Veri bilimciler, ML mühendisleri, platform mühendisleri, veri mühendisleri, ürün yöneticileri ve CTO seviyesindeki karar alıcılar için kritiktir. Ayrıca akademik araştırma ile üretim arasındaki uçurumu kapatmak isteyen ekipler için de hayati öneme sahiptir.

2. Kavramsal Temeller

Kavramlar: AI Engineering ve ML Engineering tanımları

AI Engineering: Model geliştirmeyi de kapsayan, ancak onu aşan bir sistem mühendisliği uygulaması. AI Engineering; veri hatları, model yaşam döngüsü yönetimi, çıkarım altyapısı (inference), izleme, güvenlik, ölçekleme ve ürün entegrasyonunu kapsar.

ML Engineering: Veri hazırlama, model seçimi, eğitim, hiperparametre optimizasyonu ve model değerlendirme süreçlerine odaklanan mühendislik dalı. ML Engineering çoğunlukla model kalitesi, eğitim verimliliği ve deney tekrarlanabilirliği ile ilgilenir.

Mimari ve Terminoloji

• Feature Store: Offline ve online feature'ların merkezi depolanması ve serve edilmesi.
• Model Registry: Modellerin versiyonlandığı, meta verilerinin ve değerlendirme metriklerinin saklandığı kayıt sistemi.
• Serving/Inference: Eğitilmiş modelin üretim ortamında kullanılmasını sağlayan altyapı.
• MLOps: Model yaşam döngüsünü otomatikleştiren süreç ve araç kümesi.

Bileşenler

AI Engineering katmanları genellikle şunları içerir:

1. Data ingestion & storage
2. Feature engineering & Feature Store
3. Experiment tracking & Model registry
4. Training infra (GPU/TPU yönetimi)
5. Serving infra (Kubernetes, Triton, serverless)
6. Monitoring, observability, security

3. Nasıl Çalışır?

Sistem Mimarisi

AI Engineering perspektifinden bir sistem üç ana alt bileşene sahiptir: veri katmanı, model katmanı ve uygulama/ürün katmanı. Veri katmanı, ham veriyi toplar, temizler ve feature'lar oluşturur. Model katmanı, eğitim işlerini, deney kayıtlarını ve model versiyonlamasını yönetir. Uygulama katmanı ise modellerin gerçek kullanıcı trafiğini işlediği serving altyapısını kapsar.

Veri Akışı ve Bileşenler

1. Olaylar/Veri kaynakları → Kafka/Kinesis/S3
2. Stream/batch önişleme → Feature Store
3. Eğitim pipeline'ı → Model Registry
4. Model seçimi ve doğrulama → Canary/Shadow deploy
5. Serving → API / gRPC / Batching
6. İzleme → Metrikler, log, model metrikleri (ROC, drift)

Çalışma Mantığı: Modelden Ürüne

ML mühendisliği aşamasında amaç yüksek kaliteli bir model üretmektir. AI mühendisliği aşamasında ise o modeli güvenli, izlenebilir, ölçeklenebilir bir hizmete dönüştürmek hedeflenir. Bu dönüşüm sürecinde altyapı, veri tutarlılığı, latency hedefleri ve maliyet kısıtları belirleyici rol oynar.

4. Gerçek Dünya Kullanımları

Aşağıda AI Engineering ve ML Engineering ayrımının sektörel örneklerle nasıl uygulandığını göreceksiniz.

Netflix

Öneri sistemleri hem batch eğitim hem de online serving gerektirir. ML mühendisleri yeni model ve metriklerle uğraşırken, AI mühendisleri modelin online feature'larla tutarlı çalışmasını, canary dağıtımlarını ve latency hedeflerini garanti eder.

Uber

Gerçek zamanlı ETA ve fiyat optimizasyonu, düşük gecikmeli çıkarım ve yüksek throughput gerektirir. Burada AI Engineering, model paralelleştirme, edge caching ve lokal fallback stratejileri üzerinde çalışır.

Amazon

Arama ve stok tahmini hizmetleri büyük veri ölçeğinde çalışır. ML Engineering, güçlü modelleme ve veri özellikleri üzerinde yoğunlaşırken, AI Engineering ise datastore entegrasyonları, tutarlılık ve yüksek erişilebilirlik sorunlarını çözer.

OpenAI

LLM'lerin üretim kullanımı, model dağıtımı, paralel inference, maliyet optimizasyonu (quantization, sharding) ve güvenlik gereksinimleri AI Engineering kapsamındadır. ML Engineering ise model araştırması ve eğitim ölçeklendirmesiyle ilgilenir.

Stripe

Dolandırıcılık tespiti sistemlerinde düşük false-positive oranı ve gerçek zamanlı scoring kritiktir. AI Engineering, latency, failover ve model güncelleme stratejilerini işletir.

5. Avantajlar ve Sınırlamalar

Avantajlar

• AI Engineering: Üretim güvenilirliği, izlenebilirlik ve ölçeklenebilir mimari sağlar.
• ML Engineering: Model kalitesine ve veri bilimine odaklanır; hızlı prototipleme sağlar.
• Birlikte kullanıldığında, üretim kalitesi ve yenilik hızı artar.

Sınırlamalar

• Karmaşıklık: AI platformları çok sayıda bileşen içerir; koordinasyon zorunludur.
• Maliyet: Eğitim ve çıkarım kaynakları yüksek maliyet getirir.
• Operasyonel zorluklar: Drift, model izleme ve rollback stratejileri gerektirir.

6. Alternatifler ve Karşılaştırma

Aşağıdaki tablo, farklı uygulama yaklaşımlarının avantaj ve dezavantajlarını gösterir.

7. Practical Implementation — Python & C# Örnekleri

Bu bölümde üretimde sık kullanılan pratik örnekler yer alır. Örnek: Basit bir metin sınıflandırma modelinin API olarak servisleştirilmesi ve .NET tüketimi.

Python: FastAPI + ONNX Runtime (Batch ve Low-Latency)

# requirements: fastapi, uvicorn, onnxruntime, pydantic
from fastapi import FastAPI
from pydantic import BaseModel
import onnxruntime as ort

app = FastAPI()

class Input(BaseModel):
    text: str

# ONNX modeli yükleyin (eğitim ayrı bir pipeline'da yapılmış varsayım)
sess = ort.InferenceSession('text_classification.onnx')

@app.post('/predict')
async def predict(req: Input):
    # Basit önişleme (örnek)
    tokens = tokenize(req.text)  # tokenize fonksiyonunu implement edin
    inputs = prepare_inputs(tokens)
    out = sess.run(None, inputs)
    label = decode_output(out)
    return {'label': label}

# Not: Tokenize/prepare/decode fonksiyonları gerçek uygulamada modelinize göre implement edilir.

Üretimde dikkat edilecekler: ONNX kullanarak model boyutunu küçültme, batching stratejileri ve model cache mekanizmaları.

C#: .NET Minimal API ile ONNX Runtime Tüketimi

// requirements: Microsoft.ML.OnnxRuntime nuget
using Microsoft.ML.OnnxRuntime;
using Microsoft.ML.OnnxRuntime.Tensors;

var builder = WebApplication.CreateBuilder(args);
var app = builder.Build();

var session = new InferenceSession("text_classification.onnx");

app.MapPost("/predict", (InputModel input) =>
{
    // Basit pipeline: tokenization ve tensor hazırlama
    var tensor = PrepareTensor(input.Text);
    var inputs = new List { NamedOnnxValue.CreateFromTensor("input", tensor) };
    using var results = session.Run(inputs);
    var output = results.First().AsEnumerable().ToArray();
    var label = Decode(output);
    return Results.Ok(new { label });
});

app.Run();

record InputModel(string Text);

// PrepareTensor ve Decode fonksiyonlarını uygulayın.

Bu örneklerde üretim hazırlığı için ek adımlar: health checks, readiness/liveness probe'lar, Prometheus metric exporter, ve canary deploy stratejileri eklemektir.

8. Mimari Tasarım Örneği: AI Platformu (Örnek)

Aşağıda ölçeklenebilir bir AI platformu için yüksek seviyeli bir tasarım sunulmuştur.

Katmanlar

1. Data Ingestion: Kafka, S3, webhook'lar
2. Feature Engineering: Spark/Flink + Feature Store (Feast)
3. Training: Kubernetes + GPU node pool, Kubeflow/MLflow
4. Model Registry: MLflow veya özel çözüm
5. Serving: Kubernetes + Triton/FastAPI + autoscaling
6. Monitoring: Prometheus, Grafana, APM, model drift tespiti

Pipeline Örneği

Veri geldiğinde hem stream hem de batch path'leri güncellenir. Eğitim pipeline'ı scheduled veya trigger tabanlı çalışır. Yeni model versiyonları model registry'e gelir, otomatik değerlendirmeden geçer ve canary ile trafiğe verilir. İzleme sonuçlarına göre geri çekme (rollback) veya tam dağıtım yapılır.

9. En İyi Pratikler

Production Kullanımı

• Model registry ve metadata takibi zorunlu olsun.
• Shadow ve canary deploy ile üretimi riske atmadan yeni modeli değerlendirin.
• Feature Store ile offline-online tutarlılığını sağlayın.

Performans Optimizasyonu

• Quantization, pruning ve distillation ile latency ve maliyeti düşürün.
• Batching stratejileri ve async inference ile throughput iyileştirin.
• Autoscaling politikalarını gerçek metriklere (CPU/GPU,latency,queue length) göre ayarlayın.

Güvenlik

• Veri erişimini sınırlayın; ilk önce least-privilege prensibini uygulayın.
• Model API'lerini rate-limit, auth ve anomaly detection ile koruyun.

10. Sık Yapılan Hatalar

• Train/serve mismatch: Offline hesaplanan feature'lar online ortamda birebir karşılanmaz.
• Yetersiz izleme: Model doğruluğu veya drift metrikleri izlenmez.
• Tek model her problemi çözer sanmak: Problem tanımı yanlış olur.
• Gizlilik ve regülasyon göz ardı edilir: GDPR/kvkk gibi gereksinimler ihmal edilir.

11. Gelecek Trendler

• Foundation modellerin (LLM) entegrasyonu daha yaygın olacak; fine-tuning ve prompt engineering operasyonel hale gelecek.
• Edge inference artacak ve hybrid cloud+edge topolojileri yaygınlaşacak.
• Model verimliliği odaklı optimizasyonlar (sparse models, quantized transformers) standart olacak.
• MLOps otomasyonu ve model governance araçları kurumsal standart haline gelecek.

12. Sonuç

AI Engineering ve ML Engineering birbirini tamamlayan, ancak farklı odaklara sahip disiplinlerdir. ML Engineering modelin kalitesini ve öğrenme süreçlerini iyileştirmeye odaklanırken, AI Engineering modeli üretime taşıyan, güvenli, ölçeklenebilir ve izlenebilir bir sistemi inşa eder. Büyük ve sürdürülebilir AI ürünleri için her iki disiplinin de olgunlaşması gerekir.

Tavsiye: Küçük başlayın, güçlü veri temeli kurun, model yaşam döngüsünü otomatikleştirin ve izleme ile geri bildirim döngülerini üretim süreçlerinin merkezine yerleştirin.

Ek Bölümler

FAQ (Sık Sorulan Sorular)

1. AI Engineering ile ML Engineering aynı şey mi?

   Hayır. ML Engineering model geliştirme ve eğitim odaklıdır; AI Engineering ise üretim sistemleri, altyapı ve operasyonu kapsar.

2. Hangi rollere ihtiyacım var?

   Veri mühendisleri, ML mühendisleri, platform/DevOps mühendisleri, güvenlik mühendisleri ve ürün yöneticileri gereklidir.

3. Feature Store neden gerekli?

   Offline ve online feature'ların tutarlı olmasını sağlar, tekrar kullanılabilirlik ve düşük gecikme için önemlidir.

4. Canary deploy nedir?

   Yeni modelin küçük bir trafikte denenmesi; performans ve doğruluk değerlendirmesi sonrası tam dağıtıma alma stratejisidir.

5. Model drift nasıl tespit edilir?

   Veri dağılım metrikleri, performans metrikleri ve istatistiksel testlerle tespit edilir.

6. ONNX kullanmak ne işe yarar?

   Farklı framework'lerde eğitilmiş modelleri bir standartta çalıştırarak üretim performansını artırır.

7. Serverless inference uygun mu?

   Hızlı prototipler ve düşük idle maliyet için uygun; ancak soğuk başlangıç ve GPU desteği sınırlamaları vardır.

8. Model güvenliği için en kritik adım nedir?

   Erişim kontrolü ve anomali tespiti. API ve veri erişimlerini izole edin, anormallikleri otomatik tespit edin.

Anahtar Kavramlar

• Feature Store: Online/offline feature yönetimi sağlar.
• Model Registry: Model versiyonlama ve metadata saklama.
• Serving: Modelin gerçek trafik altında çalıştırılması.
• Drift: Veri veya hedef dağılımında zamanla oluşan değişiklik.
• MLOps: Model yaşam döngüsü otomasyonu.

Öğrenme Yol Haritası

AI Engineering ve ML Engineering öğrenmek isteyenler için önerilen adımlar:

1. Temel matematik: Lineer cebir, istatistik, olasılık.
2. Programlama: Python (pandas, numpy, scikit-learn, PyTorch/TensorFlow); C# veya Java üretim entegrasyonları için faydalı.
3. Veri mühendisliği: ETL, stream processing, Kafka, Spark.
4. MLOps: Docker, Kubernetes, CI/CD, MLflow, Kubeflow.
5. Model optimizasyon: ONNX, quantization, pruning, distillation.
6. Güvenlik ve etik: Veri gizliliği, model explainability ve regülasyonlar.
7. Gerçek projeler: Endüstriyel problemlerde yer alın ve production deneyimi kazanın.