1. GİRİŞ

Kubernetes benimsenmesi arttıkça bulut faturaları da hızlı bir biçimde büyüyebiliyor. Dinamik ölçeklenebilirlik, microservice mimarileri ve kısa ömürlü pod'lar işletmeler için büyük esneklik sağlarken, aynı zamanda kaynak israfı, yanlış node sınıflandırması ve gözlemlenmemiş kullanım nedeniyle maliyet patlamalarına yol açabiliyor. Bu nedenle Kubernetes çevresinde maliyet optimizasyonu sadece finans departmanının değil, mühendislik, SRE ve platform ekiplerinin ortak sorumluluğudur. Bu makale, maliyeti düşürmek için teknik stratejileri, organizasyonel uygulamaları ve gerçek dünya örneklerini detaylı şekilde ele alır.

Neden bugün önemli?

• Bulut hizmetleri sürekli artan fiyat ve kompleks faturalama modelleriyle maliyet baskısı yaratıyor.
• Kubernetes altyapılarında görünürlük eksikliği, idle kaynak ve yanlış konfigürasyon nedeniyle gizli maliyetler ortaya çıkıyor.
• FinOps uygulamalarının yaygınlaşması ile mühendislik ekiplerinin maliyet bilincine sahip olması bekleniyor.

Kimler için önemli?

• Platform mühendisleri ve SRE ekipleri
• FinOps veya bulut maliyetlerinden sorumlu ekipler
• Uygulama geliştiriciler — kaynak taleplerini (requests/limits) yönetenler

Hangi problemleri çözüyor?

• Bulut maliyetlerinin şeffaflaştırılması ve kontrol altına alınması
• Kaynak verimliliğinin artırılması: idle CPU/memory azaltma
• Sağlıklı autoscaling, node ve pod right‑sizing ile performans‑maliyet dengesinin kurulması

2. KAVRAMSAL TEMELLER

2.1 Temel kavramlar

• Right‑sizing: Node ve pod kaynaklarının (CPU, memory) uygulama ihtiyaçlarına göre optimizasyonu.
• Node pool stratifikasyonu: Farklı gereksinimler için ayrı node havuzları oluşturma (on‑demand, spot, GPU).
• Autoscaling: HPA, VPA, Cluster Autoscaler gibi mekanizmalarla dinamik ölçeklendirme.
• Spot / preemptible instances: Daha düşük maliyetli, fakat kesintiye uğrayabilecek node türleri.
• Pod scheduling ve packing: Pod'ların node'lara daha iyi yerleştirilerek kaynak kullanımının artırılması.
• Observability: Maliyet optimizasyonu için metrik, log ve trace ile görünürlük sağlama.

2.2 Organizasyonel kavramlar

• FinOps: Finans ve operasyon ekipleri arasında maliyet optimizasyonunu sağlayan süreçler ve kültür.
• Chargeback ve showback: Ekip bazlı maliyet raporlaması ve sorumluluk atanması.
• Cost allocation: Tagging/labeling ile maliyetlerin doğru kaynaklara atanması.

3. NASIL ÇALIŞIR? — TEKNİK STRATEJİLER VE MİMARİ

3.1 Node pool stratifikasyonu

Maliyet optimizasyonunun en temel adımı node pool'ları stratifiye etmektir. Kritik, latency‑sensitive servisler için on‑demand node'lar veya reserved capacity; batch, dev/test veya düşük öncelikli iş yükleri için spot/preemptible node havuzları; GPU ve yüksek I/O iş yükleri için özel pool'lar tanımlanmalıdır. Bu tasarım, farklı SLA ve maliyet hedeflerini ayrı havuzlarda yönetmeyi sağlar.

3.2 Autoscaling kombinasyonları: HPA + VPA + Cluster Autoscaler

Optimal otomasyon için HPA (Horizontal Pod Autoscaler), VPA (Vertical Pod Autoscaler) ve Cluster Autoscaler birlikte düşünülmelidir. HPA yatay ölçekleme ile trafik dalgalanmalarına yanıt verirken; VPA pod başına kaynak ihtiyaçlarını optimize eder. Cluster Autoscaler, eğer pod'lar schedule edilemiyorsa yeni node ekleyerek kapasiteyi tamamlar. Bu üçlünün conflict yaşamaması için stabilizasyon pencereleri, VPA'nın recommendation modunda test edilmesi ve HPA/VPA politikalarının uyumlu hale getirilmesi gerekir.

3.3 Spot instance ve preemption yönetimi

Spot instance kullanımı maliyeti düşürür ancak preemption (aniden kaldırılma) riski getirir. Bu nedenle:

• Stateful veya kritik workload'ları spot üzerinde çalıştırmamak
• Pod disruption budgets (PDB) ve graceful shutdown/failover mekanizmalarını uygulamak
• Spot havuzlarında otomatik tekrar‑planlama ve fallback (on‑demand) stratejileri tanımlamak

3.4 Bin packing ve scheduling optimizasyonu

Pod packing, node'ların daha dolu çalışmasını sağlayarak idle kaynakların azaltılmasını hedefler. Bunun için:

• Requests/limits doğru ayarlanmalı; requests pod scheduling için gerçek ihtiyaçları yansıtmalı.
• Bin packing plugin'leri ve topology aware scheduling ile pod'ların locality gözetilerek yerleştirilmesi
• Descheduler ve evictor stratejileri ile node'lar yeniden dengeye çekilebilir.

3.5 Storage ve network maliyetleri

Compute optimizasyonu kadar storage ve network de maliyeti etkiler. Öneriler:

• Snapshot retention ve cold tiering ile storage maliyetlerini azaltın.
• Cross‑region trafik azaltma için locality ve cache stratejileri uygulayın.
• Block vs object storage seçimlerini iş gereksinimi ve maliyet açısından değerlendirin.

4. GERÇEK DÜNYA UYGULAMALARI

4.1 Netflix tarzı optimizasyon: SLO odaklı maliyet yönetimi

Netflix gibi yüksek trafikli platformlar, SLO ve error budget kavramlarını maliyet optimizasyonu ile birleştirir. Kritik olmayan iş yükleri için error budget kullanılarak spot instance'lara geçişler yapılır; SLO'lar ihlal edilmeden maliyet azaltımı hedeflenir.

4.2 Uber tipi bölgesel strateji

Bölgesel cluster'larda on‑demand ve spot kombinasyonu, trafik lokalizasyonu ve locality‑aware scheduling ile latency korunurken maliyet düşürülür. Ayrıca veri yerelleştirme ile cross‑region veri transfer ücretleri azaltılır.

4.3 AWS EKS ile mixed instance örneği

EKS üzerinde multiple node group'lar kullanılarak on‑demand ve spot karışımı oluşturulur. Cluster Autoscaler tarafından spot tercihi ile maliyet düşürülürken, preemption durumunda fallback on‑demand havuzuna otomatik geçiş yapılır.

4.4 OpenAI / ML pipeline maliyet yönetimi

GPU kullanımı maliyetli olduğundan, training job'ları için preemptible GPU'lar, checkpoint/restore ve spot GPU pooling stratejileri ile maliyet azaltılır. Inference için ise model quantization ve batching ile GPU kullanım azaltılabilir.

4.5 Stripe — Fintech ve cost governance

Fintech firmaları maliyet kontrolünü regülasyon ve uyumlulukla birleştirir: chargeback, tagging ve ayrıntılı maliyet raporlaması ile ekiplerin harcamaları izlenir. Kritik iş yükleri için reserved capacity uygulanır.

5. AVANTAJLAR VE SINIRLAMALAR

Avantajlar

• Doğru uygulandığında bulut faturalarında anlamlı düşüş
• Kaynak verimliliği, daha hızlı provisioning ve daha iyi SLA yönetimi
• Operasyonel otomasyon ve FinOps kültürü ile sürdürülebilir optimizasyon

Sınırlamalar

• Spot/preemptible yapılar complexity ve hata yüzdesi getirir
• Yanlış metrics veya eksik observability maliyet düşürme fırsatlarını kaçırır
• Autoscaler ve packing hataları performans düşüşüne neden olabilir

6. ALTERNATİFLER VE KARŞILAŞTIRMA

7. EN İYİ PRATİKLER

Production kullanım

• Node pool stratifikasyonu yapın: on‑demand, spot, GPU gibi kategoriler oluşturun.
• HPA ile HPA davranışını gözlemleyin; stabilization window ve eksponansiyel backoff kullanın.
• VPA'yı öneri modunda test edip, production'a geçirmeden önce etkilerini değerlendirin.
• Pod disruption budgets, readiness/liveness probe ve graceful shutdown uygulayarak spot kullanımı riskini yönetin.

Performans optimizasyonu

• Requests ve limits değerlerini gerçek metriklere dayandırın; varsayılanlardan kaçının.
• İmage optimizasyonu (small images), init container süresini azaltma ve hızlı startup ile node provisioning gecikmesini azaltın.
• Bin packing ve descheduler ile node kaynaklarını daha verimli kullanın.

Güvenlik ve governance

• Tagging ve label standardizasyonu ile cost allocation yapılmasını sağlayın.
• FinOps süreçleri kurun: aylık maliyet review, takım hedefleri ve chargeback mekanizmaları oluşturun.
• RBAC ile autoscaler ve billing araçlarına minimal erişim verin.

8. SIK YAPILAN HATALAR

• Requests/limits ayarlamadan HPA/VPA uygulamak — yanlış scaling davranışı.
• Spot instance'ları kritik iş yüklerine uygulamak — beklenmeyen kesintiler.
• Tagging eksikliği — maliyetlerin ekipler arasında doğru dağıtılamaması.
• Observability ve metrik eksikliği — hangi optimize edeceğinizi bilmeden değişiklik yapmak.

9. GELECEK TRENDLER

1. AI destekli maliyet optimizasyonu: Telemetry verilerini kullanarak otomatik right‑sizing ve instance seçimi yapılacak.
2. Spot ve serverless hibrit modeller: Daha güvenli preemptible kullanım desenleri ve serverless çözümler maliyet odaklı tercih edilecek.
3. FinOps otomasyonu: Gerçek zamanlı chargeback, anomaly detection ve otomatik budget kontrolleri yaygınlaşacak.
4. Infrastructure as data: Maliyetle ilgili telemetri ve envanter verileri data platformuna entegre edilip ML modelleriyle optimizasyon yapılacak.

EK BÖLÜMLER

Sık Sorulan Sorular (FAQ)

1. 1. Spot instance kullanmalı mıyım?

   Spot instance maliyeti düşürür ancak preemption riski getirir. Kritik veya stateful iş yükleri için önerilmez; batch, test veya idempotent işlerde kullanılması daha uygundur.

2. 2. HPA mı yoksa VPA mı önce?

   Genelde HPA yatay yük değişikliklerine cevap verirken, VPA kaynak request/limit ayarlarını optimize eder. VPA'yı önce recommendation modunda çalıştırıp etkileri gözlemlemek güvenlidir.

3. 3. Node pool'ları nasıl etiketlemeliyim?

   Node pool'ları purpose/environment/instanceType gibi etiketlerle tanımlayın (ör. pool:spot, env:prod, type:gpu) — bu, cost allocation ve scheduling için kritiktir.

4. 4. Requests ve limits nasıl belirlenir?

   Gerçek uygulama telemetry'si (CPU/memory usage) ile start edin; testing ve staging verilerini kullanarak conservative başlangıç değerleri koyun ve zaman içinde VPA önerileriyle düzeltin.

5. 5. Maliyetleri ekiplere nasıl yansıtırım?

   Chargeback veya showback mekanizmaları ile tag'lara dayalı raporlama yapın; aylık maliyet incelemeleri ve ekip hedefleri oluşturun.

6. 6. Cluster Autoscaler'ın maliyete etkisi nedir?

   CA, node ekleyip çıkararak gereksiz node çalıştırmayı engeller; doğru konfigüre edilirse maliyetleri doğrudan düşürür. Ancak provisioning latency ve minimum node sayısı kararları dikkatle alınmalıdır.

7. 7. Storage maliyetlerini nasıl azaltırım?

   Retention politikaları, cold tiering, snapshot lifecycle ve object storage kullanımı ile storage maliyetlerini düşürebilirsiniz.

8. 8. Maliyet anomalilerini nasıl tespit ederim?

   Billing verilerini Prometheus/ELK ile correlation yapın; anomalous spend için alert'ler kurun. Ayrıca cloud provider'ın cost anomaly araçlarını kullanabilirsiniz.

Anahtar Kavramlar

Right‑sizing

Kaynakların uygulama ihtiyaçlarına göre optimize edilmesi.

Node pool

Aynı özellikteki node'ların toplandığı havuz; farklı kullanım senaryoları için ayrılmalıdır.

Spot / Preemptible

Daha ucuz ancak kesintiye uğrayabilecek instance türleri.

FinOps

Finans ve operasyon ekiplerini birleştirerek bulut maliyetlerini optimize eden disiplin.

Bin packing

Pod'ları node'lara daha verimli yerleştirerek kaynak kullanımını artırma tekniği.

Öğrenme Yol Haritası

1. 0–1 ay: Kubernetes temel kavramlar, requests/limits, HPA ve metrics‑server öğrenin.
2. 1–3 ay: Cluster Autoscaler, spot instance stratejileri ve node pool yönetimini deneyin; basit FinOps raporlaması kurun.
3. 3–6 ay: VPA, descheduler, packing optimizasyonu ve chargeback mekanizmaları üzerinde uygulama yapın.
4. 6–12 ay: AI destekli optimizasyon, cost anomaly detection ve enterprise‑grade FinOps süreçlerini hayata geçirin.