Kubernetes v1.37 HPA ile İş Yüklerini Sıfıra İndiriyor
Kubernetes v1.37, HorizontalPodAutoscaler (HPA) için iş yüklerini sıfır replika seviyesine kadar ölçeklendirme desteğini Beta aşamasına taşıyor. Varsayılan olarak etkin olan bu özellik, uygun bir nesne metriği veya harici metrik kullanan HPA’ların iş yükünü sıfıra indirmesine, metrik yeniden değiştiğinde de iş yükünü başlatmasına olanak tanıyor.
Bu yetenek, özellikle sürekli çalışması gerekmeyen kuyruk tüketicileri ve toplu iş işlemcileri gibi iş yüklerinde kullanılabilir. Son boş Pod’un da kaldırılması, Pod’ların pahalı CPU veya GPU kaynakları ayırdığı ortamlarda kaynak tüketimini azaltabilir. Bunun karşılığında, iş yükünün yeniden başlaması için metriğin gözlemlenmesi, yeni bir Pod’un planlanması ve uygulamanın başlatılması gerektiğinden soğuk başlatma süresi oluşur.
HPA ile sıfıra ölçeklendirme nasıl çalışıyor?
HPA çoğunlukla CPU veya bellek kullanımını temel alır. Ancak bu metrikler çalışan Pod’lardan elde edilir. Replika sayısı sıfıra düştüğünde ölçülecek Pod kalmaz; dolayısıyla HPA’nın iş yükünü yeniden artırmasını sağlayacak bir sinyal de bulunmaz.
Nesne metrikleri ve harici metriklerde bu sınırlama yoktur. Örneğin bir kuyruğun uzunluğu, kuyruğu tüketen çalışanlar olmasa da varlığını sürdürür. HPA, çalışan Pod bulunmadığında da kuyruktaki görev sayısını okuyabilir ve buna göre yeni replika sayısını hesaplayabilir.
Bu model, işin dayanıklı bir kuyrukta bekleyebildiği senaryolara daha uygundur. Kubernetes Service nesneleri, hazır Pod bulunmadığında gelen istekleri kendiliğinden tamponlamaz. Bu nedenle HTTP ve diğer doğrudan istek temelli iş yüklerinde ayrıca bir tamponlama katmanı gerekir.
Harici metrik nasıl hazırlanır?
Örnekte, kuyruk tüketicisindeki gecikmeyi temsil eden queue_consumer_lag adlı bir Prometheus metriği kullanılıyor. Prometheus’un aşağıdakine benzer bir seri topladığı varsayılıyor:
queue_consumer_lag{
namespace="default",
name="worker_tasks"
}Kubernetes’in bu metriği okuyabilmesi için değerin External Metrics API üzerinden sunulması gerekir. Prometheus Adapter bu amaçla kullanılabilecek uygulamalardan biridir. Adapter yapılandırmasında seriyi harici metrik olarak sunmak için aşağıdaki gibi bir externalRules girdisi kullanılabilir:
externalRules:
- seriesQuery: '{__name__="queue_consumer_lag",name!=""}'
metricsQuery: sum(<<.Series>>{<<.LabelMatchers>>}) by (name)
resources:
overrides:
namespace:
resource: namespaceAdapter kurulumu ve keşif kuralları, kullanılan izleme düzenine göre değişir. HPA oluşturulmadan önce Kubernetes’in metriği okuyabildiği doğrulanabilir:
kubectl get --raw \
'/apis/external.metrics.k8s.io/v1beta1/namespaces/default/queue_consumer_lag?labelSelector=name%3Dworker_tasks'İstek, worker_tasks için güncel değeri döndürmelidir. Metrik alınamıyorsa önce izleme hattındaki sorun giderilmelidir. Metrik kullanılamaz durumdayken HPA iş yükünü sıfırdan yeniden ölçeklendiremez.
HPA yapılandırmasında minReplicas: 0
Aşağıdaki HPA, queue-worker adlı Deployment’ı hedefler. Kuyrukta her 30 görev için bir replika talep eder, replika sayısını da sıfır ile on arasında tutar:
apiVersion: autoscaling/v2
kind: HorizontalPodAutoscaler
metadata:
name: queue-worker
annotations:
kubernetes.io/description: "Scales queue-worker based on the number of queued tasks"
spec:
scaleTargetRef:
apiVersion: apps/v1
kind: Deployment
name: queue-worker
minReplicas: 0
maxReplicas: 10
metrics:
- type: External
external:
metric:
name: queue_consumer_lag
selector:
matchLabels:
name: worker_tasks
target:
type: Value
value: "30"Kuyruk boşaldığında HPA, Deployment’ı sıfır replikaya indirebilir. Yeni görevler geldiğinde harici metrik alınmaya devam eder ve HPA gerekli replika sayısını hesaplar. Bu sayı, maxReplicas değeri olan on ile sınırlandırılır.
Deployment başlangıçta en az bir replika ile çalıştırılmalıdır. Bir Deployment’ı manuel olarak sıfıra ayarlamak, Kubernetes’te daha önce olduğu gibi otomatik ölçeklendirmeyi duraklatır. HPA, kendisinin sıfıra indirmediği bir iş yükünü yeniden uyandırmaz.
HPA’nın normal davranışları bu özellikte de geçerlidir. Varsayılan küçültme kararlılığı penceresi beş dakikadır. Bu pencere, kuyruk uzunluğundaki kısa süreli düşüşün tüm çalışanların hemen kaldırılmasına yol açmasını engeller. Farklı bir davranış gerekirse spec.behavior.scaleDown üzerinden yapılandırma yapılabilir.
HPA otomatik sıfırlamayı manuel duraklatmadan ayırıyor
Replika sayısının sıfır olması iki farklı anlama gelebilir: HPA iş yükünü otomatik olarak sıfıra indirmiş olabilir veya bir operatör iş yükünü manuel olarak duraklatmış olabilir.
Kubernetes v1.37’de bu ayrım ScaledToZero durum koşuluyla yapılıyor. HPA, iş yükünü bir veya daha fazla replikadan sıfıra indirdiğinde ScaledToZero=True koşulunu kaydediyor. Bu bilgi, sonraki denetim döngülerine sıfır durumunun HPA tarafından yönetildiğini ve nesne ya da harici metriklerin izlenmeye devam etmesi gerektiğini bildiriyor.
İş yükü yeniden ölçeklendirildiğinde koşul ScaledToZero=False değerine, neden ise NotScaledToZero değerine dönüyor. Sıfır replikada bulunan ancak ScaledToZero=True koşuluna sahip olmayan iş yükü manuel olarak duraklatılmış kabul ediliyor.
Durum koşulları şu komutla incelenebilir:
kubectl describe hpa queue-workerAdapter yapılandırılmış metriği döndüremezse HPA, ScalingActive=False durumunu ve FailedGetExternalMetric benzeri bir nedeni raporlar. Bu durumda metriğin yeniden kullanılabilir hale getirilmesi veya kapasitenin geri kazanılması için iş yükünün manuel olarak ölçeklendirilmesi gerekir.
Yükseltme ve geri alma öncesinde dikkat edilmesi gerekenler
Kubernetes v1.37’de HPAScaleToZero özellik kapısı hem kube-apiserver hem de kube-controller-manager üzerinde varsayılan olarak etkin. API sunucusu minReplicas: 0 değerini kabul ederken controller manager koşul tabanlı ölçeklendirmeyi yürütür.
Kontrol düzlemi bileşenlerinin farklı sürümlerde bulunduğu yükseltme sürecinde, minReplicas: 0 kullanan HPA’lar oluşturulmadan önce her iki bileşenin de bu özelliği desteklediğinden ve özelliğin etkin olduğundan emin olunmalıdır. Özellik kapalı bir controller manager, replicas: 0 durumunu manuel duraklatma olarak değerlendirebilir ve iş yükünü sıfırda bırakabilir.
Özellik kapısı kapatılmadan veya koşul tabanlı uygulamayı içermeyen bir sürüme geri dönülmeden önce, etkilenen HPA nesnelerinde minReplicas değeri en az bir olacak şekilde değiştirilmelidir. Sıfırda bulunan iş yükleri de en az bir replikaya çıkarılmalıdır.
Ayrıca minReplicas: 0 kullanımı için en az bir nesne metriği veya harici metrik gerekir. Yalnızca CPU ya da bellek gibi kaynak metriklerini içeren bir HPA, API sunucusu tarafından reddedilir.
Alpha’dan Beta’ya geçiş
HPA’nın sıfıra ve sıfırdan ölçeklendirilmesine yönelik ilk Alpha uygulaması Kubernetes v1.16’da yayımlandı. Kubernetes v1.36’da, otomatik ölçeklendirmeyle manuel duraklatma arasındaki farkı belirlemek için ScaledToZero koşulu ve ilgili controller davranışı eklendi.
Kubernetes v1.37’de harici metrik üzerinden sıfıra ve yeniden yukarı ölçeklendirmeye yönelik entegrasyon ve uçtan uca test kapsamı eklendi, ardından özellik varsayılan olarak etkinleştirildi. Bir sonraki aşama, özellik GA seviyesine taşınmadan önce operasyonel geri bildirimleri toplamak.
Gelişmeyle ilgili geri bildirimler Kubernetes SIG Autoscaling topluluğu üzerinden paylaşılabilir. Topluluk, Kubernetes Slack içindeki #sig-autoscaling kanalında bu Beta özelliğinin kullanımını tartışıyor.
Kaynaklar ve İleri Okuma
- Kubernetes v1.37: HPA ile iş yüklerini sıfıra ölçeklendirme
- Kubernetes HorizontalPodAutoscaler belgeleri
- KEP-2021: HPA ile sıfıra ve sıfırdan ölçeklendirme
- Prometheus Adapter harici metrik belgeleri
- Kubernetes SIG Autoscaling topluluğu
20+ yıl deneyimli Azure Solutions Architect. Microsoft sertifikalı bulut mimari ve DevOps danışmanı. Azure, yapay zekâ ve bulut teknolojileri üzerine Türkçe teknik içerikler üretiyor.
Yorum gönder