Kubernetes topluluğunda AI iş yüklerinin taşınabilirliğini hedefleyen AI Conformance çalışması geçici bir Working Group olarak başlamıştı; artık SIG Architecture altında kalıcı bir alt proje. Bu yazı, Kubernetes blogunda yayımlanan SIG Architecture söyleşisine dayanıyor; programın neden kurulduğunu, hangi somut çıktıları ürettiğini ve kalıcı yönetişime taşınmasının pratikte ne anlama geldiğini özetliyorum. Platform işleten ekipler açısından sonuç, AI iş yüklerini belirli bir satıcının yığınına kilitlenmeden çalıştırabilmek için ortak ve satıcıdan bağımsız bir tabanın tanımlanıyor olması.
Söyleşinin tarafları
Frederico Muñoz ve Kirti Goyal’ın yürüttüğü SIG Architecture söyleşisinde iki isim yer alıyor:
- Janet Kuo (Google), Senior Staff Software Engineer. 2015’ten, yani 1.0 sürümüne koşulan dönemden bu yana Kubernetes maintainer’ı. Uygulamaların Kubernetes üzerinde nasıl orkestre edileceğini standartlaştıran çekirdek workload controller’larını yazarak başlamış; bugün SIG Apps’te co-chair ve teknik lider, ayrıca AI Conformance programını yürütüyor.
- Yuan Tang (Red Hat), Senior Principal Software Engineer. Şirketinin AI platformu geliştirmesini ve upstream açık kaynak stratejisini yönetiyor. Kubernetes’e, liderliğini yaptığı Kubeflow, Argo ve KServe projeleriyle topluluk arasındaki iş birlikleri üzerinden dahil olmuş; sonrasında WG Serving’in ve AI Conformance programının kurucuları arasında yer almış.
Parçalanma riski ve programın doğuşu
Janet Kuo, fikri ilk gündeme getiren kişi olduğunu söylüyor. Herkes AI’ı Kubernetes üzerinde çalıştırmaya başlamıştı, satıcılar ise altyapı yığınlarını farklı yollarla kuruyordu; ekosistemin parçalanması endişesi bu tablodan doğmuş. Kuo ilk Kubernetes AI Conformance önerisini yazmış, CNCF liderliğinin desteğini almış, programı başlatmış, ardından diğer co-chair’ler Yuan Tang, Rita Zhang ve Mario Fahlandt ile topluluğu bu çevrede toplamış.
Yuan Tang ise o dönemde WG Serving’in co-chair’iydi ve Gateway API Inference Extension gibi girişimler hızla ilgi görüyordu; toplulukta inference ile ilgili gereksinimlerin de AI Conformance kapsamına alınması yönünde güçlü bir istek vardı.
Working Group’un kuruluş gerekçesi, AI iş yüklerinin hızla Kubernetes’te toplanmasıyla birlikte ekosistemin parçalanmasını önlemekti. Dağıtık eğitim, büyük ölçekli inference, GPU yoğun hatlar ve yeni ortaya çıkan agentic AI sistemleri birçok farklı Kubernetes platformunda çalışmaya başlamıştı. Ancak satıcılar GPU, ağ, zamanlama ve inference orkestrasyonu başta olmak üzere AI altyapı yeteneklerini farklı biçimlerde uyguluyordu. Taşınabilirlik sorunları, operasyonel tutarsızlık ve satıcıya bağımlılık endişesi de buradan çıkıyordu.
WG’nin topluluğu etrafında topladığı başlıklar şunlardı:
- satıcıdan bağımsız AI altyapı standartları,
- birlikte çalışabilir, Kubernetes tabanlı AI platformları,
- AI iş yükleri için tutarlı operasyonel davranış,
- ölçeklenebilir AI dağıtımı için ortak gereksinimler.
Working Group hedeflerine ulaştı mı?
Kuo ve Tang’a göre WG, başlangıçtaki temel hedeflerine ulaştı. Ekosistem, parçalı ve satıcıya özgü AI altyapı yaklaşımlarından Kubernetes üzerindeki AI iş yükleri için toplulukça tanımlanmış ortak bir tabana doğru hareket etti. Söyleşide sıralanan somut göstergeler şunlar:
- Certified Kubernetes AI Conformance Program’ın başlatılması,
- resmi Kubernetes AI Requirements (KAR) tanımlarının yapılması,
- büyük ekosistem oyuncularından geniş katılım,
- sertifikalı platform sayısının birkaç ay içinde 18’den 31’e çıkması,
- AI iş yükleri için gereken yeni Kubernetes primitifleri etrafında hizalanma,
- otomatik uyumluluk doğrulaması için bir yol haritasının oluşturulması.
WG’nin en önemli çıktısı olarak ise AI iş yüklerinin artık birinci sınıf bir Kubernetes kullanım senaryosu olduğu konusunda uzlaşı yaratması gösteriliyor. Programın son KubeCon + CloudNativeCon etkinliğinde öne çıkarılması da bu değişimin yansıması. Birkaç yıl önce ML platformlarına veya GPU ağırlıklı araştırma ortamlarına bağlı, görece özel bir alan sayılıyordu AI iş yükleri; bugün büyük ölçekli platform operatörlerinin neredeyse tamamı için ana akım bir altyapı meselesi. Hızlandırıcı zamanlama, yüksek başarımlı ağ, iş yükünün farkında olan orkestrasyon ve düşük gecikmeli inference gibi gereksinimler artık ekosistem düzeyinde standartlaştırılmaya değer görülüyor.
Working Group’tan SIG Architecture alt projesine
Kubernetes’te Working Group’lar doğası gereği geçicidir. AI WG’nin hedefi, ilk AI Conformance gereksinimlerini yayımlamak ve sertifikasyon sürecini işler hale getirmekti. Bu kilometre taşlarına ulaşıldığında WG arşivlendi, AI Conformance da SIG Architecture altında kalıcı bir alt projeye dönüştü.
Kuo ve Tang bu geçişi, AI’ın sürekli yönetişime ihtiyaç duyduğunun kanıtı sayıyor; AI onlara göre geçici bir eğilim ya da tek seferlik bir iş yükü değil, Kubernetes’in her gün çalıştırdığı şeyin çekirdek parçası. SIG Architecture zaten genel Kubernetes Conformance ve API tasarım ilkelerinin sahibi olduğu için, AI Conformance’ın orada barınması gereksinimlerin uzun vadede ekosistemin geri kalanıyla hizalı kalmasını sağlıyor. SIG Architecture’ın API yönetişimindeki rolünü daha ayrıntılı merak edenler SIG Architecture ve API governance üzerine yazıya bakabilir.
Alt projenin hedefi, AI Conformance standartlarını güncel, satıcıdan bağımsız ve standart belirleyici tutmak. Net bir topluluk deseninin bulunmadığı boşluklar tespit edildiğinde ise yeni standartların oluşmasına öncülük ediliyor.
Hızlı değişen AI ile sabit API’lar arasındaki denge
AI altyapısı çok hızlı evrilirken Kubernetes API’ları yıllarca kararlı kalacak şekilde tasarlanıyor. Program bu gerilimi iki yöntemle yönetiyor:
- Kademeli mezuniyet modelinde yeni AI altyapı kavramları önce tavsiye niteliğinde SHOULD gereksinimleri olarak giriyor. Böylece ekosisteme deneme ve en iyi uygulamalarda uzlaşma alanı kalıyor, Kubernetes de erkenden katı API’lara kilitlenmiyor. İlgili API’lar kararlı hale gelip ekosistemde benimsendiğinde gereksinim zorunlu MUST seviyesine yükseltiliyor.
- Odak altyapı katmanında: Testler belirli AI çerçevelerine veya model sunucularına değil çekirdek yeteneklere bakıyor, hızlandırıcı desteği de Dynamic Resource Allocation (DRA) üzerinden sınanıyor. Temel platform kararlı kalırken AI araç zinciri kendi hızında gelişebiliyor.
DRA ile kurulan paralellik de burada öne çıkıyor. Kod tabanının birden fazla parçasına dokunan ve birden fazla SIG’i ilgilendiren büyük sorunlarda Working Group, farklı SIG’lerden uzmanları bir araya getirip uzlaşı kurmak için doğru başlangıç noktası. SIG Architecture’ın parçası olunca odak biraz kayıyor: AI yeteneklerinin evrilen Kubernetes mimarisine nasıl örüleceği daha çok konuşulacak. AI eklenti bir katman gibi görülmek yerine, zamanlama ve kaynak tahsisi gibi çekirdek primitiflerin önümüzdeki on yılın AI iş yüklerini desteklemek için temel düzeyde nasıl uyarlanması gerektiği ele alınacak.
Katkıda bulunmak isteyenler için
Söyleşide belirtilen yollar şöyle:
- Ana depo olarak
kubernetes-sigs/ai-conformanceincelenebilir ve alt projenin toplantılarına katılınabilir. - Yeni AI Conformance gereksinimleri tanımlamak isteyenler PR incelemelerine katılabilir ya da KAR şablonunu kullanarak kendi önerisini sunabilir.
- Kod yazmak isteyenler için
test/dizinindeki otomatik Go test paketlerinin genişletilmesinde sürekli ihtiyaç var. - Platformunu sertifikalandırmak isteyen satıcılar için ayrıntılar
cncf/k8s-ai-conformancedeposunda bulunuyor.
Kuo ve Tang, topluluğun gösterdiği hızlı sahiplenmeden etkilendiklerini söylüyor. Program KubeCon NA 2025 keynote’unda duyurulduğunda tepkinin ne olacağından emin değillerdi; KubeCon EU 2026’daki güncelleme keynote’una gelindiğinde sertifikalı platform sayısı birkaç ay içinde 18’den 31’e çıkmıştı. Bu büyüme, sektörün birleşik ve satıcıdan bağımsız bir standarda duyduğu ihtiyacı gösteriyor; kuruluşlar AI iş yüklerini sertifikalı herhangi bir Kubernetes platformunda, tescilli bir yığına kilitlenmeden çalıştırabileceklerine güvenebiliyor.
Kaynaklar ve İleri Okuma
- From Working Group to SIG Architecture: spotlight on AI Conformance (Kubernetes Blog)
- CNCF: Certified Kubernetes AI Conformance Program duyurusu
- Arşivlenmiş WG AI Conformance deposu
- SIG Architecture topluluk dizini
- Kubernetes yönetişim belgesi
- WG Serving deposu
- KubeCon + CloudNativeCon etkinlikleri
- Janet Kuo (GitHub) · Yuan Tang (GitHub)
20+ yıl deneyimli Azure Solutions Architect. Microsoft sertifikalı bulut mimari ve DevOps danışmanı. Azure, yapay zekâ ve bulut teknolojileri üzerine Türkçe teknik içerikler üretiyor.
