Azure Maia 300: Watt Başına %40 Daha Fazla Token

Microsoft, Open Compute Project (OCP) ekosistemi üzerinden yürüttüğü altyapı çalışmalarını tek bir çerçevede topladı. Çerçevenin içinde çıkarım (inference) ağırlıklı yapay zeka yüklerini daha verimli çalıştıran özel silikon, Ethernet tabanlı yeni ölçekleme mimarileri, 800 VDC güç dağıtımı, sıvı soğutma ve açık kaynak donanım güvenliği var. Azure’ın “frontier” altyapı yaklaşımında duyurulan bileşenleri ve bunların operasyonel olarak ne anlama geldiğini aşağıda özetliyorum.

Maia 300 ve Cobalt 200: iş yüküyle birlikte tasarlanan silikon

Microsoft’un tespiti net. Süper zekanın bir sonraki aşamasında baskın iş yükü çıkarım olacak, verimlilik, gecikme ve maliyet de burada belirleyici hale geliyor. Maia ailesinin yeni nesil yapay zeka hızlandırıcısı Azure Maia 300 bu nedenle tek bir çip olarak değil, komple bir sistem olarak konumlandırılıyor.

Maia 300’ün hedeflediği iş yükü profilleri şunlar:

• Uzun bağlamlı akıl yürütme (long-context reasoning)
• Gecikmeye duyarlı konuşma deneyimleri
• Çok adımlı, sürekli çalışan ajan (agentic) görevleri

Microsoft’un paylaştığı beklentiye göre Maia 300, sistem genelindeki verimlilik iyileştirmeleri sayesinde önde gelen GPU tabanlı sistemlere kıyasla watt başına %40 daha fazla token üretecek. 96 hızlandırıcılı tam yapılandırmada rack ölçeğinde sunulan token verimi ise Maia 200’ün yedi katına kadar çıkıyor. Rakamlar Microsoft’un kendi beyanı, kaynakta bağımsız bir karşılaştırma yok.

Maia’nın arkasındaki yaklaşım “sistem birlikte tasarımı” (co-design). Modeller, uygulama çerçeveleri, çekirdekler (kernel), iletişim kütüphaneleri, sistem yazılımı ve özel silikon aynı optimizasyon döngüsüne alınıyor. Bu döngünün somut çıktısı olarak Maia 200, ABD, Avrupa ve Avustralya’da devreye alınıyor; Microsoft Teams, Copilot ve Cowork deneyimlerindeki yerleşik yapay zeka özelliklerinde lider GPU altyapısına kıyasla watt başına 1,7 kata kadar daha fazla token sağlıyor.

Ajan yükleri CPU tarafını da değiştiriyor

Yapay zeka altyapısı yalnızca hızlandırıcıdan ibaret değil. Her ajan etkileşimi orkestrasyon, veri çekme, bellek yönetimi ve servis çağrıları üretiyor, hepsinin hızlı ve verimli çalışması gerekiyor. Microsoft da bu nedenle Cobalt 200‘ü “ajan-yerel” (agent-native) bir CPU olarak tasarladığını belirtiyor. Açıklanan kazanımlar:

• Cobalt 100’e kıyasla %50’den fazla performans artışı
• Ajan çağrı gecikmesinde %33 azalma
• Ajan iş yüklerinde %23 daha yüksek throughput

Depolama ve güvenlik tarafında aynı prensip uygulanıyor. Azure Boost DPU, sıkıştırma, ağ işlemleri ve güvenlik fonksiyonlarını CPU’dan alıp amaca özel silikona taşıyor; Microsoft bu yolla belirgin biçimde daha az güç tüketimiyle dört kat daha fazla performans sunulduğunu söylüyor. Azure Integrated HSM ise şirket içi güvenlik çipiyle tüm yeni veri merkezi sunucularında yer alıyor; kriptografik işlemleri iş yüküne yaklaştırırken anahtarları uygulama belleğine açmadan donanım güvenlik sınırı içinde tutuyor.

Açık ve dayanıklı bir yapay zeka ağ dokusu

Hesaplama zekayı üretiyor, ağ ise onu ölçekte kullanılabilir kılıyor. Microsoft, sektör ortaklarıyla birlikte Ethernet’i yapay zeka için yeniden ele alan Multipath Reliable Connection (MRC) teknolojisini geliştirdi. Çok düzlemli (multi-plane) mimarisi iki ağ katmanıyla 100.000’den fazla GPU ölçeğine çıkabiliyor, güç tüketimini, karmaşıklığı, arıza noktalarını ve maliyeti de aşağı çekiyor. Trafiği birden fazla yola akıllıca dağıtan ve paket saçma (packet spraying) kullanan MRC, tıkanıklığı sınırlayarak frontier ölçekli eğitimde kararlı performans hedefliyor.

Ölçek yukarı (scale-up) bağlantı tarafında iki açık çalışma öne çıkıyor:

• OCI MSA (Optical Compute Interconnect Multi-Source Agreement): Çok raflı scale-up sistemleri için ilk optik spesifikasyon. Yüksek bant genişlikli, güç açısından verimli ve çok satıcılı altyapıyı mümkün kılmayı amaçlıyor. Microsoft, OCI MSA’ya katılımı genişletmek için sektörle çalışmayı sürdüreceğini belirtiyor.
• ESUN (Ethernet for Scale-Up Networking): 175’ten fazla kuruluşu bir araya getirerek Ethernet tabanlı scale-up ağ gereksinimlerini tanımlıyor. Grup spesifikasyonun 1.0 sürümünü yayımladı, şimdi 1.1 sürümü üzerinde çalışıyor.

Şebekeden silikona güç dağıtımının yeniden tasarımı

Yapay zeka altyapısı, güç dağıtımında köklü bir yeniden tasarımı zorunlu kılıyor. Microsoft, OCP ve Open Systems for AI girişimi üzerinden sektörün 800 volt doğru akım (VDC) altyapısına geçişine katkı veriyor.

Mt. Diablo, Microsoft’un ayrıştırılmış (disaggregated) yüksek gerilimli DC “sidecar” mimarisi. Güç dönüşümünü hesaplama rafından ayırıyor, böylece ikisi bağımsız ölçeklenebiliyor. Modüler tasarım yaklaşık 100 kW’tan 1 MW’ın üzerine kadar destek sunuyor; yedekli besleme, telemetri ve opsiyonel enerji depolama içeriyor. Microsoft ve OCP ortakları, Mt. Diablo spesifikasyonlarının v0.7 ve v1.0 sürümlerini OCP’ye katkı olarak verdi.

Bunun yanında katı hal transformatörü (solid-state transformer) tabanlı mimariler, OCP’nin Clean Backup Power girişimi kapsamında dizele bağımlılığı azaltan yedek güç gereksinimleri ve hiperölçek güç mimarilerinde elektrik kuruluşları, operatörler ile ekipman üreticilerini hizalamayı amaçlayan ortak bir şebeke arayüzü spesifikasyonu üzerinde çalışılıyor.

Soğutma: artık birinci sınıf bir tasarım kriteri

Microsoft soğutmayı tek tek rafların değil, veri merkezinin tamamının problemi olarak ele alıyor. Üçüncü nesil Azure Isı Değiştirici Ünitesi Mt. Atlas, aynı operasyonel alanı korurken önceki nesle kıyasla soğutma kapasitesini neredeyse ikiye katlıyor. Microsoft, OCP üzerinden kamuya açık referans mimari paylaşarak sektörde benimsenmeyi hızlandırmayı hedefliyor.

Veri merkezi düzeyinde ise bölgesel (zonal) soğutma stratejisi öne çıkıyor. Sıvı soğutmalı hızlandırıcılarla geleneksel hava soğutmalı sistemlerin bir arada bulunduğu yeni nesil yapay zeka veri merkezlerinde, her biri farklı sıcaklıkta soğutucu sağlayan birden fazla bağımsız su döngüsü kullanılıyor. Amaç, soğutmayı iş yükünün ihtiyacına göre özelleştirip verimliliği ve performansı artırmak, aynı zamanda enerji, karbon ve su azaltım hedeflerini desteklemek.

Açık donanım güvenliği: Tessera Integrated HSM

Microsoft, güçlü bulut güvenliğinin açıklık, şeffaflık ve sektörel iş birliğiyle kurulduğunu savunuyor. Bu yaklaşımın geçmişteki örnekleri olarak Confidential Computing Consortium’un kurucu üyeliği, açık kaynak silikon güven kökü Caliptra ve OCP S.A.F.E. güvenlik uyumluluk çerçevesine yapılan katkılar gösteriliyor.

Yeni adım Tessera Integrated HSM. Microsoft, Marvell ve Oracle’ın birlikte duyurduğu, tümleşik donanım güvenlik modülleri için açık kaynak bir girişim söz konusu. Tessera, Azure Integrated HSM ile tanıtılan “iş yüküne doğrudan bağlı HSM” mimarisini devam ettiriyor; mimarisini, spesifikasyonlarını, protokollerini, sürücülerini, yazılımını, donanım yazılımını (firmware) ve silikonunu topluluğa açıyor. Yapay zekanın siber güvenlik manzarasını dönüştürmesi ve kuantum hesaplamanın yeni kriptografik riskler getirmesi, bu açılımın gerekçesi olarak gösteriliyor.

Azure Integrated HSM’in çalışma mantığını daha önce ayrıntılı ele almıştım: Azure Integrated HSM: Güvenin Donanım Katmanına İnişi.

Filo dayanıklılığı ve sürdürülebilirlik

Yapay zeka altyapısı büyüdükçe filo (fleet) güvenilirliği, müşteri iş yüklerini ve kapasiteyi korumanın temel koşulu haline geliyor. Microsoft OCP üzerinden ortak RAS, hata ayıklama, telemetri ve tanılama spesifikasyonları yayımladı; donanım hata yönetimi, CPU/GPU yönetimi ve filo bellek hata yönetimi konularına katkı veriyor. Yıllara yayılan filo verisi de hataları önlemek, sorunları yerinde tespit etmek ve daha otonom kurtarma sağlamak üzere yapay zeka ile doğrulama ve tahmin amaçlı kullanılıyor.

Sürdürülebilirlik tarafında 2030 hedefleri (karbon negatif, su pozitif, sıfır atık) çerçevesinde veri merkezi yaşam döngüsünün tamamı ele alınıyor. OCP üzerinden düşük gömülü karbonlu çelik ve beton çalışmaları yürütülüyor, betonda yard küp başına %50’den fazla emisyon azaltımına giden yollar aranıyor. Atık ısının yeniden kullanımı, tutarlı ve denetlenebilir yaşam döngüsü karbon raporlaması için Cloud Services Product Category Rules geliştirilmesi, kapalı döngü sıvı soğutma, akıllı güç yönetimi ve yenilenebilir enerji anlaşmaları diğer başlıklar. Circular Center’lar ise sunucu ve bileşenlerin %90’ından fazlasını yeniden kullanıma sokuyor ya da geri dönüştürüyor.

Sonuç: tam yığın birlikte tasarım

Microsoft’un buradaki temel argümanı, silikon, hesaplama, bellek, ağ, güç, soğutma, modeller ve uygulamaların tek bir güvenli, güvenilir, verimli ve sürdürülebilir platform gibi çalışması gerektiği; bunun da hiçbir kuruluşun tek başına yapabileceği bir iş olmadığı. OCP de bu nedenle açık arayüzler, küresel ölçekte altyapı işletmekten çıkarılan dersler ve ekosistemin aynı problemleri tekrar tekrar çözmesini engelleyen ortak çalışma zemini olarak konumlandırılıyor. Duyuru, OCP Global Summit 2026 kapsamında topluluğa yapılan bir davetle kapanıyor.

Kaynaklar ve İleri Okuma

• Infrastructure for the frontier era: Scaling intelligence through open industry collaboration (Azure Blog, Reynold D’Sa & Rani Borkar)
• Azure Maia 300 hakkında ayrıntılar
• Maia 200: The AI accelerator built for inference
• Azure Cobalt 200 VM’leri ve ajan odaklı iş yükü performansı
• Azure Boost DPU ile altyapı verimliliği
• Azure Integrated HSM’in açık kaynaklaştırılması ve Tessera Integrated HSM
• Yapay zekâ süper bilgisayarları için dayanıklı ağlar kurmak
• Microsoft Research: Future AI Infrastructure – Networking
• OCI MSA (Optical Compute Interconnect Multi-Source Agreement)
• ESUN: Ethernet for Scale-Up Networking duyurusu (OCP)
• Microsoft’un silikon ve sistem yaklaşımı
• Frontier Firm ve bulut/AI modernizasyonunun iş gerekçesi
• Microsoft Copilot