Copilot Usage API’de BYOK ve Enterprise Custom Model Ayrımı

GitHub Copilot kullanım metrikleri API’si artık “bring your own key” (BYOK) trafiğini Copilot’ın kendi barındırdığı model kullanımından ayırıyor. Bir geliştiricinin kendi sağlayıcı anahtarıyla ya da yerel bir modelle yaptığı istekler, kurumsal olarak tanımlanmış özel modellerle yapılan istekler ve Copilot-hosted model kullanımı tek raporda ayrı ayrı görülebiliyor. Yönetim tarafındaki karşılığı şu: BYOK politikanızın gerçekte uygulanıp uygulanmadığını ve kullanıcı başına maliyetin hangi kısmının Copilot’tan geldiğini veriyle kontrol edebiliyorsunuz.

İki farklı BYOK türü raporlanıyor

Kaynak duyuruya göre raporlama iki ayrı senaryoyu kapsıyor:

• Local BYOK: Geliştiricinin kendi istemcisinde yapılandırdığı kullanım. İstekler Copilot CLI veya GitHub Copilot uygulamasından doğrudan geliştiricinin sağlayıcı anahtarına ya da yerel modeline gidiyor.
• Enterprise custom models: Yöneticilerin GitHub ayarlarından yapılandırdığı modeller. Bu isteklerde trafik GitHub üzerinden sizin sağlayıcınıza yönleniyor.

Her iki kırılım da hem enterprise hem organization raporlarında, kullanıcı seviyesinde ve toplam (aggregate) seviyede, 1 günlük ve 28 günlük raporlarda yer alıyor.

Local BYOK alanları

Local BYOK, geliştiricinin kendi sağlayıcı anahtarını ve Ollama, Foundry Local, LM Studio ile llama-server gibi araçlarla sunulan yerel modelleri kapsıyor. İlgili alanlar şunlar:

• used_local_byok: Kullanıcının o gün Copilot CLI veya Copilot uygulamasında en az bir local BYOK isteği yapıp yapmadığını gösteren alan. Kullanıcı seviyesindeki raporlarda bulunuyor.
• totals_by_local_byok: Oturum, istek, prompt ve token sayılarını byok_kind (local_managed, local_user, local_auto veya remote_user) ve surface (copilot_cli ya da copilot_app) kırılımıyla veriyor. Hem kullanıcı seviyesinde hem toplam raporlarda görünüyor.
• daily_active_local_byok_users, weekly_active_local_byok_users ve monthly_active_local_byok_users: Gün, takvim haftası ve takvim ayı bazında local BYOK aktivitesi olan tekil kullanıcı sayıları. Toplam raporlarda yer alıyor.

Enterprise custom model işareti

Kurumsal özel modeller için totals_by_client[].totals_by_model[] altındaki her kayda is_custom_enterprise_model adında boolean bir alan eklendi. Alanın değeri, istek enterprise veya organization için yapılandırılmış bir özel modelle yapıldığında true oluyor.

Bu isteklerin GitHub tarafından sunucu tarafında gözlemlendiği belirtiliyor, dolayısıyla alan IDE’ler dahil tüm istemcileri kapsıyor. Aynı model hem Copilot-hosted model hem de custom model olarak kullanılıyorsa iki ayrı kayıt olarak görünüyor, sayımlar da bu yüzden karışmıyor. Custom model kayıtları gerçek istek ve token sayılarını içeriyor.

Bu ayrım neden işe yarıyor

Duyuruda tarif edilen sorun şuydu: Yerel ve özel modeller çoğu zaman Copilot modelleriyle aynı adı taşıdığı için BYOK kullanımı Copilot-hosted toplamların içinde eriyordu. Yeni alanlarla şunlar mümkün hale geliyor:

• BYOK yönetişimi: Kimin kendi sağlayıcı anahtarına, yerel modele veya kurumsal özel modele istek gönderdiğini görüp BYOK politikanızla karşılaştırmak.
• Harcamayı doğru okumak: Copilot’ın sunduğu kullanımı, kendi sağlayıcınız tarafından faturalanan veya ücretsiz yerel modellerde çalışan kullanımdan ayırmak; böylece kullanıcı başına maliyet gerçekten Copilot’ın sunduğu kısmı yansıtıyor.
• Tüm araçlarda tek görünüm: Geliştiriciler hangi modeli veya sağlayıcıyı seçerse seçsin, kurum genelindeki AI kullanımını tek bir yerden izlemek.
• Verimlilik karşılaştırması: Kullanıcıları BYOK ya da custom model kullanımına göre gruplayıp halihazırda takip ettiğiniz Copilot kullanım metrikleriyle kıyaslamak.

Dikkat edilmesi gereken sınırlar

Duyuruda birkaç uyarı da var:

• Mevcut toplamlar değişmiyor: BYOK kullanımı zaten sayılıyordu. Local BYOK, totals_by_cli ve totals_by_copilot_app içindeki bir alt küme; custom model kullanımı ise zaten totals_by_client içinde yer alıyor. Mevcut toplamlarda değişiklik yok.
• Local BYOK bir alt sınırdır: Bu alanlar istemci telemetrisine dayandığı için telemetri kapalıyken eksik sayım yapıyor. Bazı yerel sağlayıcılar token kullanımını raporlamadığından token sayıları da olduğundan düşük çıkabiliyor. Enterprise custom model sayımları sunucu tarafında gözlemlendiği için bu kısıtlamaya tabi değil.
• Model adları: Custom model adlarında mevcut model adı normalizasyonu uygulanıyor, tanınmayan adlar unknown olarak görünüyor. Local BYOK kullanımı model adına göre kırılmıyor.
• Geriye dönük doldurma yok: Bu sürümden önceki rapor günlerinde is_custom_enterprise_model alanı bulunmuyor.

Kimler erişebiliyor

Veriye enterprise owner, enterprise billing manager ve organization owner rolleri ile View Copilot Metrics iznini veren özel organization veya enterprise rollerine sahip kullanıcılar erişebiliyor. Copilot usage metrics politikasının da etkin olması gerekiyor.

Kurulum sırası pratikte şöyle işliyor: Önce politikanın açık olduğundan emin olun, ardından raporlarda yeni alanların dolup dolmadığını kontrol edin. Geriye dönük doldurma olmadığı için is_custom_enterprise_model bazlı analizlerde yalnızca bu sürümden sonraki günleri değerlendirmeniz gerekiyor. Alanların tam şemasını ve örnek yanıtları resmi API dokümantasyonundan takip edebilirsiniz.

Kaynaklar ve İleri Okuma

• github.blog
• github.blog

• BYOK and enterprise custom models in the Copilot usage API — GitHub Changelog
• Copilot usage metrics API dokümantasyonu
• Copilot Usage Metrics API ile Kullanıcı Bazlı AI Kredisi
• Copilot Usage Metrics API: IDE Dışı Araç Kullanımı
• Copilot Usage Metrics API’ye Ajan Bazlı Aktivite Kırılımı