Visual Studio BYOM: Kendi Modelinizi Bağlayın

Visual Studio 18.12 GA ile Bring Your Own Model (BYOM) kullanıma açıldı. GitHub oturumu gerektirmeden, kurumsal ağlar ve yerel modeller dahil kendi model uç noktalarınızı IDE içinde bağlayabilirsiniz.

Visual Studio’da yapay zeka destekli geliştirme yaparken hangi modeli kullanacağınıza artık siz karar veriyorsunuz. Bring Your Own Model (BYOM), Visual Studio 18.12 ile genel kullanıma (GA) açıldı. Ekibinizin kendi barındırdığı bir model olabilir, bir sağlayıcıdan aldığınız API anahtarı olabilir, kendi makinenizde çalışan yerel bir model de olabilir; hepsini IDE’den çıkmadan kullanabiliyorsunuz.

Ağustos’taki Preview sürümünden bu yana gelen geri bildirimler ekip dağıtımları, kurumsal ağlar ve kişisel projeler için iyileştirmelere dönüşmüş. GA sürümünün getirdikleri şöyle: aynı sağlayıcı için birden fazla yapılandırma, yerel modelleri de kapsayan özel uç nokta (custom endpoint) deneyimi, API uyumluluğu üzerinde daha fazla denetim ve geliştirilmiş proxy desteği.

GitHub oturumu zorunlu değil

BYOM’un dikkat çeken yani, GitHub oturumu açma zorunluluğunun bulunmaması. GitHub’a erişemediğiniz durumlarda bile seçtiğiniz modelleri Visual Studio içinde kullanmaya devam ediyorsunuz. Air-gapped (dış ağdan yalıtılmış) ortamlarda çalışan yerel veya kurum içi barındırılan modeller için de aynısı geçerli. Tek koşul, model uç noktasının erişilebilir olması ve kimlik doğrulama gereksinimlerinin karşılanması.

Aynı sağlayıcı için birden fazla bağlantı

Gerçek hayattaki çalışma düzeni tek bir sağlayıcı yapılandırmasına sığmıyor. Kişisel projeleriniz için ayrı bir hesap, iş için başka bir hesap kullanıyor olabilirsiniz; birbirinden bağımsız Microsoft Foundry kaynaklarına bağlanmanız gerekebilir ya da ekibinizin onayladığı uç noktanın yanında deneysel bir dağıtımı elinizin altında tutmak isteyebilirsiniz.

Artık aynı sağlayıcı için birden fazla yapılandırma tutabiliyor, bunlara “Work”, “Personal” gibi anlamlı adlar verebiliyorsunuz. Her yapılandırma kendi bağlantı bilgilerini ve modellerini koruyor, yani sağlayıcıyı kaldırıp yeniden eklemeden doğru kuruluma geçebiliyorsunuz.

Özel uç noktalar ve yerel modeller

Geliştiricilerin önemli bir kısmı model sağlayıcısının genel uç noktasına doğrudan bağlanmıyor, kendi barındırdığı bir çıkarım (inference) sunucusu, bir AI gateway ya da kurumun sağladığı bir uç nokta üzerinden ilerliyor.

Yeni Custom Endpoint sağlayıcısı, OpenRouter dahil olmak üzere OpenAI uyumlu servislere sağlayıcı yapılandırmasında kendi yerini açıyor. Uç nokta URL’sini, gerekiyorsa API anahtarını giriyorsunuz, o kadar. Uç nokta uyumlu bir model listesi sunuyorsa Visual Studio dönen modelleri arayüzde gösterebiliyor.

Yerel modellerde de yol aynı. LM Studio ile sunulan modellere bağlanacaksanız yerel sunucuyu başlatıp OpenAI uyumlu URL’sini Custom Endpoint üzerinden ekliyorsunuz. Model bundan sonra Visual Studio’nun Agent Mode deneyiminde kullanılabilir hale geliyor.

API biçimini modelinize göre eşleyin

Özel bir model eklerken sağlayıcınızın desteklediği API biçimini seçebiliyorsunuz:

  • OpenAI uyumlu Completions
  • OpenAI uyumlu Responses
  • Anthropic uyumlu Messages

Yapılandırılmış biçimi Manage models ekranından görüntüleyip değiştirmek de mümkün. Bağlam boyutu (context size), maksimum çıktı, araç çağırma (tool calling) ve görsel (vision) desteği gibi ayarları da modelinize ve dağıtımınıza göre yapılandırıyorsunuz. Uyumlu görünen ama davranışı farklılaşan uç noktalarda doğru sonucu almak büyük ölçüde bu ayarlara bakıyor.

Kurumsal ortamlar için iyileştirmeler

Kurumlarda model seçimi, mevcut ağ ayarları ve politikalarla uyumlu çalışmak zorunda. GA sürümünde iki konu öne çıkıyor:

  • Proxy desteği geliştirildi: Hem sağlayıcı bağlantıları hem de Agent Mode artık Visual Studio’nun çözümlediği proxy yapılandırmasını kullanıyor.
  • Politika denetimi: Yöneticiler BYOM’u kurumsal politika üzerinden etkinleştirebiliyor veya devre dışı bırakabiliyor.

Nasıl başlanır?

BYOM’u denemek için izlenecek adımlar şöyle:

  1. Visual Studio 18.12 GA sürümünü kurun.
  2. Chat panelini açın ve model seçiciden Manage models seçeneğine gidin.
  3. Add model provider seçeneğini kullanarak Microsoft Foundry, OpenAI, Anthropic, Ollama veya Custom Endpoint sağlayıcılarından birini seçin.
  4. Bağlantıyı yapılandırın, anlamlı bir ad verin ve kullanmak istediğiniz modelleri ekleyin.
  5. Modelinizi seçip Agent Mode ile çalışmaya başlayın.

Bir not: Add model provider seçeneğini göremiyorsanız kurumunuzun yöneticisi BYOM erişimini kapatmış olabilir. O zaman IDE tarafında yapılacak bir şey yok, konu organizasyon politikasında.

Geri bildirim kanalları

Microsoft, kullanılan modeller, dağıtımlar ve ortamlar üzerinden BYOM’u şekillendirmeye devam ettiğini söylüyor. Neyin işe yaradığını, kurulumda hala takıldığınız noktaları ve BYOM’u daha kullanışlı kılacak önerileri Developer Community forumu veya kısa anket üzerinden iletebiliyorsunuz.

Kaynaklar ve İleri Okuma

Bu yazı yapay zeka (büyük dil modelleri) ile hazırlanmış, insan editör tarafından incelenmiştir. İçerik üretim sürecimiz.
Aşkın KILIÇ

20+ yıl deneyimli Azure Solutions Architect. Microsoft sertifikalı bulut mimari ve DevOps danışmanı. Azure, yapay zekâ ve bulut teknolojileri üzerine Türkçe teknik içerikler üretiyor.

AZ-305AZ-104AZ-500AZ-400DP-203AI-102

Bu içerik işinize yaradı mı?

Benzer içerikleri kaçırmamak için YouTube ve GitHub hesaplarımı takip edin.

Haftalık Bülten

Her pazar özenle seçilmiş teknoloji yazıları doğrudan e-postanıza gelsin.

Kurumsal DevOps ve bulut dönüşümü danışmanlığı: Danışmanlık Hizmetleri

3 Yorum

  1. Sonunda GitHub hesabı zorunluluğu olmadan model bağlayabilmek çok iyi olmuş. Şirkette dış servislere çıkış kısıtlı olduğu için yerel model desteği bizim için kurtarıcı olacak. Ollama ile denediniz mi, performans nasıl merak ettim?

  2. Sonunda GitHub hesabına mecbur bırakmadan model bağlayabiliyoruz, bu çok iyi olmuş. Şirkette güvenlik yüzünden Copilot kullanamıyorduk, yerel model desteğiyle artık bir şans verebiliriz. Ollama ile denediniz mi, performans nasıl acaba?

  3. Sonunda GitHub hesabı zorunluluğu olmadan model bağlayabilmek çok iyi olmuş. Şirkette iç ağdan Ollama ile yerel model deniyorduk, bu özellikle işimiz baya kolaylaşacak gibi. Latency tarafında deneyiminiz oldu mu, yerel modellerle performans nasıl?

Bir yanıt yazın

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir

✉

Haftalık Bülten

Azure, DevOps ve Yapay Zeka dünyasındaki en güncel içerikleri her hafta doğrudan e-postanıza alın.

Spam yok. İstediğiniz zaman iptal edebilirsiniz.
📱
Uygulamayı Yükle Ana ekrana ekle, çevrimdışı oku
Kategoriler
Ara
Paylaş
WhatsApp
İçindekiler
← Content Understanding’de...
C++ Dynamic Debugging: Optimiz... →
📩

Gitmeden önce!

Her pazar özenle seçilmiş teknoloji yazıları ve AI haberleri doğrudan e-postanıza gelsin. Ücretsiz, spam yok.

🔒 Bilgileriniz güvende. İstediğiniz zaman ayrılabilirsiniz.

📬 Haftalık bülten: Teknoloji + AI haberleri
Beni Takip Et Yeni Azure / AI / DevOps yazılarını GitHub ve RSS üzerinden takip edin.