Visual Studio’da Modele Ne Kadar Düşüneceğini Söyleyin
Her soru aynı miktarda düşünmeyi hak etmez. Bir değişkeni yeniden adlandırmakla bir bellek sızıntısını ayıklamak aynı zihinsel yükü gerektirmez; modelin bu iki durumu her seferinde aynı biçimde ele alması da bu yüzden pek anlamlı değil. Visual Studio 18.9 Insiders 2 ile gelen yeni düşünme eforu (thinking effort) kontrolü tam bunu değiştirmek için tasarlandı: sorun gerçekten zorsa muhakemeyi artırıyor, basit bir işse geri çekiyorsunuz. Küçük bir ayar gibi görünüyor ama hem yanıt kalitesi hem de harcanan AI kredisi üzerinde belirgin bir etkisi var.
Anahtar değil, kadran
Düşünme eforu, adının çağrıştırdığı işi yapıyor: Modelin yanıt vermeden önce ne kadar muhakeme yürüteceğini belirliyor. Ayar, adlandırılmış seviyeler biçiminde karşınıza çıkıyor ve hangi seviyelerin görüneceği seçtiğiniz modele göre değişiyor. Her modelin desteklediği aralık farklı; listede yalnızca o modelin gerçekten sunduğu seçenekleri görürsünüz. Bazı modellerde düşünme kontrolü hiç bulunmuyor; bu durumda ilgili alanda tire (–) görüntüleniyor ve model önceden olduğu gibi çalışmaya devam ediyor.
Seviyelerin genel işlevleri şöyle:
- Low (Düşük): Minimum muhakemeyle hızlı yanıtlar. Doğrudan sorulara ve gündelik kod önerilerine uygun; daha az AI kredisi tüketiyor.
- Medium (Orta): Muhakemeyle hız arasında denge kuran, çoğu zaman varsayılan olarak gelen seviye. Tipik kodlama görevleri için sağlam bir seçim.
- High (Yüksek): Karmaşık sorunlar için daha derin muhakeme. Zorlu bir algoritma, mimari bir karar ya da inatçı bir hata karşısında başvurulacak seviye.
- Extra High ve Max: Bazı modellerin sunduğu en üst muhakeme kademeleri. Modelin elindeki her şeyi ortaya koymasını istediğiniz en girift problemler için düşünülmüş.
Ayarı zaten kullandığınız yerde yapıyorsunuz
Yeni kontrole erişmek için ayrı bir menüye gitmek gerekmiyor. Model seçicisini açıp Manage models seçeneğine tıkladığınızda genişletilmiş model yönetim penceresi karşınıza çıkıyor; her model için düşünme seviyesini buradan ayarlıyorsunuz.
Yönetim görünümünde düşünme eforu ayrı bir sütun olarak yer alıyor, modelin yetenekleri, bağlam boyutu ve maliyeti ile yan yana duruyor. Yani modelleri karşılaştırmak için gittiğiniz yer, artık onların ne kadar “düşüneceğini” de belirlediğiniz yer. Bir modeli seçiyor, neler yapabildiğine ve ne kadara mal olduğuna bir bakışta göz atıyor, ne kadar çalışması gerektiğini de aynı akışta ayarlıyorsunuz.
Kredileri gerçekten gerektiği yerde harcayın
Uzun bir çalışma günü içinde farkı hissettiren nokta burası. Daha yüksek düşünme seviyeleri daha fazla muhakeme yapıyor ve doğal olarak daha fazla kredi tüketiyor; daha düşük seviyeler ise daha az. Düşünme eforunu göreve göre eşleştirdiğinizde, yüzeysel muhakeme gerektiren sorular için gereğinden fazla kredi harcamayı bırakıyorsunuz.
Pratikte bu şu demek: Tipik bir oturumu dolduran onlarca küçük istek için modeli Low seviyesinde tutuyorsunuz, ardından gerçekten derinlik isteyen tek bir zorlu problem için aynı modeli High‘a çekiyorsunuz. Aynı model, aynı konuşma, her seferinde uygun miktarda düşünme. Kullanım bütçeniz daha uzun süre yetiyor ve bunu nereye ayıracağınıza siz karar veriyorsunuz.
Sessiz ama etkili bir ekleme
Düşünme eforu, gündelik deneyimi sessizce değiştiren türden bir özellik: Basit sorularda daha az bekleme, zor sorularda daha fazla derinlik. Ayar, model yönetimi görünümünde yaşıyor; ancak bu görünüm tek bir ayarın çok ötesinde işlevler sunuyor. Ekip, özelliği Visual Studio 18.9 Insiders 2 veya sonrasında denemeye ve geri bildirim paylaşmaya davet ediyor. Yakın dönemde daha fazlasının da yolda olduğu belirtiliyor.
Kısa bir değerlendirme
Model seçimi ile düşünme eforunun aynı ekranda buluşması, geliştiricinin karar verirken üç boyutu, yetenek, maliyet ve derinlik, birlikte görmesini sağlıyor. Bu, özellikle Copilot destekli iş akışlarında modelin “ne kadar zeki” olduğunu değil, hangi görev için ne kadar zeki olmasını istediğinizi netleştirmenize yardımcı oluyor. Basit tamamlamalar için düşük, mimari kararlar için yüksek seviyeye geçmek gibi alışkanlıklar zamanla yerleştikçe, hem yanıt süresi hem de kredi kullanımı üzerinde daha bilinçli bir kontrol elde ediliyor.
Kaynaklar ve İleri Okuma
- Tell your model when to think harder – Visual Studio Blog (Rachel Kang)
- Pick, manage, and get the most from your models – Visual Studio Blog
- Visual Studio Blog
- Visual Studio Model Picker: Modelleri Seç, Yönet, Verim Al
- Visual Studio Agent Skills: Copilot’a Takımınızı Öğretmek
- Visual Studio Temmuz Güncellemesi: Copilot SDK Tabanlı Yeni
20+ yıl deneyimli Azure Solutions Architect. Microsoft sertifikalı bulut mimari ve DevOps danışmanı. Azure, yapay zekâ ve bulut teknolojileri üzerine Türkçe teknik içerikler üretiyor.
Yorum gönder