VS Code LLM API: Editörünüzü Kendi Anahtarınıza Bağlayın

Başlamadan önce ihtiyacınız olanlar

Bir VS Code LLM API kurulumunda sihir yoktur. VS Code'un kendisi dil modelleriyle konuşmaz. Bunu bir uzantı yapar ve bu uzantının istekleri nereye göndereceğini ve sizi nasıl tanımlayacağını bilmesi gerekir. Özel bir OpenAI uyumlu sağlayıcıyı destekleyen herhangi bir uzantı bu hizmeti kullanabilir.

Önce bu üç değeri toplayın.

• Temel URL: https://api.codingllmapi.com/v1
• Model Kimliği: uncensored
• API anahtarı: API anahtarı sayfasında oluşturuldu. Kayıt olduktan sonra tek tıkla 7 gün geçerli, kart gerektirmeyen $0,50 deneme kredisi talep edebilirsiniz.

Anahtar, istekte Authorization: Bearer <key> olarak gönderilir. Anahtarı ayarlara yapıştırdığınızda uzantılar bu başlığı sizin için ekler.

Adım 1: anahtarı editör dışında test etme

Bir uzantı içinde hata ayıklama, bir terminalde hata ayıklamaktan daha yavaştır. VS Code'da terminali açın (Windows ve Linux için Ctrl+`, macOS için Cmd+`), anahtarı bir ortam değişkenine kaydedin ve iki çağrı yapın. İlki modelleri listeler. İkinci küçük bir sohbet isteği gönderir.

Copyexport LLM_API_KEY="paste-your-key-here"

curl -s https://api.codingllmapi.com/v1/models \
  -H "Authorization: Bearer $LLM_API_KEY"

curl -s https://api.codingllmapi.com/v1/chat/completions \
  -H "Authorization: Bearer $LLM_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Reply with the word ready."}],"max_tokens":10}'

İkinci çağrı bir mesaj içeren JSON döndürürse, anahtar, URL ve model kimliği doğrudur. Sonra ne yanlış giderse uzantı ayarıdır, hesabınız değil. Burada bir kimlik doğrulama hatası alırsanız, anahtarı tam olarak kopyaladığınızdan ve rastgele bir tırnak işareti veya boşluk gelmediğinden emin olun.

Adım 2: uzantıyı yapılandırın

Uzantı ayarları sürümler arasında değişir, bu nedenle aşağıdaki alan adlarını bir rehber olarak kabul edin ve bir etiket farklıysa uzantının kendi belgelerine bakın. Üç değer her zaman aynıdır.

Continue

Continue, VS Code ve JetBrains için açık kaynaklı bir asistanır. Yapılandırma dosyasını ana dizininizden okur. Daha yeni sürümler YAML dosyası kullanır, daha eski sürümler ise config.json kullanır. Model girişi her iki biçimde de aynı alanları taşır. JSON biçiminde şöyle görünür:

Copy{
  "models": [
    {
      "title": "Uncensored",
      "provider": "openai",
      "model": "uncensored",
      "apiBase": "https://api.codingllmapi.com/v1",
      "apiKey": "paste-your-key-here"
    }
  ]
}

Sağlayıcı openai'dır çünkü iletişim biçimi (wire format) OpenAI'ninkidir. Yalnızca apiBase Continue'un farklı bir sunucuyla konuşmasını sağlar. Kaydettikten sonra pencereyi yeniden yükleyin ve sohbet panelindeki açılır menüden modeli seçin.

Cline

Cline, dosyaları okuyabilen, düzenleyebilen ve onayınızla terminal komutları çalıştırabilen bir ajan uzantısıdır. Ayarlarını açın ve OpenAI Compatible adlı sağlayıcıyı seçin. Temel URL'yi, API Anahtarını ve Model Kimliğini doldurun. https://api.codingllmapi.com/v1, anahtarınızı ve uncensored yapıştırın. Kaydedin, bir görev başlatın ve ilk araç kullanımını onaylayın.

Diğer uzantılar

Çok sayıda araç "özel uç nokta", "OpenAI uyumlu" veya "kendi anahtarınızı getir" gibi adlar altında aynı deseni izler. Bir temel URL kabul eden bir alan arayın. Yalnızca sabit bir sağlayıcı listesi sunan ve URL alanı olmayan bir uzantı, bu API'ye yönlendirilemez.

Ne çalışıyor ve ne çalışmayabilir

Bu API POST /v1/chat/completions ve GET /v1/models'i uygular. Bu, sohbet panellerini, düzenleme komutlarını, kodu açıklama eylemlerini ve ajan döngülerini kapsar. Editörün isteyebileceği her şeyi kapsamaz.

Editör özelliği	Beklenen sonuç
Açık dosya hakkında sohbet	Çalışıyor
Kodu seçin ve düzenleme isteyin	Çalışıyor
Araç çağrıları ile ajan görevleri	Uzantı standart tools alanını veya kendi istem biçimini kullanıyorsa çalışır
Satır içi sekme tamamlama	Uzantıya bağlıdır. Ayrı bir tamamlama veya fill-in-the-middle uç noktası gerekiyorsa, bu API bir tane sağlamaz
Kod tabanı embedding'ler ve dizine ekleme	Burada mevcut değil, çünkü gömme uç noktası yok. Farklı bir gömme kaynağı kullanın veya dizine ekleme özelliğini kapatın
Görüntü girişi veya oluşturma	Mevcut değil, API yalnızca metin içerir

Bir uzantı bu tabloda bir özellikte başarısız olursa, anahtarınızın yanlış olduğunu varsaymak yerine o özelliği ayarlardan kapatın. Bu modelin programlama işleri için nasıl performans gösterdiği hakkında genel bakış için kodlama ajanları için sansürsüz model sayfasına bakın.

Uzantılar ötesinde: editörden çalıştırdığınız betikler

Bir anahtarı VS Code'dan kullanmanın tek yolu uzantı değildir. Birçok geliştirici, bir dosyayı modele gönderen ve cevabı yazdıran küçük bir betiği projede tutar, ardından bunu tümleşik terminalden çalıştırır veya bir göreve bağlar. Bu, istem üzerinde tam kontrol sağlar ve uzantının gizli talimatlarından kaynaklanan sürprizlerden kaçınmanızı sağlar.

İlettiğiniz dosya yolunu inceleyen kısa bir Python betiği burada. Anahtarı bir ortam değişkeninden okur, böylece hiçbir gizli bilgi deposuna düşmez.

Copyimport os
import sys
from openai import OpenAI

client = OpenAI(
    base_url="https://api.codingllmapi.com/v1",
    api_key=os.environ["LLM_API_KEY"],
)

path = sys.argv[1]
with open(path, encoding="utf-8") as f:
    source = f.read()

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "Review the code. List bugs first, then style issues. Be brief."},
        {"role": "user", "content": source},
    ],
    temperature=0.2,
)
print(resp.choices[0].message.content)

python review.py src/app.py ile çalıştırın. Büyük dosyalar 100.000 token penceresine kadar uygundur, ancak daha küçük bir istek daha hızlı yanıt verir ve daha az maliyetlidir. Yanıtın yazılırken görünmesini istiyorsanız, stream=True geçirin ve her parçanın delta.content'ini geldiği anda yazdırın.

Aynı fikir .vscode/tasks.json içinde bir VS Code görevi olarak da çalışır: Komutu bu betik olan ve geçerli dosyayı bir argüman olarak alan bir görev tanımlayın ve komut paletinden tetikleyin. Bu küçük bir kurulum gerektirir ve sonuç, tamamen anladığınız bir inceleme komutudur.

Yaygın hataları düzeltme

Çoğu sorun birkaç nedene dayanır. Bu listenin başından başlayın.

1. 401 veya "geçersiz API anahtarı". Anahtar yapıştırılırken sonuna boşluk eklendi ya da farklı bir siteye ait bir anahtar kullandınız. Yeni bir anahtar oluşturun ve tekrar yapıştırın.
2. 404 veya "model bulunamadı". Model kimliği yanlış yazılmış ya da base URL'de /v1 eksik ya da iki kez yazılmış. Doğru model kimliği uncensored şeklindedir. Sunucunun ne bildirdiğini görmek için /v1/models çağrısını çalıştırın.
3. rate_limited ile 429. Dakika başına istek limitini aştınız: tam anahtarda 300, deneme anahtarında 60. Hızlı döngü kuran ajanlar bu sınıra takılır. Bekleyip tekrar deneyin ya da otomatik adım sayısını azaltın.
4. concurrency ile 429. Aynı anda çok fazla istek gönderildi: tam anahtarda 8, deneme anahtarında 2. Bazı uzantılar bir görev için paralel olarak birden fazla çağrı yapar. Akış yanıtı, sonlanana kadar slotunu tutar; takılan bir akış yeni çağrıları engelleyebilir.
5. Retry-After: 5 başlığı ile 429. Geçici aşırı yüklenme. Uzantı beş saniye sonra tekrar denemeli. Eğer denemiyorsa, manuel olarak tekrar deneyin.
6. İstek çok büyük olduğu için reddedildi. Gövde sınırı 8 MB'dir ve bağlam penceresi istem ve yanıt için 100.000 token'dır. Çok sayıda dosya ekleyen ajanlar bunu aşabilir. Bağlamı daraltın veya sohbeti temizleyin.

Destek biriminden yardım isterken X-Request-Id yanıt başlığının değerini dahil edin. Bu değeri curl -i ile görebilirsiniz.

Maliyetin görünür tutulması

Editör ajanları çok metin gönderir, çünkü her adım genellikle o ana kadar olan dosyaları ve geçmişi içerir. Fiyatlandırma 1M girdi token başına $0,15 ve 1M çıktı token başına $0,50'dir; bu, tekil isteklerin maliyetini düşük tutar ancak döngüler birikebilir.

Çalışan bir örnek: 30.000 girdi token ve 1.000 çıktı token içeren bir ajan adımı, girdi için 30.000 x $0,15 / 1.000.000 = $0,0045 ve çıktı için 1.000 x $0,50 / 1.000.000 = $0,0005 maliyetine sahiptir; adım başı toplam $0,005 eder. 40 böyle adımlık bir görev $0,20'a mal olur. Bu kabaca bir tahmindir, bir garanti değildir; gerçek adımlar boyut olarak değişkenlik gösterir.

• Bir çağrıdan sonra bakiyenizi görmek için yanıt başlıklarındaki X-Balance-USD değerini kontrol edin.
• Eski geçmişin sonsuza dek devam etmemesi için yeni görevleri yeni sohbetlerde başlatın.
• Uzantının adım veya istek limiti varsa bunu ayarlayın.

Kredi ön ödemelidir, bu nedenle bakiye bittiğinde harcama durur ve süresi dolmaz. Yükleme 20 $ ile 500 $ arasında tam miktarlarda yapılır, 50 $'dan itibaren %5, 100 $'dan itibaren %10 ve 200 $'dan itibaren %15 bonus sağlanır. Kartlar (Visa, Mastercard, Apple Pay, Google Pay) ve kripto (TRC20 üzerinde USDT, Base üzerinde USDC) kabul edilir. Ayrıntılar fiyatlandırma sayfasında yer alır ve belgeler desteklenen her parametreyi listeler.

Gizlilik ve kullanım hakkında bir not

Gönderdiğiniz kod sağlayıcının sunucularına gider; bu nedenle üretim anahtarları, şifreler veya müşteri verileri gibi gizli bilgileri istemlere yapıştırmayın. Bu servisteki istemler eğitim için kullanılmaz. Model, yetişkinlerin yasal kullanımı için içerik reddi olmadan yanıt verecek şekilde ayarlanmıştır; bu, bir güvenlik testi veya karanlık temalı bir oyun betiği hakkında size ders vermek için durmayacağı anlamına gelir, ancak yaptığınız isteklerden siz sorumlusunuz. Reşit olmayanlar ile ilgili cinsel içerik asla kabul edilmez.

Daha fazla kılavuz

• LLM API'si Nedir? Nasıl Çalışır ve Ne Zaman Kullanılır
• Discord Bot Kodlama AI: Bir LLM API ile Bir Bot Oluşturun
• Kodlama Ajanları İçin Sansürsüz LLM API