VS Code LLM API: अपने एडिटर को अपनी API कुंजी से कनेक्ट करें

शुरू करने से पहले आपको क्या चाहिए

VS Code LLM API सेटअप में कोई जादू नहीं है। VS Code स्वयं भाषा मॉडल से बात नहीं करता। एक एक्सटेंशन ऐसा करता है, और उस एक्सटेंशन को यह जानना होता है कि अनुरोध कहाँ भेजने हैं और आपको कैसे पहचाना जाए। कोई भी एक्सटेंशन जो कस्टम OpenAI-संगत प्रदाता का समर्थन करता है, इस सेवा का उपयोग कर सकता है।

सबसे पहले ये तीन मान एकत्र करें।

• Base URL: https://api.codingllmapi.com/v1
• मॉडल ID: uncensored
• API कुंजी: API कुंजी पृष्ठ पर बनाई गई। साइन-अप के बाद आप एक क्लिक से $0.50 का मुफ़्त ट्रायल क्रेडिट क्लेम कर सकते हैं, जो 7 दिनों के लिए मान्य है और जिसके लिए कार्ड की आवश्यकता नहीं है।

कुंजी अनुरोध में Authorization: Bearer <key> के रूप में जाती है। एक्सटेंशन आपकी कुंजी को उनकी सेटिंग्स में पेस्ट करने के बाद उस हेडर को स्वयं जोड़ देते हैं।

चरण 1: एडिटर के बाहर कुंजी का परीक्षण करें

एक्सटेंशन के अंदर डीबगिंग टर्मिनल में डीबगिंग से धीमी है। VS Code में टर्मिनल खोलें (Windows और Linux पर Ctrl+`, macOS पर Cmd+`), कुंजी को एक पर्यावरण चर में संग्रहीत करें और दो कॉल चलाएं। पहली मॉडल सूची दिखाती है। दूसरी एक छोटी चैट अनुरोध भेजती है।

Copyexport LLM_API_KEY="paste-your-key-here"

curl -s https://api.codingllmapi.com/v1/models \
  -H "Authorization: Bearer $LLM_API_KEY"

curl -s https://api.codingllmapi.com/v1/chat/completions \
  -H "Authorization: Bearer $LLM_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Reply with the word ready."}],"max_tokens":10}'

यदि दूसरी कॉल संदेश के साथ JSON लौटाती है, तो कुंजी, URL और मॉडल ID सभी सही हैं। आगे जो भी गलत होता है वह एक्सटेंशन की सेटिंग है, आपका खाता नहीं। यदि आपको यहाँ प्रमाणीकरण त्रुटि मिलती है, तो जांचें कि आपने पूरी कुंजी कॉपी की है और कोई अतिरिक्त उद्धरण चिह्न या स्पेस नहीं आया है।

चरण 2: एक्सटेंशन कॉन्फ़िगर करें

एक्सटेंशन सेटिंग्स संस्करणों के बीच बदल जाती हैं, इसलिए नीचे दिए गए फ़ील्ड नामों को एक मार्गदर्शक के रूप में मानें और यदि लेबल अलग है तो एक्सटेंशन की अपनी दस्तावेज़ीकरण जांचें। ये तीन मान हमेशा समान होते हैं।

Continue

Continue VS Code और JetBrains के लिए एक ओपन-सोर्स सहायक है। यह आपके होम डायरेक्टरी से एक कॉन्फ़िग फ़ाइल पढ़ता है। नए संस्करण YAML फ़ाइल का उपयोग करते हैं, और पुराने संस्करण config.json का उपयोग करते हैं। मॉडल एंट्री दोनों में समान फ़ील्ड्स रखती है। JSON फ़ॉर्मेट में यह इस प्रकार दिखता है:

Copy{
  "models": [
    {
      "title": "Uncensored",
      "provider": "openai",
      "model": "uncensored",
      "apiBase": "https://api.codingllmapi.com/v1",
      "apiKey": "paste-your-key-here"
    }
  ]
}

प्रदाता openai है क्योंकि वायर फ़ॉर्मेट OpenAI का है। केवल apiBase Continue को अलग सर्वर से बात करने के लिए कहता है। सेव करने के बाद विंडो रीलोड करें और चैट पैनल में ड्रॉपडाउन से मॉडल चुनें।

Cline

Cline एक एजेंट एक्सटेंशन है जो फ़ाइलों को पढ़ सकता है, उन्हें संपादित कर सकता है और आपकी अनुमति से टर्मिनल कमांड चला सकता है। अपनी सेटिंग्स खोलें और OpenAI Compatible नामक प्रदाता चुनें। Base URL, API कुंजी और मॉडल ID भरें। https://api.codingllmapi.com/v1, अपनी कुंजी और uncensored पेस्ट करें। सेव करें, एक कार्य शुरू करें और उसकी पहली टूल उपयोग की अनुमति दें।

अन्य एक्सटेंशन

बहुत से टूल "कस्टम एंडपॉइंट", "OpenAI-संगत" या "अपनी कुंजी लाएं" जैसे नामों के तहत समान पैटर्न का पालन करते हैं। एक ऐसे फ़ील्ड की तलाश करें जो बेस URL स्वीकार करता है। यदि कोई एक्सटेंशन केवल प्रदाताओं की एक निश्चित सूची प्रदान करता है जिसमें URL फ़ील्ड नहीं है, तो उसे इस API पर निर्देशित नहीं किया जा सकता है।

क्या काम करता है और क्या नहीं

यह API POST /v1/chat/completions और GET /v1/models लागू करता है। इसमें चैट पैनल, संपादन कमांड, कोड समझाने की क्रियाएं और एजेंट लूप शामिल हैं। यह हर उस चीज़ को कवर नहीं करता जिसकी एक एडिटर शायद मांग करे।

एडिटर सुविधा	अपेक्षित परिणाम
खुली फ़ाइल पर चैट करें	काम करता है
कोड चुनें और संपादन के लिए पूछें	काम करता है
टूल कॉल के साथ एजेंट टास्क	काम करता है यदि एक्सटेंशन मानक tools फ़ील्ड या अपना प्रॉम्प्ट फॉर्मेट उपयोग करता है
इनलाइन टैब कंप्लीशन	एक्सटेंशन पर निर्भर करता है। यदि इसे अलग कंप्लीशन या फिल-इन-द-मिडल एंडपॉइंट की आवश्यकता है, तो यह API एक प्रदान नहीं करता है
कोडबेस एम्बेडिंग्स और इंडेक्सिंग	यहाँ उपलब्ध नहीं, क्योंकि कोई एम्बेडिंग्स एंडपॉइंट नहीं है। एक अलग एम्बेडिंग्स स्रोत का उपयोग करें या इंडेक्सिंग बंद कर दें
इमेज इनपुट या जनरेशन	उपलब्ध नहीं, API केवल टेक्स्ट के लिए है

यदि कोई एक्सटेंशन इस तालिका में किसी फ़ीचर पर विफल हो जाता है, तो अपनी कुंजी गलत मानने के बजाय उस फ़ीचर को उसकी सेटिंग्स में बंद कर दें। प्रोग्रामिंग कार्य के लिए इस मॉडल की प्रकृति का अवलोकन देखने के लिए, कोडिंग एजेंट्स के लिए एक बिना सेंसर मॉडल पृष्ठ पर जाएं।

एक्सटेंशन के परे: एडिटर से चलाए जाने वाले स्क्रिप्ट

एक्सटेंशन VS Code से कुंजी उपयोग करने का एकमात्र तरीका नहीं है। कई डेवलपर्स प्रोजेक्ट में एक छोटी स्क्रिप्ट रखते हैं जो फ़ाइल को मॉडल को भेजती है और जवाब प्रिंट करती है, फिर इसे इंटिग्रेटेड टर्मिनल से चलाते हैं या किसी टास्क से बाइंड करते हैं। यह आपको प्रॉम्प्ट पर पूर्ण नियंत्रण देता है और एक्सटेंशन के छिपे निर्देशों से आश्चर्य से बचाता है।

यहाँ एक छोटी Python स्क्रिप्ट है जो आप द्वारा पास की गई किसी भी फ़ाइल पथ की समीक्षा करती है। यह कुंजी को एक एन्वायरनमेंट वेरिएबल से पढ़ती है, इसलिए कोई भी राज़ आपकी रिपॉजिटरी में नहीं जाता है।

Copyimport os
import sys
from openai import OpenAI

client = OpenAI(
    base_url="https://api.codingllmapi.com/v1",
    api_key=os.environ["LLM_API_KEY"],
)

path = sys.argv[1]
with open(path, encoding="utf-8") as f:
    source = f.read()

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "Review the code. List bugs first, then style issues. Be brief."},
        {"role": "user", "content": source},
    ],
    temperature=0.2,
)
print(resp.choices[0].message.content)

इसे python review.py src/app.py के साथ चलाएं। बड़ी फ़ाइलें 100,000-टोकन विंडो तक ठीक हैं, लेकिन एक छोटा प्रॉम्प्ट तेज़ी से जवाब देता है और कम खर्च करता है। यदि आप चाहते हैं कि जवाब लिखते समय दिखाई दे, तो stream=True पास करें और प्रत्येक चंक के delta.content को आने पर प्रिंट करें।

यही विचार .vscode/tasks.json में एक VS Code टास्क के रूप में भी काम करता है: एक टास्क परिभाषित करें जिसका कमांड यह स्क्रिप्ट हो जिसमें वर्तमान फ़ाइल एक तर्क के रूप में हो, और कमांड पैलेट से इसे ट्रिगर करें। यह सेटअप की एक छोटी मात्रा है, और परिणाम एक समीक्षा कमांड है जिसे आप पूरी तरह समझते हैं।

सामान्य त्रुटियों को ठीक करना

अधिकतर समस्याएं कुछ ही कारणों में आती हैं। इस सूची के ऊपर से शुरू करें।

1. 401 या "अमान्य API कुंजी"। कुंजी पेस्ट करते समय अंत में स्पेस आ गया था, या आपने किसी अन्य साइट के लिए बनी कुंजी का उपयोग किया है। एक नई बनाएं और उसे फिर से पेस्ट करें।
2. 404 या "मॉडल नहीं मिला"। मॉडल ID में टाइपो है, या बेस URL में /v1 नहीं है या दो बार है। सही ID uncensored है। देखने के लिए कि सर्वर क्या रिपोर्ट करता है, /v1/models कॉल चलाएं।
3. rate_limited के साथ 429। आपने रिक्वेस्ट्स-पर-मिनट सीमा पार कर दी: फुल कुंजी पर 300, ट्रायल कुंजी पर 60। एजेंट्स जो तेज़ी से लूप करते हैं, इस पर पहुंचते हैं। प्रतीक्षा करें और पुनः प्रयास करें, या स्वचालित चरणों की संख्या कम करें।
4. concurrency के साथ 429। एक साथ बहुत सारे अनुरोध: फुल कुंजी पर 8, ट्रायल कुंजी पर 2। कुछ एक्सटेंशन एक टास्क के लिए समानांतर में कई कॉल फायर करते हैं। स्ट्रीम किया गया जवाब अंत तक अपना स्लॉट रखता है, इसलिए एक फंसी स्ट्रीम नई कॉल को ब्लॉक कर सकती है।
5. Retry-After: 5 हेडर के साथ 429। अस्थायी ओवरलोड। एक्सटेंशन को पांच सेकंड के बाद पुनः प्रयास करना चाहिए। यदि नहीं, तो मैन्युअल रूप से पुनः प्रयास करें।
6. अनुरोध को बहुत बड़ा मानकर अस्वीकार कर दिया गया है। बॉडी की सीमा 8 MB है, और प्रॉम्प्ट और जवाब के लिए कॉन्टेक्स्ट विंडो 100,000 टोकन है। ऐसे एजेंट जो कई फ़ाइलें जोड़ते हैं, इस सीमा से अधिक हो सकते हैं। कॉन्टेक्स्ट को संकीर्ण करें या बातचीत साफ़ करें।

सपोर्ट टीम से मदद मांगते समय, X-Request-Id रिस्पॉन्स हेडर के मान को शामिल करें। आप इसे curl -i के साथ देख सकते हैं।

लागत को दृश्यमान रखना

एडिटर एजेंट बहुत सारा टेक्स्ट भेजते हैं, क्योंकि हर स्टेप में आमतौर पर फ़ाइलें और अब तक का इतिहास शामिल होता है। मूल्य $0.15 प्रति 1M इनपुट टोकन और $0.50 प्रति 1M आउटपुट टोकन है, जो अकेले अनुरोधों की लागत छोटी रखता है, लेकिन लूप जुड़ जाते हैं।

एक उदाहरण: 30,000 इनपुट टोकन और 1,000 आउटपुट टोकन वाले एक एजेंट स्टेप की लागत इनपुट के लिए 30,000 x $0.15 / 1,000,000 = $0.0045 और आउटपुट के लिए 1,000 x $0.50 / 1,000,000 = $0.0005 होती है, तो प्रति स्टेप $0.005। 40 ऐसे स्टेप्स वाले एक टास्क की लागत $0.20 है। यह एक अनुमानित आकार है, वादा नहीं, क्योंकि असली स्टेप्स के आकार में अंतर होता है।

• कॉल के बाद अपने क्रेडिट को देखने के लिए रिस्पॉन्स हेडर्स में X-Balance-USD जांचें।
• पुराना इतिहास हमेशा साथ न चले, इसलिए नए टास्क नई कन्वर्सेशन में शुरू करें।
• अगर एक्सटेंशन में कोई स्टेप या अनुरोध सीमा है, तो उसे सेट करें।

क्रेडिट प्रीपेड है, इसलिए शेष राशि खत्म होने पर खर्च रुक जाता है और यह कभी समाप्त नहीं होता। टॉप-अप $20 से $500 तक पूर्ण राशि में होते हैं, $50 से 5%, $100 से 10% और $200 से 15% बोनस मिलता है। कार्ड (Visa, Mastercard, Apple Pay, Google Pay) और क्रिप्टो (TRC20 पर USDT, Base पर USDC) स्वीकार किए जाते हैं। विवरण मूल्य निर्धारण पृष्ठ पर हैं, और दस्तावेज़ में प्रत्येक समर्थित पैरामीटर सूचीबद्ध है।

गोपनीयता और उपयोग पर एक नोट

आपका भेजा गया कोड प्रदाता के सर्वर पर जाता है, इसलिए प्रॉम्प्ट में उत्पादन कुंजियाँ, पासवर्ड या ग्राहक डेटा जैसे रहस्य पेस्ट न करें। इस सेवा पर प्रॉम्प्ट प्रशिक्षण के लिए उपयोग नहीं किए जाते हैं। मॉडल को कानूनी वयस्क उपयोग के लिए बिना सामग्री अस्वीकृति के उत्तर देने के लिए ट्यून्ड किया गया है, जिसका अर्थ है कि यह आपको एक सुरक्षा परीक्षण या डार्क-थीम वाले गेम स्क्रिप्ट के बारे में व्याख्यान देने के लिए नहीं रुकेगा, लेकिन आप जिसे करने के लिए कहते हैं, उसकी जिम्मेदारी आपकी ही है। नाबालिगों से संबंधित यौन सामग्री की कभी अनुमति नहीं है।

अधिक गाइड

• LLM API क्या है? यह कैसे काम करता है और कब उपयोग करें
• Discord Bot Coding AI: LLM API के साथ एक बनाएं
• कोडिंग एजेंट्स के लिए Uncensored LLM API