VS Code LLM API: 편집기에 내 키 연결

시작하기 전에 필요한 항목

VS Code LLM API 설정에는 마법이 없습니다. VS Code 자체는 언어 모델과 통신하지 않습니다. 확장이 통신하며, 해당 확장은 요청을 보낼 위치와 사용자 식별 방법을 알아야 합니다. 커스텀 OpenAI 호환 공급자를 지원하는 모든 확장은 이 서비스를 사용할 수 있습니다.

먼저 이 세 가지 값을 수집하세요.

• Base URL: https://api.codingllmapi.com/v1
• 모델 ID: uncensored
• API 키: API 키 페이지에서 생성되었습니다. 가입 후 한 번의 클릭으로 7일 동안 유효하고 카드 필요 없는 무료 체험 크레딧 $0.50을 받을 수 있습니다.

키는 Authorization: Bearer <key> 형식으로 요청에 포함됩니다. 키를 설정에 붙여넣으면 확장이 자동으로 해당 헤더를 추가합니다.

1단계: 편집기 외부에서 키 테스트

확장 프로그램 내에서 디버깅하는 것은 터미널에서 디버깅하는 것보다 느립니다. VS Code에서 터미널을 열고(Windows 및 Linux는 Ctrl+`, macOS는 Cmd+`), 키를 환경 변수에 저장한 후 두 번의 호출을 실행하세요. 첫 번째 호출은 모델을 나열합니다. 두 번째 호출은 작은 채팅 요청을 보냅니다.

Copyexport LLM_API_KEY="paste-your-key-here"

curl -s https://api.codingllmapi.com/v1/models \
  -H "Authorization: Bearer $LLM_API_KEY"

curl -s https://api.codingllmapi.com/v1/chat/completions \
  -H "Authorization: Bearer $LLM_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Reply with the word ready."}],"max_tokens":10}'

두 번째 호출이 메시지 JSON을 반환하면 키, URL, 모델 ID가 모두 정확합니다. 이후에 발생하는 모든 오류는 계정 문제가 아니라 확장 설정 문제입니다. 인증 오류가 발생하면 전체 키를 복사했는지, 따옴표나 공백이 함께 붙지 않았는지 확인하세요.

2단계: 확장 구성

확장 설정은 버전마다 변경되므로 아래 필드명은 참고용으로만 사용하세요. 레이블이 다른 경우 확장의 자체 문서를 확인하세요. 세 가지 값은 항상 동일합니다.

Continue

Continue는 VS Code 및 JetBrains용 오픈 소스 어시스턴트입니다. 홈 디렉토리에서 구성 파일을 읽습니다. 최신 버전은 YAML 파일을 사용하고, 이전 버전은 config.json 파일을 사용합니다. 모델 항목은 두 형식 모두 동일한 필드를 포함합니다. JSON 형식은 다음과 같습니다:

Copy{
  "models": [
    {
      "title": "Uncensored",
      "provider": "openai",
      "model": "uncensored",
      "apiBase": "https://api.codingllmapi.com/v1",
      "apiKey": "paste-your-key-here"
    }
  ]
}

전송 형식이 OpenAI의 것이므로 공급자는 openai입니다. apiBase 필드만 Continue가 다른 서버와 통신하도록 지시합니다. 저장 후 창을 다시 로드하고 채팅 패널의 드롭다운에서 모델을 선택하세요.

Cline

Cline은 파일을 읽고 편집하며 터미널 명령을 실행할 수 있는 에이전트 확장 프로그램입니다. 설정을 열고 OpenAI Compatible이라는 제공자를 선택하세요. Base URL, API 키 및 모델 ID를 입력합니다. https://api.codingllmapi.com/v1, 키 및 uncensored를 붙여넣습니다. 저장하고 작업을 시작한 후 첫 도구 사용 승인을 합니다.

기타 확장

많은 도구는 "custom endpoint", "OpenAI-compatible" 또는 "bring your own key"와 같은 이름으로 동일한 패턴을 따릅니다. 기본 URL을 허용하는 필드를 찾으세요. URL 필드 없이 고정된 공급자 목록만 제공하는 확장은 이 API를 사용할 수 없습니다.

작동하는 기능과 작동하지 않을 수 있는 기능

이 API는 POST /v1/chat/completions 및 GET /v1/models을 구현합니다. 이는 채팅 패널, 편집 명령, 코드 설명 동작 및 에이전트 루프를 모두 포함합니다. 편집기가 요청할 수 있는 모든 것을 포함하지는 않습니다.

편집기 기능	예상 결과
현재 파일에 대한 채팅	작동함
코드 선택 및 편집 요청	작동함
도구 호출이 포함된 에이전트 작업	확장이 표준 tools 필드 또는 자체 프롬프트 형식을 사용하는 경우 작동함
인라인 탭 완성	확장에 따라 다름. 별도의 완료 또는 fill-in-the-middle 엔드포인트가 필요한 경우 이 API는 제공하지 않음
코드베이스 임베딩 및 인덱싱	임베딩 엔드포인트가 없으므로 여기서 사용할 수 없음. 다른 임베딩 소스를 사용하거나 인덱싱을 끄세요.
이미지 입력 또는 생성	사용 불가, API는 텍스트 전용임

표의 기능에서 확장이 실패하면 키가 잘못되었다고 가정하기보다 해당 기능만 설정에서 끄세요. 이 모델이 프로그래밍 작업에 적합한지에 대한 개요는 코딩 에이전트용 uncensored 모델 페이지를 참조하세요.

확장 외부: 편집기에서 실행하는 스크립트

확장 프로그램이 VS Code에서 키를 사용하는 유일한 방법이 아닙니다. 많은 개발자는 프로젝트에 작은 스크립트를 유지하여 파일을 모델에 보내고 답변을 출력한 후 통합 터미널에서 실행하거나 작업에 바인딩합니다. 이렇게 하면 프롬프트에 대한 전체 제어 권한이 생기고 확장 프로그램의 숨겨진 명령으로 인한 예상치 못한 상황을 피할 수 있습니다.

다음은 전달된 파일 경로를 검토하는 짧은 Python 스크립트입니다. 키는 환경 변수에서 읽으므로 비밀이 저장소에 남지 않습니다.

Copyimport os
import sys
from openai import OpenAI

client = OpenAI(
    base_url="https://api.codingllmapi.com/v1",
    api_key=os.environ["LLM_API_KEY"],
)

path = sys.argv[1]
with open(path, encoding="utf-8") as f:
    source = f.read()

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "Review the code. List bugs first, then style issues. Be brief."},
        {"role": "user", "content": source},
    ],
    temperature=0.2,
)
print(resp.choices[0].message.content)

python review.py src/app.py로 실행하세요. 큰 파일은 100,000토큰 창까지 괜찮지만, 작은 프롬프트가 더 빠르고 저렴합니다. 답변이 작성되는 대로 표시하려면 stream=True를 전달하고 도착하는 각 청크의 delta.content를 출력하세요.

이와 같은 아이디어는 .vscode/tasks.json에서 VS Code 작업으로도 구현할 수 있습니다. 현재 파일을 인수로 받는 스크립트를 명령어로 하는 작업을 정의하고 명령어 팔레트에서 트리거하세요. 설정은 간단하지만 결과는 완전히 이해할 수 있는 검토 명령어를 제공합니다.

일반적인 오류 해결

대부분의 문제는 몇 가지 원인에 기인합니다. 이 목록의 위에서부터 시작하세요.

1. 401 또는 "invalid API key". 키에 후행 공백이 붙여졌거나 다른 사이트용 키를 사용했습니다. 새 키를 생성하고 다시 붙여넣으세요.
2. 404 또는 "model not found"입니다. 모델 ID가 오타가 있거나, Base URL에 /v1이 누락되었거나 두 번 들어갔습니다. 올바른 ID는 uncensored입니다. /v1/models 호출을 실행하여 서버가 보고하는 모델을 확인하세요.
3. rate_limited 상태의 429입니다. 분당 요청 한도(정식 키는 300, 체험 키는 60)를 초과했습니다. 루프가 빠르게 실행되는 에이전트가 이 제한에 부딪힙니다. 기다렸다가 다시 시도하거나 자동 단계 수를 줄이세요.
4. concurrency 상태의 429입니다. 동시에 실행된 요청이 너무 많습니다: 정식 키는 8개, 체험 키는 2개까지 허용됩니다. 일부 확장 프로그램은 하나의 작업에 대해 여러 호출을 병렬로 실행합니다. 스트리밍 응답은 종료될 때까지 슬롯을 점유하므로, 멈춘 스트림이 새로운 호출을 차단할 수 있습니다.
5. Retry-After: 5 헤더가 있는 429입니다. 일시적인 과부하입니다. 확장 프로그램은 5초 후에 다시 시도해야 합니다. 그렇지 않으면 수동으로 다시 시도하세요.
6. 요청이 너무 커서 거부되었습니다. 본문 크기는 8 MB를 초과할 수 없으며, 컨텍스트 창은 프롬프트와 답변을 합쳐 100,000 토큰입니다. 여러 파일을 첨부하는 에이전트는 이 한도를 초과할 수 있습니다. 컨텍스트를 줄이거나 대화 기록을 지우세요.

지원 요청 시 X-Request-Id 응답 헤더의 값을 포함하세요. curl -i 명령어로 이를 확인할 수 있습니다.

비용을 명확하게 확인하기

편집기 에이전트는 각 단계에서 파일과 이전 대화 기록을 함께 전달하므로 많은 텍스트를 전송합니다. 가격은 입력 토큰 100만 토큰당 $0.15, 출력 토큰 100만 토큰당 $0.50이며, 이는 단일 요청의 비용을 낮게 유지하지만 루프가 반복되면 비용이 누적됩니다.

예시 계산: 입력 토큰 30,000개와 출력 토큰 1,000개를 사용하는 에이전트 단계의 비용은 입력의 경우 30,000 x $0.15 / 1,000,000 = $0.0045, 출력의 경우 1,000 x $0.50 / 1,000,000 = $0.0005로, 단계당 총 $0.005입니다. 이와 유사한 40단계 작업의 비용은 $0.20입니다. 실제 단계의 크기는 다양하므로 이는 대략적인 규모이며 보장은 아닙니다.

• 호출 후 잔액을 확인하려면 응답 헤더의 X-Balance-USD 값을 확인하세요.
• 이전 기록이 계속 쌓이지 않도록 새 작업은 새 대화에서 시작하세요.
• 확장 프로그램에 단계 또는 요청 제한이 있다면 이를 설정하세요.

크레딧은 선불이므로 잔액이 고갈되면 지출이 중단되며, 크레딧은 만료되지 않습니다. 충전은 $20에서 $500까지 전체 금액으로 진행되며, $50부터 5%, $100부터 10%, $200부터 15%의 보너스가 제공됩니다. 카드(Visa, Mastercard, Apple Pay, Google Pay)와 암호화폐(TRC20의 USDT, Base의 USDC)가 허용됩니다. 자세한 내용은 가격 책정 페이지에서 확인할 수 있으며, 문서에는 지원되는 모든 매개변수가 나열되어 있습니다.

프라이버시 및 사용 관련 참고 사항

보내는 코드는 제공업체 서버로 전송되므로 프롬프트에 프로덕션 키, 비밀번호 또는 고객 데이터와 같은 비밀 정보를 붙여넣지 마세요. 이 서비스의 프롬프트는 학습에 사용되지 않습니다. 이 모델은 합법적인 성인 사용에 대해 콘텐츠 거부 없이 답변하도록 조정되었으며, 보안 테스트나 다크 테마 게임 스크립트에 대해 잔소리하지 않습니다. 하지만 사용자가 요청한 내용에 대한 책임은 사용자에게 있습니다. 미성년자가 관련된 성 콘텐츠는 절대 허용되지 않습니다.

더 많은 가이드

• LLM API란 무엇인가? 작동 방식과 사용 시기
• Discord 봇 코딩 AI: LLM API로 봇 만들기
• 코딩 에이전트용 무검열 LLM API