Was ist eine LLM-API? Wie sie funktioniert und wann du sie einsetzen solltest

Die Kurzversion

Also, was ist eine LLM-API? Es ist ein Dienst, der ein Sprachmodell über eine URL bereitstellt. Du lädst das Modell nicht herunter, du besitzt keine GPU und du verwaltest keine Inferenz-Software. Du sendest eine Anfrage, die einen Chatverlauf enthält, und der Dienst gibt die nächste Nachricht in diesem Chat zurück.

Stell es dir so vor, wie du eine Payment-API oder eine Maps-API betrachtest. Jemand anderes betreibt die komplexe Infrastruktur, und du rufst sie aus deinem eigenen Programm mit einem Schlüssel auf, der dich identifiziert. Das Modell ist das Produkt, und die API ist die Tür dazu.

Diese Schnittstelle ist reines HTTP mit JSON-Body, was bedeutet, dass sie mit Python, Node, Go, einem Shell-Skript, einem Tabellenkalkulations-Makro oder einer VS Code-Erweiterung funktioniert. Nichts daran ist an eine Sprache oder ein Framework gebunden.

Wie eine Anfrage und Antwort aussehen

Die meisten LLM-APIs kopieren heute die Struktur, die OpenAI für Chat eingeführt hat. Du rufst einen Endpunkt auf, POST /v1/chat/completions, und sendest eine Liste von Nachrichten. Jede Nachricht hat eine role und einen content.

• system legt die Regeln und die Persona für die gesamte Konversation fest.
• user ist das, was die Person (oder dein Programm) sagt.
• assistant ist das, was das Modell zuvor gesagt hat, das du zurücksendest, damit es den Thread behält.
• tool enthält das Ergebnis einer Funktion, die das Modell dich ausführen lassen wollte.

Der entscheidende Punkt ist, dass das Modell zwischen Aufrufen kein Gedächtnis hat. Jede Anfrage muss die gesamte Konversation enthalten, die es berücksichtigen soll. Wenn du einen Chatbot möchtest, der sich an die letzten zehn Durchgänge erinnert, speichert dein Code diese zehn Durchgänge und sendet sie jedes Mal.

Hier ist der kleinste nützliche Aufruf mit curl. Er verwendet den Endpunkt dieser Seite, die Modell-ID uncensored und ein Bearer-Token.

Copycurl https://api.codingllmapi.com/v1/chat/completions \
  -H "Authorization: Bearer $LLM_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [
      {"role": "system", "content": "You are a concise assistant."},
      {"role": "user", "content": "Explain what a mutex is in two sentences."}
    ]
  }'

Die Antwort ist JSON. Der Text, den du möchtest, steht bei choices[0].message.content. Daneben erhältst du ein usage-Objekt, das meldet, wie viele Token hineingegangen sind und wie viele herausgekommen sind, was die Grundlage für die Rechnung ist.

Token: die Maßeinheit für alles

Ein Modell liest keine Zeichen oder Wörter. Es liest Token, das sind Textblöcke, die oft ein kurzes Wort oder ein Teil eines längeren sind. Englischer Text hat durchschnittlich etwas weniger als ein Token pro Wort, und Code neigt dazu, mehr Token pro Zeile zu verwenden, wegen Zeichensetzung und Einrückung. Betrachte jede genaue Umrechnung als Schätzung und lies das Feld usage für die echte Zählung.

Token sind aus drei Gründen wichtig.

1. Preis. Du zahlst pro Million Token, mit einem Satz für Input (dein Prompt) und einem höheren Satz für Output (die Antwort des Modells).
2. Kontextfenster. Der Prompt und die Antwort teilen sich eine Grenze. Bei dieser API beträgt das Fenster insgesamt 100.000 Token.
3. Geschwindigkeit. Output wird Token für Token erzeugt, daher dauert eine lange Antwort länger als eine kurze.

Bei den Preisen auf dieser Seite kosten $0,15 pro 1M Input-Token und $0,50 pro 1M Output-Token eine Anfrage mit 2.000 Input-Token und 500 Output-Token 2.000 x $0,15 / 1.000.000 = $0,0003 für Input plus 500 x $0,50 / 1.000.000 = $0,00025 für Output. Das sind insgesamt $0,00055, also kosten tausend solcher Anfragen $0,55. Aktuelle Preise stehen immer auf der Preisseite.

Aufruf einer LLM-API aus Code

Du kannst die HTTP-Anfrage von Hand schreiben, aber ein SDK spart Aufwand. Da diese API OpenAI-kompatibel ist, funktionieren die offiziellen OpenAI-Bibliotheken, nachdem du zwei Werte geändert hast: die Base URL und den Schlüssel.

Python

Copyimport os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.codingllmapi.com/v1",
    api_key=os.environ["LLM_API_KEY"],
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You are a careful code reviewer."},
        {"role": "user", "content": "What is wrong with: for i in range(len(x)): print(x[i])"},
    ],
    temperature=0.3,
)

print(resp.choices[0].message.content)
print(resp.usage.prompt_tokens, resp.usage.completion_tokens)

Node

Copyimport OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.codingllmapi.com/v1",
  apiKey: process.env.LLM_API_KEY,
});

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Give me three names for a CLI that renames files." }],
});

console.log(resp.choices[0].message.content);

Bewahre den Schlüssel in einer Umgebungsvariable oder einem Secret Store auf. Ein Schlüssel, der in Frontend-Code oder ein öffentliches Repository eingefügt wurde, kann von jedem verwendet werden, der ihn findet, und die Gebühren gehen zu deinen Lasten.

Funktionen, die eine Chatbox in einen Baustein verwandeln

Eine reine Vervollständigung ist nützlich, aber die meisten echten Programme nutzen mindestens eine der folgenden Funktionen.

Streaming

Setze stream: true, und der Server sendet die Antwort als Server-Sent Events, Token für Token. Nutzer sehen Text sofort erscheinen, anstatt auf die vollständige Antwort zu warten. Nutzungsdaten kommen am Ende des Streams an.

JSON-Modus

Übergebe response_format: {"type": "json_object"}, und das Modell wird dazu angehalten, gültiges JSON zurückzugeben. So extrahierst du Felder aus unordentlichem Text, klassifizierst Tickets oder erzeugst strukturierte Daten für den nächsten Schritt in einer Pipeline. Validiere das Ergebnis immer noch in deinem Code und teile dem Modell im Prompt mit, welche Keys du erwartest.

Function Calling

Du beschreibst Funktionen im tools-Array. Das Modell kann mit einer Anfrage antworten, eine davon aufzurufen, mit ausgefüllten Argumenten. Dein Code führt die Funktion aus und sendet das Ergebnis als Nachricht mit role: "tool" zurück. Das Modell führt nichts selbst aus. Es fragt nur, und du entscheidest, was tatsächlich ausgeführt wird. Dies ist der Mechanismus hinter Coding-Agents, die Dateien lesen und Tests ausführen.

Sampling-Steuerungen

temperature, top_p, stop, seed und die Wiederholungsstrafen werden durchgereicht. Niedrige Temperaturen liefern stabilere Antworten für Code und Extraktion. Höhere Werte ergeben abwechslungsreicheren Text.

Gehostete API oder eigenes Modell betreiben

Die Alternative zu einer API ist, ein Open-Weight-Modell auf deiner eigenen Hardware auszuführen. Das ist eine faire Wahl, und es lohnt sich, ehrlich darüber zu sein, wann es gewinnt.

Frage	Gehostete API	Selbst gehostet
Vorabkosten	Keine, du zahlst pro Token	GPU-Kauf oder Miete
Einrichtungszeit	Minuten	Stunden bis Tage
Skalierung	Begrenzt durch die Ratenlimits deines Schlüssels	Begrenzt durch deine Hardware
Daten verlassen deinen Rechner	Ja, an den Anbieter	Nein
Leerlaufkosten	Null	Du zahlst, auch wenn nichts läuft

Wenn du ein paar tausend Anfragen pro Tag sendest oder deine Nutzung sprunghaft ist, ist die Abrechnung pro Token meist der einfachere Weg. Wenn du eine gleichmäßige hohe Last hast und strenge Regeln gelten, die das Senden von Text an Dritte verbieten, kann lokales Hosting sinnvoller sein. Viele Teams beginnen mit einer API, um die Idee zu validieren, und beschäftigen sich später erneut mit der Frage.

Limits, Fehler und gute Gewohnheiten

Jede API hat Limits, und deren Kenntnis spart frühzeitig Debugging-Zeit. Bei diesem Dienst erlaubt ein voller Schlüssel 8 parallele Anfragen und 300 Anfragen pro Minute. Ein Test-Schlüssel erlaubt 2 bzw. 60. Der maximale Anfrage-Body beträgt 8 MB. Eine gestreamte Anfrage belegt ihren Parallelitäts-Slot, bis der Stream endet, was Leute erwischt, die viele Streams öffnen und vergessen, sie zu schließen.

Das Überschreiten eines Limits liefert HTTP 429. Der Fehlercode rate_limited bedeutet zu viele Anfragen pro Minute, und concurrency bedeutet zu viele gleichzeitig. Ein 429 mit dem Header Retry-After: 5 signalisiert eine temporäre Überlastung. In allen drei Fällen ist die richtige Reaktion, abzuwarten und mit Backoff erneut zu versuchen, statt den Endpunkt zu bombardieren.

• Lese X-RateLimit-Limit-Requests und X-RateLimit-Limit-Concurrency aus den Antwort-Headern aus, um deine Obergrenzen zu sehen, und X-Balance-USD, um dein Guthaben zu beobachten.
• Logge X-Request-Id bei jedem Aufruf. Das macht die Beantwortung von Support-Fragen viel schneller.
• Setze einen sinnvollen Timeout und eine Begrenzung für die Gesprächslänge, damit eine außer Kontrolle geratene Schleife nicht dein Guthaben aufbrauchen kann.
• Trimme alte Nachrichten eines Chats, bevor sie das Kontextfenster füllen.

Fehlgeschlagene oder abgelehnte Anfragen werden auf dieser API nicht berechnet, und das Guthaben verfällt nie, sodass ein Fehler beim Testen wenig kostet.

Erste Schritte mit dieser API

Dieser Dienst ist eine gehostete, OpenAI-kompatible Text-API für ein Open-Weight-Modell, betrieben von einem unabhängigen Anbieter und optimiert für Antworten ohne Inhaltsfilter bei rechtmäßiger Erwachsennutzung. Sie ist nur für Text: keine Bilder, Audio, Embeddings oder Fine-Tuning. Sie ist nicht die offizielle API eines Modell-Anbieters. Prompts werden nicht zum Training verwendet.

Neue Nutzer können nach der Anmeldung mit Google oder E-Mail und Passwort mit einem Klick $0,50 Testguthaben auf der API-Schlüssel-Seite beanspruchen. Es wird keine Karte benötigt und es gilt 7 Tage. Danach lädst du mit jedem beliebigen Betrag zwischen $20 und $500 auf, mit einem Bonus von 5 % ab $50, 10 % ab $100 und 15 % ab $200. Du kannst mit Karte (Visa, Mastercard, Apple Pay, Google Pay) oder mit Krypto (USDT auf TRC20, USDC auf Base) bezahlen.

Die Schritte sind kurz: Erstelle deinen API-Schlüssel, folge dem Schnellstart in der Dokumentation und führe das Python-Snippet oben aus. Wenn deine Hauptanwendung die Programmierhilfe ist, behandelt die Seite zu einem unzensierten Modell für Coding-Agents diesen Fall genauer.

Weitere Anleitungen

• VS Code LLM API: Verbinde deinen Editor mit deinem eigenen Schlüssel
• Discord Bot Coding AI: Baue einen mit einer LLM API
• Unzensierte LLM API für Coding-Agents