Wat is een LLM-API? Hoe het werkt en wanneer je er een gebruikt

De korte versie

Dus, wat is een LLM-API? Het is een dienst die een taalmodel beschikbaar stelt via een webadres. Je downloadt het model niet, je hebt geen GPU en je beheert geen inferentiesoftware. Je stuurt een verzoek met een gesprek, en de dienst retourneert het volgende bericht in dat gesprek.

Zie het zoals je een payment-API of een maps-API. Iemand anders beheert de zware infrastructuur, en jij roept het aan vanuit je eigen programma met een sleutel die je identificeert. Het model is het product, en de API is de toegang ertoe.

Die poort is gewoon HTTP met JSON-bodies, wat betekent dat het werkt vanuit Python, Node, Go, een shellscript, een spreadsheetmacro of een VS Code-extensie. Niets hierin is gebonden aan één taal of één framework.

Hoe een verzoek en antwoord eruitzien

De meeste LLM-API's vandaag de dag kopiëren de structuur die OpenAI introduceerde voor chat. Je roept één endpoint aan, POST /v1/chat/completions, en stuurt een lijst met berichten. Elk bericht heeft een role en enige content.

• system stelt de regels en de persona in voor het hele gesprek.
• user is wat de persoon (of je programma) zegt.
• assistant is wat het model eerder zei, wat je terugstuurt zodat het de draad onthoudt.
• tool bevat het resultaat van een functie die het model je vroeg uit te voeren.

Het cruciale detail is dat het model geen geheugen heeft tussen verzoeken. Elk verzoek moet de volledige conversatie bevatten die je wilt laten meewegen. Wil je een chatbot die de laatste tien beurtjes onthoudt, dan slaat jouw code die tien beurtjes op en stuurt ze telkens mee.

Hier is de kleinste bruikbare aanroep met curl. Deze gebruikt het endpoint van deze site, de model-ID uncensored en een bearer token.

Copycurl https://api.codingllmapi.com/v1/chat/completions \
  -H "Authorization: Bearer $LLM_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [
      {"role": "system", "content": "You are a concise assistant."},
      {"role": "user", "content": "Explain what a mutex is in two sentences."}
    ]
  }'

Het antwoord is JSON. De tekst die je wilt, staat bij choices[0].message.content. Daarnaast krijg je een usage-object dat rapporteert hoeveel tokens erin gingen en hoeveel eruit kwamen, wat de basis vormt voor de factuur.

Tokens: de eenheid waarin alles wordt gemeten

Een model leest geen karakters of woorden. Het leest tokens, dat zijn tekstfragmenten die vaak een kort woord of een stukje van een langer woord zijn. Engelse tekst heeft gemiddeld iets minder dan één token per woord, en code gebruikt meer tokens per regel vanwege leestekens en inspringing. Beschouw elke exacte conversie als een schatting en lees het veld usage voor het werkelijke aantal.

Tokens zijn om drie redenen belangrijk.

1. Prijs. Je betaalt per miljoen tokens, met één tarief voor input (je prompt) en een hoger tarief voor output (het antwoord van het model).
2. Contextvenster. De prompt en het antwoord delen één limiet. Op deze API is het venster in totaal 100.000 tokens.
3. Snelheid. Output wordt één token tegelijk gegenereerd, dus een lang antwoord duurt langer dan een kort antwoord.

Met de tarieven op deze site, $0,15 per 1M input tokens en $0,50 per 1M output tokens, kost een verzoek met 2.000 input tokens en 500 output tokens 2.000 x $0,15 / 1.000.000 = $0,0003 voor input plus 500 x $0,50 / 1.000.000 = $0,00025 voor output. Dat is in totaal $0,00055, dus duizend van zulke verzoeken kosten $0,55. Huidige tarieven staan altijd op de prijzenpagina.

Een LLM-API aanroepen vanuit code

Je kunt de HTTP-aanroep met de hand schrijven, maar een SDK bespaart moeite. Omdat deze API OpenAI-compatibel is, werken de officiële OpenAI-bibliotheken na het aanpassen van twee waarden: de base URL en de sleutel.

Python

Copyimport os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.codingllmapi.com/v1",
    api_key=os.environ["LLM_API_KEY"],
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You are a careful code reviewer."},
        {"role": "user", "content": "What is wrong with: for i in range(len(x)): print(x[i])"},
    ],
    temperature=0.3,
)

print(resp.choices[0].message.content)
print(resp.usage.prompt_tokens, resp.usage.completion_tokens)

Node

Copyimport OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.codingllmapi.com/v1",
  apiKey: process.env.LLM_API_KEY,
});

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Give me three names for a CLI that renames files." }],
});

console.log(resp.choices[0].message.content);

Bewaar de sleutel in een omgevingsvariabele of een geheime opslag. Een sleutel die in frontend-code of een openbare repository is geplakt, kan door iedereen worden gebruikt die hem vindt, en de kosten komen bij jou terecht.

Functies die een chatvenster veranderen in een bouwblok

Een eenvoudige voltooiing is nuttig, maar de meeste echte programma's gebruiken minstens een van de volgende.

Streaming

Stel stream: true in en de server stuurt het antwoord als server-sent events, token voor token. Gebruikers zien tekst direct verschijnen in plaats van te wachten op het volledige antwoord. Gebruiksstatistieken komen aan het einde van de stream.

JSON-modus

Geef response_format: {"type": "json_object"} door en het model wordt gestuurd om geldige JSON terug te geven. Dit is hoe je velden uit rommelige tekst haalt, tickets classificeert of gestructureerde data produceert voor de volgende stap in een pipeline. Valideer het resultaat nog steeds in je code en vertel het model in de prompt welke sleutels je verwacht.

Function calling

Je beschrijft functies in de tools array. Het model kan antwoorden met een verzoek om er één aan te roepen, met ingevulde argumenten. Je code voert de functie uit en stuurt het resultaat terug als een bericht met role: "tool". Het model voert niets zelf uit. Het vraagt alleen, en jij beslist wat er daadwerkelijk wordt uitgevoerd. Dit is het mechanisme achter coding agents die bestanden lezen en tests uitvoeren.

Sampling-parameters

temperature, top_p, stop, seed en de repetitiestraffen worden doorgegeven. Lage temperaturen geven stabielere antwoorden voor code en extractie. Hogere waarden geven gevarieerdere tekst.

Gehoste API of een model zelf draaien

Het alternatief voor een API is een open-weight model op je eigen hardware draaien. Dat is een legitieme keuze, en het is de moeite waard om eerlijk te zijn over wanneer het wint.

Vraag	Gehoste API	Zelf gehost
Voorafgaande kosten	Geen, je betaalt per token	GPU-aankoop of -huur
Insteltijd	Minuten	Uren tot dagen
Schalen	Beperkt door de rate limits van je sleutel	Beperkt door je hardware
Data verlaat je machine	Ja, naar de provider	Nee
Inactieve kosten	Nul	Je betaalt ook als er niets draait

Als je een paar duizend verzoeken per dag verstuurt, of als je gebruik piekachtig is, is prijs per token meestal de makkelijkste weg. Als je een constante zware belasting hebt en strikte regels hebt die het versturen van tekst naar een derde partij verbieden, kan lokale hosting meer zin hebben. Veel teams beginnen met een API om het idee te valideren en kijken later opnieuw naar de vraag.

Limieten, fouten en goede gewoontes

Elke API heeft limieten, en het vroeg weten ervan bespaart foutopsporingswerk. Bij deze dienst staat een volledige sleutel 8 gelijktijdige verzoeken en 300 verzoeken per minuut toe. Een proefsleutel staat 2 en 60 toe. De maximale verzoekbody is 8 MB. Een gestreamd verzoek houdt zijn concurrency-slot vast tot de streaming klaar is, wat mensen overkomt die veel streams openen en vergeten ze te sluiten.

Als je een limiet overschrijdt, krijg je HTTP 429. De foutcode rate_limited betekent te veel verzoeken per minuut, en concurrency betekent te veel in één keer. Een 429 met een Retry-After: 5 header signaleert tijdelijke overbelasting. In alle drie de gevallen is de juiste reactie om te wachten en te herhalen met backoff, niet om het endpoint te bombarderen.

• Lees X-RateLimit-Limit-Requests en X-RateLimit-Limit-Concurrency uit de response headers om je limieten te zien, en X-Balance-USD om je tegoed te bewaken.
• Log X-Request-Id bij elke call. Het maakt support vragen veel sneller beantwoord.
• Stel een redelijke timeout en cap op conversatielengte in, zodat een op hol geslagen loop je saldo niet kan opbruiken.
• Knip oude beurten van een chat weg voordat ze het contextvenster vullen.

Mislukte of geweigerde verzoeken worden niet in rekening gebracht op deze API, en tegoed verloopt niet, dus een fout bij het testen kost weinig.

Aan de slag met deze API

Deze service is een gehoste, OpenAI-compatibele tekst-API voor één open-weight model, gerund door een onafhankelijke provider en afgestemd om te antwoorden zonder inhoudelijke weigeringen voor legaal gebruik door volwassenen. Het is alleen tekst: geen afbeeldingen, audio, embeddings of fine-tuning. Het is niet de officiële API van een modelleverancier. Prompts worden niet gebruikt voor training.

Nieuwe gebruikers kunnen $0,50 aan proeftegoed claimen met één klik op de API-sleutel pagina na het inloggen met Google of met e-mail en wachtwoord. Het vereist geen kaart en duurt 7 dagen. Daarna laad je op met elk geheel bedrag van $20 tot $500, met een bonus van 5% vanaf $50, 10% vanaf $100 en 15% vanaf $200. Je kunt betalen met een kaart (Visa, Mastercard, Apple Pay, Google Pay) of met crypto (USDT op TRC20, USDC op Base).

De stappen zijn kort: maak je API-sleutel aan, volg de quickstart in de docs, en voer de Python snippet hierboven uit. Als je hoofdgebruik programmeerhulp is, behandelt de pagina over een ongecensureerd model voor coding agents dat geval in meer detail.

Meer handleidingen

• VS Code LLM API: Verbind je Editor met je Eigen Sleutel
• Discord Bot Coding AI: Bouw Eén met een LLM API
• Ongecensureerde LLM API voor coding agents