¿Qué es una API de LLM? Cómo funciona y cuándo usar una

La versión corta

Entonces, ¿qué es una API LLM? Es un servicio que expone un modelo de lenguaje mediante una dirección web. No descargas el modelo, no tienes una GPU y no gestionas software de inferencia. Envías una petición con una conversación y el servicio devuelve el siguiente mensaje en esa conversación.

Piensa en ello como piensas en una API de pagos o una API de mapas. Alguien más gestiona la infraestructura compleja y tú la llamas desde tu propio programa con una clave que te identifica. El modelo es el producto y la API es la puerta de acceso.

Esa puerta es HTTP plano con cuerpos JSON, lo que significa que funciona desde Python, Node, Go, un script de shell, una macro de hoja de cálculo o una extensión de VS Code. Nada de esto está ligado a un lenguaje o framework específico.

Cómo se ve una petición y una respuesta

La mayoría de las APIs de LLM actuales copian la estructura que OpenAI introdujo para chat. Llamas a un endpoint, POST /v1/chat/completions, y envías una lista de mensajes. Cada mensaje tiene un role y algo de content.

• system establece las reglas y la personalidad para toda la conversación.
• user es lo que dice la persona (o tu programa).
• assistant es lo que dijo el modelo antes, que envías para que recuerde el hilo.
• tool contiene el resultado de una función que el modelo te pidió ejecutar.

El detalle clave es que el modelo no tiene memoria entre llamadas. Cada petición debe contener toda la conversación que quieres que considere. Si quieres un chatbot que recuerde las últimas diez interacciones, tu código guarda esas diez interacciones y las envía cada vez.

Aquí tienes la llamada mínima útil con curl. Usa el endpoint del sitio, el ID del modelo uncensored y un token bearer.

Copycurl https://api.codingllmapi.com/v1/chat/completions \
  -H "Authorization: Bearer $LLM_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [
      {"role": "system", "content": "You are a concise assistant."},
      {"role": "user", "content": "Explain what a mutex is in two sentences."}
    ]
  }'

La respuesta es JSON. El texto que quieres está en choices[0].message.content. Junto a ello recibes un objeto usage que informa cuántos tokens entraron y cuántos salieron, base de la factura.

Tokens: la unidad en la que se mide todo

Un modelo no lee caracteres ni palabras. Lee tokens, que son fragmentos de texto que suelen ser una palabra corta o parte de una más larga. El texto en inglés promedia un poco menos de un token por palabra, y el código tiende a usar más tokens por línea debido a la puntuación y la indentación. Trata cualquier conversión exacta como una estimación y lee el campo usage para el conteo real.

Los tokens importan por tres razones.

1. Precio. Pagas por millón de tokens: una tarifa para entrada (tu prompt) y otra más alta para salida (respuesta del modelo).
2. Ventana de contexto. El prompt y la respuesta comparten un límite. En esta API, la ventana es de 100.000 tokens en total.
3. Velocidad. La salida se genera token a token, por lo que una respuesta larga tarda más que una corta.

Con las tarifas de este sitio, $0,15 por 1M de tokens de entrada y $0,50 por 1M de salida, una petición con 2.000 tokens de entrada y 500 de salida cuesta 2.000 x $0,15 / 1.000.000 = $0,0003 por entrada más 500 x $0,50 / 1.000.000 = $0,00025 por salida. Eso es $0,00055 en total, así que mil peticiones así cuestan $0,55. Las tarifas actuales siempre están en la página de precios.

Llamar a una API de LLM desde código

Puedes escribir la llamada HTTP a mano, pero un SDK ahorra esfuerzo. Como esta API es compatible con OpenAI, las bibliotecas oficiales de OpenAI funcionan después de cambiar dos valores: la URL base y la clave.

Python

Copyimport os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.codingllmapi.com/v1",
    api_key=os.environ["LLM_API_KEY"],
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You are a careful code reviewer."},
        {"role": "user", "content": "What is wrong with: for i in range(len(x)): print(x[i])"},
    ],
    temperature=0.3,
)

print(resp.choices[0].message.content)
print(resp.usage.prompt_tokens, resp.usage.completion_tokens)

Node

Copyimport OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.codingllmapi.com/v1",
  apiKey: process.env.LLM_API_KEY,
});

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Give me three names for a CLI that renames files." }],
});

console.log(resp.choices[0].message.content);

Mantén la clave en una variable de entorno o en un almacén de secretos. Una clave pegada en código front-end o en un repositorio público puede ser usada por cualquiera que la encuentre, y los cargos te llegarán a ti.

Características que convierten un chat en un bloque de construcción

Una completación básica es útil, pero la mayoría de los programas reales usan al menos una de las siguientes.

Streaming

Configura stream: true y el servidor envía la respuesta como eventos enviados por el servidor, token a token. Los usuarios ven el texto aparecer al instante en lugar de esperar la respuesta completa. Las cifras de uso llegan al final del streaming.

Modo JSON

Pasa response_format: {"type": "json_object"} y el modelo se orienta a devolver JSON válido. Así extraes campos de texto desordenado, clasificas tickets o generas datos estructurados para el siguiente paso en un pipeline. Valida siempre el resultado en tu código y indica en el prompt qué claves esperas.

Llamadas a funciones

Describes funciones en el array tools. El modelo puede responder con una solicitud para llamar a una, con los argumentos rellenados. Tu código ejecuta la función y envía el resultado de vuelta como un mensaje con role: "tool". El modelo nunca ejecuta nada por sí mismo. Solo pide, y tú decides qué se ejecuta realmente. Este es el mecanismo detrás de los agentes de código que leen archivos y ejecutan pruebas.

Controles de muestreo

Se pasan temperature, top_p, stop, seed y las penalizaciones de repetición. Una temperatura baja da respuestas más estables para código y extracción. Valores más altos dan prosa más variada.

API alojada o ejecutar un modelo tú mismo

La alternativa a una API es ejecutar un modelo de pesos abiertos en tu propio hardware. Esa es una opción válida y vale la pena ser honesto sobre cuándo gana.

Pregunta	API alojada	Autoalojado
Coste inicial	Ninguno, pagas por token	Compra o alquiler de GPU
Tiempo de configuración	Minutos	Horas a días
Escalabilidad	Limitado por los límites de peticiones de tu clave	Limitado por tu hardware
Los datos salen de tu máquina	Sí, al proveedor	No
Costo en inactividad	Cero	Pagas aunque no se ejecute nada

Si envías unos pocos miles de peticiones al día o tu uso es intermitente, la facturación por token suele ser el camino más fácil. Si tienes una carga pesada constante y reglas estrictas que prohíben enviar texto a terceros, el alojamiento local puede tener más sentido. Muchos equipos empiezan con una API para validar la idea y revisan la pregunta más tarde.

Límites, errores y buenas prácticas

Toda API tiene límites y conocerlos pronto ahorra tiempo de depuración. En este servicio una clave completa permite 8 peticiones simultáneas y 300 peticiones por minuto. Una clave de prueba permite 2 y 60. El cuerpo máximo de la petición es de 8 MB. Una petición en streaming mantiene su slot de concurrencia hasta que termina el streaming, lo que atrapa a quienes abren muchos streams y olvidan cerrarlos.

Superar un límite devuelve HTTP 429. El código de error rate_limited significa demasiadas peticiones por minuto, y concurrency significa demasiadas a la vez. Un 429 con el encabezado Retry-After: 5 indica sobrecarga temporal. En los tres casos, la respuesta correcta es esperar y reintentar con backoff, no golpear el endpoint.

• Lee X-RateLimit-Limit-Requests y X-RateLimit-Limit-Concurrency de los encabezados de respuesta para ver tus límites, y X-Balance-USD para vigilar tu crédito.
• Registra X-Request-Id con cada llamada. Esto hace que las preguntas de soporte sean mucho más rápidas de responder.
• Establece un tiempo de espera razonable y un límite en la longitud de la conversación para evitar que un bucle descontrolado gaste tu saldo.
• Recorta los turnos antiguos del chat antes de que llenen la ventana de contexto.

Las peticiones fallidas o rechazadas no se cobran en esta API, y el crédito no caduca, por lo que un error en las pruebas cuesta poco.

Cómo empezar con esta API

Este servicio es una API de texto alojada y compatible con OpenAI para un único modelo de pesos abiertos, gestionada por un proveedor independiente y ajustada para responder sin rechazos de contenido para uso adulto lícito. Es solo texto: sin imágenes, audio, embeddings ni fine-tuning. No es la API oficial de ningún proveedor de modelos. Los prompts no se usan para entrenamiento.

Los usuarios nuevos pueden reclamar $0,50 de crédito de prueba con un clic en la página de clave de API después de iniciar sesión con Google o con correo electrónico y contraseña. No necesita tarjeta y dura 7 días. Después recargas con cualquier cantidad entera de $20 a $500, con un bono del 5% desde $50, 10% desde $100 y 15% desde $200. Puedes pagar con tarjeta (Visa, Mastercard, Apple Pay, Google Pay) o con cripto (USDT en TRC20, USDC en Base).

Los pasos son breves: crea tu clave de API, sigue el quickstart en la documentación y ejecuta el fragmento de Python anterior. Si tu uso principal es ayuda de programación, la página sobre un modelo sin censura para agentes de codificación cubre ese caso con más detalle.

Más guías

• API de LLM para VS Code: Conecta tu editor a tu propia clave
• Bot de Discord de IA de codificación: Construye uno con una API de LLM
• API de LLM sin censura para agentes de codificación