IA CompatibleGuía de configuración
Documentación de API compatible con OpenAI
Conecta tu SDK de OpenAI a nuestro endpoint de LLM sin censura actualizando la URL base y la clave API. Mantienes tu código existente y obtienes una experiencia compatible plug-and-play para pipelines locales o en la nube.
- por 1M tokens de entrada
- $0.15
- Tokens de salida / 1M
- $0.50
- contexto de tokens
- 100,000
- crédito de prueba
- $0.50
- solicitudes por minuto
- 300
URL Base y Autenticación
Empieza configurando tu cliente con la URL base y la clave API correctas. El servicio se ejecuta en https://api.compatibleaiopen.com/v1.Obtienes una clave a través del panel usando Google o correo electrónico. La clave autentica cada solicitud al extremo.
Primera solicitud
Envía una solicitud estándar de finalización de chat utilizando el uncensored ID del modelo. La API acepta entrada de texto y devuelve salida de texto. Puedes ajustar parámetros como temperature o top_p. La ventana de contexto soporta hasta 100,000 tokens combinados para prompt y finalización.
curl https://api.compatibleaiopen.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List three benefits of local inference"}]
}'
Integración del SDK de Python
Actualizar el base_url el parámetro en el cliente de Python de OpenAI. Esto te permite usar la misma biblioteca que ya conoces. El ID del modelo permanece uncensored. El streaming y el uso de herramientas funcionan exactamente como se documenta para OpenAI. No necesitas reescribir la lógica de tu aplicación.
from openai import OpenAI
client = OpenAI(base_url="https://api.compatibleaiopen.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
Integración del SDK Node
Configura el cliente Node.js con la nueva URL base. Pasa tu clave API a través del entorno o la inicialización del cliente. El punto de conexión admite todos los parámetros estándar. Los errores devuelven códigos de estado HTTP estándar. Puedes integrarlo en funciones Express o sin servidor existentes de inmediato.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.compatibleaiopen.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
Respuestas en streaming
Habilita la transmisión estableciendo stream a true. La API devuelve Eventos Enviados por el Servidor (SSE). Los datos de uso de tokens aparecen en el último fragmento. Esto reduce la latencia percibida para los usuarios. Puedes analizar los fragmentos de forma incremental. El modelo maneja contextos largos sin perder tokens.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
Límites y errores
Estás limitado a 300 solicitudes por minuto por clave. Las solicitudes concurrentes están limitadas a 8 por clave. Los cuerpos de las solicitudes deben mantenerse por debajo de 8 MB. Un error 401 indica una clave no válida. Un error 402 significa que no tienes crédito. Un error 429 señala la limitación de velocidad. El crédito nunca expira. Los errores y las denegaciones son gratuitos.
Preguntas frecuentes
¿Es este un punto de conexión compatible con open AI real?
Sí. Usa la ruta estándar /v1/chat-completions. Solo cambias la URL base y la clave. El formato de respuesta coincide exactamente con OpenAI. Las herramientas y el streaming funcionan de manera idéntica.
¿Qué sucede si excedo el límite de velocidad?
Recibes un código de estado 429 Too Many Requests. El límite es de 300 solicitudes por minuto. Puedes distribuir la carga entre varias claves si es necesario. Cada clave permite 8 solicitudes concurrentes.
¿La ventana de contexto incluye la salida?
Sí. El límite de 100,000 tokens cubre tanto el prompt como la finalización. Puedes generar hasta 16,000 tokens por solicitud. Esto permite el análisis de documentos largos o tareas de generación de código.