Compatibele AIInstallatiehandleiding
Open ai compatible API-documentatie
Verbind je OpenAI SDK met ons ongecensureerde LLM-eindpunt door de basis-URL en API-sleutel bij te werken. Je behoudt je bestaande code en krijgt een drop-in compatibele ervaring voor lokale of cloud-pipelines.
- per 1M invoertokens
- $0.15
- Outputtokens / 1M
- $0.50
- tokencontext
- 100,000
- proeftegoed
- $0.50
- verzoeken per minuut
- 300
Basis-URL en authenticatie
Configureer je client eerst met de juiste basis-URL en API-sleutel. De service draait op https://api.compatibleaiopen.com/v1. Je verkrijgt een sleutel via het dashboard met Google of e-mail. De sleutel authenticeert elk verzoek naar het eindpunt.
Eerste verzoek
Stuur een standaard chat-completieverzoek met behulp van de uncensored model-ID. De API accepteert tekstinput en retourneert tekstoutput. Je kunt parameters aanpassen zoals temperature of top_p. Het contextvenster ondersteunt maximaal 100.000 tokens gecombineerd voor prompt en completion.
curl https://api.compatibleaiopen.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List three benefits of local inference"}]
}'
Python SDK Integratie
De bijwerken base_url parameter in de OpenAI Python-client. Hiermee kun je dezelfde bibliotheek gebruiken die je al kent. De model-ID blijft uncensored. Streaming en toolgebruik werken exact zoals gedocumenteerd voor OpenAI. Je hoeft je applicatielogica niet te herschrijven.
from openai import OpenAI
client = OpenAI(base_url="https://api.compatibleaiopen.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
Node SDK-integratie
Configureer de Node.js-client met de nieuwe basis-URL. Geef je API-sleutel door via de omgeving of client-init. Het eindpunt ondersteunt alle standaardparameters. Fouten retourneren standaard HTTP-statuscodes. Je kunt dit direct integreren in bestaande Express- of serverless functies.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.compatibleaiopen.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
Streaming-responsen
Activeer streaming door stream aan true. De API retourneert Server-Sent Events (SSE). Token-gebruiksgegevens verschijnen in de laatste chunk. Dit vermindert de waargenomen latentie voor gebruikers. Je kunt chunks incrementeel parseren. Het model behandelt lange contexten zonder tokens te verliezen.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
Limieten en fouten
Je bent beperkt tot 300 verzoeken per minuut per sleutel. Gelijktijdige verzoeken zijn beperkt tot 8 per sleutel. Request bodies moeten kleiner zijn dan 8 MB. Een 401-fout duidt op een ongeldige sleutel. Een 402-fout betekent dat je geen krediet meer hebt. Een 429-fout signaleert rate limiting. Krediet verloopt niet. Fouten en weigeringen zijn gratis.
Veelgestelde vragen
Is dit een echte open AI-compatible endpoint?
Ja. Het gebruikt het standaard /v1/chat/completions pad. Je past alleen de base URL en sleutel aan. Het responsformaat komt exact overeen met OpenAI. Tools en streaming werken identiek.
Wat gebeurt er als ik de frequentielimiet overschrijd?
Je ontvangt een 429 Too Many Requests-statuscode. De limiet is 300 verzoeken per minuut. Je kunt de belasting verdelen over meerdere sleutels indien nodig. Elke sleutel staat 8 gelijktijdige verzoeken toe.
Omvat het contextvenster de uitvoer?
Ja. De limiet van 100,000 tokens geldt voor zowel de prompt als de completion. Je kunt tot 16,000 tokens per verzoek genereren. Dit stelt je in staat lange documentanalyse- of codegeneratietaken uit te voeren.