IA CompatívelGuia de configuração
Documentação de API compatível com OpenAI
Conecte seu SDK OpenAI ao nosso endpoint LLM sem censura atualizando a URL base e a chave da API. Você mantém seu código existente e obtém uma experiência compatível plug-and-play para pipelines locais ou em nuvem.
- por 1M de tokens de entrada
- $0.15
- Tokens de saída / 1M
- $0.50
- contexto de tokens
- 100,000
- crédito de teste
- $0.50
- requisições por minuto
- 300
URL Base e Autenticação
Comece configurando seu cliente com a URL base e a chave de API corretas. O serviço opera em https://api.compatibleaiopen.com/v1. Você obtém uma chave pelo painel usando Google ou e-mail. A chave autentica cada solicitação ao endpoint.
Primeira solicitação
Envie uma solicitação padrão de conclusão de chat usando o uncensored ID do modelo. A API aceita entrada de texto e retorna saída de texto. Você pode ajustar parâmetros como temperature ou top_p. A janela de contexto suporta até 100.000 tokens combinados para prompt e conclusão.
curl https://api.compatibleaiopen.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List three benefits of local inference"}]
}'
Integração do SDK Python
Atualizar o base_url parâmetro no cliente Python da OpenAI. Isso permite que você use a mesma biblioteca que já conhece. O ID do modelo permanece uncensored. Streaming e uso de ferramentas funcionam exatamente como documentado para OpenAI. Você não precisa reescrever a lógica do seu aplicativo.
from openai import OpenAI
client = OpenAI(base_url="https://api.compatibleaiopen.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
Integração do SDK Node
Configure o cliente Node.js com a nova URL base. Passe sua chave da API via ambiente ou inicialização do cliente. O endpoint suporta todos os parâmetros padrão. Erros retornam códigos de status HTTP padrão. Você pode integrar isso em funções Express ou serverless existentes imediatamente.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.compatibleaiopen.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
Respostas em Streaming
Ative o streaming definindo stream para true. A API retorna Eventos Enviados pelo Servidor (SSE). Os dados de uso de tokens aparecem no último fragmento. Isso reduz a latência percebida para os usuários. Você pode analisar fragmentos incrementalmente. O modelo lida com contextos longos sem perder tokens.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
Limites e Erros
Você está limitado a 300 solicitações por minuto por chave. Solicitações simultâneas são limitadas a 8 por chave. Os corpos das solicitações devem permanecer abaixo de 8 MB. Um erro 401 indica uma chave inválida. Um erro 402 significa que você não tem crédito. Um erro 429 sinaliza o limite de taxa. O crédito nunca expira. Erros e recusas são gratuitos.
Perguntas frequentes
Este é um endpoint verdadeiro compatível com open AI?
Sim. Usa o caminho padrão /v1/chat-completions. Você só altera a URL base e a chave. O formato da resposta corresponde exatamente ao da OpenAI. Ferramentas e streaming funcionam da mesma forma.
O que acontece se eu exceder o limite de taxa?
Você recebe o código de status 429 Too Many Requests. O limite é de 300 solicitações por minuto. Você pode distribuir a carga entre várias chaves, se necessário. Cada chave permite 8 solicitações simultâneas.
A janela de contexto inclui a saída?
Sim. O limite de 100.000 tokens cobre tanto o prompt quanto a conclusão. Você pode gerar até 16.000 tokens por solicitação. Isso permite análise de documentos longos ou tarefas de geração de código.