OpenAI 호환 API 문서

Base URL 및 인증

올바른 베이스 URL과 API 키를 사용하여 클라이언트를 구성하세요. 서비스는 다음에서 실행됩니다. https://api.compatibleaiopen.com/v1. 대시보드를 통해 Google 또는 이메일로 키를 획득합니다. 이 키는 엔드포인트로의 모든 요청을 인증합니다.

첫 번째 요청

다음을 사용하여 표준 채팅 완료 요청을 보내세요 uncensored 모델 ID입니다. API는 텍스트 입력을 받고 텍스트 출력을 반환합니다. 다음 매개변수를 조정할 수 있습니다. temperature 또는 top_p. 컨텍스트 윈도우는 프롬프트 및 완성을 합쳐 최대 100,000 토큰을 지원합니다.

Copycurl https://api.compatibleaiopen.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List three benefits of local inference"}]
  }'

Python SDK 통합

업데이트 base_url OpenAI Python 클라이언트에서 파라미터를 사용합니다. 이미 알고 있는 라이브러리를 그대로 사용할 수 있습니다. 모델 ID는 그대로 유지됩니다. uncensored스트리밍 및 도구 사용은 OpenAI에 대해 문서화된 대로 정확히 작동합니다. 애플리케이션 로직을 다시 작성할 필요가 없습니다.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.compatibleaiopen.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node SDK 통합

새로운 베이스 URL을 사용하여 Node.js 클라이언트를 구성하세요. API 키를 환경 또는 클라이언트 초기화를 통해 전달하세요. 이 엔드포인트는 모든 표준 매개변수를 지원합니다. 오류는 표준 HTTP 상태 코드로 반환됩니다. 이를 기존 Express 또는 서버리스 함수에 즉시 통합할 수 있습니다.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.compatibleaiopen.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

스트리밍 응답

stream을 true로 설정하여 스트리밍 활성화 stream true로 설정합니다. API는 서버 전송 이벤트(SSE)를 반환합니다. 토큰 사용 데이터는 마지막 청크에 나타납니다. 이는 사용자의 인지된 지연 시간을 줄입니다. 청크를 증분으로 구문 분석할 수 있습니다. 모델은 토큰을 드롭하지 않고 긴 컨텍스트를 처리합니다.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

제한 사항 및 오류

키당 분당 요청 수는 300개로 제한됩니다. 키당 동시 요청 수는 최대 8개로 제한됩니다. 요청 본문은 8MB 미만이어야 합니다. 401 오류는 유효하지 않은 키를 나타냅니다. 402 오류는 크레딧이 없음을 의미합니다. 429 오류는 속도 제한을 신호합니다. 크레딧은 만료되지 않습니다. 오류 및 거절은 무료입니다.