Документація API, сумісного з Open ai

Базова URL-адреса та аутентифікація

Почніть з налаштування клієнта з правильною базовою URL-адресою та API-ключем. Сервіс працює на https://api.compatibleaiopen.com/v1. Ви отримуєте ключ через панель керування, використовуючи Google або email. Ключ автентифікує кожен запит до ендпоінту.

Перший запит

Надішліть стандартний запит на завершення чату за допомогою uncensored model ID. API приймає текстовий ввід і повертає текстовий вивід. Ви можете налаштовувати такі параметри, як temperature або top_p. Контекстне вікно підтримує до 100,000 токенів у сумі для запиту та завершення.

Copycurl https://api.compatibleaiopen.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List three benefits of local inference"}]
  }'

Інтеграція SDK Python

Update the base_url параметр у клієнті Python від OpenAI. Це дозволяє використовувати ту саму бібліотеку, яку ви вже знаєте. Ідентифікатор моделі залишається uncensored. Потокова передача та використання інструментів працюють точно так, як задокументовано для OpenAI. Вам не потрібно переписувати логіку своєї програми.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.compatibleaiopen.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Інтеграція Node SDK

Налаштуйте клієнт Node.js з новим базовим URL. Передайте ваш API-ключ через середовище або ініціалізацію клієнта. Кінцевий пункт підтримує всі стандартні параметри. Помилки повертають стандартні коди стану HTTP. Ви можете інтегрувати це в існуючі функції Express або серверні функції відразу.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.compatibleaiopen.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Потокові відповіді

Увімкніть потокову передачу, встановивши stream для true. API повертає події, надіслані сервером (SSE). Дані про використання токенів з'являються в останньому фрагменті. Це зменшує сприйняту затримку для користувачів. Ви можете розпарсовувати фрагменти поступово. Модель обробляє довгі контексти без втрати токенів.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Ліміти та помилки

Вам доступно не більше 300 запитів на хвилину на кожен ключ. Паралельні запити обмежені 8 на ключ. Тіла запитів мають бути меншими за 8 МБ. Помилка 401 вказує на недійсний ключ. Помилка 402 означає, що у вас немає кредиту. Помилка 429 сигналізує про обмеження швидкості. Кредит ніколи не закінчується. Помилки та відмови безкоштовні.