Dokumentasi API serasi Open AI

URL Asas dan Pengesahan

Mula dengan mengkonfigurasi klien anda dengan URL asas dan kunci API yang betul. Perkhidmatan ini berjalan pada https://api.compatibleaiopen.com/v1. Anda memperoleh kunci melalui papan pemuka menggunakan Google atau e-mel. Kunci ini mengesahkan setiap permintaan ke hujung ini.

Permintaan Pertama

Hantar permintaan penyelesaian semakan piawai menggunakan uncensored ID model. API menerima input teks dan mengembalikan output teks. Anda boleh melaraskan parameter seperti temperature atau top_p. Tetingkap konteks menyokong sehingga 100,000 token gabungan untuk prompt dan penyelesaian.

Copycurl https://api.compatibleaiopen.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List three benefits of local inference"}]
  }'

Integrasi SDK Python

Kemas kini base_url parameter dalam klien Python OpenAI. Ini membolehkan anda menggunakan perpustakaan yang sudah anda tahu. ID model kekal uncensored. Penstriman dan penggunaan alat berfungsi tepat seperti yang didokumentasikan untuk OpenAI. Anda tidak perlu menulis semula logik aplikasi anda.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.compatibleaiopen.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Integrasi SDK Node

Konfigurkan klien Node.js dengan URL asas baru. Luluskan kunci API anda melalui persekitaran atau inisialisasi klien. Hujung menyokong semua parameter piawai. Ralat mengembalikan kod status HTTP piawai. Anda boleh mengintegrasikannya ke dalam fungsi Express atau tanpa pelayan sedia ada dengan serta-merta.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.compatibleaiopen.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Respons Streaming

Aktifkan aliran dengan menetapkan stream ke benar. API mengembalikan Acara Dihantar Server (SSE). Data penggunaan token muncul dalam bahagian akhir. Ini mengurangkan latensi yang dirasakan untuk pengguna. Anda boleh menguraikan bahagian secara berperingkat. Model mengendalikan konteks panjang tanpa kehilangan token.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Had dan Ralat

Anda terhad kepada 300 permintaan setiap minit per kunci. Permintaan serentak dikekalkan pada 8 per kunci. Badan permintaan mesti kekal di bawah 8 MB. Ralat 401 menunjukkan kunci tidak sah. Ralat 404 bermaksud anda tiada kredit. Ralat 429 menandakan had kadar. Kredit tidak lupat. Ralat dan penolakan adalah percuma.