Open ai uyumlu API dokümantasyonu

Temel URL ve Kimlik Doğrulama

İstemcinizi doğru temel URL ve API anahtarıyla yapılandırarak başlayın. Hizmet https://api.compatibleaiopen.com/v1. Panoyu kullanarak bir anahtar elde edersiniz. Anahtar, uç noktaya yapılan her isteği kimlik doğrular.

İlk İstek

Şu modeli kullanarak standart bir sohbet tamamlama isteği gönderin uncensored model kimliği. API metin girdisi kabul eder ve metin çıktısı döndürür. Parametreleri temperature ou top_p. Bağlam penceresi, istem ve tamamlama için toplam 100.000 token'a kadar destekler.

Copycurl https://api.compatibleaiopen.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List three benefits of local inference"}]
  }'

Python SDK Entegrasyonu

Güncelle base_url parametresi OpenAI Python istemcisinde. Bu, zaten bildiğiniz kütüphaneyi kullanmanıza olanak tanır. Model kimliği aynı kalır uncensoredAkış ve araç kullanımı, OpenAI için belgelenen şekilde tam olarak çalışır. Uygulama mantığınızı yeniden yazmanıza gerek yoktur.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.compatibleaiopen.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node SDK Entegrasyonu

Node.js istemcisini yeni temel URL ile yapılandırın. API anahtarınızı ortam veya istemci başlatması aracılığıyla iletin. Uç nokta tüm standart parametreleri destekler. Hatalar standart HTTP durum kodlarını döndürür. Bu mevcut Express veya sunucusuz işlevlere hemen entegre edilebilir.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.compatibleaiopen.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Akış Yanıtları

Ayarlayarak akışı etkinleştirin stream true olarak ayarlayın. API, Sunucu Tarafından Gönderilen Olaylar (SSE) döndürür. Token kullanım verileri son parçada görünür. Bu, kullanıcılar için algılanan gecikmeyi azaltır. Parçaları artımlı olarak ayrıştırabilirsiniz. Model, uzun bağlamları token kaybetmeden işler.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Limitler ve Hatalar

Her anahtar başına dakikada 300 istekle sınırlısınız. Eşzamanlı istekler anahtar başına 8 ile sınırlandırılmıştır. İstek gövdeleri 8 MB'ın altında kalmalıdır. 401 hatası geçersiz bir anahtarı belirtir. 402 hatası krediniz olmadığını gösterir. 429 hatası hız sınırlamasını işaret eder. Kredi süresi dolmaz. Hatalar ve reddetmeler ücretsizdir.