Open ai compatible API documentation

Βασικό URL και Αυθεντικοποίηση

Ξεκινήστε διαμορφώνοντας τον πελάτη σας με τη σωστή βάση URL και το API key. Η υπηρεσία λειτουργεί σε https://api.compatibleaiopen.com/v1.Λαμβάνετε ένα key μέσω του dashboard χρησιμοποιώντας Google ή email. Το key πιστοποιεί κάθε αίτημα στην endpoint.

Πρώτη αίτηση

Στείλτε μια τυπική αίτηση ολοκλήρωσης συνομιλίας χρησιμοποιώντας το uncensored το ID του μοντέλου. Το API δέχεται είσοδο κειμένου και επιστρέφει έξοδο κειμένου. Μπορείτε να ρυθμίσετε παραμέτρους όπως temperature ή top_p. Το παράθυρο συνάφειας υποστηρίζει έως 100.000 tokens συνδυαστικά για prompt και completion.

Copycurl https://api.compatibleaiopen.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List three benefits of local inference"}]
  }'

Ενσωμάτωση SDK Python

Ενημέρωση το base_url η παράμετρος στον πελάτη Python της OpenAI. Αυτό σας επιτρέπει να χρησιμοποιήσετε τη βιβλιοθήκη που ήδη γνωρίζετε. Το αναγνωριστικό μοντέλου παραμένει uncensored. Το streaming και η χρήση εργαλείων λειτουργούν ακριβώς όπως τεκμηριώνεται για το OpenAI. Δεν χρειάζεται να ξαναγράψετε τη λογική της εφαρμογής σας.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.compatibleaiopen.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node SDK Integration

Ρυθμίστε τον πελάτη Node.js με τη νέα βάση URL. Δώστε το API key σας μέσω περιβάλλοντος ή init πελάτη. Το endpoint υποστηρίζει όλες τις τυπικές παραμέτρους. Τα σφάλματα επιστρέφουν τυπικούς κωδικούς κατάστασης HTTP. Μπορείτε να το ενσωματώσετε άμεσα σε υπάρχουσες συναρτήσεις Express ή serverless.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.compatibleaiopen.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming Αποκρίσεις

Ενεργοποιήστε streaming ρυθμίζοντας stream σε true. Το API επιστρέφει Server-Sent Events (SSE). Τα δεδομένα χρήσης tokens εμφανίζονται στο τελικό chunk. Αυτό μειώνει την αντιλαμβανόμενη καθυστέρηση για τους χρήστες. Μπορείτε να ερμηνεύσετε τα chunks incrementally. Το μοντέλο χειρίζεται μακριά πλαίσια χωρίς να χάνει tokens.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Όρια και Σφάλματα

Είστε περιορισμένοι σε 300 αιτήσεις ανά λεπτό ανά κλειδί. Οι ταυτόχρονες αιτήσεις περιορίζονται σε 8 ανά κλειδί. Τα σώματα αιτήσεων πρέπει να παραμένουν κάτω από 8 MB. Σφάλμα 401 υποδηλώνει άκυρο κλειδί. Σφάλμα 402 σημαίνει ότι δεν έχετε υπόλοιπο. Σφάλμα 429 σηματοδοτεί περιορισμό ρυθμού. Το υπόλοιπο δεν λήγει ποτέ. Τα σφάλματα και οι απορρίψεις είναι δωρεάν.