Tài liệu API tương thích Open ai

Base URL và Xác thực

Bắt đầu bằng cách định cấu hình máy khách của bạn với URL cơ sở và khóa API đúng. Dịch vụ chạy tại https://api.compatibleaiopen.com/v1. Bạn lấy khóa qua bảng điều khiển bằng Google hoặc email. Khóa xác thực mọi yêu cầu đến endpoint.

Yêu cầu đầu tiên

Gửi yêu cầu hoàn thành trò chuyện tiêu chuẩn bằng uncensored model ID. API chấp nhận đầu vào văn bản và trả về đầu ra văn bản. Bạn có thể điều chỉnh các tham số như temperature hoặc top_p. Cửa sổ ngữ cảnh hỗ trợ tối đa 100,000 token kết hợp cho prompt và hoàn thiện.

Copycurl https://api.compatibleaiopen.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List three benefits of local inference"}]
  }'

Tích hợp SDK Python

Cập nhật base_url tham số trong máy khách Python của OpenAI. Điều này cho phép bạn sử dụng thư viện mà bạn đã quen thuộc. ID mô hình vẫn là uncensored. Streaming và sử dụng công cụ hoạt động chính xác như tài liệu cho OpenAI. Bạn không cần phải viết lại logic ứng dụng của mình.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.compatibleaiopen.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Tích hợp SDK Node

Cấu hình client Node.js với URL cơ sở mới. Truyền khóa API của bạn qua môi trường hoặc khởi tạo client. Điểm cuối hỗ trợ tất cả các tham số tiêu chuẩn. Lỗi trả về các mã trạng thái HTTP tiêu chuẩn. Bạn có thể tích hợp ngay lập tức vào các hàm Express hoặc serverless hiện có.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.compatibleaiopen.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Phản hồi luồng

Bật phát trực tiếp bằng cách đặt stream true. API trả về các Sự kiện được gửi bởi máy chủ (SSE). Dữ liệu sử dụng token xuất hiện trong phần cuối cùng. Điều này giảm độ trễ cảm nhận cho người dùng. Bạn có thể phân tích các phần theo cách tăng dần. Mô hình xử lý ngữ cảnh dài mà không làm mất token.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Giới hạn và Lỗi

Bạn bị giới hạn 300 yêu cầu mỗi phút cho mỗi khóa. Yêu cầu đồng thời được giới hạn ở 8 cho mỗi khóa. Thân yêu cầu phải dưới 8 MB. Lỗi 401 cho biết khóa không hợp lệ. Lỗi 402 có nghĩa là bạn không có tín dụng. Lỗi 429 báo hiệu giới hạn tốc độ. Tín dụng không bao giờ hết hạn. Lỗi và từ chối đều miễn phí.