如何整合 OpenRouter 替代方案

為什麼要從 OpenRouter 換掉？

OpenRouter 是一個強大的聚合器，但當您只需要一個特定模型時，它引入了不必要的抽象層。路由邏輯增加了請求鏈中的延遲和複雜性。您為多種模型的便利性付費，即使您只使用其中一種。直接 API 移除了這層中間結構，為您帶來更低的延遲和可預測的成本。您的程式碼保持簡單，因為您是直接與推理伺服器通訊。

了解 Open Router 替代方案

OpenAI 相容端點模擬官方 OpenAI API 的結構。您發送 JSON 負載到 /v1/chat/completions 並接收標準 JSON 回應。這種相容性意味著您可以在不重寫應用程式邏輯的情況下更換供應商。該 base_url 變更，但 SDK 方法保持不變。此方法特別適合本地優先的架構，您可以在 llama.cpp 以及稍後的 vLLM。無論底層硬體為何，您都能獲得一致的介面。無需管理複雜的路由表。只需直接連線至模型。

步驟 1：取得您的 API 金鑰

先在供應商的後台建立帳戶。您可以使用 Google 帳戶或簡單的電子郵件和密碼註冊。不需要手機號碼，這讓過程快速且具隱私性。註冊後，請前往「取得 API 金鑰」頁面。系統會立即產生唯一的金鑰。請安全地複製此金鑰；它用於驗證您的請求。預設情況下，每個帳戶只有一個有效的金鑰。如果您遺失了它，請產生一個新的金鑰來取代它。這個金鑰是您開始發送請求所需的一切。

步驟 2：設定 base URL

在您的應用程式中找到配置部分。找到保存 API 基礎 URL 的變數。將其更新為 https://api.compatibleaiopen.com/v1. 此 URL 直接指向推理端點。請確保如果您的 SDK 未自動處理，請移除任何尾隨斜線。這個單一變更會將您所有的聊天補全請求重新導向至無審查模型。您現有的程式碼結構仍然有效。API 期望標準的 OpenAI 標頭。不需要自訂標頭。此步驟對於確保您的請求到達正確的伺服器至關重要。

步驟 3：更新您的 SDK 客戶端

大多數現代 LLM 框架支援與 OpenAI 相容的端點。更新客戶端初始化設定以使用您的新基礎 URL 和 API 金鑰。將模型 ID 作為 uncensored. 此 ID 告訴伺服器要執行哪個特定模型。您無需更改方法簽名。SDK 會處理 JSON 的序列化與反序列化。串流模式與非串流模式的運作方式與文件所述完全一致。您可以繼續使用熟悉的工具，如 LangChain 或 LlamaIndex。對您的應用程式邏輯而言，此轉換是透明的。這大幅減少了測試時間。

步驟 4：使用聊天完成進行測試

發送簡單的測試請求以驗證連線能力。使用 messages 參數，帶有使用者提示。回應應包含 content 包含模型回答的欄位。請確認模型未因內容過濾器而拒絕提示。uncensored 模型針對合法成人內容與爭議性話題進行了調校，會直接作答而不過度保留。請檢查回應物件中的 token 使用量，以確認 API 正確處理您的請求。您現在可以將此整合至主要工作流程中。

步驟 5：處理串流回應

串流為長回應提供更佳的用戶體驗。啟用 stream 參數於您的請求中。API 透過伺服器發送事件 (SSE) 返回資料區塊。每個區塊包含回應的部分增量。將這些增量連接起來以形成完整的訊息。最後一個區塊包含總 token 使用統計數據。這使您能夠即時顯示進度。串流傳輸可降低用戶的感知延遲。它對於聊天介面至關重要。如果連線中斷，請妥善處理錯誤。

步驟 6：監控 Token 使用量

追蹤您的 token 消耗情況以有效管理成本。API 收費 $0.15 每百萬個輸入 token 和 $0.50 每百萬個輸出 token。這些費率透明且適用於所有請求。錯誤和拒絕不會消耗信用額度。您的預付餘額僅在處理 token 時減少。監控 usage field in every response. Set up alerts if your usage exceeds a threshold. This helps you avoid unexpected charges. The credit never expires, so you can top up when needed.

步驟 7：除錯常見錯誤

如果您收到 401 錯誤，請檢查您的 API 金鑰和基礎 URL。429 錯誤表示您已超過每分鐘 300 次請求的限制。確保您未對每個金鑰發送超過 8 個併發請求。如果回應為空，請驗證模型 ID 是否設定為 uncensored. 檢查請求主體大小；必須在 8 MB 以下。對於串流問題，請確保您的客戶端正確處理 SSE。檢視 API 文件以獲取特定錯誤代碼。大多數問題與配置有關，且容易修復。