چگونه یک جایگزین OpenRouter را یکپارچه کنید

چرا از OpenRouter تغییر دهید؟

OpenRouter یک تجمیع‌کننده قدرتمند است، اما وقتی تنها به یک مدل خاص نیاز دارید، انتزاهای غیرضروری ایجاد می‌کند. منطق مسیریابی تأخیر و پیچیدگی را به زنجیره درخواست شما اضافه می‌کند. شما برای راحتی داشتن مدل‌های متعدد هزینه می‌پردازید، حتی اگر تنها از یکی استفاده کنید. APIهای مستقیم این لایه میانی را حذف می‌کنند و تأخیر کمتر و هزینه‌های قابل پیش‌بینی ارائه می‌دهند. کد شما ساده می‌ماند زیرا مستقیماً با سرور استنتاج ارتباط برقرار می‌کنید.

درک جایگزین اوپن‌روتر (OpenRouter)

یک نقطه پایانی سازگار با OpenAI ساختار API رسمی OpenAI را تقلید می‌کند. شما پیکربندی‌های JSON را به /v1/chat/completions و پاسخ‌های JSON استاندارد دریافت کنید. این سازگاری به این معنی است که می‌توانید ارائه‌دهنده را بدون بازنویسی منطق برنامه خود تغییر دهید. سرویس base_url تغییرات، اما روش‌های SDK یکسان باقی می‌مانند. این رویکرد برای دسته‌های محلی-اول ایده‌آل است که ممکن است بین llama.cpp و vLLM در آینده. شما یک رابط یکسان بدون توجه به سخت‌افزار زیرین دریافت می‌کنید. نیازی به مدیریت جداول مسیریابی پیچیده نیست. فقط یک خط مستقیم به مدل.

مرحله 1: کلید API خود را دریافت کنید

ابتدا با ایجاد حساب کاربری در داشبورد ارائه‌دهنده شروع کنید. می‌توانید با حساب گوگل یا یک ایمیل و رمز عبور ساده ثبت‌نام کنید. نیازی به شماره تلفن نیست که این فرآیند را سریع و خصوصی نگه می‌دارد. پس از ثبت‌نام، به صفحه "دریافت کلید API" بروید. سیستم بلافاصله یک کلید منحصر‌به‌فرد تولید می‌کند. این کلید را به‌طور ایمن کپی کنید؛ این کلید درخواست‌های شما را احراز هویت می‌کند. به‌طور پیش‌فرض، هر حساب فقط یک کلید فعال دارد. اگر آن را گم کردید، یک کلید جدید تولید کنید تا جایگزین آن شود. این کلید تنها چیزی است که برای شروع ارسال درخواست‌ها نیاز دارید.

مرحله ۲: URL پایه را پیکربندی کنید

بخش پیکربندی را در برنامه خود پیدا کنید. متغیری را که URL پایه API را نگه می‌دارد پیدا کنید. آن را به https://api.compatibleaiopen.com/v1. این URL مستقیماً به نقطه پایان استنتاج اشاره دارد. اطمینان حاصل کنید که اگر SDK شما به طور خودکار آن‌ها را مدیریت نمی‌کند، هرگونه اسلش پایانی را حذف کنید. این تغییر واحد تمام تکمیل‌های چت شما را به مدل بدون سانسور هدایت می‌کند. ساختار کد موجود شما معتار باقی می‌ماند. API انتظار دارد هدرهای استاندارد OpenAI را دریافت کند. نیاز به هدرهای سفارشی نیست. این مرحله برای اطمینان از رسیدن درخواست‌های شما به سرور صحیح حیاتی است.

مرحله ۳: کلاینت SDK خود را به‌روزرسانی کنید

اکثر فریم‌ورک‌های LLM مدرن از نقاط پایانی سازگار با OpenAI پشتیبانی می‌کنند. مقداردهی اولیه کلاینت را به کار با URL پایه و کلید API جدید خود به‌روز کنید. شناسه مدل را به عنوان uncensored. این شناسه به سرور می‌گوید که کدام مدل خاص باید اجرا شود. نیازی به تغییر امضای متدها ندارید. SDK مدیریت سریال‌سازی و دسریال‌سازی JSON را بر عهده دارد. حالت‌های استریم و غیر استریم دقیقاً مطابق مستندات کار می‌کنند. می‌توانید از ابزارهای آشنا مانند LangChain یا LlamaIndex استفاده کنید. این انتقال برای منطق برنامه شما شفاف است. این زمان تست را به طور قابل توجهی کاهش می‌دهد.

مرحله ۴: تست با تکمیل‌های چت

یک درخواست آزمایش ساده ارسال کنید تا اتصال را بررسی کنید. از messages پارامتری با درخواست کاربر. پاسخ باید حاوی یک content فیلد شامل پاسخ مدل. بررسی کنید که مدل به دلیل فیلترهای محتوا درخواست را رد نکند. مدل uncensored برای موضوعات بزرگسالان قانونی و بحث‌برانگیز بهینه‌سازی شده است. این مدل مستقیماً و بدون تعارفات اضافی پاسخ می‌دهد. مصرف توکن را در شیء پاسخ بررسی کنید. این تأیید می‌کند که API درخواست شما را به درستی پردازش می‌کند. اکنون می‌توانید این مورد را در جریان کاری اصلی خود ادغام کنید.

مرحله ۵: مدیریت پاسخ‌های استریم‌شده

استریمینگ تجربه کاربری بهتری برای پاسخ‌های طولانی فراهم می‌کند. فعال‌سازی stream پارامتر را در درخواست خود تنظیم کنید. API داده‌ها را از طریق رویدادهای ارسالی سرور (SSE) به صورت قطره‌قطره برمی‌گرداند. هر قطعه شامل یک دلتای جزئی از پاسخ است. این دلتاها را به هم بچسبانید تا پیام کامل را تشکیل دهید. قطعه نهایی شامل آمار مصرف کلی توکن‌ها است. این به شما اجازه می‌دهد پیشرفت را به‌صورت بلادرنگ نمایش دهید. پخش زنده تأخیر ادراکی را برای کاربران کاهش می‌دهد. این مورد برای رابط‌های چت ضروری است. اگر اتصال قطع شد، خطاها را به‌طور شایسته مدیریت کنید.

مرحله ۶: پایش مصرف توکن

مصرف توکن‌ها را ردیابی کنید تا هزینه‌ها را به‌طور مؤثر مدیریت کنید. API هزینه $0.15 per 1M input tokens and $0.50 per 1M output tokens. این نرخ‌ها شفاف هستند و برای تمام درخواست‌ها اعمال می‌شوند. خطاها و رد شدن‌ها اعتبار مصرف نمی‌کنند. موجودی پیش‌پرداخت شما فقط زمانی کاهش می‌یابد که توکن‌ها پردازش شوند. مانیتور usage field in every response. Set up alerts if your usage exceeds a threshold. This helps you avoid unexpected charges. The credit never expires, so you can top up when needed.

مرحله ۷: رفع اشکال خطاهای رایج

اگر خطای 401 دریافت می‌کنید، کلید API و آدرس پایه خود را بررسی کنید. خطای 429 نشان‌دهنده تجاوز از محدودیت نرخ 300 درخواست در دقیقه است. اطمینان حاصل کنید که بیش از 8 درخواست همزمان برای هر کلید ارسال نمی‌کنید. اگر پاسخ خالی است، بررسی کنید که شناسه مدل روی uncensored تنظیم شده باشد. uncensored. اندازه بدنه درخواست را بررسی کنید؛ باید کمتر از 8 مگابایت باشد. برای مشکلات پخش زنده (Streaming)، اطمینان حاصل کنید که کلاینت شما SSE را به درستی مدیریت می‌کند. مستندات API را برای کدهای خطای خاص مرور کنید. بیشتر مشکلات پیکربندی هستند و به راحتی قابل رفع‌اند.