什麼是 LLM 路由器?
LLM 路由器作為代理層,將請求導向各種語言模型。開發者使用它將多個供應商聚合到單一端點。這種方法透過隱藏特定廠商的怪癖來簡化程式碼庫。
然而,路由器會引入延遲和潛在的故障點。它們通常根據成本、延遲或模型可用性來路由流量。一些路由器還會在向基礎模型發送請求之前應用自己的內容過濾。
對於許多用例,專用的單模型端點更可靠。它消除了路由邏輯並減少開銷。你可以直接訪問模型的功能,而無需經過中介處理。
此區別對於需要低延遲或特定模型行為的應用至關重要。路由功能適合多模型策略,而專用端點則更適合專注且高流量的工作負載。
為什麼要使用無審查模型?
無審查模型移除了經常在成人或爭議性話題上觸發的嚴格內容過濾器。標準模型可能因廣泛的安全政策而拒絕合法請求。無審查變體允許創意自由和準確的角色扮演。
這些模型非常適合內容創作、成人娛樂和研究。它們能處理細微的提示而不會產生誤判。模型不會從商業品牌中推斷上下文來決定什麼是可接受的。
隱私是另一個關鍵因素。許多供應商根據使用者資料進行訓練。我們的服務不會將提示詞用於訓練。您的資料仍屬於您。這對於專屬或敏感應用至關重要。
內容限制仍然適用。我們阻止涉及未成年人的性內容。其他一切皆有可能。這包括成熟主題、暴力和政治觀點。
OpenRouter 與我們的專屬路由器
OpenRouter 彙整了許多模型。您按模型和請求次數付費。路由邏輯可能會增加延遲。我們的服務提供單一專屬的無審查模型。這確保了一致的效能與定價。
OpenRouter 要求您管理多個模型 ID。我們使用單一 ID:"uncensored"。這簡化了程式碼。您無需根據任務難度切換模型。
Open Router 的定價因模型而异。我們的定價固定為每 1M 輸入 token $0.15,每 1M 輸出 token $0.50。這種可預測性有助於預算規劃。您清楚知道每次請求的成本。
我們的服務專為希望獲得可靠性的開發者設計。我們不在供應商之間進行路由。我們運行單一最佳化模型。這降低了複雜性並提升了回應速度。
即插即用相容性說明
我們的 API 完全與 OpenAI 相容。您可以使用相同的 SDK 和程式庫。只需變更基礎 URL 和 API 金鑰。您的程式碼保持不變。這適用於 Python、Node.js 及其他支援的語言。
端點為 /v1/chat/completions。它接受溫度(temperature)和 top_p 等標準參數。函式呼叫如預期運作。JSON 模式支援結構化輸出。
支援透過 SSE 串流傳輸。Token 用量資訊會報告在最後一個區塊中。這與 OpenAI 的串流協定一致。您可以無縫整合至既有管線中。
這種相容性也擴展到 CLI 工具。像 Open Code 這樣的工具可以輕鬆切換到我們的端點。只需更新設定即可。無需自訂適配器。
價格比較:Open Router 與 RouterLLM
OpenRouter 按模型收費。價格差異很大。高端模型的費用可能顯著更高。我們的定價是統一的。輸入 token 為每 1M 個 $0.15。輸出 token 為每 1M 個 $0.50。
這通常比在 OpenRouter 上使用大型模型更便宜。它比使用小型模型更昂貴。但你獲得了一個高品質的無審查模型。品質始終如一。
我們使用預付加密貨幣額度。沒有月費。錯誤請求不收費。您只需為成功的完成內容付費。這保護您的預算免受浪費請求的影響。
贈額適用於較大額度的充值。$50 享 5% 贈額。$100 享 10%。$200 享 15%。這降低了每個 token 的有效成本。此舉獎勵高用量使用者。
技術設定:更改 Base URL
要切換至我們的 API,請更新 SDK 設定中的基礎 URL。將其指向 HTTPS://api.routerllm.cc/v1。使用您生成的 API 金鑰進行身份驗證。
將模型 ID 設定為 "uncensored"。這確保您使用的是我們專用的模型。所有其他參數保持標準。溫度、top_p 和停止序列均按預期運作。
上下文窗口為 100,000 token。最大輸出為 16,000 token。默認最大 token 數為 2,048。根據您的需求調整這些設置。更大的輸出需要更高的限制。
每分鐘的速率限制為 300 次請求。每組金鑰允許 8 個同時請求。請求主體大小限制為 8 MB。這些限制對大多數應用程式來說相當寬鬆。請監控您的使用量以保持在限制範圍內。
處理串流與函式呼叫
支援透過伺服器發送事件 (SSE) 進行串流傳輸。每個區塊包含部分文字。最後一個區塊包含 Token 用量。這允許您的 UI 進行即時更新。
函式呼叫運作正常,支援標準工具定義。在請求中定義工具。模型會為工具呼叫輸出 JSON。解析回應以執行函式。
JSON 模式可確保結構化輸出。請使用 response_format: {"type": "json_object"}。模型將回傳有效的 JSON。這對於資料擷取和 API 整合很有用。
類似 temperature 和 top_p 的參數控制隨機性。使用 seed 確保可重現性。存在和頻率懲罰有助於避免重複。嘗試這些設定以找到最佳平衡點。
隱私與資料使用
我們收集最小數據。創建帳戶需要電子郵件地址。不需要電話號碼。您可以使用 Google 登入,或使用電子郵件和密碼。
提示詞不用於訓練。您的資料不出售。這確保了敏感應用程式的機密性。您保留對輸入和輸出的完全所有權。
付款資訊透過加密貨幣處理。交易記錄在區塊鏈上。這增加了額外的隱私層。
信用額度無法退款。重複扣款等錯誤可透過客服修正。信用額度永不過期。這為長期專案提供了靈活性。
入門您的第一個請求
註冊免費帳戶。您將獲得 $0.50 的試用額度。試用期為 7 天。
在儀表板上產生您的 API 金鑰。在您的 SDK 設定中使用此金鑰。將基礎網址設定為 HTTPS://api.routerllm.cc/v1。
進行簡單的請求。向 /v1/chat/completions 端點發送提示。模型將返回回應。請檢查輸出的準確性與語氣。
使用加密貨幣充值以獲得更高限制。使用 USDT (TRC20) 或 USDC (Base)。輸入金額在 $20 至 $500 之間。贈送餘額將自動應用。立即開始構建您的無限制應用。