什么是LLM路由器?
LLM 路由器充当代理层,将请求定向到各种语言模型。开发者使用它将多个提供商聚合到一个端点。这种方法通过隐藏特定于供应商的怪癖来简化代码库。
然而,路由服务会引入延迟和潜在的故障点。它们通常根据成本、延迟或模型可用性路由流量。一些路由服务在将请求发送到基础模型之前,还会应用自己的内容过滤。
对于许多用例,专用的单模型端点更可靠。它消除了路由逻辑并减少了开销。你可以直接访问模型的能力,而无需经过中间处理。
这一区别对于需要低延迟或特定模型行为的应用至关重要。路由适用于多模型策略。专用端点更适合专注的高负载工作。
为什么使用无审查模型?
无审查模型去除了经常在成人或争议性话题上触发的限制性内容过滤器。标准模型可能因广泛的安全策略而拒绝合法请求。无审查变体允许创意自由和准确的角色扮演。
这些模型非常适合内容创作、成人娱乐和研究。它们能处理细微的提示而不会出现虚假拒绝。模型不会从商业品牌中推断上下文来决定什么是可接受的。
隐私是另一个关键因素。许多提供商对用户数据进行训练。我们的服务不将提示词用于训练。你的数据归你所有。这对于专有或敏感应用至关重要。
内容限制仍然适用。我们阻止涉及未成年人的性内容。其他所有内容都是公平游戏。这包括成熟主题、暴力和政治观点。
OpenRouter 与我们的专用路由器
OpenRouter 聚合了许多模型。您按请求为每个模型付费。路由逻辑可能会增加延迟。我们的服务提供单一的专用无审查模型。这确保了一致的性能和定价。
OpenRouter 要求您管理多个模型 ID。我们使用单个 ID:“uncensored”。这简化了代码。您无需根据任务难度切换模型。
Open Router 的定价因模型而异。我们的定价固定为每 1M 输入令牌 $0.15,每 1M 输出令牌 $0.50。这种可预测性有助于预算规划。您确切知道每次请求的成本。
我们的服务专为希望获得可靠性的开发者设计。我们在供应商之间不进行路由。我们运行一个优化模型。这降低了复杂性并提高了响应速度。
即插即用兼容性说明
我们的 API 完全兼容 OpenAI。您可以使用相同的 SDK 和库。更改基础 URL 和 API 密钥。您的代码保持不变。这适用于 Python、Node.js 及其他支持的语言。
端点是 /v1/chat/completions。它接受温度(temperature)和 top_p 等标准参数。函数调用按预期工作。支持 JSON 模式以生成结构化输出。
支持通过 SSE 进行流式传输。令牌使用情况在最后一个数据块中报告。这与 OpenAI 流式传输协议匹配。您可以无需修改即可将其集成到现有管道中。
此兼容性也适用于 CLI 工具。Open Code 等工具可以轻松切换到我们的端点。只需更新配置。无需自定义适配器。
成本对比:Open Router 与 RouterLLM
OpenRouter 按模型收费。价格差异很大。高端模型的成本可能显著更高。我们的定价是统一的。输入 token 为每 1M 个 $0.15。输出 token 为每 1M 个 $0.50。
这通常比在 Open Router 上使用大型模型更便宜。它比使用小型模型更贵。但您获得高质量的无审查模型。质量是一致的。
我们使用预付费加密货币额度。没有月费。错误不收费。您只为成功的生成付费。这保护您的预算免受无效请求的浪费。
针对大额充值提供奖励余额。$50 获得 5% 奖励。$100 获得 10%。$200 获得 15%。这降低了每个 token 的有效成本。它奖励了高用量用户。
技术设置:更改基础 URL
要切换到我们的 API,请更新 SDK 配置中的 base URL。将其指向 HTTPS://api.routerllm.cc/v1。使用您生成的 API 密钥进行身份验证。
将模型 ID 设置为 "uncensored"。这确保您使用的是我们的专用模型。所有其他参数保持标准。Temperature、top_p 和停止序列按预期工作。
上下文窗口为 100,000 token。最大输出为 16,000 token。根据您的需求调整这些设置。较大的输出需要更高的限制。
频率限制为每分钟 300 次请求。每个密钥 8 个并发请求。请求体大小限制为 8 MB。这些限制对大多数应用程序来说非常宽松。监控您的使用情况以保持在限制范围内。
处理流式传输和函数调用
支持通过 Server-Sent Events (SSE) 进行流式传输。每个数据块包含部分文本。最后一个数据块包含 token 使用情况。这允许在你的 UI 中进行实时更新。
函数调用使用标准工具定义。在请求中定义工具。模型将为工具调用输出 JSON。解析响应以执行函数。
JSON 模式可确保结构化输出。使用 response_format: {"type": "json_object"}。模型将返回有效的 JSON。这对于数据提取和 API 集成很有用。
诸如 temperature 和 top_p 之类的参数控制随机性。使用 seed 实现可重复性。存在和频率惩罚有助于避免重复。尝试这些设置以找到最佳平衡点。
隐私与数据使用
我们收集最少数据。创建账户需要电子邮件地址。无需电话号码。你可以使用 Google 登录,或使用电子邮件和密码。
提示词不用于训练。您的数据不出售。这确保了敏感应用程序的机密性。您完全拥有您的输入和输出。
支付信息通过加密货币处理。交易记录在区块链上。这增加了额外的隐私层。
信用额度不提供退款。重复扣费等错误会通过支持部门修复。信用额度永不过期。这为长期项目提供了灵活性。
入门您的第一个请求
注册免费账户。您将获得 $0.50 试用额度。试用期为 7 天。
在仪表板上生成您的 API 密钥。将此密钥用于您的 SDK 配置。将基础 URL 设置为 HTTPS://api.routerllm.cc/v1。
进行简单请求。向 /v1/chat/completions 端点发送提示。模型将返回响应。检查输出的准确性和语气。
使用加密货币充值以获得更高限额。使用 USDT (TRC20) 或 USDC (Base)。输入金额在 $20 到 $500 之间。奖励余额自动应用。立即开始构建您的无限制应用程序。