LLMルーターとは何ですか？
LLMルーターは、リクエストをさまざまな言語モデルに振り分けるプロキシレイヤーとして機能します。開発者は、複数のプロバイダーを1つのエンドポイントに集約するためにこれを使用します。このアプローチにより、ベンダー固有の癖を隠蔽し、コードベースを簡素化できます。
ただし、ルーターはレイテンシと潜在的な障害ポイントをもたらします。ルーターは通常、コスト、レイテンシ、またはモデルの利用可能性に基づいてトラフィックをルーティングします。一部のルーターは、基盤となるモデルにリクエストを送信する前に、独自のコンテンツフィルタリングも適用します。
多くのユースケースでは、専用で単一モデルのエンドポイントの方が信頼性が高いです。ルーティングロジックが不要になり、オーバーヘッドが削減されます。仲介処理なしでモデルの機能に直接アクセスできます。
この区別は、低レイテンシや特定のモデル挙動が要求されるアプリケーションにとって重要です。ルーターはマルチモデル戦略に有用ですが、集中した高ボリュームのワークロードには専用エンドポイントの方が適しています。
アンセンサードモデルを使用する理由
Uncensoredなモデルは、成人向けまたは論争的なトピックで頻繁にトリガーされる restrictive なコンテンツフィルタを除去します。標準モデルは、広範なセキュリティポリシーにより法的なリクエストを拒否する場合があります。Uncensoredなバリエーションはクリエイティブな自由と正確なロールプレイを可能にします。
これらのモデルは、コンテンツ制作、アダルトエンターテインメント、研究に最適です。ニュアンスのあるプロンプトを誤った拒否なしで処理します。モデルは、商業的なブランド文脈から許容される範囲を推測して判断しません。
プライバシーはもう一つの重要な要素です。多くのプロバイダーはユーザーデータを学習に使用します。当社のサービスは、プロンプトを学習に使用しません。あなたのデータはあなたのものとして残ります。これは独自または機密性の高いアプリケーションにとって重要です。
コンテンツ制限はまだ適用されます。未成年を伴う性的コンテンツをブロックします。それ以外はすべて対象となります。これには成熟したテーマ、暴力、政治的意見が含まれます。
OpenRouterと当社の専用ルーター
OpenRouterは多くのモデルを集約しています。モデルごとにリクエストごとに課金されます。ルーティングロジックはレイテンシを追加する可能性があります。当社のサービスは単一の専用検閲なしモデルを提供します。これにより、一貫したパフォーマンスと価格保証が実現します。
OpenRouterでは複数のモデルIDを管理する必要があります。当社は単一のID「uncensored」を使用します。これによりコードが簡素化されます。タスクの難易度に基づいてモデルを切り替える必要はありません。
OpenRouterでの価格はモデルによって異なります。当社の価格は、入力トークン1M件あたり$0.15、出力トークン1M件あたり$0.50で固定されています。この予測可能性により、予算計画が容易になります。各リクエストの正確なコストがわかります。
当社のサービスは、信頼性を求める開発者向けに設計されています。ベンダー間でルーティングしません。1つの最適化されたモデルを実行します。これにより複雑さが減り、応答時間が向上します。
差し替え互換性の解説
当社のAPIはOpenAIと完全に互換性があります。同じSDKとライブラリを使用できます。ベースURLとAPIキーを変更します。コードは変更されません。これはPython、Node.js、およびその他のサポートされている言語に適用されます。
エンドポイントは /v1/chat/completions です。temperatureやtop_pなどの標準パラメータを受け取ります。関数呼び出しは期待どおり動作し、構造化された出力のためにJSONモードがサポートされています。
SSEによるストリーミングに対応しています。トークン使用量は最後のチャンクで報告されます。これはOpenAIのストリーミングプロトコルに準拠しています。既存のパイプラインに変更を加えることなく統合できます。
この互換性はCLIツールにも及びます。Open Codeなどのツールは当社のエンドポイントに簡単に切り替えられます。設定を更新するだけです。カスタムアダプターは必要ありません。
コスト比較: Open Router vs. RouterLLM
OpenRouterはモデルごとに課金します。価格は大きく異なります。ハイエンドモデルは大幅に高価になる場合があります。当社の価格は均一です。入力トークン1Mあたり$0.15。出力トークン1Mあたり$0.50。
OpenRouterで大型モデルを使用するよりも安価な場合があります。小型モデルを使用するよりも高価ですが、高品質な無制限モデルが得られます。品質は一定です。
前払い暗号通貨クレジットを採用しています。月額料金はありません。エラーは無料です。成功した完了に対してのみ課金されます。これにより、無駄なリクエストから予算を保護します。
ボーナスクレジットは大口チャージで利用可能です。$50で5%ボーナス、$100で10%、$200で15%。これによりトークンあたりの実質コストが削減されます。これは多量利用者への報酬です。
技術セットアップ：ベースURLの変更
APIに切り替えるには、SDK設定のベースURLを更新してください。HTTPS://api.routerllm.cc/v1 を指すように設定し、生成されたAPIキーを使用して認証を行います。
モデルIDを「uncensored」に設定します。これにより、当社の専用モデルを使用していることを確認します。他のパラメータは標準のままです。Temperature、top_p、ストップシーケンスは期待どおり機能します。
コンテキストウィンドウは100,000トークンです。最大出力は16,000トークンです。デフォルトの最大トークンは2,048です。ニーズに基づいてこれらの設定を調整してください。大きな出力にはより高い制限が必要です。
レート制限は1分間あたり300リクエストです。キーごとに8つの同時リクエストが可能です。リクエストボディのサイズは8 MBに制限されます。これらの制限はほとんどのアプリケーションにとって十分です。制限内に収まるよう使用状況を監視してください。
ストリーミングと関数呼び出しの処理
SSE（Server-Sent Events）によるストリーミングに対応しています。各チャンクには部分的なテキストが含まれます。最後のチャンクにはトークン使用量が含まれており、UIでのリアルタイム更新が可能です。
関数呼び出しは標準のツール定義で動作します。リクエストでツールを定義します。モデルはツール呼び出しに対してJSONを出力します。レスポンスを解析して関数を実行します。
JSONモードは構造化された出力を保証します。response_format: {"type": "json_object"}を使用してください。モデルは有効なJSONを返します。これはデータ抽出やAPI統合に役立ちます。
温度やtop_pなどのパラメータでランダム性を制御します。再現性のためにseedを使用してください。存在ペナルティと頻度ペナルティは反復を避けるのに役立ちます。これらの設定を試し、最適なバランスを見つけてください。
プライバシーとデータ使用
最小限のデータを収集します。アカウント作成にはメールアドレスが必要です。電話番号は不要です。Googleでサインインするか、メールアドレスとパスワードを使用できます。
プロンプトは学習に使用されません。データは販売されません。これは機微なアプリケーションの機密性を保証します。入力と出力の完全な所有権を保持します。
お支払い情報は暗号通貨を介して処理されます。取引はブロックチェーンに記録されます。これにより、プライバシーの追加レイヤーが提供されます。
クレジットに対する返金は利用できません。二重請求などのミスはサポート経由で修正されます。クレジットは有効期限がありません。これは長期プロジェクトに柔軟性をもたらします。
最初のリクエストでの開始
無料アカウントを登録してください。試用期間クレジットとして$0.50が付与されます。試用期間は7日間です。
ダッシュボードでAPIキーを生成。このキーをSDK設定で使用。ベースURLを HTTPS://api.routerllm.cc/v1 に設定。
シンプルなリクエストを送信します。/v1/chat/completionsエンドポイントにプロンプトを送信します。モデルは応答を返します。出力の正確性とトーンを確認してください。
暗号通貨でチャージして制限を引き上げます。USDT (TRC20)またはUSDC (Base)を使用します。20ドルから500ドルの金額を入力してください。ボーナスクレジットは自動的に適用されます。今日からuncensoredアプリケーションの構築を始めましょう。
