Co je to router LLM?
Router LLM funguje jako vrstva proxy, která směruje požadavky k různým jazykovým modelům. Vývojáři jej používají k agregaci více poskytovatelů do jednoho endpointu. Tento přístup zjednodušuje kódové báze skrytím specifických vlastností jednotlivých dodavatelů.
Routery však zavádějí latenci a potenciální body selhání. Často směrují provoz na základě nákladů, latence nebo dostupnosti modelu. Někteří routery také aplikují své vlastní obsahové filtry před odesláním požadavků do základního modelu.
Pro mnoho případů použití je vyhrazený endpoint pro jeden model spolehlivější. Eliminuje to logiku směrování a snižuje režii. Získáte přímý přístup ke schopnostem modelu bez prostřednického zpracování.
Tento rozdíl je důležitý pro aplikace vyžadující nízkou latenci nebo specifické chování modelů. Routery jsou užitečné pro strategie s více modely. Věnované endpointy jsou lepší pro zaměřené, vysokozátěžové pracovní zátěže.
Proč použít model bez omezení?
Modely bez omezení odstraňují restriktivní filtry obsahu, které často reagují na témata pro dospělé nebo kontroverzní otázky. Standardní modely mohou odmítnout legální požadavky kvůli širokým bezpečnostním politikám. Varianty bez omezení umožňují kreativní svobodu a přesnou roleplay.
Tyto modely jsou ideální pro tvorbu obsahu, adult zábavu a výzkum. Zvládají jemné podněty bez falešných odmítnutí. Model nevyvozuje kontext z obchodního značení pro rozhodnutí o tom, co je přijatelné.
Soukromí je dalším klíčovým faktorem. Mnoho poskytovatelů trénuje na datech uživatelů. Naše služba nepoužívá prompty k trénování. Vaše data zůstávají vaše. To je zásadní pro proprietární nebo citlivé aplikace.
Limity obsahu stále platí. Blokování sexuálního obsahu zahrnujícího nezletilé. Vše ostatní je v pořádku. To zahrnuje zralá témata, násilí a politické názory.
Open Router vs. náš vyhrazený router
OpenRouter agreguje mnoho modelů. Platíte za každý model za každý požadavek. Logika směrování může přidat latenci. Naše služba nabízí jeden dedikovaný model bez cenzury. To zajišťuje konzistentní výkon a ceny.
OpenRouter vyžaduje, abyste spravovali více ID modelů. My používáme jedno ID: "uncensored". To zjednodušuje kód. Nemusíte přepínat modely na základě obtížnosti úkolu.
Ceny na Open Router se liší podle modelu. Naše ceny jsou fixní: $0.15 za 1M vstupních tokenů a $0.50 za 1M výstupních tokenů. Tato předvídatelnost pomáhá s plánováním rozpočtu. Víte přesně, kolik stojí každý požadavek.
Naše služba je určena pro vývojáře, kteří chtějí spolehlivost. Neřídíme se mezi poskytovateli. Spouštíme jeden optimalizovaný model. To snižuje složitost a zlepšuje doby odezvy.
Vysvětlení kompatibility typu Drop-In
Naše API je plně kompatibilní s OpenAI. Můžete použít stejné SDK a knihovny. Změňte základní URL a klíč API. Váš kód zůstane beze změny. To platí pro Python, Node.js a další podporované jazyky.
Endpoint je /v1/chat/completions. Přijímá standardní parametry, jako je teplota a top_p. Volání funkcí funguje podle očekávání. Režim JSON je podporován pro strukturované výstupy.
Je dostupné streamování přes SSE. Využití tokenů je hlášeno v posledním bloku. To odpovídá streamovacímu protokolu OpenAI. Můžete jej integrovat do existujících pipeline bez úprav.
Tato kompatibilita se rozšiřuje i na nástroje příkazového řádku. Nástroje jako Open Code mohou snadno přepnout na náš endpoint. Stačí aktualizovat konfiguraci. Nepotřebujete žádné vlastní adaptéry.
Srovnání nákladů: Open Router versus RouterLLM
OpenRouter účtuje za každý model. Ceny se výrazně liší. Vysoce výkonné modely mohou stát výrazně více. Naše cenění je jednotné. $0.15 za 1M vstupních tokenů. $0.50 za 1M výstupních tokenů.
To je často levnější než používání velkých modelů na OpenRouter. Je dražší než používání malých modelů. Ale získáte kvalitní uncensored model. Kvalita je konzistentní.
Používáme předplacené kredity v kryptoměnách. Nejsou zde žádné měsíční poplatky. Chyby jsou zdarma. Platíte pouze za úspěšná dokončení. To chrání váš rozpočet před plýtváním požadavky.
Bonusové kredity jsou dostupné pro větší dobíjecí částky. Bonus 5 % pro $50. 10 % pro $100. 15 % pro $200. To snižuje efektivní náklady na token. Odměňuje uživatele s vysokým objemem.
Technické nastavení: Změna základní URL
Pro přechod na naše API aktualizujte základní URL v konfiguraci SDK. Usměrněte jej na HTTPS://api.routerllm.cc/v1. Pro autentizaci použijte svůj vygenerovaný API klíč.
Nastavte ID modelu na „uncensored“. To zajišťuje, že používáte náš vyhrazený model. Všechny ostatní parametry zůstávají standardní. Teplota, top_p a sekvence pro zastavení fungují podle očekávání.
Kontextové okno je 100 000 tokenů. Maximální výstup je 16 000 tokenů. Výchozí max tokenů je 2 048. Upravte tato nastavení podle svých potřeb. Větší výstupy vyžadují vyšší limity.
Limity rychlosti jsou 300 požadavků za minutu. 8 současných požadavků na klíč. Velikost těla požadavku je omezena na 8 MB. Tyto limity jsou pro většinu aplikací dostatečné. Sledujte své využití, abyste zůstali v mezích.
Zvládání streamování a volání funkcí
Podpora streamování přes Server-Sent Events (SSE). Každý blok obsahuje částečný text. Poslední blok obsahuje spotřebu tokenů. To umožňuje aktualizace v reálném čase ve vašem UI.
Volání funkcí funguje se standardními definicemi nástrojů. Definujte nástroje ve svém požadavku. Model bude výstupovat JSON pro volání nástrojů. Parsovejte odpověď pro provedení funkcí.
Režim JSON zajišťuje strukturovaný výstup. Použijte response_format: {"type": "json_object"}. Model vrátí platný JSON. To je užitečné pro extrakci dat a integrace API.
Parametry jako teplota a top_p řídí náhodnost. Použijte seed pro reprodukovatelnost. Přítomnost a penalizace frekvence pomáhají vyhnout se opakování. Experimentujte s těmito nastaveními a najděte nejlepší rovnováhu.
Ochrana soukromí a využití dat
Sbíráme minimální data. Pro vytvoření účtu je vyžadována e-mailová adresa. Telefonní číslo není potřeba. Můžete se přihlásit přes Google nebo použít e-mail a heslo.
Prompty nejsou používány k trénování. Vaše data nejsou prodávána. To zajišťuje důvěrnost pro citlivé aplikace. Vy si ponecháváte plné vlastnictví svých vstupů a výstupů.
Informace o platbě jsou zpracovávány přes krypto. Transakce jsou zaznamenány na blockchainu. To přidává další vrstvu soukromí.
Za kredit není k dispozici refundace. Chyby, jako je dvojí účtování, se opravují přes podporu. Kredit nikdy nevyprší. To poskytuje flexibilitu pro dlouhodobé projekty.
Začít s vaším prvním požadavkem
Zaregistrujte se pro bezplatný účet. Získáte zkušební kredit ve výši $0,50. Zkušební doba trvá 7 dní.
Vygenerujte svůj API klíč na ovládacím panelu. Použijte tento klíč v konfiguraci SDK. Nastavte základní URL na HTTPS://api.routerllm.cc/v1.
Odešlete jednoduchý požadavek. Odešlete podnět na endpoint /v1/chat/completions. Model vrátí odpověď. Zkontrolujte výstup na přesnost a tón.
Doplňte prostřednictvím krypta pro vyšší limity. Použijte USDT (TRC20) nebo USDC (Base). Zadejte částku mezi 20 a 500 USD. Bonusové kredity se aplikují automaticky. Začněte ještě dnes budovat svou uncensored aplikaci.
