Apa itu router LLM?
Router LLM bertindak sebagai lapisan proxy yang mengarahkan permintaan ke berbagai model bahasa. Pengembang menggunakannya untuk mengagregasi beberapa penyedia ke dalam satu titik akhir. Pendekatan ini menyederhanakan basis kode dengan menyembunyikan kekhasan spesifik vendor.
Namun, router memperkenalkan latensi dan titik kegagalan potensial. Mereka sering melakukan routing lalu lintas berdasarkan biaya, latensi, atau ketersediaan model. Beberapa router juga menerapkan filter konten mereka sendiri sebelum mengirim permintaan ke model dasar.
Untuk banyak kasus penggunaan, endpoint model tunggal khusus lebih andal. Ini menghilangkan logika pengalihan dan mengurangi overhead. Anda mendapatkan akses langsung ke kemampuan model tanpa pemrosesan perantara.
Perbedaan ini penting untuk aplikasi yang membutuhkan latensi rendah atau perilaku model tertentu. Router berguna untuk strategi multi-model. Titik akhir khusus lebih baik untuk beban kerja terfokus dan bervolume tinggi.
Mengapa menggunakan model tanpa sensor?
Model tanpa sensor menghilangkan filter konten restriktif yang sering memicu topik dewasa atau kontroversial. Model standar mungkin menolak permintaan yang sah karena kebijakan keamanan yang luas. Varian tanpa sensor memungkinkan kebebasan kreatif dan roleplay yang akurat.
Model-model ini ideal untuk pembuatan konten, hiburan dewasa, dan penelitian. Model-model ini menangani prompt bernuansa tanpa penolakan palsu. Model tidak menyimpulkan konteks dari merek komersial untuk memutuskan apa yang dapat diterima.
Privasi adalah faktor kunci lainnya. Banyak penyedia melatih data pengguna. Layanan kami tidak menggunakan prompt untuk pelatihan. Data Anda tetap milik Anda. Ini penting untuk aplikasi milik atau sensitif.
Batas konten masih berlaku. Kami memblokir konten seksual yang melibatkan anak di bawah umur. Sisanya bebas. Ini termasuk tema matang, kekerasan, dan opini politik.
Open Router vs router khusus kami
OpenRouter mengagregasi banyak model. Anda membayar per model per permintaan. Logika pengalihan dapat menambah latensi. Layanan kami menawarkan satu model tanpa sensor yang didedikasikan. Ini memastikan kinerja dan harga yang konsisten.
OpenRouter mengharuskan Anda mengelola banyak ID model. Kami menggunakan satu ID: "uncensored". Ini menyederhanakan kode. Anda tidak perlu mengganti model berdasarkan kesulitan tugas.
Harga di Open Router bervariasi tergantung model. Harga kami tetap di $0.15 per 1M token input dan $0.50 per 1M token output. Prediktabilitas ini membantu dalam penganggaran. Anda mengetahui tepat berapa biaya setiap permintaan.
Layanan kami dirancang untuk pengembang yang menginginkan keandalan. Kami tidak melakukan routing antar vendor. Kami menjalankan satu model yang dioptimalkan. Ini mengurangi kompleksitas dan meningkatkan waktu respons.
Kompatibilitas Drop-In dijelaskan
API kami sepenuhnya kompatibel dengan OpenAI. Anda dapat menggunakan SDK dan pustaka yang sama. Ubah URL dasar dan kunci API. Kode Anda tetap tidak berubah. Ini berlaku untuk Python, Node.js, dan bahasa lain yang didukung.
Endpoint adalah /v1/chat/completions. Endpoint ini menerima parameter standar seperti temperature dan top_p. Pemanggilan fungsi bekerja seperti biasa. Mode JSON didukung untuk output terstruktur.
Streaming via SSE tersedia. Penggunaan token dilaporkan dalam potongan terakhir. Ini sesuai dengan protokol streaming OpenAI. Anda dapat mengintegrasikannya ke dalam pipeline yang ada tanpa modifikasi.
Kompatibilitas ini juga berlaku untuk alat CLI. Alat seperti Open Code dapat dengan mudah beralih ke endpoint kami. Cukup perbarui konfigurasi. Tidak diperlukan adaptor khusus.
Perbandingan biaya: Open Router vs. RouterLLM
OpenRouter membebankan biaya per model. Harga bervariasi secara luas. Model kelas atas bisa jauh lebih mahal. Harga kami seragam. $0.15 per 1M token input. $0.50 per 1M token output.
Ini seringkali lebih murah daripada menggunakan model besar di Open Router. Ini lebih mahal daripada menggunakan model kecil. Tetapi Anda mendapatkan model uncensored berkualitas tinggi. Kualitasnya konsisten.
Kami menggunakan kredit kripto prabayar. Tidak ada biaya bulanan. Kesalahan tidak dikenakan biaya. Anda hanya membayar untuk penyelesaian yang berhasil. Ini melindungi anggaran Anda dari permintaan yang terbuang.
Kredit bonus tersedia untuk pengisian ulang dalam jumlah besar. Bonus 5% untuk $50. 10% untuk $100. 15% untuk $200. Ini mengurangi biaya efektif per token. Ini menghargai pengguna dengan volume tinggi.
Pengaturan teknis: mengubah URL dasar
Untuk beralih ke API kami, perbarui URL dasar dalam konfigurasi SDK Anda. Arahkan ke HTTPS://api.routerllm.cc/v1. Gunakan kunci API yang telah Anda buat untuk autentikasi.
Atur ID model menjadi "uncensored". Ini memastikan Anda menggunakan model khusus kami. Parameter lainnya tetap standar. Suhu, top_p, dan urutan henti bekerja seperti biasa.
Jendela konteks adalah 100.000 token. Output maksimum adalah 16.000 token. Sesuaikan pengaturan ini berdasarkan kebutuhan Anda. Output yang lebih besar memerlukan batas yang lebih tinggi.
Batas laju adalah 300 permintaan per menit. 8 permintaan simultan per kunci. Ukuran badan permintaan dibatasi hingga 8 MB. Batas-batas ini cukup longgar untuk sebagian besar aplikasi. Pantau penggunaan Anda agar tetap dalam batas.
Menangani streaming dan pemanggilan fungsi
Streaming didukung melalui Server-Sent Events (SSE). Setiap chunk berisi teks parsial. Chunk terakhir menyertakan penggunaan token. Ini memungkinkan pembaruan real-time di UI Anda.
Pemanggilan fungsi bekerja dengan definisi alat standar. Definisikan alat dalam permintaan Anda. Model akan mengeluarkan JSON untuk panggilan alat. Parse respons untuk mengeksekusi fungsi.
Mode JSON memastikan output terstruktur. Gunakan response_format: {"type": "json_object"}. Model akan mengembalikan JSON yang valid. Ini berguna untuk ekstraksi data dan integrasi API.
Parameter seperti suhu dan top_p mengontrol keacakan. Gunakan seed untuk reproduktibilitas. Kehadiran dan frekuensi penalti membantu menghindari pengulangan. Bereksperimen dengan pengaturan ini untuk menemukan keseimbangan terbaik.
Privasi dan penggunaan data
Kami mengumpulkan data minimal. Alamat email diperlukan untuk pembuatan akun. Tidak diperlukan nomor telepon. Anda dapat masuk dengan Google atau menggunakan email dan kata sandi.
Prompt tidak digunakan untuk pelatihan. Data Anda tidak dijual. Ini memastikan kerahasiaan untuk aplikasi sensitif. Anda mempertahankan kepemilikan penuh atas input dan output Anda.
Informasi pembayaran ditangani melalui kripto. Transaksi dicatat di blockchain. Ini menambahkan lapisan privasi ekstra.
Pengembalian dana tidak tersedia untuk kredit. Kesalahan seperti pembebanan ganda diperbaiki melalui dukungan. Kredit tidak pernah kedaluwarsa. Ini memberikan fleksibilitas untuk proyek jangka panjang.
Memulai dengan permintaan pertama Anda
Daftar untuk akun gratis. Anda menerima kredit uji coba sebesar $0.50. Masa uji coba berlangsung selama 7 hari.
Buat kunci API Anda di dasbor. Gunakan kunci ini dalam konfigurasi SDK Anda. Atur URL dasar ke HTTPS://api.routerllm.cc/v1.
Buat permintaan sederhana. Kirim prompt ke endpoint /v1/chat/completions. Model akan mengembalikan respons. Periksa output untuk akurasi dan nada.
Isi ulang dengan kripto untuk batas yang lebih tinggi. Gunakan USDT (TRC20) atau USDC (Base). Masukkan jumlah antara $20 dan $500. Kredit bonus diterapkan secara otomatis. Mulai bangun aplikasi uncensored Anda hari ini.
