ID ▾

Chinese LLM APITerjemahan

Dapatkan kunci API

Diperbarui

Alternatif OpenRouter untuk Aplikasi Bahasa Mandarin

Router memberi Anda banyak model; satu model ter-host memberi Anda satu endpoint yang stabil. Berikut cara memutuskan untuk aplikasi bahasa Mandarin.

Hub multi-kabel di samping kubus tunggal yang bersinar, mengontraskan router dengan satu model

Jawaban singkat

Jika Anda mencari alternatif OpenRouter untuk aplikasi Mandarin yang dapat digunakan, jawaban jujur tergantung pada apa yang Anda sukai dari OpenRouter. Jika itu adalah pilihan banyak model di balik satu kunci, layanan ini bukan pengganti, karena menyajikan satu model. Jika itu adalah endpoint kompatibel OpenAI dengan harga yang dapat diprediksi untuk produk berbahasa Mandarin, satu model ter-host mungkin lebih mudah dijalankan.

Di bawah ini adalah perbandingan sederhana, daftar keputusan dan perubahan kode yang diperlukan untuk mencoba keduanya. Anda dapat menguji API ini dengan kredit uji coba dan menyimpan akun OpenRouter Anda secara paralel, karena beralih hanya memerlukan satu base URL.

Apa masing-masing opsi

Router seperti OpenRouterLayanan ini
Ide intiSatu kunci API yang menjangkau banyak model dari banyak vendorSatu model bobot terbuka ter-host di balik API kompatibel OpenAI
Pilihan modelAnda memilih per permintaanTetap: ID model uncensored
HargaBervariasi menurut model; periksa harga saat ini mereka$0,15 per 1M input, $0,50 per 1M output
Perilaku kontenDitetapkan oleh setiap model dan hostnyaDisesuaikan untuk menjawab tanpa penolakan konten untuk penggunaan dewasa yang sah
Fitur tambahanBanyak fitur model, tergantung pada modelObrolan, respons, streaming, alat, mode JSON; tanpa gambar, audio atau embedding

Semua tentang kolom router bersifat umum dan mungkin telah berubah, jadi baca dokumentasi saat ini. Kolom kanan adalah apa yang ditawarkan layanan ini hari ini.

Kapan router lebih cocok

Jujurlah pada diri sendiri tentang kasus-kasus ini, dan gunakan router jika salah satu dari ini menggambarkan Anda:

  • Anda ingin membandingkan model dari beberapa vendor pada prompt bahasa Mandarin dan memilih yang terbaik untuk setiap tugas.
  • Anda memerlukan model spesifik berdasarkan nama, misalnya rilis dari laboratorium Mandarin tertentu, dalam aplikasi yang sama.
  • Anda ingin pengalihan otomatis ketika satu model sedang tidak tersedia.
  • Anda memerlukan embedding, penglihatan, atau endpoint lainnya melalui kunci yang sama.

Layanan satu model tidak dapat melakukan itu semua. Ini bukan router lintas vendor, dan ini bukan API resmi dari vendor model mana pun. Jika pemilihan model adalah persyaratan utama Anda, router menang.

Ketika satu model ter-host adalah pilihan yang lebih tepat

Satu model memiliki keunggulan nyata untuk produk dengan bentuk yang jelas.

  • Perilaku yang dapat diprediksi. Model tidak berubah di bawah Anda, sehingga prompt, pengaturan nada dan pengujian Anda tetap valid. Dengan banyak model, perilaku berbeda per pilihan, dan Anda memerlukan suite pengujian per model.
  • Biaya yang dapat diprediksi. Ada satu pasang harga. Anggaran bulanan adalah perkalian, bukan pencarian di katalog.
  • Tidak ada penolakan untuk penggunaan dewasa yang sah. Untuk fiksi web Cina, roleplay, dan aplikasi pendamping untuk dewasa, penolakan merusak pengalaman. Model ini disesuaikan untuk menghindarinya. Lihat fiksi web Cina dan roleplay. Konten seksual yang melibatkan anak di bawah umur tidak pernah diizinkan.
  • Usaha penyiapan rendah. Satu ID model, tidak perlu memilih.

Trade-offnya adalah risiko kualitas, dan ini yang utama untuk dipertimbangkan. Jika model ini lebih lemah daripada model lain dalam tugas bahasa Tionghoa Anda, Anda tidak dapat beralih di dalam layanan. Uji terlebih dahulu sebelum berkomitmen. Cara yang tepat untuk melakukannya adalah dengan memberikan tiga prompt tersulit Anda terlebih dahulu, seperti dialog panjang dengan suara karakter yang konsisten, penulisan ulang yang sulit dengan banyak idiom, dan permintaan yang membutuhkan JSON ketat, lalu lihat di mana model ini gagal.

Pengujian pengalihan: kode yang sama, dua endpoint

Karena keduanya mendukung protokol OpenAI, uji yang adil membutuhkan biaya sangat sedikit. Dengan tarif di atas, satu permintaan dengan 2.500 token input dan 500 token output biayanya $0,000375 + $0,00025 = $0,000625, sehingga 30 prompt biayanya sekitar $0,019, sepotong kecil dari uji coba $0,50. Anda dapat menjalankan satu skrip terhadap keduanya dan membandingkan jawaban serta biaya secara berdampingan.

import os
from openai import OpenAI

ours = OpenAI(base_url="https://api.chinesellmapi.com/v1", api_key=os.environ["OUR_KEY"])
router = OpenAI(base_url=os.environ["ROUTER_URL"], api_key=os.environ["ROUTER_KEY"])

prompt = "用轻松的语气,写一段三句话的咖啡店开业公告。"

a = ours.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": prompt}],
)
b = router.chat.completions.create(
    model=os.environ["ROUTER_MODEL"],
    messages=[{"role": "user", "content": prompt}],
)
print("OURS  :", a.choices[0].message.content, a.usage.total_tokens)
print("ROUTER:", b.choices[0].message.content, b.usage.total_tokens)

Kemudian ulangi 30 prompt dari produk Anda, acak outputnya, dan minta pembaca asli menilai tanpa label. Kalikan jumlah token setiap sisi dengan harganya masing-masing untuk mendapatkan biaya per jawaban yang baik. URL untuk router dan nama model berasal dari dokumentasinya, itulah sebabnya skrip membacanya dari lingkungan.

Biaya: contoh perhitungan

Misalkan fitur obrolan bahasa Mandarin mengirim 2.500 token input dan mendapatkan 500 token output, 20.000 kali sebulan.

  • Input: 20.000 x 2.500 = 50 juta token, jadi 50 x $0,15 = $7,50.
  • Output: 20.000 x 500 = 10M token, jadi 10 x $0,50 = $5,00.
  • Total: $12,50 per bulan di layanan ini.

Untuk membandingkan, ambil harga router saat ini untuk model yang akan Anda pilih, terapkan dua baris yang sama, dan periksa apakah mereka mengenakan biaya tambahan di atas harga model. Jumlah token untuk teks Mandarin berbeda oleh tokenizer, jadi ukur di kedua sisi dengan bidang usage daripada menggunakan milik saya.

Bagian router dari penjumlahan adalah tanggung jawab Anda untuk diisi, dan satu baris lagi penting di sana: model berbeda secara luas dalam harga, sehingga model termurah di router mungkin menjadi model yang berbeda dengan tingkat kualitas yang berbeda. Bandingkan biaya per jawaban yang dapat diterima, bukan harga tertera. Model yang lebih murah yang harus Anda coba ulang pada 30% prompt bukanlah penghematan.

Tidak ada langganan di sini. Anda membayar dari saldo prabayar, tidak pernah kedaluwarsa, dan permintaan yang gagal atau ditolak tidak dikenakan biaya. Top-up minimum adalah $20, dengan +5% kredit dari $50, +10% dari $100 dan +15% dari $200.

Tujuh pertanyaan untuk ditanyakan kepada penyedia mana pun

Apakah Anda memilih router, layanan ini, atau sesuatu yang lain, daftar periksa yang sama melindungi Anda dari kejutan dalam produk berbahasa Mandarin.

  1. Model tepat apa yang menjawab permintaan saya, dan apakah itu dapat berubah tanpa pemberitahuan?
  2. Bagaimana token bahasa Mandarin dihitung dan ditagih, dan berapa yang saya bayar untuk permintaan khas?
  3. Apa yang terjadi ketika konten saya berada di batas: penolakan, penulisan ulang atau filter diam? Apakah permintaan yang ditolak ditagih?
  4. Berapa batas konkurensi dan per menit untuk kunci baru?
  5. Apakah data prompt saya digunakan untuk pelatihan atau dibagikan dengan pihak lain? Di sini, prompt tidak digunakan untuk pelatihan.
  6. Bagaimana saya melihat saldo saya dari kode? Di sini, header X-Balance-USD dan GET /v1/balance memberikannya.
  7. Apa jalur keluarnya? Dengan API kompatibel OpenAI, itu adalah perubahan base URL.

Tulis jawabannya dalam tabel untuk setiap kandidat. Celah dalam tabel, seperti "tidak diketahui" atau "tidak didokumentasikan", adalah informasi juga.

Batas dan fitur yang harus Anda ketahui

Kunci penuh memungkinkan 8 permintaan konkuren dan 300 per menit, kunci uji coba 2 dan 60. Jendela konteks adalah 100.000 token, prompt plus penyelesaian. Streaming, pemanggilan alat dan mode JSON berfungsi, dan prompt tidak digunakan untuk pelatihan. Layanan ini hanya teks: tanpa embedding, gambar, audio, video atau fine-tuning.

Jika aplikasi Anda memerlukan kedua chat dan embedding, gunakan API ini untuk chat dan penyedia lain untuk embedding. Pemisahan ini umum, dan tidak ada yang perlu router. Simpan dua base URL dalam konfigurasi, satu per tugas, agar Anda dapat mengubah salah satu nanti tanpa mengubah logika bisnis.

Cara mencobanya

Daftar dengan Google atau email, buka halaman kunci API dan klaim kredit uji coba $0,50 dengan satu klik. Ini tidak memerlukan kartu dan berlaku selama 7 hari. Kemudian ikuti panduan cepat aplikasi bahasa Mandarin untuk kode yang berfungsi, atau baca dokumentasi. Tarif dan bonus ada di halaman harga. Kunci uji coba berjalan dengan batas uji coba yang lebih rendah, yang cukup untuk menjalankan perbandingan dengan beberapa lusin prompt. Top-up dapat dibayar dengan kripto (USDT pada TRC20, USDC pada Base).

Tanya jawab

Apakah ini pengganti langsung untuk OpenRouter?

Hanya untuk chat. Ini melayani satu model, sehingga Anda kehilangan pilihan model, cadangan, dan endpoint non-chat.

Dapatkah saya menggunakan kode yang sama untuk keduanya?

Ya. Keduanya menggunakan protokol OpenAI, sehingga Anda mengubah URL dasar, kunci, dan nama model.

Apakah modelnya bagus dalam bahasa Mandarin?

Uji dengan prompt Anda sendiri. Gunakan kredit uji coba gratis dan minta pembaca asli menilai jawabannya.

Apakah saya perlu kartu untuk mencobanya?

Tidak. Kredit uji coba senilai $0,50 hanya memerlukan pendaftaran dan satu klik.

Kunci Anda hanya selangkah lagi dari satu formulir

Buat akun, salin kunci, ubah URL dasar. Itu saja seluruh proses pengaturannya.

Dapatkan kunci API