Diperbarui
Biaya rendah Chinese LLM API: Apa yang perlu dibandingkan selain harga
Harga per token hanyalah setengah dari total yang Anda bayar. Ukur token pada teks Anda sendiri, lalu bandingkan konteks, batas, dan minimum.

Mulailah dengan biaya teks Anda sendiri
API LLM Tiongkok yang murah hanya murah jika menangani teks Anda dengan harga yang wajar per permintaan. Daftar harga menunjukkan biaya per juta token, tetapi token bukan karakter atau kata. Berapa banyak token yang dibutuhkan kalimat Tiongkok bergantung pada tokenizer model di balik API, dan dua penyedia dapat membebankan total yang sangat berbeda untuk paragraf yang sama meskipun tarif per token identik.
Langkah pertama adalah mengukur. Kirim sampel prompt Tiongkok Anda sendiri, baca bidang usage dalam respons, dan hitung biaya per permintaan. Tarif kami adalah $0,15 per 1M token input dan $0,50 per 1M token output, dan kode di bawah ini mengubah sampel menjadi biaya rata-rata.
from openai import OpenAI
client = OpenAI(base_url="https://api.chinesellmapi.com/v1", api_key="YOUR_KEY")
samples = ["请用三句话介绍一下杭州。", "把下面这段话翻译成英文:今天天气很好。"]
for text in samples:
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": text}],
)
u = r.usage
cost = (u.prompt_tokens * 0.15 + u.completion_tokens * 0.50) / 1_000_000
print(len(text), "chars ->", u.prompt_tokens, "in,", u.completion_tokens, "out, $%.6f" % cost)Jalankan 30 hingga 50 prompt representatif daripada hanya dua. Rasio token terhadap karakter yang Anda lihat adalah angka yang harus Anda gunakan saat membandingkan penyedia.
Bandingkan input, output, dan minimum
Faktor biaya lainnya sama dengan API berbahasa Inggris, dan hal itu sama pentingnya dengan teks Mandarin.
- Harga input dan output. Output biasanya lebih mahal per token. Di sini harganya $0,50 dibandingkan $0,15 untuk input, sehingga tugas yang menghasilkan balasan panjang, seperti penulisan cerita, lebih mahal daripada tugas yang mengklasifikasikan teks pendek.
- Isi saldo minimum. Kami mulai dari $20 dan naik hingga $500 dalam jumlah bulat.
- Kadaluarsa dan langganan. Saldo di sini tidak pernah kadaluarsa dan tidak ada langganan. Periksa keduanya pada setiap penyedia yang Anda bandingkan.
- Permintaan gagal. Permintaan yang gagal atau ditolak tidak dikenakan biaya di sini. Tidak semua penyedia melakukan ini.
Untuk penyedia lain, periksa harga saat ini mereka daripada mengandalkan pos blog, termasuk ini. Harga berubah.
Kualitas bahasa lebih penting daripada selisih harga kecil
Jika pengguna Anda membaca bahasa Mandarin, masalah kualitas muncul sebagai jawaban campuran bahasa, frasa kaku, kata ukuran yang salah, dan kesalahan nada. Model yang beberapa sen lebih murah per juta token tetapi membutuhkan dua upaya per jawaban lebih mahal dalam praktiknya.
Buat set evaluasi kecil dengan gaya yang dibutuhkan produk Anda:
- Sepuluh prompt dalam bahasa Mandarin sehari-hari, sepuluh dalam tulisan formal, sepuluh dalam genre yang Anda layani, seperti dukungan pelanggan atau fiksi web.
- Minta pembaca asli menilai setiap jawaban untuk kealamian dan akurasi pada skala 1 hingga 5.
- Periksa apakah model menjawab dalam bahasa Mandarin ketika ditanya dalam bahasa Mandarin, dan tetap menggunakan karakter Sederhana atau Tradisional sesuai instruksi.
Masukkan skrip dan gaya ke dalam prompt sistem, misalnya catatan yang memberi tahu model untuk menjawab dalam bahasa Mandarin Sederhana, dengan nada alami. Layanan menjalankan satu model bobot terbuka, sehingga Anda tidak dapat mengganti model untuk memperbaiki kualitas. Anda menyesuaikan prompt, dan jika hasilnya tidak cukup baik, Anda memilih penyedia lain. Itu adalah pertukaran yang wajar untuk diketahui sebelum Anda memulai.
Satu pemeriksaan lagi sepadan dengan sepuluh menit: tanyakan pertanyaan yang sama tiga kali dan bandingkan. Pengambilan sampel membuat jawaban bervariasi, dan untuk produk Anda ingin mengetahui seberapa lebar sebarannya. Mengatur seed dan temperature rendah mempersempitnya, yang membantu saat Anda menyesuaikan prompt dan ingin melihat hanya perubahan Anda sendiri.
Panjang konteks dan dokumen Mandarin panjang
Konteks dihitung dalam token, bukan karakter. Jendela di sini adalah 100.000 token, prompt ditambah penyelesaian, dan penyelesaian dapat menggunakan apa pun yang tersisa. Untuk dokumen panjang seperti kontrak, novel, atau log obrolan, periksa berapa banyak token yang diambil sampel Anda dengan panggilan nyata sebelum Anda mengandalkan batas. Halaman teks Mandarin yang sama dapat menggunakan lebih sedikit atau lebih banyak token daripada versi Inggrisnya, tergantung pada tokenizer.
Input panjang juga memakan biaya setiap kali Anda mengirimkannya. Dokumen 60.000 token biaya 60.000 x $0,15 / 1 juta = $0,009 per baca. Jika Anda mengajukan sepuluh pertanyaan tentangnya, kirimkan sepuluh kali, dan Anda membayar $0,09 hanya untuk input. Untuk pertanyaan berulang, bagi pekerjaan: ringkaskan sekali dan ajukan pertanyaan terhadap ringkasan.
Batas yang memengaruhi pengaturan murah
Harga rendah tidak membantu jika batas laju menghambat aplikasi Anda. Kunci penuh memungkinkan 8 permintaan bersamaan dan 300 permintaan per menit. Kunci uji coba memungkinkan 2 dan 60. Melebihi batas, API mengembalikan HTTP 429 dengan kode kesalahan rate_limited atau concurrency. Saat kelebihan beban sementara, ia mengembalikan 429 dengan header Retry-After: 5.
Balasan streaming memegang slot konkurensinya hingga stream berakhir, yang mudah dilupakan dalam aplikasi obrolan di mana pengguna membaca dengan lambat. Rencanakan antrian di depan API jika Anda mengharapkan lebih dari 8 orang mengobrol pada saat yang sama. Isi permintaan maksimum adalah 8 MB, yang jauh di atas yang dibutuhkan prompt teks.
Kasus penggunaan bahasa Mandarin umum dan profil biaya mereka
Tugas yang berbeda berada di titik yang berbeda pada skala harga, jadi sesuaikan pengujian dengan tugasnya.
- Obrolan dukungan pelanggan. Pertanyaan pendek, jawaban sedang, prompt sistem panjang. Input mendominasi, jadi pertahankan prompt sistem tetap ringkas.
- Terjemahan. Input dan output memiliki panjang yang kira-kira sama. Halaman API terjemahan Mandarin-Inggris kami menunjukkan polanya.
- Pembuatan cerita dan roleplay. Prompt pendek, balasan panjang. Output mendominasi, sehingga tarif $0,50 adalah yang perlu diperhatikan.
- Klasifikasi dan penandaan. Output yang sangat pendek. Ini adalah tugas-tugas termurah per permintaan, dan sangat cocok untuk mode JSON.
Untuk aplikasi kerja pertama, panduan cepat aplikasi bahasa Mandarin memiliki kode langkah demi langkah. Atur temperature lebih rendah untuk terjemahan dan penandaan, dan lebih tinggi untuk fiksi. Sebagian besar klien meneruskan pengaturan itu tanpa perubahan.
Apa layanan ini, dan apa yang bukan
Ini adalah API teks yang dihosting, kompatibel dengan OpenAI, menjalankan satu model bobot terbuka dari penyedia independen. Model ini disesuaikan untuk menjawab tanpa penolakan konten untuk penggunaan dewasa yang sah. Itu cocok untuk fiksi, roleplay, dan aplikasi pendamping untuk dewasa, termasuk fiksi web dan roleplay Mandarin. Konten seksual yang melibatkan anak di bawah umur tidak pernah diizinkan.
Ini bukan API resmi dari vendor model mana pun, dan ini bukan router. Tidak ada endpoint embedding, tidak ada generasi gambar, audio, atau video, dan tidak ada fine-tuning. Jika Anda membutuhkan embedding untuk pencarian Mandarin, pasangkan API ini dengan layanan lain untuk bagian itu.
Prompt tidak digunakan untuk pelatihan. Streaming, pemanggilan alat, dan mode JSON (response_format dengan json_object) semuanya berfungsi. SDK OpenAI apa pun terhubung ketika Anda mengatur URL dasar: ubah URL dasar menjadi https://api.chinesellmapi.com/v1, pertahankan kunci Anda, dan atur model menjadi uncensored.
Cara mencobanya tanpa biaya
Daftar dengan Google atau email, buka halaman kunci API dan klaim kredit uji coba senilai $0,50 dengan satu klik. Tidak perlu kartu, ini satu klaim per orang, dan berlaku selama 7 hari. Pada 2.000 token input dan 500 token output per permintaan, yang bernilai $0,00055, uji coba mencakup sekitar 909 permintaan.
Setelah itu, top-up adalah jumlah bulat apa pun dari $20 hingga $500, dengan kripto (USDT pada TRC20, USDC pada Base). Bonus adalah +5% dari $50, +10% dari $100, dan +15% dari $200. Halaman harga memiliki tabel lengkap, dan dokumentasi mencantumkan setiap parameter.
Panduan lainnya
Tanya jawab
Berapa banyak token yang digunakan teks Mandarin?
Hal ini bergantung pada tokenizer model. Kirim sampel dan baca bidang usage untuk mendapatkan rasio Anda sendiri.
Apakah saya bisa menguji kualitas Mandarin sebelum membayar?
Ya. Klaim kredit uji coba senilai $0,50 dengan satu klik di halaman kunci API, tanpa kartu, berlaku selama 7 hari.
Apakah ini API resmi dari vendor model Tiongkok?
Tidak. Layanan ini menjalankan satu model bobot terbuka dari penyedia independen dan bukan API resmi dari vendor.
Apakah ia menawarkan embedding untuk pencarian bahasa Mandarin?
Tidak. Ini hanya API obrolan teks, jadi gunakan layanan lain untuk embedding.
Kunci Anda hanya selangkah lagi dari satu formulir
Buat akun, salin kunci, ubah URL dasar. Itu saja seluruh proses pengaturannya.