ID ▾

Chinese LLM APITerjemahan

Dapatkan kunci API

Diperbarui

URL API Kompatibel OpenAI: Base URL dan Header

Base URL adalah https://api.chinesellmapi.com/v1. Masukkan di tempat klien OpenAI Anda mengharapkan base URL, tambahkan kunci Anda sebagai token Bearer, dan gunakan ID model uncensored.

Kabel yang menghubungkan terminal laptop ke kubus server bercahaya, mewakili menghubungkan klien ke endpoint API

Jawaban singkat

Jika Anda mencari url api openai yang kompatibel untuk layanan ini, salin nilai ini:

https://api.chinesellmapi.com/v1

Itu adalah base URL. Setiap SDK OpenAI, klien desktop, dan kerangka kerja agen yang memiliki bidang bernama "base URL", "API base", "endpoint" atau "host" menerima string ini. Kunci masuk ke bidang "API key" yang sesuai, dan nama model adalah uncensored.

Dua endpoint ada di baliknya: POST /v1/chat/completions untuk obrolan dan GET /v1/models untuk mencantumkan model. Tidak ada lagi dari permukaan OpenAI yang ditawarkan, jadi tidak ada rute embeddings, tidak ada rute gambar, dan tidak ada rute fine-tuning. Jika Anda membutuhkan kunci terlebih dahulu, halaman kunci API memandu Anda melalui pendaftaran.

Base URL versus URL endpoint lengkap

Kebanyakan kesalahan terjadi di sini. Klien terbagi menjadi dua kelompok: mereka yang menginginkan base URL dan menambahkan jalur sendiri, dan mereka yang menginginkan URL lengkap dari panggilan. Tabel menunjukkan kedua bentuk tersebut.

Apa yang diminta oleh bidang tersebutNilai yang harus dimasukkan
Base URL, API base, Host OpenAIhttps://api.chinesellmapi.com/v1
URL chat completions lengkaphttps://api.chinesellmapi.com/v1/chat/completions
URL daftar modelhttps://api.chinesellmapi.com/v1/models

SDK OpenAI resmi, pembungkus OpenAI LangChain, LiteLLM, dan sebagian besar antarmuka obrolan termasuk dalam kelompok pertama. Alat yang memungkinkan Anda menempelkan URL permintaan mentah termasuk dalam kelompok kedua. Ketika label bidang tidak menunjukkan mana yang dimaksud, baca teks placeholder: jika menampilkan sesuatu yang berakhir dengan /v1, itu menginginkan base URL.

Garis miring akhir

Sebagian besar SDK menangani garis miring akhir, tetapi beberapa membangun jalur akhir dengan penggabungan string biasa. Jika Anda mendapatkan 404 dan URL berakhir dengan /v1/, hapus garis miring terakhir dan coba lagi.

Header yang diharapkan API

Permintaan memerlukan satu header untuk autentikasi dan satu untuk tipe body:

  • Authorization: Bearer YOUR_KEY
  • Content-Type: application/json

SDK mengatur keduanya untuk Anda. Jika Anda membangun permintaan secara manual, berikut adalah panggilan kerja terkecil:

curl https://api.chinesellmapi.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Say hello in one sentence."}]
  }'

Respons membawa beberapa header yang layak dicatat: X-Request-Id untuk pertanyaan dukungan, X-Balance-USD untuk kredit yang tersisa, dan X-RateLimit-Limit-Requests serta X-RateLimit-Limit-Concurrency untuk batas yang berlaku untuk kunci Anda.

Mengatur di SDK OpenAI

Hanya dua nilai yang berubah dibandingkan dengan pengaturan OpenAI standar: base URL dan kunci. Sisanya dalam kode Anda tetap sama.

Python

from openai import OpenAI

client = OpenAI(
    base_url="https://api.chinesellmapi.com/v1",
    api_key="YOUR_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Translate 'good morning' into Chinese."}],
)
print(resp.choices[0].message.content)

Node

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.chinesellmapi.com/v1",
  apiKey: process.env.API_KEY,
});

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Translate 'good morning' into Chinese." }],
});
console.log(resp.choices[0].message.content);

Streaming bekerja dengan cara yang sama: tambahkan stream: true dan baca potongan-potongannya. Angka penggunaan tiba di akhir aliran. Perlu diingat bahwa permintaan streaming memegang salah satu slot konkurensi Anda hingga aliran ditutup.

Variabel lingkungan daripada kode

SDK OpenAI saat ini untuk Python dan Node membaca OPENAI_BASE_URL dan OPENAI_API_KEY dari lingkungan ketika Anda tidak meneruskannya dalam kode. Itu adalah cara tercepat untuk menunjuk proyek yang ada ke endpoint baru tanpa menyentuh satu baris:

export OPENAI_BASE_URL="https://api.chinesellmapi.com/v1"
export OPENAI_API_KEY="YOUR_KEY"
python app.py

Banyak alat pihak ketiga menggunakan dua nama variabel yang sama, meskipun beberapa menggunakan nama mereka sendiri, seperti API_BASE atau OPENAI_API_BASE dalam proyek lama. Periksa dokumentasi alat untuk nama pastinya. Jika proyek meng-hardcode api.openai.com di suatu tempat, cari host tersebut di sumber dan ganti.

Nama model biasanya berada dalam pengaturan terpisah, jadi ingatlah untuk mengubahnya menjadi uncensored juga. Meninggalkan nama model OpenAI default di tempat adalah alasan kesalahan paling umum kedua setelah URL yang salah.

Periksa koneksi sebelum men-debug aplikasi Anda

Uji URL dan kunci dengan panggilan yang tidak memakan biaya. Mencantumkan model tidak memerlukan token:

curl https://api.chinesellmapi.com/v1/models \
  -H "Authorization: Bearer YOUR_KEY"

Jika ini mengembalikan daftar JSON yang mencakup uncensored, URL dan kunci baik-baik saja dan masalah yang tersisa ada di pengaturan klien Anda. Jika gagal, gunakan tabel ini.

GejalaPenyebab yang mungkinPerbaikan
404 Tidak DitemukanJalur digandakan (/v1/v1/...) atau /v1 hilangMasukkan base URL tepat sekali, diakhiri dengan /v1
401 Tidak DiotorisasiKunci hilang, disalin dengan spasi, atau dikirim di header yang salahKirim Authorization: Bearer YOUR_KEY dan salin ulang kunci
429 dengan kode rate_limitedTerlalu banyak permintaan per menitPerlambat atau antrikan permintaan
429 dengan kode concurrencyTerlalu banyak permintaan pada saat yang samaBatasi panggilan paralel, ingat stream memegang slot
429 dengan Retry-After: 5Beban berlebih sementaraTunggu lima detik dan coba lagi
Model tidak ditemukanNama model OpenAI yang tersisaAtur model ke uncensored

Batas yang harus Anda ketahui sebelum mengarahkan produksi ke sana

Kunci penuh memungkinkan 8 permintaan paralel dan 300 permintaan per menit. Kunci uji coba memungkinkan 2 permintaan paralel dan 60 per menit. Body permintaan bisa hingga 8 MB, dan jendela konteks adalah 100.000 token, prompt dan penyelesaian bersama-sama, jadi max_tokens adalah opsional.

Layanan ini hanya teks dan menjalankan satu model bobot terbuka dari penyedia independen. Ini bukan API resmi dari vendor model mana pun dan tidak merutekan di antara vendor. Jika aplikasi Anda adalah produk bahasa Mandarin, panduan cepat aplikasi bahasa Mandarin menunjukkan cara menyusun prompt, dan panduan API terjemahan mencakup glosarium dan placeholder.

Penagihan adalah bayar sesuai penggunaan dari saldo prabayar: $0.15 per 1M token input dan $0.50 per 1M token output. Permintaan yang gagal atau ditolak tidak dikenakan biaya. Halaman harga mencantumkan ukuran isi ulang dan bonus, dan pengguna baru dapat mengklaim $0.50 kredit uji coba dengan satu klik di halaman kunci, berlaku selama 7 hari dan tanpa kartu. Untuk panduan pengaturan klien yang lebih panjang, lihat dokumentasi quickstart.

Konten yang menyeksualisasi anak di bawah umur tidak pernah diizinkan; selain itu, model disesuaikan untuk menjawab tanpa penolakan konten untuk penggunaan dewasa yang sah.

Tempat lain untuk memasukkan URL

Nama bidang berbeda-beda di berbagai framework, tetapi nilainya sama. Tiga contoh umum:

# LangChain
from langchain_openai import ChatOpenAI
llm = ChatOpenAI(
    base_url="https://api.chinesellmapi.com/v1",
    api_key="YOUR_KEY",
    model="uncensored",
)

# LiteLLM
import litellm
r = litellm.completion(
    model="openai/uncensored",
    api_base="https://api.chinesellmapi.com/v1",
    api_key="YOUR_KEY",
    messages=[{"role": "user", "content": "ping"}],
)

Di LiteLLM, awalan openai/ memberi tahu pustaka untuk menggunakan format wire OpenAI terhadap base URL Anda sendiri, dan bagian setelah garis miring adalah ID model. Antarmuka chat seperti SillyTavern memiliki sumber "kompatibel OpenAI kustom" dengan tiga kotak: URL, kunci, dan model. Tiga nilai yang sama lagi.

Jauhkan kunci dari browser

Jangan panggil API dari JavaScript front-end yang dikirimkan ke pengunjung. Siapa pun dapat membaca kunci dari halaman dan menghabiskan saldo Anda. Buat rute server kecil di antaranya, simpan kunci dalam variabel lingkungan di sana, dan biarkan situs Anda memanggil rute tersebut.

Beralih antar endpoint tanpa perubahan kode

Jika Anda menguji beberapa penyedia, masukkan tiga nilai ke dalam konfigurasi, bukan ke dalam sumber. Blok pengaturan kecil saja sudah cukup dan membuat URL menjadi satu-satunya hal yang Anda edit:

import os
from openai import OpenAI

client = OpenAI(
    base_url=os.getenv("LLM_BASE_URL", "https://api.chinesellmapi.com/v1"),
    api_key=os.environ["LLM_API_KEY"],
)
MODEL = os.getenv("LLM_MODEL", "uncensored")

Hal ini juga memudahkan pemisahan staging dan produksi: gunakan kunci berbeda untuk setiap lingkungan, dan header respons X-Balance-USD akan menampilkan sisa saldo masing-masing.

Tanya jawab

Apakah saya menyertakan /chat/completions di base URL?

Tidak. Masukkan https://api.chinesellmapi.com/v1 dan biarkan SDK menambahkan /chat/completions. Hanya alat yang meminta URL permintaan lengkap yang memerlukan bentuk yang lebih panjang.

Apakah saya dapat menggunakan URL yang sama untuk beberapa aplikasi?

Ya. URL dan kunci dapat dimasukkan ke dalam sejumlah klien. Mereka berbagi batas kunci Anda: 8 permintaan paralel dan 300 permintaan per menit pada kunci penuh.

Nama model apa yang saya masukkan?

Gunakan uncensored. Anda dapat mengonfirmasinya dengan memanggil GET /v1/models dengan kunci Anda.

Apakah ini API resmi dari vendor bergaya OpenAI?

Tidak. Ini adalah API yang di-hosting untuk satu model bobot terbuka yang dijalankan oleh penyedia independen, dibuat agar kompatibel dengan format permintaan OpenAI.

Bagaimana saya menguji kunci tanpa menghabiskan saldo?

Panggil GET /v1/models dengan header Authorization. Ini mengembalikan daftar model dan tidak menggunakan token.

Kunci Anda hanya selangkah lagi dari satu formulir

Buat akun, salin kunci, ubah base URL. Itu saja seluruh proses pengaturannya.

Dapatkan kunci API