已於 更新
便宜的 Chinese LLM API:除了價格還要比什麼
每個 token 的價格僅為你支付價格的一半。請自行測量你的文字 token 數量,然後比較上下文視窗、限制和最低要求。

從您自身文本的成本開始
一個 便宜的中文 LLM API只有在以合理的每次請求價格處理您的文本時才算便宜。費率表顯示每百萬 token 的成本,但 token 不等於字元或單詞。中文句子需要多少 token 取決於 API 後方模型的 tokenizer,即使每 token 費率相同,不同供應商對同一段落的計費總額可能差異很大。
因此第一步是進行測量。發送您的中文提示詞範例,查看回應中的 usage 欄位,並計算每次請求的成本。我們的費率為輸入 token 每 100 萬個 $0.15,輸出 token 每 100 萬個 $0.50,以下程式碼可將範例轉換為平均成本。
from openai import OpenAI
client = OpenAI(base_url="https://api.chinesellmapi.com/v1", api_key="YOUR_KEY")
samples = ["请用三句话介绍一下杭州。", "把下面这段话翻译成英文:今天天气很好。"]
for text in samples:
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": text}],
)
u = r.usage
cost = (u.prompt_tokens * 0.15 + u.completion_tokens * 0.50) / 1_000_000
print(len(text), "chars ->", u.prompt_tokens, "in,", u.completion_tokens, "out, $%.6f" % cost)請運行 30 到 50 個具代表性的提示詞,而非僅兩個。你觀察到的 token 與字元比率,就是比較供應商時應使用的數值。
比較輸入、輸出與最低門檻
其他成本因素與任何英文 API 相同,這些因素在處理中文文本時同樣重要。
- 輸入與輸出價格。 輸出每 token 的成本通常較高。在此 API 中,輸出為 $0.50,輸入為 $0.15,因此生成長回覆的任務(如故事創作)比分類短文本的任務成本更高。
- 最低儲值金額。 我們的儲值金額從 $20 起,最高至 $500,且必須為整數金額。
- 過期時間與訂閱。 此處的預付額度永不過期,且無訂閱費。請在比較每位供應商時都確認這兩項。
- 失敗請求。 在此服務中,失敗或遭拒的請求不會收費。並非每位供應商都如此處理。
對於其他供應商,請查看其當前費率,而非依賴此類部落格文章,包括本文在內。價格可能會變動。
語言品質比微小的價格差距更重要
如果您的用戶閱讀中文,品質問題會表現為混合語言的回答、生硬的措辭、量詞錯誤或語氣失誤。一個每百萬 token 便宜幾分錢,但每次回答需要嘗試兩次的模型,實際成本反而更高。
根據產品需求建立小型評估集:
- 十個日常口語中文提示詞、十個正式書寫提示詞、十個您服務領域的類型提示詞(如客服或網路小說)。
- 請母語讀者根據自然度與準確性,以 1 到 5 分的標準對每個回答進行評分。
- 確認模型在收到中文提問時以中文回答,並按照指示保持簡體或繁體字元。
將腳本與風格放入 system prompt,例如指示模型以自然語氣回答簡體中文。該服務運行單一開放權重模型,因此您無法切換模型來修復品質。您可以調整提示詞,如果結果不夠好,則選擇其他供應商。這是在開始前應知的公平取捨。
另一個值得花十分鐘檢查的項目:問同樣的問題三次並進行比較。採樣會導致回答有所差異,對於產品而言,您需要知道變異範圍有多大。設定 seed 並設定較低的 temperature 會縮小範圍,這有助於調整提示詞時僅觀察您自己的變更。
上下文長度與長篇中文文件
上下文以 token 計算,而非字元。此處的上下文視窗為 100,000 個 token(包含提示詞與完成內容),完成內容可使用剩餘的所有 token。對於合約、小說或聊天記錄等長文件,請在依賴限制之前,透過實際請求檢查您的範例佔用多少 token。同樣的中文頁面,根據 tokenizer 的不同,其 token 數量可能少於或多於其英文版本。
長輸入每次傳送時都會產生費用。一份 60,000 token 的文件,每次讀取的費用為 60,000 x $0.15 / 1M = $0.009。如果你針對它提出十個問題,就要傳送十次,僅輸入部分就需支付 $0.09。對於重複提問,請拆分工作:先摘要一次,然後針對摘要提問。
影響低成本設定的限制
如果速率限制阻礙你的應用程式,低價格也無濟於事。完整金鑰允許 8 個並行請求和每分鐘 300 個請求。試用金鑰允許 2 個並行請求和每分鐘 60 個請求。超過限制時,API 會返回 HTTP 429,錯誤代碼為 rate_limited 或 concurrency。在暫時過載時,它會返回帶有 Retry-After: 5 標頭的 429 狀態碼。
串流輸出的回覆會佔用其並行槽位,直到串流結束為止,這在用戶閱讀緩慢的聊天應用程式中容易被忽略。如果您預期同時有超過 8 人聊天,請在 API 前方規劃佇列。最大請求主體為 8 MB,遠高於文字提示詞所需的大小。
常見的中文語言使用情境及其成本特徵
不同的任務位於價格尺度的不同位置,因此請根據任務進行測試。
- 客服聊天。 短問題、中等長度回答、長 system prompt。輸入佔主導地位,因此請保持 system prompt 精簡。
- 翻譯。 輸入與輸出長度大致相同。我們的 中英翻譯 API 頁面 展示了此模式。
- 故事與角色扮演生成。 短提示詞、長回覆。輸出佔主導地位,因此需關注 $0.50 的費率。
- 分類與標籤。 非常短的輸出。這些是每次請求成本最低的任務,且非常適合 JSON 模式。
對於第一個應用程式,中文語言應用程式快速入門 提供了逐步程式碼。翻譯與標籤請設定較低的 temperature,小說創作則設定較高。大多數客戶端會原樣傳遞這些設定。
此服務是什麼,以及它不是什麼
這是一個託管的 OpenAI 相容文字 API,運行來自獨立供應商的單一開放權重模型。該模型經過調整,可在合法成人用途下無內容審查地回答。這適合成人小說、角色扮演與伴侶應用程式,包括 中文網路小說與角色扮演。涉及未成年人的性內容永遠不被允許。
它不是任何模型廠商的官方 API,也不是路由器。沒有 embeddings 端點,沒有圖像、音訊或影片生成,也沒有微調功能。如果您需要用於中文搜尋的 embeddings,請將此 API 與另一項服務搭配使用。
提示詞不會用於訓練。串流輸出、函式呼叫與 JSON 模式(response_format 搭配 json_object)均可運作。任何 OpenAI SDK 在設定 Base URL 後即可連接:將 Base URL 更改為 https://api.chinesellmapi.com/v1,保留您的金鑰,並將模型設定為 uncensored。
如何免費試用
使用 Google 或電子郵件註冊,開啟 API 金鑰頁面 並一鍵領取 $0.50 試用額度。不需要卡片,每人限領一次,有效期為 7 天。每次請求包含 2,000 個輸入 token 與 500 個輸出 token,成本為 $0.00055,該試用額度可涵蓋約 909 次請求。
此後,儲值金額可為 $20 至 $500 之間的任意整數,支援加密貨幣(TRC20 上的 USDT、Base 上的 USDC)。贈送額度為:$50 起贈送 +5%、$100 起贈送 +10%、$200 起贈送 +15%。定價頁面有完整表格,文件列出所有參數。
更多指南
問答
中文文字使用多少 token?
這取決於模型的 tokenizer。發送範例並查看 usage 欄位,即可取得您的比率。
我可以在付費前測試 中文品質嗎?
可以。在 API 金鑰頁面一鍵領取 $0.50 試用額度,無需信用卡,有效期為 7 天。
這是 中國模型廠商的官方 API 嗎?
不是。它運行來自獨立供應商的開放權重模型,並非廠商的官方 API。
提供用於中文搜尋的嵌入(embeddings)嗎?
不是。它僅提供文字聊天 API,請使用其他服務來取得嵌入。
只需一張表單即可取得金鑰
建立帳號、複製金鑰、更改基礎 URL。這就是整個設定過程。