の更新
安価なChinese LLM API:価格以外の比較ポイント
トークンあたりの価格はあなたが支払う金額の半分です。独自のテキストでトークンを計測し、その後、コンテキスト、制限、最小額を比較してください。

自分のテキストのコストから始める
安価な中国語LLM APIは、リクエストあたりの公平な価格でテキストを処理する場合にのみ安価です。価格表は100万トークンあたりのコストを示しますが、トークンは文字や単語ではありません。中国語の文に何個のトークンが必要かは、API背後のモデルのトークナイザーに依存し、同じトークンあたりのレートでも、2つのプロバイダーは同じ段落に対して非常に異なる合計を請求することがあります。
したがって、最初のステップは計測です。自分の中国語プロンプトのサンプルを送信し、レスポンスのusageフィールドを読み、リクエストあたりのコストを計算します。当社のレートは入力トークン100万トークンあたり$0.15、出力トークン100万トークンあたり$0.50で、以下のコードはサンプルを平均コストに変換します。
from openai import OpenAI
client = OpenAI(base_url="https://api.chinesellmapi.com/v1", api_key="YOUR_KEY")
samples = ["请用三句话介绍一下杭州。", "把下面这段话翻译成英文:今天天气很好。"]
for text in samples:
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": text}],
)
u = r.usage
cost = (u.prompt_tokens * 0.15 + u.completion_tokens * 0.50) / 1_000_000
print(len(text), "chars ->", u.prompt_tokens, "in,", u.completion_tokens, "out, $%.6f" % cost)2件ではなく、30〜50件の代表的なプロンプトを実行してください。文字に対するトークンの比率は、プロバイダーを比較する際に使用する数値です。
入力、出力、最小額を比較する
その他のコスト要因は英語のAPIと同じであり、中国語テキストでも同様に重要です。
- 入力と出力の価格。出力は通常、トークンあたりの方が高コストです。ここでは入力が$0.15に対して出力は$0.50なので、物語作成のように長い応答を生成するタスクは、短いテキストを分類するタスクよりも高コストになります。
- 最小チャージ額。当社のチャージは$20から始まり、$500まで整数単位で増加します。
- 有効期限とサブスクリプション。 クレジットは期限切れにならず、サブスクリプションもありません。比較するすべてのプロバイダーでこれらを確認してください。
- 失敗したリクエスト。 失敗または拒否されたリクエストはここでは請求されません。すべてのプロバイダーがこれを行っているわけではありません。
他のプロバイダーについては、このブログ記事を含め、現在の価格表を確認してください。価格は変更されます。
言語品質はわずかな価格差よりも重要です
ユーザーが中国語を読む場合、品質の問題は言語が混在した回答、硬直した表現、誤った量詞、口調の乱れとして現れます。100万トークンあたり数セント安だが、回答ごとに2回の試行が必要なモデルは、実際には高コストになります。
製品に必要なスタイルで小さな評価セットを構築します:
- 日常会話の中国語プロンプト10件、フォーマルな書き込み10件、カスタマーサポートやウェブ小説などあなたが提供するジャンルのプロンプト10件。
- ネイティブの読者に、1から5のスケールで各回答の自然さと正確性を評価させます。
- 中国語で質問された場合にモデルが中国語で回答し、指示どおり簡体字または繁体字のみに留まることを確認してください。
スクリプトとスタイルをシステムプロンプトに含めます。例えば、モデルに簡体中国語で自然なトーンで回答するよう指示する注記など。このサービスは1つのオープンウェイトモデルを動作させているため、品質を修復するためにモデルを切り替えることはできません。プロンプトを調整し、結果が十分でなければ別のプロバイダーを選択します。これは開始前に知っておくべき公平なトレードオフです。
もう1つのチェックは10分の価値があります:同じ質問を3回行って比較してください。サンプリングにより回答はばらつきますが、製品ではばらつきの幅を知りたいものです。seedと低いtemperatureを設定するとばらつきが狭まり、プロンプトを調整して変更点のみを確認する際に役立ちます。
コンテキストの長さと長い中国語ドキュメント
コンテキストは文字ではなくトークンでカウントされます。ここでのウィンドウは100,000トークンで、プロンプトと生成結果を含み、生成結果は残りのすべてを使用できます。契約書、小説、チャットログなどの長いドキュメントの場合、制限を信じる前に、実際の呼び出しでサンプルが何トークンかかるか確認してください。同じ中国語のページでも、トークナイザーに応じて、英語版よりも少ないまたは多くのトークンを使用する場合があります。
長い入力は送信するたびにコストがかかります。60,000トークンのドキュメントは、読み取りごとに60,000 x $0.15 / 1M = $0.009かかります。それについて10の質問をすると、それを10回送信し、入力だけで$0.09支払うことになります。繰り返し質問するには、仕事を分割します:1回要約し、要約に対して質問を行います。
安価なセットアップに影響を与える制限
レート制限がアプリをストールさせる場合、低価格では役立ちません。フルキーは8つの同時リクエストと1分あたり300リクエストを許可します。トライアルキーは2と60を許可します。制限を超えると、APIはHTTP 429を返し、エラーコードはrate_limitedまたはconcurrencyです。一時的な過負荷時には、Retry-After: 5ヘッダー付きの429を返します。
ストリーミングされた応答はストリームが終了するまで同時実行スロットを保持し、ユーザーがゆっくり読むチャットアプリでは忘れがちです。同時に8人以上がチャットすると予想される場合は、APIの前にキューを計画してください。最大リクエストボディは8 MBで、テキストプロンプトに必要な量をはるかに上回ります。
一般的な中国語のユースケースとそのコストプロファイル
異なるタスクは価格スケールの異なる点にあるため、タスクに合わせてテストを一致させてください。
- カスタマーサポートチャット。 短い質問、中程度の回答、長いシステムプロンプト。入力が支配的なので、システムプロンプトを簡潔に保ってください。
- 翻訳。 入力と出力の長さはほぼ同じです。当社の中国語-英語翻訳APIページでそのパターンを確認できます。
- ストーリーおよびロールプレイ生成。 短いプロンプト、長い応答。出力が支配的なので、$0.50 のレートに注意してください。
- 分類とタグ付け。 非常に短い出力。これらはリクエストあたりの最も安価なジョブであり、JSON モードに最適です。
最初の動作するアプリの場合、中国語アプリクイックスタートにはステップバイステップのコードがあります。翻訳やタグ付けにはtemperatureを低く、フィクションには高く設定します。ほとんどのクライアントは、それらの設定をそのまま渡します。
このサービスとは何か、そして何ではないか
これは、独立したプロバイダーの1つのオープンウェイトモデルを実行するホストされたOpenAI互換テキストAPIです。このモデルは、法的な成人利用に対してコンテンツ拒否なしで回答するように調整されています。これは、成人向けのフィクション、ロールプレイ、コンパニオンアプリ、中国語ウェブフィクションとロールプレイに適しています。未成年者を含む性的コンテンツは常に許可されません。
これは任意のモデルベンダーの公式APIではなく、ルーターでもありません。埋め込みエンドポイント、画像、音声、動画の生成、ファインチューニングはありません。中国語検索用の埋め込みが必要な場合は、このAPIをその部分に別のサービスと組み合わせてください。
プロンプトはトレーニングには使用されません。ストリーミング、ツール呼び出し、JSON モード(response_formatとjson_object)はすべて機能します。Base URLを設定すると、任意のOpenAI SDKが接続します:Base URLをhttps://api.chinesellmapi.com/v1に変更し、キーを保持し、モデルをuncensoredに設定してください。
無料で試す方法
Googleまたはメールで登録し、APIキーページを開いて、ワンクリックで無料トライアルクレジット$0.50を受け取ってください。カードは不要で、1人につき1回の受け取りであり、7日間有効です。リクエストあたり入力2,000トークン、出力500トークンで$0.00055かかる場合、トライアルは約909件のリクエストをカバーします。
その後、チャージは$20から$500までの任意の整数単位で、暗号資産(TRC20上のUSDT、Base上のUSDC)で行えます。ボーナスは$50から+5%、$100から+10%、$200から+15%です。価格表ページに完全な表があり、ドキュメントにすべてのパラメータがリストされています。
その他のガイド
質問と回答
中国語のテキストにはどのくらいのトークンが必要ですか?
モデルのトークナイザーに依存します。サンプルを送信し、usageフィールドを確認して、独自の比率を確認してください。
支払い前に中国語の品質をテストできますか?
はい。APIキーページでカードなし、7日間有効なワンクリックで無料トライアルクレジット$0.50を受け取ってください。
これは中国のモデルベンダーの公式APIですか?
いいえ。独立したプロバイダーのオープンウェイトモデルを1つ実行しており、ベンダーの公式APIではありません。
中国語検索用の埋め込みを提供していますか?
いいえ。テキストチャットAPIのみを提供しているため、埋め込みには別のサービスをご利用ください。
キーはフォーム 1 つで手に入ります
アカウントを作成し、キーをコピーし、ベースURLを変更します。これでセットアップは完了です。