JA ▾

Chinese LLM API翻訳

API キーを取得

が更新されました

OpenAI 互換 API URL:ベース URL とヘッダー

ベース URL は https://api.chinesellmapi.com/v1 です。OpenAI クライアントがベース URL を期待する場所に配置し、キーを Bearer トークンとして追加し、モデル ID に uncensored を使用してください。

ラップトップのターミナルと光るサーバーキューブを結ぶケーブルは、クライアントを API エンドポイントに接続することを表しています

短い答え

このサービスの openai 互換 API URLをお探しの場合は、この値をコピーしてください:

https://api.chinesellmapi.com/v1

これがベース URL です。"ベース URL"、"API ベース"、"エンドポイント"、"ホスト"というフィールドを持つ OpenAI SDK、デスクトップクライアント、エージェントフレームワークはすべてこの文字列を受け入れます。キーは対応する"API キー"フィールドに入れ、モデル名は uncensored です。

その背後には 2 つのエンドポイントがあります:チャット用の POST /v1/chat/completions と、モデル一覧用の GET /v1/models です。OpenAI のインターフェースからの他の機能は提供されないため、埋め込みルート、画像ルート、ファインチューニングルートはありません。まずキーが必要な場合は、API キーページでサインアップの手順を示します。

ベース URL と完全なエンドポイント URL の違い

多くのミスはここで発生します。クライアントは 2 つのグループに分かれます:ベース URL を取得してパスを自分で追加するグループと、呼び出しの完全な URL を必要とするグループです。表には両方の形式を示します。

フィールドが求めているもの入力する値
ベース URL、API ベース、OpenAI ホストhttps://api.chinesellmapi.com/v1
完全なチャット補完のURLhttps://api.chinesellmapi.com/v1/chat/completions
モデル一覧 URLhttps://api.chinesellmapi.com/v1/models

公式のOpenAI SDK、LangChainのOpenAIラッパー、LiteLLM、およびほとんどのチャット用フロントエンドは最初のグループに属します。生のリクエストURLを貼り付けできるツールは2番目のグループに属します。フィールドラベルがどちらかを示していない場合は、プレースホルダーテキストをお読みください:/v1で終わるものが表示される場合は、ベースURLが必要です。

末尾の斜線

ほとんどの SDK は末尾の斜線を処理しますが、いくつかは単純な文字列結合で最終パスを構築します。404 が発生し、URL が /v1/ で終わる場合は、最後の斜線を削除して再試行してください。

API が期待するヘッダー

リクエストには認証用と本文タイプ用の 2 つのヘッダーが必要です:

  • Authorization: Bearer YOUR_KEY
  • Content-Type: application/json

SDKは両方をあなたのために設定します。手動でリクエストを構築する場合は、以下が最小限の動作確認用呼び出しです:

curl https://api.chinesellmapi.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Say hello in one sentence."}]
  }'

レスポンスにはログに記録する価値のあるいくつかのヘッダーが含まれています:サポートの質問にはX-Request-Id、残高クレジットにはX-Balance-USD、キーに適用される制限にはX-RateLimit-Limit-RequestsとX-RateLimit-Limit-Concurrencyです。

OpenAI SDK での設定

デフォルトのOpenAI設定と比較して変更される値は2つだけです:ベースURLとキーです。コードの他の部分はそのままです。

Python

from openai import OpenAI

client = OpenAI(
    base_url="https://api.chinesellmapi.com/v1",
    api_key="YOUR_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Translate 'good morning' into Chinese."}],
)
print(resp.choices[0].message.content)

Node

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.chinesellmapi.com/v1",
  apiKey: process.env.API_KEY,
});

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Translate 'good morning' into Chinese." }],
});
console.log(resp.choices[0].message.content);

ストリーミングも同じ方法で動作します:stream: trueを追加し、チャンクを読み取ってください。使用量はストリームの終了時に届きます。ストリーミングされたリクエストは、ストリームが閉じるまで同時実行数のスロットを1つ占有することに注意してください。

コードではなく環境変数

PythonおよびNode.js用の現在のOpenAI SDKは、コードで指定しない場合、環境変数からOPENAI_BASE_URLとOPENAI_API_KEYを読み取ります。これは既存のプロジェクトを新しいエンドポイントに1行も変更せずに接続する最も簡単な方法です:

export OPENAI_BASE_URL="https://api.chinesellmapi.com/v1"
export OPENAI_API_KEY="YOUR_KEY"
python app.py

多くのサードパーティツールは同じ 2 つの変数名を使用しますが、古いプロジェクトでは API_BASE や OPENAI_API_BASE などの独自の名称を使用するものもあります。正確な名前についてはツールのドキュメントを確認してください。プロジェクト内で api.openai.com がハードコードされている場合は、ソース内でそのホスト名を検索して置き換えてください。

モデル名は通常別の設定にあるため、それを uncensored に変更することも忘れないでください。デフォルトの OpenAI モデル名をそのままにしておくのは、間違った URL に次いで 2 番目に多いエラーの原因です。

アプリのデバッグ前に接続を確認する

コストのかからない呼び出しで URL とキーをテストしてください。モデル一覧にはトークンが必要ありません:

curl https://api.chinesellmapi.com/v1/models \
  -H "Authorization: Bearer YOUR_KEY"

これにより uncensored を含む JSON リストが返される場合、URL とキーは正常であり、残りの問題はクライアントの設定にあります。失敗する場合は、この表を使用してください。

症状考えられる原因修正方法
404 Not Foundパスの二重化 (/v1/v1/...) または /v1 の欠落ベース URL を /v1 で終わるように正確に 1 回だけ入力してください
401 Unauthorizedキーの欠落、スペース付きのコピー、または間違ったヘッダーでの送信Authorization: Bearer YOUR_KEY を送信し、キーを再コピーしてください
コード rate_limited の 429 エラー1分あたりのリクエスト数が多すぎる速度を落とすか、リクエストをキューに入れる
コード concurrency の 429 エラー同時にリクエストが多すぎる並列呼び出しを制限し、ストリームがスロットを保持することに注意してください
429 と Retry-After: 5一時的な過負荷5 秒待ってから再試行する
モデルが見つからない残っている OpenAI モデル名モデルを uncensored に設定する

本番環境に接続する前に知っておくべき制限

完全なキーは8件の同時リクエストと1分あたり300件のリクエストを許可します。試用キーは2件の同時リクエストと1分あたり60件を許可します。リクエストボディは最大8 MBまで可能で、コンテキストウィンドウはプロンプトと補完を合わせて100,000トークンです。そのため、max_tokensはオプションです。

このサービスはテキストのみで、独立したプロバイダーの単一のオープンウェイトモデルを実行します。いずれのモデルベンダーの公式 API ではなく、ベンダー間のルーティングも行いません。アプリが中国語製品である場合、中国語アプリクイックスタートでプロンプトの構成方法を示し、翻訳 API ガイドでグロサリーとプレースホルダーをカバーします。

請求は前払いクレジットからの従量制です:入力トークン1Mあたり$0.15、出力トークン1Mあたり$0.50です。失敗または拒否されたリクエストは請求されません。料金ページにはチャージサイズとボーナスの一覧があり、新しいユーザーはキーページでワンクリックで7日間有効でカード不要の$0.50の無料トライアルクレジットを取得できます。クライアントセットアップの詳細な手順については、クイックスタートドキュメントをご覧ください。

未成年者を性的に扱うコンテンツは常に禁止されています。それ以外については、このモデルは合法的な成人の利用に対してコンテンツ拒否なしで回答するようにチューニングされています。

URLが使用される他の場所

フレームワークはフィールド名を異なるものとしていますが、値は同じです。一般的な例を3つ示します:

# LangChain
from langchain_openai import ChatOpenAI
llm = ChatOpenAI(
    base_url="https://api.chinesellmapi.com/v1",
    api_key="YOUR_KEY",
    model="uncensored",
)

# LiteLLM
import litellm
r = litellm.completion(
    model="openai/uncensored",
    api_base="https://api.chinesellmapi.com/v1",
    api_key="YOUR_KEY",
    messages=[{"role": "user", "content": "ping"}],
)

LiteLLMでは、openai/プレフィックスは、ライブラリに独自のBase URLに対してOpenAIのワイヤーフォーマットを使用するよう指示します。スラッシュの後はモデルIDです。SillyTavernのようなチャットフロントエンドには、「カスタムOpenAI互換」ソースがあり、URL、キー、モデルの3つの入力フィールドがあります。これも同じ3つの値です。

キーをブラウザから遠ざける

訪問者に配信されるフロントエンドJavaScriptからAPIを呼び出さないでください。誰でもページからキーを読み取り、クレジットを使い果たすことができます。間に小さなサーバールートを設置し、キーを環境変数としてそこに保存し、サイトがそのルートに呼び出しを行うようにしてください。

コード変更なしでエンドポイント間の切り替え

複数のプロバイダーをテストする場合は、3つの値をソースコードではなく設定ファイルに格納してください。小さな設定ブロックで対応でき、URLのみを編集対象とすることができます:

import os
from openai import OpenAI

client = OpenAI(
    base_url=os.getenv("LLM_BASE_URL", "https://api.chinesellmapi.com/v1"),
    api_key=os.environ["LLM_API_KEY"],
)
MODEL = os.getenv("LLM_MODEL", "uncensored")

これにより、ステージング環境と本番環境の分離も容易になります:環境ごとに異なるキーを使用し、X-Balance-USDレスポンスヘッダーで各キーの残高クレジットを確認できます。

質問と回答

Base URLに/chat/completionsを含める必要がありますか?

いいえ。https://api.chinesellmapi.com/v1を入力し、SDKに/chat/completionsの付与を任せます。完全なリクエストURLを要求するツールのみが長い形式を必要とします。

複数のアプリに同じURLを使用できますか?

はい。URLとキーは任意の数のクライアントに含めることができます。これらはキーの制限を共有します:フルキーの場合、同時実行リクエストは8件、1分あたりのリクエスト数は300件です。

どのモデル名を入力すればよいですか?

uncensoredを使用してください。キーを使用してGET /v1/modelsを呼び出すことで確認できます。

これはOpenAIスタイルのベンダーの公式APIですか?

いいえ。これは独立したプロバイダーが運営する1つのオープンウェイトモデル用のホスト型APIであり、OpenAIのリクエストフォーマットとの互換性を目指して構築されています。

クレジットを使わずにキーをテストするにはどうすればよいですか?

Authorizationヘッダーを付けてGET /v1/modelsを呼び出します。これはモデルリストを返し、トークンを使用しません。

キーはフォーム 1 つで手に入ります

アカウントを作成し、キーをコピーし、ベースURLを変更します。これでセットアップは完了です。

API キーを取得