繁中 ▾

Chinese LLM API翻譯

取得 API 金鑰

已於 更新

OpenAI 相容 API URL:Base URL 與標頭

Base URL 為 https://api.chinesellmapi.com/v1。將其放入 OpenAI 客戶端預期的 Base URL 位置,將金鑰作為 Bearer token 加入,並使用模型 ID uncensored。

連接筆記型電腦終端機與發光伺服器機櫃的電纜,代表將客戶端連線至 API 端點

簡短答案

如果你正在尋找此服務的 openai compatible api url,請複製此值:

https://api.chinesellmapi.com/v1

這是 Base URL。每個具有「base URL」、「API base」、「endpoint」或「host」欄位的 OpenAI SDK、桌面客戶端和代理框架都接受此字串。金鑰放入對應的「API key」欄位,模型名稱為 uncensored。

其後端有兩個端點:用於聊天的 POST /v1/chat/completions 和用於列出模型的 GET /v1/models。不提供 OpenAI 介面的其他功能,因此沒有 embeddings 路由、圖片路由和微調路由。如果你需要先取得金鑰,API key 頁面 會引導你完成註冊。

Base URL 與完整端點 URL 的區別

大多數錯誤發生在此處。客戶端分為兩類:那些想要 Base URL 並自行新增路徑的客戶端,以及那些想要完整呼叫 URL 的客戶端。表格顯示兩種形式。

欄位要求的內容要輸入的值
Base URL、API base、OpenAI hosthttps://api.chinesellmapi.com/v1
完整聊天完成 URLhttps://api.chinesellmapi.com/v1/chat/completions
模型列表 URLhttps://api.chinesellmapi.com/v1/models

官方 OpenAI SDK、LangChain 的 OpenAI 包裝函式、LiteLLM 和大多數聊天前端屬於第一類。允許你貼上原始請求 URL 的工具屬於第二類。如果欄位標籤未說明是哪一種,請閱讀佔位符文字:如果顯示以 /v1 結尾的內容,則需要 Base URL。

結尾斜線

大多數 SDK 會處理結尾斜線,但有些會透過純字串連接來建立最終路徑。如果你收到 404 且 URL 以 /v1/ 結尾,請移除最後一個斜線並重試。

API 期望的標頭

請求需要一個用於身份驗證的標頭和一個用於主體類型的標頭:

  • Authorization: Bearer YOUR_KEY
  • Content-Type: application/json

SDK 會為你設定兩者。如果你手動建立請求,這裡是最小的有效呼叫:

curl https://api.chinesellmapi.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Say hello in one sentence."}]
  }'

回應包含幾個值得記錄的標頭:X-Request-Id 用於支援問題,X-Balance-USD 用於剩餘額度,以及 X-RateLimit-Limit-Requests 和 X-RateLimit-Limit-Concurrency 適用於你的金鑰的速率限制。

在 OpenAI SDK 中設定

與標準 OpenAI 設定相比,只有兩個值會改變:Base URL 和金鑰。程式碼中的其餘部分保持不變。

Python

from openai import OpenAI

client = OpenAI(
    base_url="https://api.chinesellmapi.com/v1",
    api_key="YOUR_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Translate 'good morning' into Chinese."}],
)
print(resp.choices[0].message.content)

Node

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.chinesellmapi.com/v1",
  apiKey: process.env.API_KEY,
});

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Translate 'good morning' into Chinese." }],
});
console.log(resp.choices[0].message.content);

串流輸出運作方式相同:新增 stream: true 並讀取區塊。使用量數據會在串流結束時到達。請注意,串流請求會佔用一個並行槽位,直到串流關閉為止。

使用環境變數而非程式碼

當你在程式碼中未傳遞它們時,當前的 Python 和 Node.js OpenAI SDK 會從環境中讀取 OPENAI_BASE_URL 和 OPENAI_API_KEY。這是將現有專案指向新端點而不觸碰一行程式碼的最快方法:

export OPENAI_BASE_URL="https://api.chinesellmapi.com/v1"
export OPENAI_API_KEY="YOUR_KEY"
python app.py

許多第三方工具使用相同的兩個變數名稱,儘管有些使用自己的變數名稱,例如舊專案中的 API_BASE 或 OPENAI_API_BASE。請檢查工具的說明文件以取得確切名稱。如果專案在某處硬編碼了 api.openai.com,請在原始碼中搜尋該主機名並將其替換。

模型名稱通常位於單獨的設定中,因此請記得將其更改為 uncensored。保留預設的 OpenAI 模型名稱是發生錯誤的第二常見原因,僅次於 URL 錯誤。

在除錯應用程式之前檢查連線

使用不耗費任何成本的呼叫來測試 URL 和金鑰。列出模型不需要 token:

curl https://api.chinesellmapi.com/v1/models \
  -H "Authorization: Bearer YOUR_KEY"

如果這回傳包含 uncensored 的 JSON 列表,則 URL 和金鑰正常,任何剩餘問題都在客戶端設定中。如果失敗,請使用此表格。

症狀可能原因修復方法
404 找不到路徑重複(/v1/v1/...)或缺少 /v1精確輸入 Base URL,以 /v1 結尾
401 未授權金鑰遺失、複製時包含空格,或發送到錯誤的標頭發送 Authorization: Bearer YOUR_KEY 並重新複製金鑰
429 錯誤,code 為 rate_limited每分鐘請求過多減速或佇列請求
429 錯誤,code 為 concurrency同時請求過多限制並行呼叫,記住串流會佔用槽位
429 帶有 Retry-After: 5暫時過載等待五秒鐘並重試
找不到模型殘留的 OpenAI 模型名稱將模型設定為 uncensored

在將生產環境指向它之前應知的限制

完整金鑰允許 8 個並行請求和每分鐘 300 個請求。試用金鑰允許 2 個並行請求和每分鐘 60 個請求。請求主體最多可達 8 MB,上下文視窗為 100,000 個 token(提示詞和完成總和),因此 max_tokens 是可選的。

該服務僅限文字,並由獨立供應商運行單一開放權重模型。它不是任何模型廠商的官方 API,也不在廠商之間路由。如果你的應用程式是中文產品,中文應用程式快速入門 展示了如何結構化提示詞,翻譯 API 指南 涵蓋了詞彙表和佔位符。

計費為預付額度按量付費:每 1M 輸入 token $0.15,每 1M 輸出 token $0.50。失敗或拒絕的請求不會收費。定價頁面 列出了儲值大小和獎金,新用戶可以在金鑰頁面一鍵領取 $0.50 的免費試用額度,有效期 7 天且無需信用卡。如需更詳細的客戶端設定指南,請參閱 快速入門文件。

將未成年人性對象化的內容絕對禁止;除此之外,該模型針對合法成人用途調整為不會拒絕內容。

URL 的其他用途

不同框架對欄位的命名方式不同,但值是一樣的。以下列出三個常見範例:

# LangChain
from langchain_openai import ChatOpenAI
llm = ChatOpenAI(
    base_url="https://api.chinesellmapi.com/v1",
    api_key="YOUR_KEY",
    model="uncensored",
)

# LiteLLM
import litellm
r = litellm.completion(
    model="openai/uncensored",
    api_base="https://api.chinesellmapi.com/v1",
    api_key="YOUR_KEY",
    messages=[{"role": "user", "content": "ping"}],
)

在 LiteLLM 中,openai/ 前綴會告知程式庫使用 OpenAI 的通訊協定格式來連線到你的 Base URL,斜線後面的部分是模型 ID。像 SillyTavern 這樣的聊天前端會提供「自訂 OpenAI 相容」來源,包含三個輸入框:URL、金鑰和模型。同樣的三個值。

將金鑰移出瀏覽器

不要從提供給訪客的前端 JavaScript 呼叫 API。任何人都可以從頁面讀取金鑰並消耗你的額度。在兩者之間加入一個小型伺服器路由,將金鑰儲存在該處的環境變數中,並讓你的網站呼叫該路由。

無需修改程式碼即可切換端點

如果你測試多個供應商,請將這三個值放入設定檔而非原始碼中。一個小型的設定區塊即可完成工作,並讓 URL 成為你唯一需要編輯的項目:

import os
from openai import OpenAI

client = OpenAI(
    base_url=os.getenv("LLM_BASE_URL", "https://api.chinesellmapi.com/v1"),
    api_key=os.environ["LLM_API_KEY"],
)
MODEL = os.getenv("LLM_MODEL", "uncensored")

這也讓 staging 和 production 環境的區分變得容易:針對每個環境使用不同的金鑰,X-Balance-USD 回應標頭會顯示每個金鑰剩餘的額度。

問答

我需要在 Base URL 中包含 /chat/completions 嗎?

不需要。輸入 https://api.chinesellmapi.com/v1 並讓 SDK 自動附加 /chat/completions。只有需要完整請求 URL 的工具才需要較長的格式。

我可以對多個應用程式使用相同的 URL 嗎?

是的。URL 和金鑰可放入任意數量的客戶端。它們共用你的金鑰的速率限制:完整金鑰的並行請求上限為 8,每分鐘請求上限為 300。

我應該輸入什麼模型名稱?

使用 uncensored。你可以透過使用金鑰呼叫 GET /v1/models 來確認。

這是 OpenAI 風格供應商的官方 API 嗎?

不是。這是一個由獨立供應商營運的單一開放權重模型託管 API,旨在與 OpenAI 請求格式相容。

我如何在不消耗額度的情況下測試金鑰?

使用 Authorization 標頭呼叫 GET /v1/models。它會回傳模型列表且不會消耗 token。

只差一張表單,即可取得金鑰

建立帳號、複製金鑰、更改基礎 URL。這就是整個設定過程。

取得 API 金鑰