TH ▾

Chinese LLM APIการแปล

รับคีย์ API

อัปเดต

URL API ที่เข้ากันได้กับ OpenAI: Base URL และ Headers

Base URL คือ https://api.chinesellmapi.com/v1. กำหนดค่าในช่องที่ไคลเอนต์ OpenAI คาดหวัง Base URL, เพิ่มคีย์ของคุณเป็นโทเคน Bearer และใช้โมเดล ID uncensored

สายเคเบิลที่เชื่อมต่อกับเทอร์มินัลแล็ปท็อปไปยังกล่องเซิร์ฟเวอร์ที่เรืองแสง แสดงถึงการเชื่อมต่อไคลเอนต์กับเอนด์พอยต์ API

คำตอบแบบสั้น

หากคุณกำลังมองหา URL API ที่เข้ากันได้กับ OpenAI สำหรับบริการนี้ ให้คัดลอกค่านี้:

https://api.chinesellmapi.com/v1

นั่นคือ Base URL ทุก SDK ของ OpenAI, ไคลเอนต์บนเดสก์ท็อป และเฟรมเวิร์กเอเจนต์ที่มีฟิลด์ชื่อ "base URL", "API base", "endpoint" หรือ "host" จะใช้สตริงนี้ คีย์จะอยู่ในฟิลด์ "API key" ที่ตรงกัน และชื่อโมเดลคือ uncensored

มีเอนด์พอยต์สองตัวอยู่เบื้องหลัง: POST /v1/chat/completions สำหรับการแชท และ GET /v1/models เพื่อแสดงรายการโมเดล ไม่มีส่วนอื่นของ OpenAI ให้บริการ จึงไม่มีเส้นทาง embeddings เส้นทางรูปภาพ หรือเส้นทาง fine-tuning หากคุณต้องการคีย์ก่อน หน้าคีย์ API จะแนะนำคุณผ่านขั้นตอนการสมัคร

Base URL เทียบกับ URL เอนด์พอยต์แบบเต็ม

ข้อผิดพลาดส่วนใหญ่เกิดขึ้นที่นี่ ไคลเอนต์แบ่งออกเป็นสองกลุ่ม: กลุ่มที่ต้องการ Base URL และเพิ่มพาธเอง และกลุ่มที่ต้องการ URL เต็มของการเรียกใช้ ตารางแสดงทั้งสองรูปแบบ

ฟิลด์นี้ต้องการอะไรค่าที่จะป้อน
Base URL, API base, โฮสต์ OpenAIhttps://api.chinesellmapi.com/v1
URL chat completions แบบเต็มhttps://api.chinesellmapi.com/v1/chat/completions
URL รายการโมเดลhttps://api.chinesellmapi.com/v1/models

SDK ทางการของ OpenAI, ตัวหุ้ม OpenAI ของ LangChain, LiteLLM และส่วนหน้า (front end) ของแชทส่วนใหญ่อยู่ในกลุ่มแรก เครื่องมือที่ให้คุณวาง URL คำขอแบบดิบอยู่ในกลุ่มที่สอง เมื่อป้ายชื่อฟิลด์ไม่ระบุว่าเป็นแบบใด ให้ดูข้อความ placeholder: หากแสดงสิ่งที่ลงท้ายด้วย /v1 แสดงว่าต้องการ Base URL

เครื่องหมายทับท้าย

SDK ส่วนใหญ่จัดการเครื่องหมายทับท้ายได้ แต่บางตัวสร้างพาธสุดท้ายโดยการต่อสตริงแบบธรรมดา หากคุณได้รับ 404 และ URL ลงท้ายด้วย /v1/ ให้ลบเครื่องหมายทับสุดท้ายออกแล้วลองอีกครั้ง

Headers ที่ API คาดหวัง

คำขอต้องมี Header หนึ่งตัวสำหรับการตรวจสอบสิทธิ์ และหนึ่งตัวสำหรับประเภทของ body:

  • Authorization: Bearer YOUR_KEY
  • Content-Type: application/json

SDK ตั้งค่าทั้งสองให้คุณ หากสร้างคำขอด้วยตนเอง นี่คือคำสั่งทำงานที่เล็กที่สุด:

curl https://api.chinesellmapi.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Say hello in one sentence."}]
  }'

การตอบกลับมี Header บางตัวที่ควรบันทึก: X-Request-Id สำหรับคำถามสนับสนุน, X-Balance-USD สำหรับเครดิตคงเหลือ และ X-RateLimit-Limit-Requests และ X-RateLimit-Limit-Concurrency สำหรับขีดจำกัดที่ใช้กับคีย์ของคุณ

การตั้งค่าใน SDK ของ OpenAI

มีเพียงสองค่าที่เปลี่ยนแปลงเมื่อเทียบกับค่าเริ่มต้นของ OpenAI: Base URL และคีย์ ส่วนอื่น ๆ ในโค้ดของคุณยังคงเหมือนเดิม

Python

from openai import OpenAI

client = OpenAI(
    base_url="https://api.chinesellmapi.com/v1",
    api_key="YOUR_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Translate 'good morning' into Chinese."}],
)
print(resp.choices[0].message.content)

Node

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.chinesellmapi.com/v1",
  apiKey: process.env.API_KEY,
});

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Translate 'good morning' into Chinese." }],
});
console.log(resp.choices[0].message.content);

การสตรีมทำงานในลักษณะเดียวกัน: เพิ่ม stream: true และอ่าน chunks ข้อมูลการใช้งานจะมาถึงที่ท้ายสตรีม โปรดทราบว่าคำขอแบบสตรีมจะครอบครองช่อง concurrency หนึ่งช่องของคุณจนกว่าสตรีมจะปิด

ตัวแปรสภาพแวดล้อมแทนโค้ด

SDK ของ OpenAI สำหรับ Python และ Node ปัจจุบันอ่าน OPENAI_BASE_URL และ OPENAI_API_KEY จากสภาพแวดล้อมเมื่อคุณไม่ได้ส่งผ่านในโค้ด นั่นเป็นวิธีที่เร็วที่สุดในการชี้โปรเจกต์ที่มีอยู่ไปยังเอนด์พอยต์ใหม่โดยไม่ต้องแก้ไขบรรทัดใด:

export OPENAI_BASE_URL="https://api.chinesellmapi.com/v1"
export OPENAI_API_KEY="YOUR_KEY"
python app.py

เครื่องมือของบุคคลที่สามจำนวนมากใช้ชื่อตัวแปรสองตัวนี้เหมือนกัน แม้ว่าจะมีบางเครื่องมือที่ใช้ชื่อของตัวเอง เช่น API_BASE หรือ OPENAI_API_BASE ในโปรเจกต์เก่า ตรวจสอบเอกสารของเครื่องมือเพื่อหาชื่อที่ถูกต้อง หากโปรเจกต์กำหนดค่า api.openai.com แบบตายตัวที่ใดที่หนึ่ง ให้ค้นหาโฮสต์เนมดังกล่าวในซอร์สโค้ดแล้วแทนที่

ชื่อโมเดลมักจะอยู่ในค่าตั้งค่าแยกต่างหาก ดังนั้นจงจำไว้ว่าต้องเปลี่ยนเป็น uncensored ด้วยเช่นกัน การคงชื่อโมเดล OpenAI แบบค่าเริ่มต้นไว้เป็นสาเหตุอันดับสองของข้อผิดพลาด รองจาก URL ที่ผิด

ตรวจสอบการเชื่อมต่อก่อนดีบักแอปของคุณ

ทดสอบ URL และคีย์ด้วยการเรียกใช้ที่ไม่เสียค่าใช้จ่าย การแสดงรายการโมเดลไม่ต้องการโทเคน:

curl https://api.chinesellmapi.com/v1/models \
  -H "Authorization: Bearer YOUR_KEY"

หากผลลัพธ์เป็นการแสดงรายการ JSON ที่มี uncensored แสดงว่า URL และคีย์ถูกต้อง และปัญหาที่เหลืออยู่ที่ค่าตั้งค่าไคลเอนต์ของคุณ หากล้มเหลว ให้ใช้ตารางนี้

อาการสาเหตุที่เป็นไปได้การแก้ไข
404 ไม่พบพาธซ้ำ (/v1/v1/...) หรือ /v1 หายไปป้อน base URL เพียงครั้งเดียวโดยลงท้ายด้วย /v1
401 ไม่ได้รับอนุญาตคีย์หายไป มีช่องว่างมาด้วย หรือส่งในเฮดเดอร์ที่ผิดส่ง Authorization: Bearer YOUR_KEY และคัดลอกคีย์ใหม่
429 พร้อมโค้ด rate_limitedคำขอต่อนาทีมากเกินไปลดความเร็วหรือจัดคิวคำขอ
429 พร้อมโค้ด concurrencyคำขอมากเกินไปในขณะเดียวกันจำกัดการเรียกแบบขนาน จำไว้ว่าสตรีมมิงใช้สล็อต
429 พร้อม Retry-After: 5โอเวอร์โหลดชั่วคราวรอห้าวินาทีแล้วลองใหม่
ไม่พบโมเดลชื่อโมเดล OpenAI ที่เหลืออยู่ตั้งค่าโมเดลเป็น uncensored

ขีดจำกัดที่คุณควรรู้ก่อนชี้ไปยังการใช้งานจริง

คีย์เต็มอนุญาตให้ทำคำขอพร้อมกันได้ 8 คำขอ และ 300 คำขอต่อนาที คีย์ทดลองอนุญาตให้ทำคำขอพร้อมกันได้ 2 คำขอ และ 60 คำขอต่อนาที บอดีคำขอสามารถมีขนาดได้สูงสุด 8 MB และหน้าต่างบริบทคือ 100,000 โทเคน รวมพรอมต์และการสร้างข้อความ ดังนั้น max_tokens จึงเป็นค่าที่ไม่บังคับ

บริการนี้รองรับเฉพาะข้อความและรันโมเดลแบบเปิดน้ำหนักเพียงโมเดลเดียวจากผู้ให้บริการอิสระ ไม่ใช่ API ทางการของผู้ให้บริการโมเดลรายใด และไม่มีการเปลี่ยนเส้นทางระหว่างผู้ให้บริการ หากแอปของคุณเป็นผลิตภัณฑ์ภาษาจีน คู่มือเริ่มต้นใช้งานแอปภาษาจีน แสดงวิธีการจัดโครงสร้างพรอมต์ และ คู่มือ API การแปล ครอบคลุมเรื่องคำศัพท์และตัววางตำแหน่ง

การเรียกเก็บเงินเป็นแบบจ่ายตามการใช้งานจากเครดิตแบบเติมเงินล่วงหน้า: $0.15 ต่อ 1M โทเคนอินพุต และ $0.50 ต่อ 1M โทเคนเอาต์พุต คำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่ถูกเรียกเก็บเงิน หน้าราคา แสดงขนาดการเติมเงินและโบนัส และผู้ใช้ใหม่สามารถรับเครดิตทดลองใช้ $0.50 ได้ด้วยการคลิกเดียวที่หน้าคีย์ ซึ่งมีอายุ 7 วันและไม่ต้องใช้บัตร สำหรับขั้นตอนการตั้งค่าไคลเอนต์แบบละเอียด ดู เอกสารเริ่มต้นใช้งาน

เนื้อหาที่ทำให้ผู้เยาว์เป็นวัตถุทางเพศไม่อนุญาตเลย; นอกเหนือจากนั้น โมเดลได้รับการปรับแต่งให้ตอบโดยไม่ปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย

ที่อื่นที่ต้องใส่ URL

เฟรมเวิร์กตั้งชื่อฟิลด์ต่างกัน แต่ค่าเหมือนกัน ตัวอย่างทั่วไปสามรายการ:

# LangChain
from langchain_openai import ChatOpenAI
llm = ChatOpenAI(
    base_url="https://api.chinesellmapi.com/v1",
    api_key="YOUR_KEY",
    model="uncensored",
)

# LiteLLM
import litellm
r = litellm.completion(
    model="openai/uncensored",
    api_base="https://api.chinesellmapi.com/v1",
    api_key="YOUR_KEY",
    messages=[{"role": "user", "content": "ping"}],
)

ใน LiteLLM คำนำหน้า openai/ บอกไลบรารีให้ใช้รูปแบบ wire ของ OpenAI กับ base URL ของคุณ และส่วนหลังเครื่องหมายทับคือ ID โมเดล ส่วนหน้าแชทอย่าง SillyTavern มีแหล่ง "OpenAI-compatible แบบกำหนดเอง" ที่มีสามช่อง: URL, คีย์ และโมเดล ค่าสามอย่างเดียวกันอีกครั้ง

อย่าเก็บคีย์ไว้ในเบราว์เซอร์

อย่าเรียกใช้ API จาก JavaScript บนหน้าเว็บที่ส่งไปยังผู้เยี่ยมชม ทุกคนสามารถอ่านคีย์ API จากหน้าเว็บและใช้เครดิตของคุณได้ ให้สร้างเส้นทางเซิร์ฟเวอร์ขนาดเล็กคั่นกลาง เก็บคีย์ไว้ในตัวแปรสภาพแวดล้อมที่นั่น แล้วให้เว็บไซต์ของคุณเรียกใช้เส้นทางนั้น

สลับระหว่างเอนด์พอยต์โดยไม่ต้องแก้ไขโค้ด

หากคุณทดสอบผู้ให้บริการหลายราย ให้ใส่ค่าทั้งสามลงในไฟล์ config แทนที่จะใส่ในซอร์สโค้ด บล็อกการตั้งค่าขนาดเล็กนี้จะทำงานได้ และทำให้ URL เป็นสิ่งเดียวที่คุณต้องแก้ไข:

import os
from openai import OpenAI

client = OpenAI(
    base_url=os.getenv("LLM_BASE_URL", "https://api.chinesellmapi.com/v1"),
    api_key=os.environ["LLM_API_KEY"],
)
MODEL = os.getenv("LLM_MODEL", "uncensored")

สิ่งนี้ยังทำให้การแยก staging และ production ง่าย: ใช้คีย์ที่แตกต่างกันต่อสภาพแวดล้อม และส่วนหัว response X-Balance-USD จะแสดงเครดิตที่เหลือของแต่ละตัว

ถาม-ตอบ

ฉันควรใส่ /chat/completions ใน base URL ด้วยหรือไม่?

ไม่ต้อง ใส่ https://api.chinesellmapi.com/v1 แล้วให้ SDK เพิ่ม /chat/completions ให้เอง มีเพียงเครื่องมือที่ขอ URL ของคำขอแบบเต็มเท่านั้นที่ต้องการรูปแบบที่ยาวกว่า

ฉันสามารถใช้ URL เดียวกันสำหรับแอปหลายตัวได้หรือไม่?

ได้ URL และคีย์สามารถนำไปใช้กับไคลเอนต์ได้จำนวนเท่าใดก็ได้ พวกมันจะแบ่งปันขีดจำกัดของคีย์ของคุณ: คำขอพร้อมกัน 8 คำขอ และ 300 คำขอต่อนาทีสำหรับคีย์เต็มรูปแบบ

ฉันควรใส่ชื่อโมเดลว่าอะไร?

ใช้ uncensored คุณสามารถยืนยันได้โดยการเรียกใช้ GET /v1/models ด้วยคีย์ของคุณ

นี่คือ API ทางการของผู้ให้บริการสไตล์ OpenAI หรือไม่?

ไม่ใช่ นี่คือ API แบบโฮสต์สำหรับโมเดลแบบเปิดน้ำหนักเพียงตัวเดียวที่ดำเนินการโดยผู้ให้บริการอิสระ ซึ่งสร้างมาเพื่อรองรับรูปแบบคำขอของ OpenAI

ฉันจะทดสอบคีย์โดยไม่ใช้เครดิตได้อย่างไร?

เรียกใช้ GET /v1/models พร้อมส่วนหัว Authorization ผลลัพธ์จะแสดงรายการโมเดลและไม่ใช้โทเคน

คีย์ของคุณอยู่ห่างแค่แบบฟอร์มเดียว

สร้างบัญชี คัดลอกคีย์ และเปลี่ยน base URL นั่นคือการตั้งค่าทั้งหมด

รับคีย์ API