TH ▾

Chinese LLM APIการแปล

รับคีย์ API

อัปเดต

ทางเลือก OpenRouter สำหรับแอปภาษาจีน

เร้าเตอร์ให้หลายโมเดล; โมเดลโฮสต์ให้เอนด์พอยต์เดียวที่เสถียร นี่คือวิธีตัดสินใจสำหรับแอปภาษาจีน

ฮับสายหลายเส้นข้างลูกบาศก์เรืองแสง แสดงความแตกต่างระหว่างเร้าเตอร์กับโมเดลเดียว

คำตอบสั้นๆ

หากคุณกำลังมองหา ทางเลือก OpenRouter สำหรับแอปภาษาจีน คำตอบที่ตรงไปตรงมาขึ้นอยู่กับว่าคุณชอบอะไรจาก OpenRouter หากเป็นทางเลือกโมเดลหลายตัวด้วยคีย์เดียว บริการนี้ไม่ใช่ทางเลือกแทนเพราะรองรับโมเดลเดียว หากเป็นเอนด์พอยต์ที่เข้ากันได้กับ OpenAI พร้อมราคาชัดเจนสำหรับผลิตภัณฑ์ภาษาจีน โมเดลโฮสต์เดียวอาจจัดการง่ายกว่า

ด้านล่างคือการเปรียบเทียบแบบตรงไปตรงมา รายการตัดสินใจ และการเปลี่ยนแปลงโค้ดที่จำเป็นเพื่อลองทั้งสองอย่าง คุณสามารถทดสอบ API นี้ด้วยเครดิตทดลองและเก็บบัญชี OpenRouter ของคุณไว้คู่ขนานกัน เนื่องจากการสลับเป็นเรื่องของการเปลี่ยน Base URL เพียงอย่างเดียว

แต่ละตัวเลือกคืออะไร

เร้าเตอร์เช่น OpenRouterบริการนี้
แนวคิดหลักคีย์ API เดียวที่เข้าถึงโมเดลจำนวนมากจากหลายผู้ให้บริการโมเดลแบบเปิดน้ำหนักที่โฮสต์ไว้หนึ่งตัวผ่าน API ที่เข้ากันได้กับ OpenAI
การเลือกโมเดลคุณเลือกต่อคำขอคงที่: ID โมเดล uncensored
ราคาแตกต่างกันตามโมเดล; ตรวจสอบราคาปัจจุบันของพวกเขา$0.15 ต่อ 1M input, $0.50 ต่อ 1M output
พฤติกรรมเนื้อหาตั้งค่าโดยแต่ละโมเดลและโฮสต์ของมันปรับแต่งให้ตอบโดยไม่มีการปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย
เพิ่มเติมฟีเจอร์โมเดลจำนวนมาก ขึ้นอยู่กับโมเดลแชท, การตอบกลับ, สตรีมมิง, เครื่องมือ, โหมด JSON; ไม่มีรูปภาพ, เสียง หรือ embedding

ข้อมูลทั้งหมดเกี่ยวกับคอลัมน์ router เป็นข้อมูลทั่วไปและอาจมีการเปลี่ยนแปลง ดังนั้นโปรดอ่านเอกสารปัจจุบันของมัน คอลัมน์ขวาแสดงสิ่งที่บริการนี้เสนอในปัจจุบัน

เมื่อเราเตอร์เป็นตัวเลือกที่เหมาะสมที่สุด

เป็นจริงกับตัวเองเกี่ยวกับกรณีเหล่านี้ และใช้ router หากกรณีใดกรณีหนึ่งตรงกับคุณ

  • คุณต้องการเปรียบเทียบโมเดลของผู้ให้บริการหลายรายบนพรอมต์ภาษาจีนและเลือกโมเดลที่ดีที่สุดสำหรับแต่ละงาน
  • คุณต้องการโมเดลเฉพาะตามชื่อ เช่น การปล่อยของห้องแล็บจีนเฉพาะแห่ง ในแอปพลิเคชันเดียวกัน
  • คุณต้องการการเปลี่ยนผ่านอัตโนมัติเมื่อโมเดลตัวหนึ่งใช้งานไม่ได้
  • คุณต้องการ embedding, วิชัน หรือเอนด์พอยต์อื่นๆ ผ่านคีย์เดียวกัน

บริการโมเดลเดียวไม่สามารถทำสิ่งใดสิ่งหนึ่งเหล่านี้ได้ มันไม่ใช่ router ระหว่างผู้ให้บริการ และไม่ใช่ API ทางการของผู้ให้บริการโมเดลใดโมเดลหนึ่ง หากการเลือกโมเดลเป็นข้อกำหนดหลักของคุณ router จะชนะ

เมื่อโมเดลที่โฮสต์ไว้หนึ่งตัวเหมาะสมกว่า

โมเดลเดียวมีข้อได้เปรียบที่แท้จริงสำหรับผลิตภัณฑ์ที่มีรูปร่างชัดเจน

  • พฤติกรรมที่คาดการณ์ได้ โมเดลไม่เปลี่ยนแปลงภายใต้คุณ ดังนั้นพรอมต์ การตั้งค่าโทน และการทดสอบของคุณจึงยังคงใช้ได้ เมื่อมีโมเดลหลายตัว พฤติกรรมจะแตกต่างกันไปตามการเลือก และคุณต้องการชุดทดสอบต่อโมเดล
  • ต้นทุนที่คาดการณ์ได้ มีคู่ราคาเพียงคู่เดียว งบประมาณรายเดือนคือการคูณ ไม่ใช่การค้นหาข้ามแคตตาล็อก
  • ไม่ปฏิเสธการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย สำหรับนิยายเว็บจีน แรปเพลย์ และแอปเพื่อนสำหรับผู้ใหญ่ การปฏิเสธทำลายประสบการณ์ โมเดลนี้ปรับแต่งเพื่อหลีกเลี่ยงสิ่งเหล่านี้ ดู นิยายเว็บจีนและแรปเพลย์ เนื้อหาทางเพศที่เกี่ยวข้องกับผู้เยาว์ไม่อนุญาตเด็ดขาด
  • ความพยายามในการติดตั้งต่ำ ID โมเดลหนึ่งตัว ไม่ต้องเลือก

จุดแลกเปลี่ยนคือความเสี่ยงด้านคุณภาพ และนี่คือจุดหลักที่ต้องชั่งน้ำหนัก หากโมเดลนี้โมเดลเดียวอ่อนแอกว่าโมเดลอื่นในงานภาษาจีนของคุณ คุณไม่สามารถเปลี่ยนภายในบริการได้ ทดสอบมันก่อนที่คุณจะผูกพัน วิธีที่ยุติธรรมในการทำเช่นนั้นคือมอบพรอมต์ที่ยากที่สุดสามข้อของคุณให้มันก่อน เช่น บทสนทนาที่ยาวพร้อมเสียงตัวละครที่สอดคล้องกัน การเขียนใหม่ที่ยากลำบากเต็มไปด้วยสำนวน และการร้องขอที่ต้องการ JSON ที่เข้มงวด และดูว่ามันล้มเหลวตรงไหน

การทดสอบการเปลี่ยน: รหัสเดียวกัน, สองเอนด์พอยต์

เนื่องจากทั้งสองฝ่ายใช้โปรโตคอล OpenAI การทดสอบที่ยุติธรรมมีต้นทุนต่ำมาก ในอัตราข้างต้น คำขอหนึ่งคำขอที่มี 2,500 โทเคนอินพุตและ 500 โทเคนเอาต์พุตมีค่าใช้จ่าย $0.000375 + $0.00025 = $0.000625 ดังนั้นพรอมต์ 30 ข้อมีค่าใช้จ่ายประมาณ $0.019 ซึ่งเป็นส่วนเล็กๆ ของเครดิตทดลองใช้ $0.50 คุณสามารถรันสคริปต์หนึ่งตัวกับทั้งสองฝ่ายและเปรียบเทียบคำตอบและต้นทุนเคียงข้างกัน

import os
from openai import OpenAI

ours = OpenAI(base_url="https://api.chinesellmapi.com/v1", api_key=os.environ["OUR_KEY"])
router = OpenAI(base_url=os.environ["ROUTER_URL"], api_key=os.environ["ROUTER_KEY"])

prompt = "用轻松的语气,写一段三句话的咖啡店开业公告。"

a = ours.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": prompt}],
)
b = router.chat.completions.create(
    model=os.environ["ROUTER_MODEL"],
    messages=[{"role": "user", "content": prompt}],
)
print("OURS  :", a.choices[0].message.content, a.usage.total_tokens)
print("ROUTER:", b.choices[0].message.content, b.usage.total_tokens)

จากนั้นวนลูปผ่านพรอมต์ 30 ข้อจากผลิตภัณฑ์ของคุณ สลับเอาต์พุตและให้ผู้อ่านเจ้าของภาษาให้คะแนนโดยไม่ติดป้ายกำกับ คูณจำนวนโทเคนของแต่ละฝั่งด้วยราคาของตัวเองเพื่อรับต้นทุนต่อคำตอบที่ดี URL สำหรับตัวจัดเส้นทางและชื่อโมเดลมาจากเอกสารประกอบของมัน ซึ่งเป็นเหตุผลที่สคริปต์อ่านค่าเหล่านั้นจากสภาพแวดล้อม

ตัวอย่างการคำนวณต้นทุน

สมมติว่าฟีเจอร์แชทภาษาจีนส่ง 2,500 input tokens และได้รับ 500 output tokens จำนวน 20,000 ครั้งต่อเดือน

  • อินพุต: 20,000 x 2,500 = 50M tokens ดังนั้น 50 x $0.15 = $7.50
  • เอาต์พุต: 20,000 x 500 = 10M tokens ดังนั้น 10 x $0.50 = $5.00
  • รวม: $12.50 ต่อเดือนสำหรับบริการนี้

เพื่อเปรียบเทียบ ให้ดูราคาปัจจุบันของ router สำหรับโมเดลที่คุณเลือก ใช้หลักการคำนวณสองบรรทัดเดียวกัน และตรวจสอบว่ามีการเก็บค่าธรรมเนียมเพิ่มเติมจากราคาโมเดลหรือไม่ จำนวน token สำหรับข้อความภาษาจีนแตกต่างกันไปตาม tokenizer ดังนั้นให้วัดจำนวนทั้งสองฝั่งผ่านฟิลด์ usage แทนการนำตัวเลขของผมไปใช้ซ้ำ

ส่วนรวมของตัวจัดเส้นทางเป็นส่วนที่คุณต้องกรอกเอง และอีกบรรทัดหนึ่งที่ควรพิจารณา: โมเดลมีราคาแตกต่างกันมาก ดังนั้นโมเดลที่ราคาถูกที่สุดบนตัวจัดเส้นทางอาจเป็นโมเดลอื่นที่มีระดับคุณภาพต่างกัน ให้เปรียบเทียบต้นทุนต่อคำตอบที่ยอมรับได้ ไม่ใช่ราคาหน้าปก โมเดลที่ราคาถูกกว่าแต่คุณต้องลองใหม่กับ 30% ของพรอมต์ถือว่าไม่มีการประหยัด

ที่นี่ไม่มีระบบสมาชิก คุณจ่ายจากเครดิตแบบเติมเงินล่วงหน้า ซึ่งไม่หมดอายุ และคำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่ถูกเรียกเก็บเงิน การเติมเงินขั้นต่ำคือ $20 พร้อมรับเครดิตเพิ่ม +5% เมื่อเติม $50, +10% เมื่อเติม $100 และ +15% เมื่อเติม $200

7 คำถามที่ควรถามผู้ให้บริการทุกราย

ไม่ว่าคุณจะเลือก router บริการนี้ หรืออย่างอื่น รายการตรวจสอบเดียวกันนี้จะช่วยป้องกันคุณจากความไม่คาดคิดในผลิตภัณฑ์ภาษาจีน

  1. โมเดลใดกันแน่ที่ตอบคำขอของฉัน และสามารถเปลี่ยนแปลงได้โดยไม่แจ้งให้ทราบล่วงหน้าหรือไม่
  2. นับและเรียกเก็บเงินสำหรับ โทเคนภาษาจีน อย่างไร และฉันต้องจ่ายเท่าไหร่สำหรับคำขอทั่วไป
  3. เกิดอะไรขึ้นเมื่อเนื้อหาของฉันอยู่บริเวณขอบเขต: ปฏิเสธ, แก้ไข หรือกรองแบบเงียบ? มีการเรียกเก็บเงินสำหรับคำขอที่ถูกปฏิเสธหรือไม่
  4. ขีดจำกัดคำขอพร้อมกัน และต่อนาทีสำหรับคีย์ใหม่คืออะไร
  5. ข้อมูลพรอมต์ของฉันถูกใช้สำหรับการฝึกหรือแชร์กับบุคคลอื่นหรือไม่? ที่นี่พรอมต์ไม่ถูกใช้สำหรับการฝึก
  6. ฉันจะดูยอดคงเหลือจากโค้ดได้อย่างไร? ที่นี่เฮดเดอร์ X-Balance-USD และ GET /v1/balance ให้ข้อมูลนี้
  7. เส้นทางออกคืออะไร? ด้วย API ที่เข้ากันได้กับ OpenAI การเปลี่ยน base URL คือทางออก

เขียนคำตอบลงในตารางสำหรับแต่ละตัวเลือก ช่องว่างในตาราง เช่น "unknown" หรือ "not documented" ก็ถือเป็นข้อมูลเช่นกัน

ขีดจำกัดและฟีเจอร์ที่คุณควรทราบ

คีย์เต็มอนุญาตให้ทำคำขอพร้อมกัน 8 รายการและ 300 รายการต่อนาที คีย์ทดลองใช้ทำคำขอพร้อมกัน 2 รายการและ 60 รายการต่อนาที หน้าต่างบริบทคือ 100,000 โทเคน รวมพรอมต์และคำตอบ สตรีมมิง การเรียกใช้ฟังก์ชัน และโหมด JSON ทำงานได้ และพรอมต์ไม่ถูกใช้สำหรับการฝึก โมเดลรองรับเฉพาะข้อความ: ไม่มี embeddings รูปภาพ เสียง วิดีโอ หรือ fine-tuning

หากแอปของคุณต้องการทั้งแชทและ embeddings ให้ใช้ API นี้สำหรับแชทและผู้ให้บริการรายอื่นสำหรับ embeddings การแยกนี้เป็นเรื่องปกติ และไม่มีอะไรเกี่ยวกับเรื่องนี้ที่ต้องใช้ router เก็บ base URLs ทั้งสองไว้ใน configuration แยกตามงาน เพื่อให้คุณสามารถเปลี่ยนอย่างใดอย่างหนึ่งในภายหลังได้โดยไม่ต้องแตะ business logic

วิธีลองใช้งาน

สมัครสมาชิกด้วย Google หรืออีเมล เปิด หน้าคีย์ API และรับเครดิตทดลองใช้ $0.50 ด้วยคลิกเดียว ไม่ต้องการบัตรและใช้งานได้ 7 วัน จากนั้นทำตาม คู่มือเริ่มต้นสำหรับแอปภาษาจีน สำหรับโค้ดที่ทำงานได้ หรืออ่าน เอกสาร อัตราและโบนัสอยู่ที่ หน้าราคา คีย์ทดลองใช้ทำงานที่ขีดจำกัดระดับต่ำ ซึ่งเพียงพอสำหรับการรันเปรียบเทียบ prompts จำนวนหลายสิบรายการ การเติมเงินสามารถจ่ายด้วยcrypto (USDT บน TRC20, USDC บน Base)

ถาม-ตอบ

นี่เป็นตัวเลือกแทนที่แบบพร้อมใช้งานทันทีสำหรับ OpenRouter หรือไม่?

ใช้เฉพาะสำหรับแชทเท่านั้น เนื่องจากให้บริการโมเดลเพียงตัวเดียว คุณจึงเสียตัวเลือกโมเดล ระบบ fallback และเอนด์พอยต์ที่ไม่ใช่แชท

ฉันสามารถใช้โค้ดเดียวกันสำหรับทั้งสองได้หรือไม่?

ได้ ทั้งสองใช้โปรโตคอล OpenAI ดังนั้นคุณจึงเปลี่ยน URL ฐาน คีย์ และชื่อโมเดล

โมเดลเก่งภาษาจีนหรือไม่?

ทดสอบด้วยพรอมต์ของคุณเอง ใช้เครดิตทดลองใช้ฟรีและให้ผู้เชี่ยวชาญเจ้าของภาษาประเมินคำตอบ

ฉันต้องใช้บัตรเพื่อลองใช้หรือไม่?

ไม่ เครดิตทดลองใช้ $0.50 ต้องการเพียงการสมัครและคลิกหนึ่งครั้ง

คีย์ของคุณอยู่ห่างแค่การกรอกแบบฟอร์มเดียว

สร้างบัญชี คัดลอกคีย์ และเปลี่ยน URL ฐาน นั่นคือการตั้งค่าทั้งหมด

รับคีย์ API