TH ▾

Chinese LLM APIการแปล

รับคีย์ API

อัปเดต

โมเดล Chinese LLM API ราคาถูก: สิ่งที่ควรเปรียบเทียบนอกเหนือจากราคา

ราคาต่อโทเคนเป็นเพียงครึ่งเดียวของสิ่งที่คุณจ่าย วัดโทเคนจากข้อความของคุณเอง แล้วเปรียบเทียบบริบท ขีดจำกัด และจำนวนขั้นต่ำ

ภาพพื้นหลังนามธรรม: กระเบื้องลายพู่กันเชื่อมต่อกับผลึกป้ายราคา

เริ่มต้นด้วยต้นทุนของข้อความของคุณเอง

API LLM ภาษาจีนราคาถูก จะราคาถูกจริงเมื่อจัดการข้อความได้คุ้มค่าต่อคำขอ ราคาที่แสดงคือต่อล้านโทเคน แต่โทเคนไม่ใช่ตัวอักษรหรือคำ ประโยคจีนใช้โทเคนมากน้อยขึ้นอยู่กับการ tokenize ของโมเดล ผู้ให้บริการสองรายอาจคิดเงินต่างกันมากสำหรับย่อหน้าเดียวกันแม้ราคาต่อโทเคนจะเท่ากัน

ดังนั้นขั้นตอนแรกคือการวัดผล ส่งตัวอย่างพรอมต์ภาษาจีน ของคุณ แล้วอ่านฟิลด์ usage ในคำตอบ และคำนวณต้นทุนต่อคำขอ อัตราของเราคือ $0.15 ต่อ 1M input tokens และ $0.50 ต่อ 1M output tokens และโค้ดด้านล่างจะแปลงตัวอย่างเป็นต้นทุนเฉลี่ย

from openai import OpenAI

client = OpenAI(base_url="https://api.chinesellmapi.com/v1", api_key="YOUR_KEY")
samples = ["请用三句话介绍一下杭州。", "把下面这段话翻译成英文:今天天气很好。"]

for text in samples:
    r = client.chat.completions.create(
        model="uncensored",
        messages=[{"role": "user", "content": text}],
    )
    u = r.usage
    cost = (u.prompt_tokens * 0.15 + u.completion_tokens * 0.50) / 1_000_000
    print(len(text), "chars ->", u.prompt_tokens, "in,", u.completion_tokens, "out, $%.6f" % cost)

รันพรอมต์ตัวแทน 30 ถึง 50 รายการแทนที่จะเป็นสองรายการ อัตราส่วนระหว่างโทเคนต่อตัวอักษรที่คุณเห็นคือตัวเลขที่ใช้เมื่อเปรียบเทียบผู้ให้บริการ

เปรียบเทียบอินพุต เอาต์พุต และค่าขั้นต่ำ

ปัจจัยต้นทุนอื่นๆ เหมือนกับ API ภาษาอังกฤษ และมีความสำคัญไม่ต่างกันเมื่อใช้กับข้อความภาษาจีน

  • ราคาอินพุตและเอาต์พุต เอาต์พุตมีราคาต่อโทเคนสูงกว่า โดยที่นี่อยู่ที่ $0.50 เทียบกับ $0.15 สำหรับอินพุต ดังนั้นงานที่สร้างคำตอบยาว เช่น การเขียนนิยาย จึงมีต้นทุนสูงกว่างานที่จัดหมวดหมู่ข้อความสั้นๆ
  • ยอดเติมเงินขั้นต่ำ ยอดเริ่มต้นของเราอยู่ที่ $20 และสูงสุดถึง $500 ในจำนวนเต็ม
  • วันหมดอายุและสมาชิก เครดิตที่นี่ไม่หมดอายุและไม่มีระบบสมาชิก ตรวจสอบทั้งสองอย่างกับผู้ให้บริการทุกเจ้าที่คุณเปรียบเทียบ
  • คำขอที่ล้มเหลว คำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่ถูกคิดเงินในกรณีนี้ ไม่ใช่ทุกผู้ให้บริการที่ทำเช่นนี้

สำหรับผู้ให้บริการรายอื่น ให้ตรวจสอบราคาปัจจุบันของพวกเขาแทนที่จะพึ่งพาโพสต์ในบล็อก รวมถึงโพสต์นี้ ราคาเปลี่ยนแปลงได้

คุณภาพภาษาสำคัญกว่าช่องว่างของราคาเล็กน้อย

หากผู้ใช้ของคุณอ่านภาษาจีน ปัญหาคุณภาพจะปรากฏเป็นคำตอบที่ผสมภาษา สำนวนที่แข็งทื่อ การใช้คำวัดปริมาณผิด และการคลาดเคลื่อนในน้ำเสียง โมเดลที่ราคาถูกกว่าเล็กน้อยต่อล้านโทเคนแต่ต้องใช้สองครั้งต่อคำตอบ จะมีต้นทุนสูงกว่าในทางปฏิบัติ

สร้างชุดประเมินผลขนาดเล็กในรูปแบบที่ผลิตภัณฑ์ของคุณต้องการ:

  1. พรอมต์สิบอันในภาษาจีนพูดทั่วไป สิบอันในการเขียนทางการ สิบอันในแนวที่คุณให้บริการ เช่น การสนับสนุนลูกค้าหรือนิยายเว็บ
  2. ขอให้ผู้อ่านเจ้าของภาษาให้คะแนนแต่ละคำตอบด้านความเป็นธรรมชาติและความถูกต้องในสเกล 1 ถึง 5
  3. ตรวจสอบว่าโมเดลตอบเป็นภาษาจีนเมื่อถามเป็นภาษาจีน และคงรูปแบบตัวอักษรจีนตัวย่อหรือตัวเต็ม ตามคำสั่ง

ใส่สคริปต์และสไตล์ลงในระบบพรอมต์ เช่น หมายเหตุที่บอกโมเดลให้ตอบเป็นภาษาจีนตัวย่อ ในน้ำเสียงที่เป็นธรรมชาติ บริการรันโมเดลแบบเปิดน้ำหนักหนึ่งตัว ดังนั้นคุณไม่สามารถเปลี่ยนโมเดลเพื่อแก้ไขคุณภาพได้ คุณปรับพรอมต์ และหากผลลัพธ์ยังไม่ดีพอ คุณเลือกผู้ให้บริการรายอื่น นั่นเป็นข้อตกลงที่ยุติธรรมที่ควรทราบก่อนเริ่มทำงาน

การตรวจสอบอีกอย่างคุ้มค่ากับเวลาสิบนาที: ถามคำถามเดิมสามครั้งแล้วเปรียบเทียบ การสุ่มทำให้คำตอบมีความแปรปรวน คุณควรทราบขอบเขตของความแปรปรวนนั้น การตั้งค่า seed และ temperature ต่ำจะช่วยลดความแปรปรวน ซึ่งช่วยเมื่อคุณปรับพรอมต์และต้องการเห็นเฉพาะการเปลี่ยนแปลงของคุณ

ความยาวของบริบทและเอกสารภาษาจีน

บริบทนับเป็นโทเคน ไม่ใช่ตัวอักษร หน้าต่างบริบทที่นี่คือ 100,000 โทเคน (รวมพรอมต์และผลลัพธ์) และผลลัพธ์สามารถใช้โทเคนส่วนที่เหลือได้ สำหรับเอกสารยาวเช่น สัญญาหรือนวนิยาย ให้ตรวจสอบจำนวนโทเคนของตัวอย่างด้วยการเรียก API จริงก่อนจะพึ่งพาขีดจำกัด ข้อความภาษาจีน หน้าเดียวกันอาจใช้โทเคนน้อยกว่าหรือมากกว่าภาษาอังกฤษ ขึ้นอยู่กับตัวแบ่งโทเคน

อินพุตที่ยาวยังเสียเงินทุกครั้งที่ส่ง เอกสาร 60,000 โทเคนมีต้นทุน 60,000 x $0.15 / 1M = $0.009 ต่อการอ่าน หากถามคำถามเกี่ยวกับเอกสารนี้สิบครั้ง คุณต้องส่งข้อมูลนี้สิบครั้ง และจ่าย $0.09 สำหรับอินพุตเพียงอย่างเดียว สำหรับคำถามซ้ำ ให้แบ่งงาน: สรุปเนื้อหาครั้งเดียวแล้วถามจากบทสรุป

ลิมิตที่ส่งผลต่อการตั้งค่าราคาต่ำ

ราคาต่ำไม่ได้ช่วยหากขีดจำกัดอัตราทำให้แอปของคุณชะงัก คีย์เต็มอนุญาตให้ทำคำขอพร้อมกัน 8 คำขอและ 300 คำขอต่อนาที คีย์ทดลองอนุญาตให้ทำ 2 และ 60 เมื่อเกินขีดจำกัด API จะส่ง HTTP 429 พร้อมรหัสข้อผิดพลาด rate_limited หรือ concurrency เมื่อเกิดภาวะเกินโหลดชั่วคราว จะส่ง 429 พร้อมหัว Retry-After: 5

คำตอบแบบสตรีมมิงจะครอบครองช่องความพร้อมใช้งานไปจนกว่าสตรีมจะสิ้นสุด ซึ่งง่ายที่จะลืมในแอปแชทที่ผู้ใช้อ่านช้า วางแผนสำหรับคิวหน้า API หากคุณคาดว่าจะมีผู้คนมากกว่า 8 คนแชทพร้อมกัน ขนาดสูงสุดของ body คำขอคือ 8 MB ซึ่งสูงกว่าสิ่งที่พรอมต์ข้อความต้องการมาก

กรณีการใช้งานภาษาจีน ทั่วไปและโปรไฟล์ต้นทุน

งานที่แตกต่างกันอยู่ในจุดต่างๆ บนสเกลราคา ดังนั้นให้ทดสอบให้ตรงกับงาน

  • แชทสนับสนุนลูกค้า คำถามสั้น คำตอบปานกลาง ระบบพรอมต์ยาว อินพุตเป็นปัจจัยหลัก ดังนั้นให้รักษาขนาดระบบพรอมต์ให้กระชับ
  • การแปล อินพุตและเอาต์พุตมีความยาวใกล้เคียงกัน หน้า API แปลภาษาจีน-อังกฤษ ของเราแสดงรูปแบบนี้
  • การสร้างเรื่องราวและบทบาทสมมติ พรอมต์สั้น ตอบยาว ผลลัพธ์คือส่วนสำคัญ ดังนั้นอัตรา $0.50 จึงเป็นอัตราที่ต้องจับตามอง
  • การจำแนกประเภทและการติดป้ายกำกับ ผลลัพธ์สั้นมาก งานเหล่านี้มีค่าใช้จ่ายต่อคำขอถูกที่สุด และเหมาะสำหรับโหมด JSON

สำหรับแอปแรก ให้ใช้ คู่มือเริ่มต้นใช้งานแอปภาษาจีน ที่มีโค้ดทีละขั้นตอน ตั้ง temperature ต่ำสำหรับการแปลและแท็ก และสูงสำหรับงานนิยาย ไคลเอนต์ส่วนใหญ่ส่งต่อค่าเหล่านี้โดยไม่เปลี่ยนแปลง

บริการนี้คืออะไร และไม่ใช่อะไร

เป็น API ข้อความที่รองรับ OpenAI แบบโฮสต์ โดยรันโมเดลแบบเปิดน้ำหนักหนึ่งตัวจากผู้ให้บริการอิสระ โมเดลถูกปรับแต่งให้ตอบคำถามโดยไม่มีการปฏิเสธเนื้อหา สำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย ซึ่งเหมาะสำหรับแอปพลิเคชันนิยาย บทบาทสมมติ และเพื่อนคู่สนทนาสำหรับผู้ใหญ่ รวมถึง นิยายเว็บจีนและบทบาทสมมติ เนื้อหาทางเพศที่เกี่ยวข้องกับผู้เยาว์ไม่อนุญาตเป็นอันขาด

นี่ไม่ใช่ API ทางการของผู้จำหน่ายโมเดลใด ๆ และไม่ใช่ตัวเปลี่ยนเส้นทาง ไม่มีเอนด์พอยต์ embeddings ไม่มีการสร้างภาพ เสียง หรือวิดีโอ และไม่มีการ fine-tuning หากคุณต้องการ embeddings สำหรับการค้นหาภาษาจีน ให้ใช้ API นี้ร่วมกับบริการอื่นสำหรับส่วนนั้น

พรอมต์ไม่ถูกใช้ในการฝึกฝน การสตรีมมิง การเรียกใช้เครื่องมือ และโหมด JSON (response_format พร้อม json_object) ทำงานได้ SDK ของ OpenAI ทุกตัวเชื่อมต่อได้เมื่อตั้งค่า base URL: เปลี่ยน base URL เป็น https://api.chinesellmapi.com/v1 เก็บคีย์ของคุณไว้ และตั้งค่าโมเดลเป็น uncensored

วิธีลองใช้งานโดยไม่เสียค่าใช้จ่าย

สมัครด้วย Google หรืออีเมล เปิด หน้าคีย์ API แล้วรับเครดิตทดลองใช้ $0.50 ด้วยคลิกเดียว ไม่ต้องใช้บัตร เป็นสิทธิ์หนึ่งครั้งต่อคน และใช้ได้ 7 วัน ที่อัตรา 2,000 input tokens และ 500 output tokens ต่อคำขอ ซึ่งคิด $0.00055 เครดิตทดลองใช้ครอบคลุมคำขอประมาณ 909 คำขอ

หลังจากนั้น การเติมเงินทำได้ทุกจำนวนเต็มตั้งแต่ $20 ถึง $500 โดยคริปโต (USDT บน TRC20, USDC บน Base) โบนัสคือ +5% จาก $50, +10% จาก $100 และ +15% จาก $200 หน้าราคา มีตารางเต็ม และ เอกสาร ระบุพารามิเตอร์ทั้งหมด

ถาม-ตอบ

ข้อความภาษาจีน ใช้โทเคนจำนวนเท่าใด

ขึ้นอยู่กับโทเคนไนเซอร์ของโมเดล ส่งตัวอย่างและอ่านฟิลด์ usage เพื่อรับอัตราส่วนของคุณเอง

ทดสอบคุณภาพภาษาจีน ก่อนจ่ายได้ไหม?

ได้ รับเครดิตทดลองใช้ $0.50 ด้วยคลิกเดียวที่หน้าคีย์ API โดยไม่ต้องใช้บัตร ใช้ได้เป็นเวลา 7 วัน

นี่คือ API ทางการของผู้ขายโมเดลจีน หรือไม่?

ไม่ รันโมเดลแบบเปิดน้ำหนักหนึ่งตัวจากผู้ให้บริการอิสระ และไม่ใช่ API ทางการของผู้จำหน่าย

มีฟีเจอร์ embeddings สำหรับการค้นหาภาษาจีน หรือไม่?

ไม่มี เป็น API แชทข้อความเท่านั้น ดังนั้นโปรดใช้บริการอื่นสำหรับ embeddings

คุณเพียงกรอกแบบฟอร์มก็รับคีย์ได้

สร้างบัญชี คัดลอกคีย์ และเปลี่ยน base URL นั่นคือการตั้งค่าทั้งหมด

รับคีย์ API