Cập nhật
Giá rẻ Chinese LLM API: Những điều cần so sánh ngoài giá cả
Giá trên mỗi token chỉ là một nửa chi phí thực tế. Bạn hãy đo token trên văn bản của mình, sau đó so sánh ngữ cảnh, giới hạn và mức tối thiểu.

Bắt đầu với chi phí cho văn bản của chính bạn
Một API LLM Trung Quốc giá rẻ chỉ thực sự rẻ khi nó xử lý văn bản của bạn với giá công bằng cho mỗi yêu cầu. Danh sách giá thường hiển thị chi phí trên một triệu token, nhưng một token không phải là một ký tự hay một từ. Số lượng token cần thiết cho một câu tiếng Trung phụ thuộc vào tokenizer của mô hình phía sau API, và hai nhà cung cấp có thể tính tổng chi phí rất khác nhau cho cùng một đoạn văn ngay cả khi tỷ lệ trên mỗi token giống nhau.
Vì vậy, bước đầu tiên là đo lường. Gửi một mẫu prompt tiếng Trung của bạn, đọc trường usage trong phản hồi và tính chi phí cho mỗi yêu cầu. Giá của chúng tôi là $0,15 cho mỗi 1 triệu token đầu vào và $0,50 cho mỗi 1 triệu token đầu ra, và đoạn mã bên dưới giúp bạn tính chi phí trung bình từ một mẫu.
from openai import OpenAI
client = OpenAI(base_url="https://api.chinesellmapi.com/v1", api_key="YOUR_KEY")
samples = ["请用三句话介绍一下杭州。", "把下面这段话翻译成英文:今天天气很好。"]
for text in samples:
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": text}],
)
u = r.usage
cost = (u.prompt_tokens * 0.15 + u.completion_tokens * 0.50) / 1_000_000
print(len(text), "chars ->", u.prompt_tokens, "in,", u.completion_tokens, "out, $%.6f" % cost)Bạn hãy chạy 30 đến 50 prompt đại diện thay vì chỉ hai. Tỷ lệ token trên ký tự bạn thấy chính là con số bạn cần dùng khi so sánh các nhà cung cấp.
So sánh đầu vào, đầu ra và mức tối thiểu
Các yếu tố chi phí khác cũng giống như với bất kỳ API ngôn ngữ tiếng Anh nào, và chúng cũng quan trọng không kém với văn bản tiếng Trung.
- Giá đầu vào và đầu ra. Đầu ra thường đắt hơn trên mỗi token. Tại đây, giá đầu ra là $0,50 so với $0,15 cho đầu vào, nên một nhiệm vụ tạo phản hồi dài như viết truyện sẽ tốn kém hơn một nhiệm vụ phân loại văn bản ngắn.
- Nạp tiền tối thiểu. Mức bắt đầu của chúng tôi là $20 và tăng lên đến $500 theo các số nguyên.
- Thời hạn và gói đăng ký. Tín dụng ở đây không bao giờ hết hạn và không có gói đăng ký. Bạn hãy kiểm tra cả hai yếu tố trên mỗi nhà cung cấp mà bạn so sánh.
- Yêu cầu thất bại. Các yêu cầu thất bại hoặc bị từ chối không được tính phí tại đây. Không phải nhà cung cấp nào cũng làm như vậy.
Đối với các nhà cung cấp khác, bạn hãy kiểm tra bảng giá hiện tại của họ thay vì dựa vào bài đăng trên blog, bao gồm bài viết này. Giá cả có thể thay đổi.
Chất lượng ngôn ngữ quan trọng hơn một chênh lệch giá nhỏ
Nếu người dùng của bạn đọc tiếng Trung, các vấn đề về chất lượng sẽ thể hiện qua các câu trả lời pha trộn ngôn ngữ, cách diễn đạt cứng nhắc, sai từ đo lường và sai lệch về sắc thái. Một mô hình rẻ hơn vài cent trên một triệu token nhưng cần hai lần thử cho mỗi câu trả lời sẽ tốn kém hơn trong thực tế.
Bạn hãy xây dựng một bộ đánh giá nhỏ theo phong cách mà sản phẩm của bạn cần:
- Mười prompt bằng tiếng Trung giao tiếp hàng ngày, mười bằng văn viết trang trọng, mười theo thể loại bạn phục vụ, chẳng hạn như hỗ trợ khách hàng hoặc tiểu thuyết mạng.
- Bạn hãy nhờ một người đọc bản xứ đánh giá mỗi câu trả lời về độ tự nhiên và chính xác theo thang điểm 1 đến 5.
- Kiểm tra xem mô hình có trả lời bằng tiếng Trung khi được hỏi bằng tiếng Trung không, và có giữ nguyên ký tự Giản thể hay Phồn thể theo hướng dẫn không.
Bạn hãy đặt kịch bản và phong cách vào một system prompt, ví dụ như một ghi chú yêu cầu mô hình trả lời bằng tiếng Trung Giản thể với giọng điệu tự nhiên. Dịch vụ này chạy một mô hình trọng số mở, nên bạn không thể chuyển đổi mô hình để khắc phục chất lượng. Bạn hãy điều chỉnh prompt, và nếu kết quả chưa đủ tốt, bạn hãy chọn một nhà cung cấp khác. Đó là một sự đánh đổi công bằng mà bạn nên biết trước khi bắt đầu.
Một kiểm tra nữa cũng đáng mười phút: bạn hãy hỏi cùng một câu hỏi ba lần và so sánh. Việc lấy mẫu làm cho câu trả lời thay đổi, và đối với một sản phẩm, bạn muốn biết mức độ biến thiên là bao nhiêu. Việc đặt seed và một giá trị temperature thấp sẽ thu hẹp khoảng biến thiên này, điều này hữu ích khi bạn tinh chỉnh prompt và muốn chỉ thấy những thay đổi của riêng mình.
Độ dài ngữ cảnh và tài liệu tiếng Trung dài
Ngữ cảnh được tính bằng token, không phải ký tự. Cửa sổ ngữ cảnh tại đây là 100.000 token, bao gồm prompt và completion, và một completion có thể sử dụng mọi phần còn lại. Đối với các tài liệu dài như hợp đồng, tiểu thuyết hoặc nhật ký trò chuyện, bạn hãy kiểm tra xem mẫu của mình tốn bao nhiêu token bằng một yêu cầu thực tế trước khi dựa vào giới hạn đó. Cùng một trang văn bản tiếng Trung có thể sử dụng ít hoặc nhiều token hơn phiên bản tiếng Anh của nó, tùy thuộc vào tokenizer.
Các đầu vào dài cũng tốn tiền mỗi lần bạn gửi chúng. Một tài liệu 60.000 token tốn 60.000 x $0,15 / 1 triệu = $0,009 cho mỗi lần đọc. Nếu bạn hỏi mười câu hỏi về nó, bạn sẽ gửi nó mười lần và bạn sẽ trả $0,09 chỉ cho đầu vào. Đối với các câu hỏi lặp lại, bạn hãy chia nhỏ công việc: tóm tắt một lần và đặt câu hỏi dựa trên bản tóm tắt đó.
Các giới hạn ảnh hưởng đến một gói giá rẻ
Giá thấp không giúp ích nếu giới hạn tốc độ làm chậm ứng dụng của bạn. Khóa đầy đủ cho phép 8 yêu cầu đồng thời và 300 yêu cầu mỗi phút. Khóa dùng thử cho phép 2 và 60. Vượt quá giới hạn, API trả về HTTP 429 với mã lỗi rate_limited hoặc concurrency. Khi quá tải tạm thời, nó trả về 429 với tiêu đề Retry-After: 5.
Một phản hồi được truyền phát giữ slot đồng thời của nó cho đến khi luồng kết thúc, điều này dễ bị quên trong một ứng dụng trò chuyện nơi người dùng đọc chậm. Bạn hãy lập kế hoạch cho một hàng đợi phía trước API nếu bạn mong đợi hơn 8 người trò chuyện cùng một lúc. Kích thước tối đa của thân yêu cầu là 8 MB, lớn hơn nhiều so với những gì một prompt văn bản cần.
Các trường hợp sử dụng tiếng Trung phổ biến và hồ sơ chi phí của chúng
Các công việc khác nhau nằm ở các điểm khác nhau trên thang giá, vì vậy bạn hãy khớp bài kiểm tra với công việc.
- Trò chuyện hỗ trợ khách hàng. Câu hỏi ngắn, câu trả lời trung bình, một system prompt dài. Đầu vào chiếm ưu thế, vì vậy bạn hãy giữ system prompt thật gọn gàng.
- Dịch thuật. Đầu vào và đầu ra có độ dài xấp xỉ nhau. Trang API dịch tiếng Trung-Anh của chúng tôi hiển thị mẫu này.
- Tạo truyện và nhập vai. Prompt ngắn, phản hồi dài. Đầu ra chiếm ưu thế, vì vậy tỷ lệ $0,50 là thứ bạn cần theo dõi.
- Phân loại và gắn thẻ. Đầu ra rất ngắn. Đây là các công việc rẻ nhất trên mỗi yêu cầu, và phù hợp tốt với chế độ JSON.
Đối với ứng dụng đầu tiên hoạt động, hướng dẫn nhanh ứng dụng tiếng Trung có mã nguồn từng bước. Đặt temperature thấp hơn cho dịch thuật và gắn thẻ, và cao hơn cho văn học. Hầu hết các client truyền các cài đặt này qua mà không thay đổi.
Dịch vụ này là gì và không phải là gì
Đây là một API văn bản tương thích OpenAI được lưu trữ, chạy một mô hình trọng số mở từ nhà cung cấp độc lập. Mô hình được tinh chỉnh để trả lời mà không từ chối nội dung cho mục đích người trưởng thành hợp pháp. Điều đó phù hợp với văn học hư cấu, nhập vai và ứng dụng bạn đồng hành cho người lớn, bao gồm văn học hư cấu và nhập vai trên web Trung Quốc. Nội dung tình dục liên quan đến người chưa thành niên không bao giờ được phép.
Đây không phải là API chính thức của bất kỳ nhà cung cấp mô hình nào, và nó không phải là một bộ định tuyến. Không có endpoint embeddings, không có tạo hình ảnh, âm thanh hoặc video và không có tinh chỉnh. Nếu bạn cần embeddings cho tìm kiếm tiếng Trung, hãy kết nối API này với một dịch vụ khác cho phần đó.
Các prompt không được sử dụng để huấn luyện. Truyền phát, gọi công cụ và chế độ JSON (response_format với json_object) đều hoạt động. Bất kỳ SDK OpenAI nào cũng kết nối khi bạn đặt base URL: thay đổi base URL thành https://api.chinesellmapi.com/v1, giữ nguyên khóa của bạn và đặt mô hình thành uncensored.
Cách dùng thử miễn phí
Đăng ký bằng Google hoặc email, mở trang khóa API và nhận $0,50 tín dụng dùng thử chỉ với một cú nhấp chuột. Không cần thẻ, mỗi người chỉ được nhận một lần và nó có hiệu lực trong 7 ngày. Với 2.000 token đầu vào và 500 token đầu ra cho mỗi yêu cầu, tốn $0,00055, tín dụng dùng thử này bao gồm khoảng 909 yêu cầu.
Sau đó, bạn có thể nạp tiền với bất kỳ số nguyên nào từ $20 đến $500 bằng tiền mã hóa (USDT trên TRC20, USDC trên Base). Tiền thưởng là +5% từ $50, +10% từ $100 và +15% từ $200. trang giá cả có bảng đầy đủ, và tài liệu liệt kê mọi tham số.
Hướng dẫn khác
Hỏi đáp
Văn bản tiếng Trung sử dụng bao nhiêu token?
Tùy thuộc vào tokenizer của mô hình. Gửi một mẫu và đọc trường usage để xác định tỷ lệ của riêng bạn.
Tôi có thể kiểm tra chất lượng tiếng Trung trước khi thanh toán không?
Có. Bạn có thể nhận $0,50 tín dụng dùng thử miễn phí bằng một cú nhấp chuột trên trang khóa API, không cần thẻ, có hiệu lực trong 7 ngày.
Đây có phải là API chính thức của nhà cung cấp mô hình Trung Quốc không?
Không. Nó chạy một mô hình trọng số mở từ nhà cung cấp độc lập và không phải là API chính thức của nhà cung cấp.
Nó có cung cấp embedding cho tìm kiếm tiếng Trung không?
Không. Đây chỉ là API trò chuyện văn bản, vì vậy bạn hãy sử dụng dịch vụ khác cho embedding.
Khóa của bạn chỉ cách một bước
Tạo tài khoản, sao chép khóa, thay đổi URL cơ sở. Đó là toàn bộ quy trình thiết lập.