Gói dùng thử miễn phí Chinese LLM API: cách hoạt động và các câu hỏi thường gặp

Về gói dùng thử

Tôi nhận được gì miễn phí?

Mỗi tài khoản mới nhận $0.50 tín dụng. Tín dụng có hiệu lực trong bảy ngày kể từ khi đăng ký và bạn không cần nhập thông tin thanh toán để nhận. Tín dụng áp dụng cho cùng một endpoint và cùng một mô hình mà tài khoản trả phí sử dụng, vì vậy những gì bạn thử nghiệm cũng là những gì bạn sẽ chạy trong môi trường sản xuất.

Số tiền $0.50 dùng được bao nhiêu?

Nó phụ thuộc vào các prompt của bạn, vì vậy đây là một minh họa với các giả định được nêu rõ. Giả sử mỗi yêu cầu gửi 1.000 token đầu vào và nhận 500 token đầu ra. Với giá $0.25 cho mỗi triệu token đầu vào và $1.00 cho mỗi triệu token đầu ra, một yêu cầu tốn $0.00025 cộng $0.0005, tức là $0.00075. Sau đó, $0.50 bao gồm khoảng 660 yêu cầu như vậy. Các cuộc trao đổi ngắn hơn sẽ kéo dài hơn, và các lệnh gọi ngữ cảnh dài sử dụng tín dụng nhanh hơn.

Điều gì xảy ra khi hết thời gian dùng thử?

Nếu bảy ngày trôi qua hoặc tín dụng được sử dụng hết trước, các yêu cầu trả về HTTP 402 với mã no_credit. Không có gì bị xóa. Nạp tiền vào số dư trả trước và cùng một khóa sẽ hoạt động lại. Không có gói đăng ký và số dư nạp thêm không bao giờ hết hạn.

Tôi có cần thêm thông tin thanh toán để bắt đầu không?

Không. Việc đăng ký chỉ yêu cầu một địa chỉ email và mật khẩu. Khóa sẽ được hiển thị ngay sau khi bạn đăng ký tại trang lấy khóa của bạn.

Kế hoạch thực tế cho bảy ngày

Bảy ngày là đủ nếu bạn quyết định trước những gì mình muốn tìm hiểu. Hãy coi gói dùng thử như một dự án đánh giá nhỏ hơn là nơi để thử nghiệm ngẫu nhiên. Dưới đây là một chuỗi hoạt động tốt cho hầu hết các nhóm:

1. Ngày 1, kiểm thử nhanh. Xác nhận khóa, danh sách mô hình và một kết quả hoàn thành ngắn. Các lệnh dưới đây thực hiện cả ba việc đó.
2. Ngày 2 đến 3, prompt thực tế của bạn. Chạy hai mươi đến năm mươi đầu vào đại diện từ sản phẩm của bạn qua API. Lưu các đầu ra bên cạnh các đầu vào để đồng nghiệp có thể xem lại mà không cần chạy lại.
3. Ngày 4, các đường lỗi. Chủ động kích hoạt lỗi 400 bằng một yêu cầu quá lớn, lỗi 401 bằng khóa sai, và kiểm tra cách xử lý lỗi 429 và 503 với một đợt gửi đồng loạt nhỏ. Bạn sẽ thấy những lỗi này tốt hơn bây giờ là trong môi trường sản xuất.
4. Ngày 5 đến 6, mô hình chi phí. Nhân số lượng token đã ghi lại của bạn với các mức giá công bố và dự báo số tiền hàng tháng dựa trên các giả định lưu lượng của bạn.
5. Ngày 7, quyết định. So sánh chất lượng, chi phí và giới hạn với các yêu cầu của bạn, sau đó quyết định có nên nạp tiền hay không.

Copyexport API_KEY="paste-your-key-here"

# 1) confirm the key works and see the model id
curl -s https://api.chinesellmapi.com/v1/models \
  -H "Authorization: Bearer $API_KEY"

# 2) one short completion; read the usage block in the reply
curl -s https://api.chinesellmapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"用一句话介绍杭州的春天。"}],"max_tokens":120}'

Lệnh gọi thứ hai trả về một đối tượng sử dụng với số lượng token prompt và hoàn thành. Hãy ghi lại những số liệu này từ ngày đầu tiên; chúng là nguyên liệu thô cho mọi ước tính chi phí bạn sẽ thực hiện sau này.

Khóa và bắt đầu

Tôi có thể có bao nhiêu khóa?

Một khóa mỗi tài khoản. Nếu bạn cần một khóa mới, hãy tạo lại từ tài khoản của bạn. Khóa cũ sẽ ngừng hoạt động ngay lập tức, vì vậy hãy cập nhật các triển khai của bạn ngay lập tức, nếu không bạn sẽ thấy lỗi 401 từ bất kỳ thứ gì vẫn sử dụng giá trị trước đó.

Tôi đặt khóa ở đâu?

Trong một biến môi trường trên máy chủ của bạn, ví dụ API_KEY, và không bao giờ trong mã trình duyệt hoặc kho lưu trữ công khai. Các yêu cầu mang theo nó dưới dạng Authorization: Bearer <key>.

Yêu cầu nhỏ nhất chứng minh nó hoạt động là gì?

Liệt kê các mô hình bằng GET /v1/models, sau đó gửi một kết quả hoàn thành trò chuyện ngắn đến /v1/chat/completions với mô hình uncensored và giá trị max_tokens thấp. Trường usage trong phản hồi cho biết chính xác chi phí tính bằng token của lệnh gọi đó.

Tôi có thể sử dụng SDK OpenAI không?

Có. API tương thích với các kết thúc hoàn thành trò chuyện của OpenAI. Hãy trỏ base URL về https://api.chinesellmapi.com/v1, cung cấp khóa của bạn và đặt mô hình thành uncensored. Hướng dẫn chi tiết, bao gồm các prompt và điều khiển kịch bản, có trong quickstart.

Giới hạn và khả năng

Prompt và phản hồi có thể dài bao nhiêu?

Cửa sổ ngữ cảnh là 100.000 token, tính cả prompt và hoàn thành cùng nhau. Cài đặt max_tokens mặc định là 2.048 và có thể tăng lên 32.000 mỗi yêu cầu. Thân yêu cầu có thể lên tới 8 MB. Nếu prompt cộng với max_tokens vượt quá cửa sổ, API sẽ trả về 400.

Tôi có thể gửi bao nhiêu yêu cầu?

Mỗi khóa được giới hạn ở 300 yêu cầu mỗi phút. Vượt quá giới hạn đó, bạn sẽ nhận được lỗi 429. Hãy phân bổ đều các công việc batch và thêm cơ chế backoff; hướng dẫn dịch bao gồm một kịch bản batch có kiểm soát tốc độ.

Nó có hỗ trợ truyền phát và gọi hàm không?

Có cho cả hai. Đặt stream: true cho các sự kiện do máy chủ gửi, với một chunk cuối cùng mang thông tin sử dụng. Các công cụ được chấp nhận theo định dạng OpenAI và các trường lấy mẫu như temperature, top_p và stop được chuyển tiếp.

Những gì không có sẵn?

Chỉ có văn bản được cung cấp: không có embedding, hình ảnh, âm thanh, video hoặc tinh chỉnh. Chỉ có một mô hình. Nếu dự án của bạn cần một trong các tính năng bị thiếu, hãy lên kế hoạch kết hợp API này với một công cụ khác cho phần đó.

Các lỗi bạn có thể gặp

Những mã trạng thái nào tôi nên mong đợi?

Lỗi trả về JSON có dạng {"error":{"code":...,"message":...}}. Lỗi 400 có nghĩa là yêu cầu không hợp lệ, 401 là khóa không hợp lệ hoặc thiếu, 402 no_credit, 403 content_blocked, 404 là endpoint không xác định, 429 là giới hạn tốc độ và 503 upstream_busy.

Những lỗi nào đáng để thử lại?

Chỉ 429 và 503. Hãy đợi, thêm nhiễu ngẫu nhiên và thử lại một số lần giới hạn; vài giây là đủ cho 503. Thử lại 400, 401, 402 hoặc 403 sẽ không thay đổi kết quả.

Tôi đã nạp tiền nhưng vẫn thấy 402, bây giờ phải làm sao?

Hãy kiểm tra xem bạn có đang sử dụng khóa hiện tại không, vì việc tạo lại khóa sẽ thay thế khóa cũ. Sau đó xác nhận yêu cầu đang được gửi đến base URL đúng. Nếu mọi thứ khớp, hãy gửi một yêu cầu tối thiểu và đọc thông báo lỗi trong thân phản hồi.

Giúp tín dụng dùng thử kéo dài hơn

Số tiền tín dụng được thiết kế nhỏ, vì vậy một vài thói quen sẽ giúp bạn kéo dài nó. Hãy giữ max_tokens ở mức thấp trong khi bạn đang thử nghiệm, vì token đầu ra có giá cao gấp bốn lần so với token đầu vào: $1.00 cho mỗi triệu token so với $0.25 cho mỗi triệu token. Hãy thử nghiệm với các prompt ngắn, đại diện trước tiên và chỉ chuyển sang các đầu vào dài nhất của bạn khi các prompt ngắn hoạt động đúng. Tránh các vòng lặp gọi API mà không có điều kiện dừng, và giới hạn số lần thử lại trong mã của riêng bạn.

Ví dụ thực tế với các giả định đã nêu: một bộ đánh giá gồm 50 prompt, mỗi prompt khoảng 600 token đầu vào, với phản hồi bị giới hạn ở 300 token đầu ra. Một lượt chạy tốn 30.000 token đầu vào cộng 15.000 token đầu ra, tương đương $0.0075 cộng $0.015, hay $0.0225. Bạn có thể chạy toàn bộ bộ đó khoảng 22 lần trước khi hết tín dụng, đủ để so sánh một vài biến thể prompt một cách chính xác.

Nếu bạn truyền một prompt rất dài, hãy nhớ rằng toàn bộ prompt sẽ được tính phí trong mọi lần gọi. Một tài liệu 40.000 token được gửi hai mươi lần sẽ tốn kém tương đương hai mươi yêu cầu lớn riêng biệt, vì vậy hãy lưu trữ hoặc tóm tắt ngữ cảnh chia sẻ khi có thể. Các mức giá hiện tại được liệt kê trên trang giá cả, và chi tiết tham số có trong tài liệu.

Quy tắc nội dung và quyền riêng tư

Nội dung nào được phép?

Nội dung người lớn hợp pháp, văn học và các chủ đề gây tranh cãi không bị từ chối. Dịch vụ dành cho người trưởng thành từ 18 tuổi trở lên. Đối với văn học dài và trò chuyện nhân vật, hướng dẫn văn học bao gồm cấu trúc prompt và chi phí.

Nội dung nào luôn bị chặn?

Nội dung tình dục liên quan đến trẻ vị thành niên bị chặn trong mọi trường hợp và trả về mã 403, bao gồm cả tiểu thuyết và nhập vai. Việc chặn này không thể thay đổi bằng cách sửa đổi prompt, vì vậy đừng thử lại.

Các prompt của tôi có được dùng để huấn luyện không?

Không, các prompt không được dùng để huấn luyện.