Обновлено
Дешёвый Chinese LLM API: что сравнивать помимо цены
Цена за токен — лишь половина того, что вы платите. Измерьте токены на своих текстах, затем сравните контекстное окно, лимиты и минимальные суммы.

Начните с расчёта стоимости вашего текста
Дешёвый Chinese LLM API действительно дешёвый, если обрабатывает ваш текст по справедливой цене за запрос. В прайс-листах указана стоимость за миллион токенов, но токен — это не символ и не слово. Сколько токенов нужно для китайского предложения, зависит от токенизатора модели, стоящей за API, и два провайдера могут выставить совершенно разные суммы за один и тот же абзац даже при одинаковой ставке за токен.
Поэтому первый шаг — измерить. Отправьте образец ваших собственных китайских промптов, прочитайте поле usage в ответе и вычислите стоимость одного запроса. Наши тарифы: $0,15 за 1 млн входных токенов и $0,50 за 1 млн выходных токенов, а код ниже показывает, как рассчитать среднюю стоимость по образцу.
from openai import OpenAI
client = OpenAI(base_url="https://api.chinesellmapi.com/v1", api_key="YOUR_KEY")
samples = ["请用三句话介绍一下杭州。", "把下面这段话翻译成英文:今天天气很好。"]
for text in samples:
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": text}],
)
u = r.usage
cost = (u.prompt_tokens * 0.15 + u.completion_tokens * 0.50) / 1_000_000
print(len(text), "chars ->", u.prompt_tokens, "in,", u.completion_tokens, "out, $%.6f" % cost)Запустите 30–50 репрезентативных промптов, а не два. Соотношение токенов к символам, которое вы увидите, — это число, которое нужно использовать при сравнении провайдеров.
Сравнивайте вход, выход и минимальные суммы
Другие факторы стоимости такие же, как для любого API на английском языке, и они так же важны для китайского текста.
- Цены на вход и выход. Выход обычно стоит дороже за токен. Здесь это $0,50 против $0,15 за вход, поэтому задача, генерирующая длинные ответы, например написание историй, обходится дороже, чем классификация коротких текстов.
- Минимальное пополнение. Наше минимальное пополнение начинается с $20 и может достигать $500 целыми суммами.
- Срок действия и подписки. Баланс здесь не сгорает, подписки нет. Проверяйте оба параметра у каждого провайдера, которого вы сравниваете.
- Неудачные запросы. Неудачные или отклонённые запросы здесь не оплачиваются. Не каждый провайдер так делает.
Для других провайдеров проверяйте их текущие цены, а не полагайтесь на этот пост в блоге. Цены меняются.
Качество языка важнее небольшой разницы в цене
Если ваши пользователи читают по-китайски, проблемы с качеством проявляются в смешанных языковых ответах, неестественных формулировках, неправильных счётных словах и ошибках в тоне. Модель, которая на несколько центов дешевле за миллион токенов, но требует двух попыток на ответ, на практике обходится дороже.
Создайте небольшой набор для оценки в стиле, необходимом вашему продукту:
- Десять промптов на разговорном китайском, десять на формальном письме, десять в жанре, который вы обслуживаете, например, поддержка клиентов или веб-фантастика.
- Попросите носителя языка оценить каждый ответ по естественности и точности по шкале от 1 до 5.
- Проверьте, что модель отвечает по-китайски, когда её спрашивают по-китайски, и придерживается упрощённых или традиционных иероглифов согласно инструкции.
Поместите тип письменности и стиль в системный промпт, например, заметку, которая говорит модели отвечать на упрощённом китайском в естественном тоне. Сервис использует одну модель с открытыми весами, поэтому вы не можете переключить модель для исправления качества. Вы настраиваете промпт, и если результаты недостаточно хороши, вы выбираете другого провайдера. Это справедливый компромисс, о котором стоит знать перед началом работы.
Ещё одна проверка стоит десяти минут: задайте один и тот же вопрос три раза и сравните результаты. Сэмплирование делает ответы разными, а для продукта, который вы хотите оценить, важно знать разброс результатов. Установка seed и низкого значения temperature сужает разброс, что помогает при настройке промпта, когда вы хотите видеть только свои изменения.
Длина контекста и длинные китайские документы
Контекст считается в токенах, а не в символах. Окно здесь составляет 100 000 токенов, включая промпт и генерацию, а генерация может занимать всё оставшееся место. Для длинных документов, таких как контракты, романы или логи чатов, проверьте, сколько токенов занимает ваш образец при реальном вызове, прежде чем полагаться на лимит. Одна и та же страница китайского текста может использовать меньше или больше токенов, чем её английская версия, в зависимости от токенизатора.
Длинные входные данные также стоят денег при каждом отправлении. Документ на 60 000 токенов стоит 60 000 × $0,15 / 1 млн = $0,009 за чтение. Если вы зададите по нему десять вопросов, отправите его десять раз, то только за входные данные вы заплатите $0,09. Для повторяющихся вопросов разделите работу: один раз создайте сводку и задавайте вопросы по сводке.
Лимиты, влияющие на дешёвую настройку
Низкая цена не поможет, если лимиты запросов замедлят ваше приложение. Полный ключ позволяет 8 параллельных запросов и 300 запросов в минуту. Пробный ключ позволяет 2 и 60. При превышении лимита API возвращает HTTP 429 с кодом ошибки rate_limited или concurrency. При временной перегрузке возвращается 429 с заголовком Retry-After: 5.
Потоковый ответ удерживает слот параллельности до конца потока, что легко забыть в чат-приложении, где пользователи читают медленно. Запланируйте очередь перед API, если вы ожидаете более 8 человек, общающихся одновременно. Максимальный размер тела запроса составляет 8 МБ, что намного выше, чем нужно для текстового промпта.
Распространённые сценарии использования на китайском языке и их профиль затрат
Разные задачи находятся в разных точках шкалы цен, поэтому сопоставляйте тест с задачей.
- Чат поддержки. Короткие вопросы, средние ответы, длинный системный промпт. Ввод доминирует, поэтому держите системный промпт компактным.
- Перевод. Ввод и вывод примерно одинаковой длины. Наша страница API китайско-английского перевода показывает этот паттерн.
- Генерация историй и ролевых игр. Короткие промпты, длинные ответы. Доминирует вывод, поэтому стоит следить за ставкой $0,50.
- Классификация и тегирование. Очень короткие выводы. Это самые дешёвые задачи на запрос, и они хорошо подходят для JSON-режима.
Для первого рабочего приложения быстрый старт приложения на китайском языке содержит пошаговый код. Установите temperature ниже для перевода и тегирования и выше для художественной литературы. Большинство клиентов передают эти настройки без изменений.
Что представляет собой этот сервис и чем он не является
Это размещённый API текста, совместимый с OpenAI, работающий на одной модели с открытыми весами от независимого провайдера. Модель настроена на ответы без отказов по контенту для законного использования взрослыми. Это подходит для художественной литературы, ролевой игры и приложений-компаньонов для взрослых, включая китайскую веб-прозу и ролевую игру. Сексуальный контент с участием несовершеннолетних всегда запрещён.
Это не официальный API какого-либо вендора моделей, и это не маршрутизатор. Нет эндпоинта эмбеддингов, генерации изображений, аудио или видео и дообучения. Если вам нужны эмбеддинги для китайского поиска, подключите этот API к другому сервису для этой части.
Промпты не используются для обучения. Потоковая передача, вызов функций и JSON-режим (response_format со значением json_object) работают. Любой SDK OpenAI подключается, если вы установите базовый URL: измените базовый URL на https://api.chinesellmapi.com/v1, сохраните свой ключ и установите модель в uncensored.
Как попробовать бесплатно
Зарегистрируйтесь через Google или электронную почту, откройте страницу API-ключ и получите $0,50 пробного баланса в один клик. Карта не нужна, это одна заявка на человека, и она действительна в течение 7 дней. При 2000 входных и 500 выходных токенах за запрос, что стоит $0,00055, пробного баланса хватит примерно на 909 запросов.
После этого пополнения — любая целая сумма от $20 до $500, криптовалютой (USDT на TRC20, USDC на Base). Бонусы: +5% от $50, +10% от $100 и +15% от $200. Страница цен содержит полную таблицу, а документация перечисляет каждый параметр.
Дополнительные руководства
Вопросы и ответы
Сколько токенов занимает китайский текст?
Это зависит от токенизатора модели. Отправьте образец и посмотрите поле usage, чтобы узнать свой коэффициент.
Могу ли я протестировать качество китайского текста перед оплатой?
Да. Получите $0,50 пробного баланса в один клик на странице API-ключ, без карты, действительный в течение 7 дней.
Это официальный API китайского поставщика моделей?
Нет. Он работает на одной модели с открытыми весами от независимого провайдера и не является официальным API поставщика.
Предлагает ли он векторные представления для поиска на китайском?
Нет. Это только API текстового чата, поэтому для эмбеддингов используйте другой сервис.
Ваш ключ — всего в одной форме от вас
Создайте аккаунт, скопируйте ключ, измените базовый URL. Это вся настройка.