Обновлено
Альтернатива OpenRouter для приложений на китайском языке
Роутер предоставляет множество моделей; одна размещённая модель даёт один стабильный эндпоинт. Вот как выбрать вариант для китайского приложения.

Краткий ответ
Если вы ищете альтернативу OpenRouter, которую могут использовать приложения, честный ответ зависит от того, что вам нравилось в OpenRouter. Если это был выбор множества моделей за одним ключом, этот сервис не является заменой, потому что он обслуживает одну модель. Если это был простой совместимый с OpenAI эндпоинт с предсказуемым ценообразованием для продукта на китайском языке, одна размещённая модель может быть проще в использовании.
Ниже приведено простое сравнение, список критериев выбора и изменения в коде, необходимые для тестирования обоих вариантов. Вы можете протестировать этот API на пробном балансе и параллельно сохранить аккаунт OpenRouter, так как переключение сводится к изменению базового URL.
Что представляет собой каждый вариант
| Роутер, такой как OpenRouter | Этот сервис | |
|---|---|---|
| Основная идея | Один API-ключ, который обеспечивает доступ ко многим моделям от разных вендоров | Одна размещённая модель с открытыми весами за совместимым с OpenAI API |
| Выбор модели | Вы выбираете для каждого запроса | Фиксировано: идентификатор модели uncensored |
| Цены | Зависит от модели; проверьте их текущие цены | $0,15 за 1 млн входных, $0,50 за 1 млн выходных |
| Поведение в отношении контента | Устанавливается каждой моделью и её хостом | Настроена на ответы без отказов по контенту для законного использования взрослыми |
| Дополнительно | Множество функций моделей, в зависимости от модели | Чат, ответы, потоковая передача, вызов функций, JSON-режим; нет изображений, аудио или эмбеддингов |
Всё, что касается столбца маршрутизатора, является общим и может измениться, поэтому читайте его текущую документацию. Правый столбец показывает, что этот сервис предлагает сегодня.
Когда маршрутизатор — лучший выбор
Будьте честны с собой в этих случаях и используйте маршрутизатор, если любой из пунктов описывает вас:
- Вы хотите сравнить модели разных вендоров на китайских промптах и выбрать лучшую для каждой задачи.
- Вам нужна конкретная модель по имени, например, релиз конкретной китайской лаборатории, в одном приложении.
- Вы хотите автоматическое резервирование при сбое одной модели.
- Вам нужны эмбеддинги, vision или другие эндпоинты через один ключ.
Сервис с одной моделью не может этого делать. Это не маршрутизатор между вендорами и не официальное API какого-либо вендора моделей. Если выбор модели — ваше главное требование, маршрутизатор выигрывает.
Когда одна размещённая модель подходит лучше
Одна модель имеет реальные преимущества для продукта с чёткой структурой.
- Предсказуемое поведение. Модель не меняется в процессе использования, поэтому ваши промпты, настройки тона и тесты остаются актуальными. С множеством моделей поведение различается в зависимости от выбора, и вам нужен набор тестов для каждой модели.
- Предсказуемая стоимость. Существует одна пара цен. Ежемесячный бюджет — это умножение, а не поиск по каталогу.
- Нет отказов для законного использования взрослыми. Для китайской веб-прозы, ролевых игр и приложений-компаньонов для взрослых отказы портят опыт. Эта модель настроена на их избегание. См. Китайская веб-проза и ролевые игры. Сексуальный контент с участием несовершеннолетних всегда запрещён.
- Низкие усилия по настройке. Один идентификатор модели, ничего выбирать не нужно.
Компромисс — риск качества, и это главный фактор для взвешивания. Если эта модель слабее другой в вашей китайской задаче, вы не сможете переключиться внутри сервиса. Протестируйте её перед принятием решения. Справедливый способ — сначала дать ей три самых сложных промпта, например, длинный диалог с последовательным голосом персонажа, сложное переписывание текста с обилием идиом и запрос, требующий строгого JSON, и посмотреть, где она ошибается.
Тест переключения: тот же код, два эндпоинта
Поскольку обе модели используют протокол OpenAI, справедливое тестирование обходится очень дёшево. По указанным ставкам один запрос с 2 500 входными и 500 выходными токенами стоит $0,000375 + $0,00025 = $0,000625, поэтому 30 промптов обойдутся примерно в $0,019 — небольшая часть от $0,50 пробного баланса. Вы можете запустить один скрипт против обеих моделей и сравнить ответы и стоимость бок о бок.
import os
from openai import OpenAI
ours = OpenAI(base_url="https://api.chinesellmapi.com/v1", api_key=os.environ["OUR_KEY"])
router = OpenAI(base_url=os.environ["ROUTER_URL"], api_key=os.environ["ROUTER_KEY"])
prompt = "用轻松的语气,写一段三句话的咖啡店开业公告。"
a = ours.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": prompt}],
)
b = router.chat.completions.create(
model=os.environ["ROUTER_MODEL"],
messages=[{"role": "user", "content": prompt}],
)
print("OURS :", a.choices[0].message.content, a.usage.total_tokens)
print("ROUTER:", b.choices[0].message.content, b.usage.total_tokens)Затем прогоните 30 промптов из вашего продукта, перемешайте результаты и попросите носителя языка оценить их без пометок. Умножьте количество токенов каждой стороны на её собственные цены, чтобы получить стоимость за хороший ответ. URL для маршрутизатора и название модели берутся из его документации, поэтому скрипт считывает их из переменных окружения.
Стоимость: рабочий пример
Предположим, китайская чат-функция отправляет 2500 входных токенов и получает 500 выходных токенов 20 000 раз в месяц.
- Вход: 20 000 x 2500 = 50 млн токенов, то есть 50 x $0,15 = $7,50.
- Выход: 20 000 x 500 = 10 млн токенов, то есть 10 x $0,50 = $5,00.
- Итого: $12,50 в месяц в этом сервисе.
Для сравнения возьмите текущую цену роутера для модели, которую вы бы выбрали, примените те же две строки и проверьте, взимает ли он какие-либо дополнительные сборы сверх цены модели. Количество токенов для китайского текста различается в зависимости от токенизатора, поэтому измерьте их с обеих сторон с помощью поля usage, а не используйте мои данные.
Сторона маршрутизатора в этой формуле — это то, что вам нужно заполнить, и там важна ещё одна строка: модели сильно различаются по цене, поэтому самая дешёвая модель на маршрутизаторе может быть другой моделью с другим уровнем качества. Сравнивайте стоимость приемлемого ответа, а не заявленную цену. Дешёвая модель, которую придётся перезапрашивать в 30% случаев, — это не экономия.
Здесь нет подписки. Вы платите с предоплаченного баланса, он не сгорает, а неудачные или отклонённые запросы не тарифицируются. Минимальное пополнение — $20, с бонусом +5% от $50, +10% от $100 и +15% от $200.
Семь вопросов к любому провайдеру
Выберете ли вы роутер, этот сервис или что-то ещё, тот же чек-лист защитит вас от сюрпризов в продукте на китайском языке.
- Какая именно модель отвечает на мой запрос, и может ли она измениться без уведомления?
- Как считаются и оплачиваются китайские токены, и за что я плачу за типичный запрос?
- Что происходит, когда мой контент на грани: отказ, переписывание или скрытый фильтр? Тарифицируются ли отклонённые запросы?
- Каковы лимиты параллельных запросов и запросов в минуту для нового ключа?
- Используются ли мои данные промптов для обучения или передаются ли они третьим лицам? Здесь промпты не используются для обучения.
- Как увидеть свой баланс из кода? Здесь это дают заголовок
X-Balance-USDи запросGET /v1/balance. - Каков путь выхода? С API, совместимым с OpenAI, это изменение базового URL.
Запишите ответы в таблицу для каждого кандидата. Пробелы в таблице, такие как «неизвестно» или «не задокументировано», — это тоже информация.
Лимиты и функции, о которых следует знать
Полный ключ позволяет 8 параллельных запросов и 300 в минуту, пробный ключ — 2 и 60. Контекстное окно составляет 100 000 токенов, сумма промпта и завершения. Потоковая передача, вызов функций и JSON-режим работают, промпты не используются для обучения. Сервис поддерживает только текст: нет эмбеддингов, изображений, аудио, видео или дообучения.
Если вашему приложению нужны и чат, и эмбеддинги, используйте этот API для чата, а для эмбеддингов — другого провайдера. Такое разделение распространено, и для него не нужен роутер. Храните два базовых URL в конфигурации, по одному на задачу, чтобы можно было изменить любой из них позже, не затрагивая бизнес-логику.
Как попробовать
Зарегистрируйтесь через Google или email, откройте страницу API-ключ и получите пробный баланс $0,50 в один клик. Карта не нужна, срок — 7 дней. Затем следуйте руководству Быстрый старт для китайского языка для рабочего кода или прочтите документацию. Тарифы и бонусы — на странице цены. Пробный ключ работает с пониженными лимитами, чего достаточно для сравнительного запуска нескольких десятков промптов. Пополнение доступно криптовалютой (USDT в сети TRC20, USDC в сети Base).
Дополнительные руководства
Вопросы и ответы
Является ли это готовой заменой OpenRouter?
Только для чата. Сервис обслуживает одну модель, поэтому вы теряете выбор модели, механизмы резервирования и нечатовые эндпоинты.
Можно ли использовать один и тот же код?
Да. Оба сервиса используют протокол OpenAI, поэтому вам нужно изменить базовый URL, ключ и имя модели.
Насколько хорошо модель знает китайский язык?
Протестируйте её своими промптами. Используйте бесплатный пробный баланс и попросите носителя языка оценить ответы.
Нужна ли карта, чтобы попробовать?
Нет. Для получения пробного баланса $0,50 достаточно регистрации и одного клика.
Ваш ключ — всего в одной форме
Создайте аккаунт, скопируйте ключ, измените базовый URL. Это вся настройка.