RU ▾

Chinese LLM APIПеревод

Получить API-ключ

Обновлено

Совместимый с OpenAI API URL: базовый URL и заголовки

Базовый URL — https://api.chinesellmapi.com/v1. Укажите его там, где ваш клиент OpenAI ожидает базовый URL, добавьте ключ как токен Bearer и используйте идентификатор модели uncensored.

Кабель, соединяющий терминал ноутбука с светящимся серверным кубом, символизирующий подключение клиента к эндпоинту API

Краткий ответ

Если вы ищете совместимый с OpenAI API URL для этого сервиса, скопируйте это значение:

https://api.chinesellmapi.com/v1

Это базовый URL. Любой SDK OpenAI, десктопный клиент и фреймворк для агентов, имеющий поле «базовый URL», «API base», «endpoint» или «host», принимает эту строку. Ключ вводится в соответствующее поле «API key», а имя модели — uncensored.

За ним скрыты два эндпоинта: POST /v1/chat/completions для чата и GET /v1/models для вывода списка моделей. Другие возможности интерфейса OpenAI не предлагаются, поэтому нет маршрута для эмбеддингов, изображений или дообучения. Если вам нужен ключ, на странице API-ключа описан процесс регистрации.

Базовый URL против полного URL эндпоинта

Здесь чаще всего возникают ошибки. Клиенты делятся на две группы: те, которым нужен базовый URL для самостоятельного добавления пути, и те, которым нужен полный URL вызова. В таблице показаны оба варианта.

Что требует полеЗначение для ввода
Базовый URL, API base, хост OpenAIhttps://api.chinesellmapi.com/v1
Полный URL chat completionshttps://api.chinesellmapi.com/v1/chat/completions
URL списка моделейhttps://api.chinesellmapi.com/v1/models

Официальные SDK OpenAI, обертка LangChain для OpenAI, LiteLLM и большинство чат-интерфейсов относятся к первой группе. Инструменты, позволяющие вставить сырой URL запроса, — ко второй. Если метка поля не указывает тип, прочтите текст-подсказку: если он заканчивается на /v1, требуется базовый URL.

Конечные слэши

Большинство SDK обрабатывают конечный слэш, но некоторые формируют финальный путь простым соединением строк. Если вы получаете ошибку 404 и URL заканчивается на /v1/, удалите последний слэш и попробуйте снова.

Заголовки, ожидаемые API

Для запросов требуются два заголовка: для аутентификации и для типа тела:

  • Authorization: Bearer YOUR_KEY
  • Content-Type: application/json

SDK устанавливают оба заголовка автоматически. Если вы формируете запросы вручную, вот минимальный рабочий вызов:

curl https://api.chinesellmapi.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Say hello in one sentence."}]
  }'

В ответе есть несколько заголовков, которые стоит логировать: X-Request-Id для вопросов поддержки, X-Balance-USD для оставшегося баланса и X-RateLimit-Limit-Requests и X-RateLimit-Limit-Concurrency для лимитов, применимых к вашему ключу.

Настройка в SDK OpenAI

В сравнении со стандартной настройкой OpenAI меняются только два значения: базовый URL и ключ. Всё остальное в вашем коде остаётся без изменений.

Python

from openai import OpenAI

client = OpenAI(
    base_url="https://api.chinesellmapi.com/v1",
    api_key="YOUR_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Translate 'good morning' into Chinese."}],
)
print(resp.choices[0].message.content)

Node

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.chinesellmapi.com/v1",
  apiKey: process.env.API_KEY,
});

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Translate 'good morning' into Chinese." }],
});
console.log(resp.choices[0].message.content);

Потоковая передача работает так же: добавьте stream: true и читайте чанки. Данные об использовании приходят в конце потока. Имейте в виду, что потоковый запрос занимает один слот параллельности до закрытия потока.

Переменные окружения вместо кода

Текущие SDK OpenAI для Python и Node считывают OPENAI_BASE_URL и OPENAI_API_KEY из окружения, если вы не передаёте их в коде. Это самый быстрый способ направить существующий проект на новый эндпоинт без изменения строк:

export OPENAI_BASE_URL="https://api.chinesellmapi.com/v1"
export OPENAI_API_KEY="YOUR_KEY"
python app.py

Многие сторонние инструменты используют те же два имени переменных, хотя некоторые используют свои, например API_BASE или OPENAI_API_BASE в старых проектах. Проверьте документацию инструмента на точное имя. Если в проекте где-то жёстко прописан api.openai.com, найдите этот хост в коде и замените его.

Имя модели обычно хранится в отдельной настройке, поэтому не забудьте изменить его на uncensored тоже. Оставление имени модели OpenAI по умолчанию — вторая по частоте причина ошибки после неверного URL.

Проверьте подключение перед отладкой приложения

Протестируйте URL и ключ вызовом, который ничего не стоит. Вывод списка моделей не требует токенов:

curl https://api.chinesellmapi.com/v1/models \
  -H "Authorization: Bearer YOUR_KEY"

Если возвращается список JSON, содержащий uncensored, URL и ключ корректны, и любая оставшаяся проблема кроется в настройках вашего клиента. Если ошибка, используйте эту таблицу.

СимптомВероятная причинаИсправление
404 Not FoundПуть удвоен (/v1/v1/...) или отсутствует /v1Введите базовый URL ровно один раз, заканчивающийся на /v1
401 UnauthorizedКлюч отсутствует, скопирован с пробелом или отправлен в неверном заголовкеОтправьте Authorization: Bearer YOUR_KEY и скопируйте ключ заново
429 с кодом rate_limitedСлишком много запросов в минутуЗамедлите темп или поставьте запросы в очередь
429 с кодом concurrencyСлишком много запросов одновременноОграничьте параллельные вызовы, помните, что потоки занимают слот
429 с Retry-After: 5Временная перегрузкаПодождите пять секунд и повторите попытку
Модель не найденаОставшееся имя модели OpenAIУстановите модель на uncensored

Лимиты, которые нужно знать перед выводом в продакшн

Полный ключ позволяет выполнять 8 параллельных запросов и 300 запросов в минуту. Пробный ключ позволяет выполнять 2 параллельных запроса и 60 в минуту. Тело запроса может занимать до 8 МБ, а контекстное окно — 100 000 токенов, включая промпт и completion, поэтому max_tokens является необязательным.

Сервис работает только с текстом и использует одну модель с открытыми весами от независимого провайдера. Это не официальное API ни одного вендора моделей и не маршрутизатор между вендорами. Если ваше приложение — продукт на китайском языке, быстрый старт для китайских приложений показывает, как структурировать промпты, а руководство по API перевода охватывает глоссарии и заполнители.

Биллинг работает по модели оплаты по факту использования из предоплаченного баланса: $0,15 за 1 млн входных токенов и $0,50 за 1 млн выходных токенов. За неудачные или отклонённые запросы не взимается плата. На странице цен указаны размеры пополнений и бонусы, а новые пользователи могут получить $0,50 пробного баланса в один клик на странице ключа, срок действия которого составляет 7 дней и который не требует привязки карты. Для более подробного руководства по настройке клиента см. документацию быстрого старта.

Контент, сексуализирующий несовершеннолетних, всегда запрещён; во всех остальных случаях модель настроена на ответы без отказов по содержанию для законного использования взрослыми.

Другие места, куда попадает URL

Фреймворки называют это поле по-разному, но значение одинаковое. Три распространённых примера:

# LangChain
from langchain_openai import ChatOpenAI
llm = ChatOpenAI(
    base_url="https://api.chinesellmapi.com/v1",
    api_key="YOUR_KEY",
    model="uncensored",
)

# LiteLLM
import litellm
r = litellm.completion(
    model="openai/uncensored",
    api_base="https://api.chinesellmapi.com/v1",
    api_key="YOUR_KEY",
    messages=[{"role": "user", "content": "ping"}],
)

В LiteLLM префикс openai/ указывает библиотеке использовать формат OpenAI с вашим базовым URL, а часть после слэша — это идентификатор модели. Фронтенды для чата, такие как SillyTavern, имеют источник «Custom OpenAI-compatible» с тремя полями: URL, ключ и модель. Те же три значения снова.

Храните ключ вне браузера

Не вызывайте API из фронтенд-JavaScript, который отправляется посетителям. Любой может прочитать ключ со страницы и потратить ваш баланс. Разместите небольшой маршрут на сервере между ними, сохраните ключ в переменной окружения там и позвольте вашему сайту вызывать этот маршрут.

Переключение между эндпоинтами без изменений в коде

Если вы тестируете нескольких провайдеров, поместите три значения в конфигурацию, а не в исходный код. Небольшой блок настроек решает задачу и делает URL единственным параметром, который вам нужно редактировать:

import os
from openai import OpenAI

client = OpenAI(
    base_url=os.getenv("LLM_BASE_URL", "https://api.chinesellmapi.com/v1"),
    api_key=os.environ["LLM_API_KEY"],
)
MODEL = os.getenv("LLM_MODEL", "uncensored")

Это также упрощает разделение тестовой и рабочей сред: используйте разные ключи для каждой среды, а заголовок ответа X-Balance-USD покажет оставшийся баланс для каждой из них.

Вопросы и ответы

Включать ли /chat/completions в базовый URL?

Нет. Введите https://api.chinesellmapi.com/v1 и позвольте SDK добавить /chat/completions. Лишь инструменты, запрашивающие полный URL запроса, нуждаются в длинной форме.

Можно ли использовать один URL для нескольких приложений?

Да. URL и ключ можно использовать в любом количестве клиентов. Они разделяют ограничения вашего ключа: 8 параллельных запросов и 300 запросов в минуту для полного ключа.

Какое имя модели ввести?

Используйте uncensored. Вы можете подтвердить это, вызвав GET /v1/models с вашим ключом.

Это официальный API вендора в стиле OpenAI?

Нет. Это хостинговый API для одной модели с открытыми весами, запущенный независимым провайдером, созданный для совместимости с форматом запросов OpenAI.

Как проверить ключ, не тратя баланс?

Вызовите GET /v1/models с заголовком Authorization. Он возвращает список моделей и не использует токены.

Ваш ключ — всего в одной форме отсюда

Создайте аккаунт, скопируйте ключ, измените базовый URL. Это вся настройка.

Получить API-ключ