PT ▾

Chinese LLM APITradução

Obter chave de API

Atualizado

Chinese LLM API barato: o que comparar além do preço

O preço por token é apenas metade. Meça tokens no seu próprio texto, depois compare contexto, limites e mínimos.

Azulejos de pinceladas abstratas ligados a um cristal de etiqueta de preço

Comece com o custo do seu próprio texto

Uma API de LLM chinês barata só é barata se processar seu texto por um preço justo por requisição. Listas de preços mostram custo por milhão de tokens, mas um token não é um caractere ou palavra. Quantos tokens uma frase em chinês precisa depende do tokenizador do modelo por trás da API, e dois provedores podem cobrar totais muito diferentes para o mesmo parágrafo mesmo com taxas por token idênticas.

Então o primeiro passo é medir. Envie uma amostra dos seus prompts chineses, leia o campo usage na resposta e calcule o custo por requisição. Nossas taxas são $0,15 por 1M de tokens de entrada e $0,50 por 1M de tokens de saída, e o código abaixo transforma uma amostra em custo médio.

from openai import OpenAI

client = OpenAI(base_url="https://api.chinesellmapi.com/v1", api_key="YOUR_KEY")
samples = ["请用三句话介绍一下杭州。", "把下面这段话翻译成英文:今天天气很好。"]

for text in samples:
    r = client.chat.completions.create(
        model="uncensored",
        messages=[{"role": "user", "content": text}],
    )
    u = r.usage
    cost = (u.prompt_tokens * 0.15 + u.completion_tokens * 0.50) / 1_000_000
    print(len(text), "chars ->", u.prompt_tokens, "in,", u.completion_tokens, "out, $%.6f" % cost)

Execute de 30 a 50 prompts representativos em vez de dois. A proporção de tokens para caracteres que você vê é o número a ser usado quando você comparar provedores.

Compare entrada, saída e mínimos

Os outros fatores de custo são os mesmos para qualquer API em inglês, e eles importam tanto quanto com texto chinês.

  • Preços de entrada e saída. A saída geralmente custa mais por token. Aqui é $0,50 contra $0,15 para entrada, então uma tarefa que gera respostas longas, como escrita de histórias, custa mais do que uma que classifica textos curtos.
  • Recarga mínima. A nossa começa em $20 e vai até $500 em valores inteiros.
  • Validade e assinaturas. O crédito aqui nunca expira e não há assinatura. Verifique ambos em cada provedor que você comparar.
  • Requisições falhas. Requisições falhas ou recusadas não são cobradas aqui. Nem todo provedor faz isso.

Para outros provedores, verifique seus preços atuais em vez de confiar em uma postagem de blog, incluindo esta. Os preços mudam.

A qualidade do idioma importa mais do que uma pequena diferença de preço

Se seus usuários leem chinês, problemas de qualidade aparecem como respostas mistas, frases rígidas, uso incorreto de palavras de medida e erros de tom. Um modelo alguns centavos mais barato por milhão de tokens, mas que precisa de duas tentativas por resposta, é mais caro na prática.

Crie um conjunto de avaliação pequeno no estilo necessário para seu produto:

  1. Dez prompts em chinês falado do dia a dia, dez em escrita formal, dez no gênero que você atende, como suporte ao cliente ou ficção web.
  2. Peça a um leitor nativo para avaliar cada resposta quanto à naturalidade e precisão em uma escala de 1 a 5.
  3. Verifique se o modelo responde em chinês quando perguntado em chinês, e mantém os caracteres Simplificados ou Tradicionais conforme instruído.

Coloque o script e o estilo em um prompt de sistema, por exemplo, uma nota que instrua o modelo a responder em chinês simplificado, com tom natural. O serviço executa um único modelo de pesos abertos, então você não pode alternar modelos para corrigir a qualidade. Você ajusta o prompt e, se os resultados não forem bons o suficiente, escolhe outro provedor. Essa é uma compensação justa a saber antes de começar.

Outra verificação vale os dez minutos: faça a mesma pergunta três vezes e compare. A amostragem faz as respostas variarem e, para um produto, você quer saber qual é a dispersão. Definir um seed e um temperature baixo reduz a dispersão, o que ajuda ao ajustar um prompt e ver apenas suas próprias alterações.

Comprimento do contexto e documentos longos em chinês

O contexto é contado em tokens, não caracteres. A janela aqui é de 100.000 tokens, prompt mais conclusão, e uma conclusão pode usar o que restar. Para documentos longos como contratos, romances ou logs de chat, verifique quantos tokens sua amostra leva com uma chamada real antes de contar com o limite. A mesma página de texto chinês pode usar menos ou mais tokens do que sua versão em inglês, dependendo do tokenizador.

Entradas longas também custam dinheiro toda vez que você as envia. Um documento de 60.000 tokens custa 60.000 x $0,15 / 1M = $0,009 por leitura. Se você fizer dez perguntas sobre ele, envie-o dez vezes, e você paga $0,09 apenas de entrada. Para perguntas repetidas, divida o trabalho: resuma uma vez e faça perguntas contra o resumo.

Limites que afetam uma configuração barata

Um preço baixo não ajuda se os limites de requisições travarem seu app. Uma chave completa permite 8 requisições simultâneas e 300 requisições por minuto. Uma chave de teste permite 2 e 60. Ao ultrapassar um limite, a API retorna HTTP 429 com o código de erro rate_limited ou concurrency. Em sobrecarga temporária, retorna 429 com o cabeçalho Retry-After: 5.

Uma resposta em streaming ocupa seu slot de concorrência até o fim do streaming, algo fácil de esquecer em um app de chat onde os usuários leem lentamente. Planeje uma fila na frente da API se esperar mais de 8 pessoas conversando ao mesmo tempo. O corpo máximo da requisição é 8 MB, muito acima do necessário para um prompt de texto.

Casos de uso comuns em chinês e seu perfil de custo

Trabalhos diferentes ficam em pontos diferentes na escala de preços, então combine o teste com o trabalho.

  • Chat de suporte ao cliente. Perguntas curtas, respostas médias, um prompt de sistema longo. A entrada domina, então mantenha o prompt de sistema conciso.
  • Tradução. Entrada e saída têm tamanhos similares. Nossa página da API de tradução chinês-inglês mostra o padrão.
  • Geração de histórias e roleplay. Prompts curtos, respostas longas. A saída domina, então a taxa de $0,50 é a que deve ser monitorada.
  • Classificação e etiquetagem. Saídas muito curtas. Estes são os trabalhos mais baratos por requisição e um bom ajuste para o modo JSON.

Para criar seu primeiro aplicativo funcional, o início rápido para aplicativo em chinês oferece código passo a passo. Defina temperature mais baixo para tradução e marcação, e mais alto para ficção. A maioria dos clientes passa essas configurações sem alterações.

O que este serviço é e o que não é

É uma API de texto hospedada e compatível com OpenAI, executando um único modelo de pesos abertos de um provedor independente. O modelo é ajustado para responder sem recusas de conteúdo para uso adulto legal. Isso se adequa a apps de ficção, roleplay e companhia para adultos, incluindo ficção web e roleplay em chinês. Conteúdo sexual envolvendo menores de idade nunca é permitido.

Não é a API oficial de nenhum fornecedor de modelo, e não é um roteador. Não há endpoint de embeddings, nem geração de imagem, áudio ou vídeo e nem fine-tuning. Se você precisa de embeddings para busca em chinês, combine esta API com outro serviço para essa parte.

Os prompts não são usados para treinamento. Streaming, chamada de funções e modo JSON (response_format com json_object) funcionam. Qualquer SDK OpenAI se conecta ao definir a URL base: altere a URL base para https://api.chinesellmapi.com/v1, mantenha sua chave e defina o modelo como uncensored.

Como testar sem custo

Entre com Google ou e-mail, abra a página da chave de API e resgate $0,50 de crédito de teste com um clique. Não é necessário cartão, é um resgate por pessoa e é válido por 7 dias. Com 2.000 tokens de entrada e 500 de saída por requisição, que custam $0,00055, o crédito cobre cerca de 909 requisições.

Depois disso, recargas são qualquer valor inteiro de $20 a $500, por cripto (USDT na TRC20, USDC na Base). Bônus são +5% a partir de $50, +10% a partir de $100 e +15% a partir de $200. A página de preços tem a tabela completa e a documentação lista todos os parâmetros.

Perguntas e respostas

Quantos tokens o texto chinês utiliza?

Depende do tokenizador do modelo. Envie uma amostra e leia o campo usage para obter sua própria taxa.

Posso testar a qualidade do chinês antes de pagar?

Sim. Resgate US$ 0,50 de crédito de teste com um clique na página da chave de API, sem cartão, válido por 7 dias.

Esta é a API oficial de um fornecedor de modelo chinês?

Não. Executa um modelo de pesos abertos de um provedor independente e não é a API oficial de um fornecedor.

Ele oferece embeddings para pesquisa em chinês?

Não. É uma API de chat de texto apenas, então use outro serviço para embeddings.

Sua chave está a um formulário de distância

Crie uma conta, copie a chave e altere a URL base. Essa é toda a configuração.

Obter chave de API