IT ▾

Chinese LLM APITraduzione

Ottieni la chiave API

Aggiornato

Alternativa a OpenRouter per app in cinese

Un router ti offre molti modelli; un singolo modello ospitato ti offre un endpoint stabile. Ecco come decidere per un'app in cinese.

Un hub multi-cavo accanto a un cubo luminoso, che contrappone un router a un modello singolo

Risposta breve

Se stai cercando un'alternativa a OpenRouter che le app in cinese possano utilizzare, la risposta onesta dipende da cosa ti è piaciuto di OpenRouter. Se era la scelta tra molti modelli dietro una singola chiave, questo servizio non è un sostituto, perché offre un unico modello. Se era un endpoint compatibile con OpenAI con prezzi prevedibili per un prodotto in lingua cinese, un singolo modello ospitato può essere più semplice da gestire.

Di seguito trovi un confronto semplice, una lista decisionale e la modifica del codice necessaria per provare entrambi. Puoi testare questa API con credito di prova e mantenere il tuo account OpenRouter in parallelo, poiché il passaggio richiede solo un cambio di URL di base.

Cosa offre ciascuna opzione

Un router come OpenRouterQuesto servizio
Idea centraleUna chiave API che raggiunge molti modelli da molti fornitoriUn singolo modello open-weight ospitato dietro un'API compatibile con OpenAI
Scelta del modelloLo scegli per richiestaFisso: ID modello uncensored
PrezziVaria in base al modello; controlla i prezzi attuali$0,15 per 1M input, $0,50 per 1M output
Comportamento sui contenutiImpostato da ogni modello e dal suo hostOttimizzato per rispondere senza rifiuti sui contenuti per uso adulto legale
ExtraMolte funzionalità del modello, a seconda del modelloChat, risposte, streaming, strumenti, modalità JSON; nessuna immagine, audio o embedding

Tutto ciò che riguarda la colonna del router è generale e potrebbe essere cambiato, quindi leggi la sua documentazione attuale. La colonna di destra è ciò che questo servizio offre oggi.

Quando un router è la scelta migliore

Sii onesto con te stesso su questi casi e usa un router se uno di questi ti descrive:

  • Vuoi confrontare i modelli di diversi fornitori su prompt in cinese e scegliere il migliore per ogni attività.
  • Hai bisogno di un modello specifico per nome, ad esempio il rilascio di un particolare laboratorio cinese, nella stessa app.
  • Vuoi un fallback automatico quando un modello è offline.
  • Hai bisogno di embedding, visione o altri endpoint tramite la stessa chiave.

Un servizio a modello singolo non può fare nulla di tutto ciò. Non è un router tra fornitori e non è l'API ufficiale di alcun fornitore di modelli. Se la selezione del modello è il tuo requisito principale, il router vince.

Quando un modello ospitato è la scelta migliore

Un singolo modello ha reali vantaggi per un prodotto con una forma chiara.

  • Comportamento prevedibile. Il modello non subisce modifiche, quindi i tuoi prompt, le impostazioni del tono e i test restano validi. Con molti modelli, il comportamento varia in base alla scelta e hai bisogno di una suite di test per modello.
  • Costo prevedibile. C'è una coppia di prezzi. Un budget mensile è una moltiplicazione, non una ricerca in un catalogo.
  • Nessun rifiuto per l'uso adulto legale. Per la web fiction cinese, il roleplay e le app companion per adulti, i rifiuti rovinano l'esperienza. Questo modello è ottimizzato per evitarli. Vedi web fiction cinese e roleplay. I contenuti sessuali che coinvolgono minorenni non sono mai consentiti.
  • Basso sforzo di configurazione. Un ID modello, nulla da scegliere.

Il compromesso è il rischio di qualità, ed è il principale da valutare. Se questo modello è più debole di un altro per la tua attività in cinese, non puoi cambiare all'interno del servizio. Provalo prima di impegnarti. Un modo equo per farlo è dargli prima i tuoi tre prompt più difficili, come un lungo dialogo con una voce di personaggio coerente, una riscrittura difficile ricca di idiomi e una richiesta che richiede JSON rigoroso, e vedere dove fallisce.

Test di commutazione: stesso codice, due endpoint

Poiché entrambi parlano il protocollo OpenAI, un test equo costa molto poco. Ai prezzi sopra, una richiesta di 2.500 token di input e 500 token di output costa $0,000375 + $0,00025 = $0,000625, quindi 30 prompt costano circa $0,019, una piccola fetta del credito di prova da $0,50. Puoi eseguire uno script su entrambi e confrontare risposte e costi fianco a fianco.

import os
from openai import OpenAI

ours = OpenAI(base_url="https://api.chinesellmapi.com/v1", api_key=os.environ["OUR_KEY"])
router = OpenAI(base_url=os.environ["ROUTER_URL"], api_key=os.environ["ROUTER_KEY"])

prompt = "用轻松的语气,写一段三句话的咖啡店开业公告。"

a = ours.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": prompt}],
)
b = router.chat.completions.create(
    model=os.environ["ROUTER_MODEL"],
    messages=[{"role": "user", "content": prompt}],
)
print("OURS  :", a.choices[0].message.content, a.usage.total_tokens)
print("ROUTER:", b.choices[0].message.content, b.usage.total_tokens)

Poi esegui un ciclo su 30 prompt dal tuo prodotto, mescola le uscite e chiedi a un lettore madrelingua di valutarle senza etichette. Moltiplica i conteggi dei token di ciascun lato per i propri prezzi per ottenere il costo per buona risposta. L'URL per il router e il nome del modello provengono dalla sua documentazione, motivo per cui lo script li legge dalle variabili d'ambiente.

Costo: un esempio pratico

Supponiamo che una funzione di chat in cinese invii 2.500 token di input e riceva 500 token di output, 20.000 volte al mese.

  • Input: 20.000 x 2.500 = 50M di token, quindi 50 x $0,15 = $7,50.
  • Output: 20.000 x 500 = 10M di token, quindi 10 x $0,50 = $5,00.
  • Totale: $12,50 al mese su questo servizio.

Per confrontare, prendi il prezzo attuale del router per il modello che sceglieresti, applica le stesse due righe e controlla se addebita una tariffa aggiuntiva rispetto al prezzo del modello. I conteggi dei token per il testo cinese variano a seconda del tokenizer, quindi misurali su entrambi i lati con il campo usage invece di riutilizzare i miei.

La parte router della somma è tua da compilare, e un'altra riga è importante lì: i modelli variano ampiamente nel prezzo, quindi il modello più economico su un router potrebbe essere un modello diverso con un livello di qualità diverso. Confronta il costo per risposta accettabile, non il prezzo di copertina. Un modello più economico che devi ritentare sul 30% dei prompt non è un risparmio.

Non c'è abbonamento qui. Paghi dal credito prepagato, non scade mai e le richieste fallite o rifiutate non vengono addebitate. Il ricarico minimo è di $20, con +5% di credito da $50, +10% da $100 e +15% da $200.

Sette domande da fare a qualsiasi provider

Che tu scelga un router, questo servizio o qualcos'altro, la stessa lista di controllo ti protegge da sorprese in un prodotto in lingua cinese.

  1. Quale modello esatto risponde alla mia richiesta e può cambiare senza preavviso?
  2. Come vengono conteggiati e fatturati i token in cinese e quanto pago per una richiesta tipica?
  3. Cosa succede quando il mio contenuto è al limite: rifiuto, riscrittura o filtro silenzioso? Le richieste rifiutate vengono fatturate?
  4. Quali sono i limiti di concorrenza e per minuto per una nuova chiave?
  5. I miei dati prompt vengono usati per l'addestramento o condivisi con altre parti? Qui, i prompt non vengono usati per l'addestramento.
  6. Come vedo il mio saldo dal codice? Qui, l'header X-Balance-USD e GET /v1/balance lo forniscono.
  7. Qual è il percorso di uscita? Con un'API compatibile con OpenAI, è un cambio di URL di base.

Scrivi le risposte in una tabella per ogni candidato. Le lacune nella tabella, come "sconosciuto" o "non documentato", sono informazioni a loro volta.

Limiti e funzionalità da conoscere

Una chiave completa consente 8 richieste parallele e 300 al minuto; una chiave di prova ne consente 2 e 60. La finestra di contesto è di 100.000 token, prompt più completamento. Streaming, chiamata di funzioni e modalità JSON sono supportati e i prompt non vengono utilizzati per l'addestramento. Il servizio è solo testuale: nessun embedding, immagini, audio, video o fine-tuning.

Se la tua app ha bisogno sia di chat che di embedding, usa questa API per la chat e un altro provider per gli embedding. Questa suddivisione è comune e non richiede un router. Mantieni i due base URL nella configurazione, uno per attività, in modo da poter modificare l'uno o l'altro in seguito senza toccare la logica di business.

Come provarlo

Accedi con Google o email, apri la pagina chiave API e ottieni il credito di prova da $0,50 con un clic. Non serve la carta e dura 7 giorni. Segui poi la guida rapida per l'app in cinese per codice funzionante, oppure leggi la documentazione. Tariffe e bonus sono nella pagina prezzi. La chiave di prova opera con i limiti inferiori per le prove, sufficienti per un test comparativo con alcune decine di prompt. Le ricariche possono essere pagate con cripto (USDT su TRC20, USDC su Base).

Domande e risposte

È un sostituto pronto all’uso per OpenRouter?

Solo per la chat. Offre un solo modello, quindi perdi la scelta del modello, i fallback e gli endpoint non per la chat.

Posso usare lo stesso codice per entrambi?

Sì. Entrambi usano il protocollo OpenAI, quindi devi cambiare l'URL di base, la chiave e il nome del modello.

Il modello è bravo con il cinese?

Provalo con i tuoi prompt. Usa il credito di prova gratuito e chiedi a un lettore madrelingua di valutare le risposte.

Serve una carta per provarlo?

No. Il credito di prova da $0,50 richiede solo la registrazione e un clic.

La tua chiave è a un modulo di distanza

Crea un account, copia la chiave, modifica l'URL di base. È tutta la configurazione.

Ottieni la chiave API