PL ▾

Chinese LLM APITłumaczenie

Pobierz klucz API

Zaktualizowano

URL API kompatybilnego z OpenAI: Base URL i nagłówki

Bazowy URL to https://api.chinesellmapi.com/v1. Wpisz go tam, gdzie klient OpenAI oczekuje bazowego URL, dodaj swój klucz jako token Bearer i użyj identyfikatora modelu uncensored.

Kabel łączący terminal laptopa z świecącym sześcianem serwera, reprezentujący połączenie klienta z endpointem API

Krótka odpowiedź

Jeśli szukasz URL API kompatybilnego z openai dla tej usługi, skopiuj tę wartość:

https://api.chinesellmapi.com/v1

To jest bazowy URL. Każde SDK OpenAI, klient desktopowy i framework agenta, który ma pole „base URL”, „API base”, „endpoint” lub „host”, przyjmuje ten ciąg. Klucz wklej do odpowiedniego pola „API key”, a nazwą modelu jest uncensored.

Dostępne są dwa endpointy: POST /v1/chat/completions do czatu i GET /v1/models do listowania modeli. Nie ma tras do embeddingów, obrazów ani fine-tuningu. Jeśli potrzebujesz klucza, strona klucza API przeprowadzi Cię przez rejestrację.

Bazowy URL versus pełny URL endpointu

Większość błędów występuje tutaj. Klienci dzielą się na dwie grupy: te, które chcą bazowego URL i same dodają ścieżkę, oraz te, które chcą pełnego URL wywołania. Tabela pokazuje obie formy.

Czego wymaga poleWartość do wpisania
Base URL, API base, host OpenAIhttps://api.chinesellmapi.com/v1
Pełny URL completions czatuhttps://api.chinesellmapi.com/v1/chat/completions
URL listy modelihttps://api.chinesellmapi.com/v1/models

Oficjalne SDK OpenAI, wrapper LangChain, LiteLLM i większość interfejsów czatowych należą do pierwszej grupy. Narzędzia, które pozwalają wkleić surowy URL zapytania, należą do drugiej. Jeśli etykieta pola nie wskazuje, o którą grupę chodzi, przeczytaj tekst podpowiedzi: jeśli kończy się na /v1, pole oczekuje bazowego URL.

Ukośniki końcowe

Większość SDK obsługuje ukośnik końcowy, ale niektóre budują końcową ścieżkę przez zwykłe łączenie stringów. Jeśli otrzymasz błąd 404, a URL kończy się na /v1/, usuń ostatni ukośnik i spróbuj ponownie.

Nagłówki wymagane przez API

Zapytania wymagają jednego nagłówka do autoryzacji i jednego określającego typ treści:

  • Authorization: Bearer YOUR_KEY
  • Content-Type: application/json

SDK ustawiają oba za Ciebie. Jeśli budujesz zapytania ręcznie, oto najmniejsze działające wywołanie:

curl https://api.chinesellmapi.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Say hello in one sentence."}]
  }'

W odpowiedzi znajdziesz kilka nagłówków wartych zapisania w logach: X-Request-Id do pytań o wsparcie, X-Balance-USD do sprawdzenia pozostałego kredytu oraz X-RateLimit-Limit-Requests i X-RateLimit-Limit-Concurrency pokazujące limity dla Twojego klucza.

Ustawienie w SDK OpenAI

Tylko dwie wartości różnią się od domyślnego ustawienia OpenAI: bazowy URL i klucz. Wszystko inne w Twoim kodzie pozostaje bez zmian.

Python

from openai import OpenAI

client = OpenAI(
    base_url="https://api.chinesellmapi.com/v1",
    api_key="YOUR_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Translate 'good morning' into Chinese."}],
)
print(resp.choices[0].message.content)

Node

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.chinesellmapi.com/v1",
  apiKey: process.env.API_KEY,
});

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Translate 'good morning' into Chinese." }],
});
console.log(resp.choices[0].message.content);

Strumieniowanie działa tak samo: dodaj stream: true i czytaj chunki. Dane o zużyciu trafiają na końcu strumienia. Pamiętaj, że zapytanie strumieniowe zajmuje jeden slot współbieżności do momentu zamknięcia strumienia.

Zmienne środowiskowe zamiast kodu

Aktualne SDK OpenAI dla Pythona i Node.js odczytują OPENAI_BASE_URL i OPENAI_API_KEY ze środowiska, jeśli nie przekażesz ich w kodzie. To najszybszy sposób na wskazanie istniejącego projektu na nowy endpoint bez dotykania ani jednej linii:

export OPENAI_BASE_URL="https://api.chinesellmapi.com/v1"
export OPENAI_API_KEY="YOUR_KEY"
python app.py

Wiele narzędzi zewnętrznych używa tych samych dwóch nazw zmiennych, choć niektóre używają własnych, np. API_BASE lub OPENAI_API_BASE w starszych projektach. Sprawdź dokumentację narzędzia pod kątem dokładnej nazwy. Jeśli projekt gdzieś hardkoduje api.openai.com, wyszukaj tę nazwę hosta w kodzie i zamień ją.

Nazwa modelu zwykle znajduje się w osobnym ustawieniu, więc pamiętaj, aby zmienić ją również na uncensored. Pozostawienie domyślnej nazwy modelu OpenAI to druga najczęstsza przyczyna błędu po błędnym URL.

Sprawdź połączenie przed debugowaniem aplikacji

Przetestuj URL i klucz wywołaniem, które nic nie kosztuje. Wyświetlenie modeli nie wymaga tokenów:

curl https://api.chinesellmapi.com/v1/models \
  -H "Authorization: Bearer YOUR_KEY"

Jeśli zwróci to listę JSON zawierającą uncensored, URL i klucz są poprawne, a pozostały problem tkwi w ustawieniach klienta. Jeśli się nie powiedzie, użyj tej tabeli.

ObjawPrawdopodobna przyczynaNaprawa
404 Nie znalezionoPodwojona ścieżka (/v1/v1/...) lub brak /v1Wpisz bazowy URL dokładnie raz, kończąc na /v1
401 NieautoryzowanyBrak klucza, klucz skopiowany ze spacją lub wysłany w złym nagłówkuWyślij Authorization: Bearer YOUR_KEY i skopiuj ponownie klucz
429 z kodem rate_limitedZbyt wiele zapytań na minutęZwolnij tempo lub ustaw zapytania w kolejce
429 z kodem concurrencyZbyt wiele zapytań w tym samym momencieOgranicz równoległe wywołania, pamiętaj, że strumienie zajmują slot
429 z Retry-After: 5Tymczasowe przeciążeniePoczekaj pięć sekund i spróbuj ponownie
Model nie znalezionyPozostała nazwa modelu OpenAIUstaw model na uncensored

Limity, które powinieneś znać przed uruchomieniem produkcji

Pełny klucz pozwala na 8 równoległych zapytań i 300 zapytań na minutę. Klucz próbny pozwala na 2 równoległe zapytania i 60 na minutę. Ciało zapytania może mieć do 8 MB, a okno kontekstu to 100 000 tokenów, razem z promptem i completion, więc max_tokens jest opcjonalne.

Usługa obsługuje tylko tekst i uruchamia jeden model o otwartych wagach od niezależnego dostawcy. Nie jest to oficjalne API żadnego dostawcy modeli i nie kieruje ruchu między dostawcami. Jeśli Twoja aplikacja to produkt w języku chińskim, szybki start aplikacji w języku chińskim pokazuje, jak strukturować prompty, a przewodnik po API tłumaczeń obejmuje glosariusze i placeholdery.

Rozliczenie odbywa się w modelu płatności za zużycie z przedpłaconego kredytu: $0,15 za 1M tokenów wejściowych i $0,50 za 1M tokenów wyjściowych. Nieudane lub odrzucone zapytania nie są rozliczane. Strona cen zawiera rozmiary doładowań i bonusy, a nowi użytkownicy mogą jednym kliknięciem na stronie klucza zaksięgować $0,50 kredytu próbnego, ważnego przez 7 dni bez karty. Aby uzyskać dłuższy przewodnik po konfiguracji klienta, zobacz dokumentację szybkiego startu.

Treści seksualizujące nieletni są zawsze zabronione; poza tym model jest dostrojony do odpowiadania bez odmów treści dla legalnego użytku dorosłych.

Inne miejsca, w których podaje się URL

Frameworki nazywają to pole inaczej, ale wartość jest taka sama. Trzy typowe przykłady:

# LangChain
from langchain_openai import ChatOpenAI
llm = ChatOpenAI(
    base_url="https://api.chinesellmapi.com/v1",
    api_key="YOUR_KEY",
    model="uncensored",
)

# LiteLLM
import litellm
r = litellm.completion(
    model="openai/uncensored",
    api_base="https://api.chinesellmapi.com/v1",
    api_key="YOUR_KEY",
    messages=[{"role": "user", "content": "ping"}],
)

W LiteLLM prefiks openai/ informuje bibliotekę, aby używała formatu OpenAI względem Twojego własnego bazowego URL, a część po ukośniku to identyfikator modelu. Front-endy czatu, takie jak SillyTavern, mają źródło „niestandardowe, zgodne z OpenAI” z trzema polami: URL, klucz i model. Te same trzy wartości ponownie.

Trzymaj klucz z dala od przeglądarki

Nie wywołuj API z front-end JavaScriptu wysyłanego do odwiedzających. Każdy może odczytać klucz ze strony i wydać Twój kredyt. Dodaj małą trasę po stronie serwera, przechowuj klucz w zmiennej środowiskowej i pozwól swojej stronie wywoływać tę trasę.

Przełączanie między endpointami bez zmian w kodzie

Jeśli testujesz kilku dostawców, umieść trzy wartości w konfiguracji, a nie w kodzie źródłowym. Mały blok ustawień załatwi sprawę i sprawi, że URL będzie jedyną rzeczą, którą edytujesz:

import os
from openai import OpenAI

client = OpenAI(
    base_url=os.getenv("LLM_BASE_URL", "https://api.chinesellmapi.com/v1"),
    api_key=os.environ["LLM_API_KEY"],
)
MODEL = os.getenv("LLM_MODEL", "uncensored")

Ułatwia to też rozdzielenie środowiska stagingowego i produkcyjnego: użyj innego klucza dla każdego środowiska, a nagłówek odpowiedzi X-Balance-USD pokaże pozostały kredyt dla każdego z nich.

Pytania i odpowiedzi

Czy mam dołączyć /chat/completions do bazowego URL?

Nie. Wpisz https://api.chinesellmapi.com/v1 i pozwól SDK dołączyć /chat/completions. Tylko narzędzia wymagające pełnego URL żądania potrzebują dłuższej formy.

Czy mogę użyć tego samego URL dla kilku aplikacji?

Tak. URL i klucz mogą trafić do dowolnej liczby klientów. Dzielą one limity Twojego klucza: 8 równoległych zapytań i 300 zapytań na minutę przy pełnym kluczu.

Jaką nazwę modelu mam wpisać?

Użyj uncensored. Możesz to potwierdzić, wywołując GET /v1/models ze swoim kluczem.

Czy to oficjalne API dostawcy w stylu OpenAI?

Nie. To API hostowane dla jednego modelu o otwartych wagach, uruchomione przez niezależnego dostawcę, zaprojektowane tak, aby było kompatybilne z formatem żądań OpenAI.

Jak sprawdzić klucz bez zużywania kredytu?

Wywołaj GET /v1/models z nagłówkiem Authorization. Zwraca listę modeli i nie zużywa tokenów.

Twój klucz jest o jeden formularz stąd

Utwórz konto, skopiuj klucz, zmień bazowy URL. To cała konfiguracja.

Pobierz klucz API