KO ▾

Chinese LLM API번역

API 키 받기

업데이트됨

중국어 앱용 OpenRouter 대체제

라우터는 여러 모델을 제공하지만 단일 호스팅 모델은 하나의 안정적인 엔드포인트를 제공합니다. 중국어 앱에 적합한 모델을 결정하는 방법을 안내합니다.

라우터와 하나의 모델을 대비하는 다중 케이블 허브와 빛나는 큐브

간단한 답변

중국어 앱에서 쓸 수 있는 OpenRouter 대체제를 찾는다면, 정직한 답변은 OpenRouter의 어떤 점이 마음에 들었는지에 달려 있습니다. 하나의 키로 다양한 모델을 선택할 수 있는 점이 좋았다면, 이 서비스는 단일 모델만 제공하므로 대체제가 아닙니다. 중국어 제품에 대해 예측 가능한 가격의 단순 OpenAI 호환 엔드포인트가 필요했다면, 단일 호스팅 모델이 더 쉽게 운영할 수 있습니다.

아래에는 단순 비교, 결정 목록 및 두 가지를 모두 시도하기 위한 코드 변경 사항이 있습니다. 테스트 크레딧으로 이 API를 테스트하고 OpenRouter 계정을 병렬로 유지할 수 있습니다. 전환은 Base URL 변경만으로 가능하기 때문입니다.

각 옵션의 특징

OpenRouter과 같은 라우터이 서비스
핵심 아이디어여러 벤더의 여러 모델에 접근할 수 있는 하나의 API 키OpenAI 호환 API를 지원하는 단일 호스팅 오픈 웨이트 모델
모델 선택요청당 선택고정됨: 모델 ID uncensored
요금모델에 따라 다름; 현재 가격을 확인하세요입력 1M당 $0.15, 출력 1M당 $0.50
콘텐츠 동작각 모델과 호스트에 의해 설정됨법적인 성인 사용에 맞게 콘텐츠 거부 없이 답변하도록 조정됨
추가 기능모델에 따라 다양한 모델 기능채팅, 응답, 스트리밍, 도구, JSON 모드; 이미지, 오디오 또는 임베딩 없음

라우터 열의 모든 정보는 일반적이며 변경되었을 수 있으므로 현재 문서를 참조하십시오. 오른쪽 열은 이 서비스가 오늘날 제공하는 기능을 나타냅니다.

라우터가 더 적합한 경우

이러한 경우에 대해 스스로에게 정직하게 대하고, 다음 중 하나라도 해당되면 라우터를 사용하세요:

  • 중국어 프롬프트로 여러 벤더의 모델을 비교하고 작업당 가장 좋은 모델을 선택하고 싶습니다.
  • 예를 들어 특정 중국 연구소의 출시 모델과 같은 특정 모델을 앱에서 필요로 합니다.
  • 하나의 모델이 다운되었을 때 자동 폴백이 필요합니다.
  • 동일한 키를 통해 임베딩, 비전 또는 기타 엔드포인트가 필요합니다.

단일 모델 서비스는 이러한 작업을 수행할 수 없습니다. 벤더 간 라우터가 아니며 모델 벤더의 공식 API도 아닙니다. 모델 선택이 주요 요구 사항인 경우 라우터가 승리합니다.

단일 호스팅 모델이 더 나은 선택인 경우

명확한 형태를 가진 제품에 단일 모델은 실제 이점이 있습니다.

  • 예측 가능한 동작. 모델은 변경되지 않으므로 프롬프트, 톤 설정 및 테스트가 유효하게 유지됩니다. 여러 모델의 경우 선택에 따라 동작이 다르며 모델마다 테스트 스위트가 필요합니다.
  • 예측 가능한 비용. 가격 쌍이 하나뿐입니다. 월간 예산은 카탈로그 조회가 아닌 곱셈입니다.
  • 합법적인 성인 사용에 대한 거절 없음. 중국 웹 소설, 역할극 및 성인용 동반자 앱의 경우 거절이 경험을 망칩니다. 이 모델은 이를 피하도록 조정되었습니다. 중국 웹 소설과 역할극을 참조하세요. 미성년자가 포함된 성적인 콘텐츠는 절대 허용되지 않습니다.
  • 낮은 설정 노력. 모델 ID가 하나뿐이며 선택할 것이 없습니다.

대가는 품질 위험이며, 이것이 고려해야 할 주요 사항입니다. 이 단일 모델이 중국어 작업에서 다른 모델보다 약한 경우 서비스 내에서 전환할 수 없습니다. 확정하기 전에 테스트하세요. 공정한 방법은 가장 어려운 프롬프트 세 개(일관된 캐릭터 음성의 긴 대화, 관용구가 많은 까다로운 재작성, 엄격한 JSON이 필요한 요청 등)를 먼저 제공하고 실패 지점을 확인하는 것입니다.

전환 테스트: 동일한 코드, 두 엔드포인트

두 시스템 모두 OpenAI 프로토콜을 사용하므로 공정한 테스트 비용은 매우 적습니다. 위의 요금으로 2,500개의 입력 토큰과 500개의 출력 토큰을 사용한 하나의 요청은 $0.000375 + $0.00025 = $0.000625가 들며, 30개의 프롬프트는 약 $0.019가 듭니다. 이는 $0.50 체험 크레딧의 작은 부분입니다. 하나의 스크립트를 두 시스템 모두에 실행하여 답변과 비용을 나란히 비교할 수 있습니다.

import os
from openai import OpenAI

ours = OpenAI(base_url="https://api.chinesellmapi.com/v1", api_key=os.environ["OUR_KEY"])
router = OpenAI(base_url=os.environ["ROUTER_URL"], api_key=os.environ["ROUTER_KEY"])

prompt = "用轻松的语气,写一段三句话的咖啡店开业公告。"

a = ours.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": prompt}],
)
b = router.chat.completions.create(
    model=os.environ["ROUTER_MODEL"],
    messages=[{"role": "user", "content": prompt}],
)
print("OURS  :", a.choices[0].message.content, a.usage.total_tokens)
print("ROUTER:", b.choices[0].message.content, b.usage.total_tokens)

그런 다음 제품에서 프롬프트 30개를 반복하고 출력을 섞은 후 레이블 없이 원어민이 평가하게 하세요. 각 측면의 토큰 수에 해당 가격을 곱하여 좋은 답변당 비용을 계산하세요. 라우터의 URL과 모델 이름은 해당 문서에서 가져오므로 스크립트에서 환경 변수에서 읽습니다.

비용: 계산 예시

중국어 채팅 기능이 월 20,000회 2,500 입력 토큰을 보내고 500 출력 토큰을 받는다고 가정해 봅시다.

  • 입력: 20,000 x 2,500 = 50M 토큰, 따라서 50 x $0.15 = $7.50.
  • 출력: 20,000 x 500 = 10M 토큰, 따라서 10 x $0.50 = $5.00.
  • 총: 이 서비스에서 월 $12.50.

비교하려면 선택할 모델에 대한 라우터의 현재 가격을 확인하고 동일한 두 줄을 적용한 후 모델 가격 외에 추가 요금이 부과되는지 확인하세요. 중국어 텍스트의 토큰 수는 토크나이저에 따라 다르므로 usage 필드를 사용하여 양쪽에서 토큰 수를 측정하고 제 값을 그대로 재사용하지 마세요.

합계 중 라우터 부분은 직접 채워야 하며, 그 부분에서 한 줄이 더 중요합니다. 모델 간 가격 차이가 크므로 라우터에서 가장 저렴한 모델이 다른 품질 수준의 모델일 수 있습니다. 표시 가격이 아니라 허용 가능한 답변당 비용을 비교하십시오. 프롬프트의 30%에서 재시도가 필요한 더 저렴한 모델은 절감이 아닙니다.

구독은 없습니다. 선불 크레딧에서 지불하며, 크레딧은 만료되지 않으며 실패하거나 거부된 요청에는 요금이 부과되지 않습니다. 최소 충전액은 $20이며, $50부터 +5%, $100부터 +10%, $200부터 +15%의 크레딧이 제공됩니다.

모든 공급업체에 물어볼 7가지 질문

라우터, 이 서비스 또는 기타 것을 선택하든, 동일한 체크리스트가 중국어 제품에서 놀라움을 방지합니다.

  1. 어떤 정확한 모델이 내 요청에 응답하며, 사전 통보 없이 변경될 수 있나요?
  2. 중국어 토큰은 어떻게 계산되고 청구되며, 일반적인 요청당 지불 금액은 얼마입니까?
  3. 경계선 콘텐츠가 발생하면 어떻게 되나요: 거부, 재작성 또는 필터링? 거부된 요청에는 요금이 청구되나요?
  4. 새로운 키의 동시 요청 제한과 분당 제한은 얼마입니까?
  5. 프롬프트 데이터가 학습에 사용되거나 다른 당사자와 공유되나요? 여기서는 프롬프트가 학습에 사용되지 않습니다.
  6. 코드에서 잔액을 어떻게 확인합니까? 여기에서 X-Balance-USD 헤더와 GET /v1/balance가 이를 제공합니다.
  7. 탈출 경로는 무엇인가요? OpenAI 호환 API의 경우 Base URL 변경입니다.

후보자별로 표에 답을 작성하세요. 표의 공백(예: "알 수 없음" 또는 "문서화되지 않음")도 정보입니다.

알아야 할 제한 사항 및 기능

전체 키는 8개의 동시 요청과 분당 300개를 허용하며, 체험 키는 2개와 분당 60개를 허용합니다. 컨텍스트 창은 100,000 토큰이며 프롬프트와 완료를 포함합니다. 스트리밍, 함수 호출 및 JSON 모드가 작동하며 프롬프트는 학습에 사용되지 않습니다. 이 서비스는 텍스트 전용입니다: 임베딩, 이미지, 오디오, 비디오 또는 파인튜닝이 없습니다.

앱에 채팅과 임베딩이 모두 필요하다면 이 API를 채팅에 사용하고 임베딩은 다른 제공업체를 사용하세요. 이러한 분할은 일반적이며 라우터가 필요하지 않습니다. 작업별로 하나의 기본 URL을 구성에 유지하면 나중에 비즈니스 로직을 수정하지 않고도 둘 중 하나만 변경할 수 있습니다.

사용 방법

Google 또는 이메일로 가입하고 API 키 페이지를 열어 한 번의 클릭으로 $0.50 체험 크레딧을 청구하세요. 카드가 필요 없으며 7일 동안 유효합니다. 그런 다음 작동하는 코드를 위해 중국어 앱 빠른 시작을 따르거나 문서를 참조하세요. 요금과 보너스는 가격 페이지에 있습니다. 체험 키는 하위 체험 제한에서 실행되며 이는 몇십 개의 프롬프트 비교 실행에 충분합니다. 충전은 암호화폐(TRC20의 USDT, Base의 USDC)로 결제할 수 있습니다.

질문과 답변

이것이 OpenRouter에 바로 대체할 수 있는 제품입니까?

채팅 전용입니다. 하나의 모델만 제공하므로 모델 선택, 폴백 및 채팅이 아닌 엔드포인트를 사용할 수 없습니다.

동일한 코드를 둘 다에 사용할 수 있습니까?

예. 둘 다 OpenAI 프로토콜을 사용하므로 기본 URL, 키 및 모델 이름만 변경하면 됩니다.

모델이 중국어를 잘합니까?

자신의 프롬프트로 테스트해 보세요. 무료 체험 크레딧을 사용하고 원어민이 답변을 평가해 보세요.

사용해 보시려면 카드가 필요합니까?

아니요. $0.50 무료 체험 크레딧은 회원가입과 클릭 한 번으로 충분합니다.

키를 받으려면 양식 하나만 작성하면 됩니다

계정을 생성하고 키를 복사한 후 기본 URL을 변경하세요. 설정은 이것으로 끝입니다.

API 키 받기