HI ▾

Chinese LLM APIअनुवाद

API कुंजी पाएँ

अपडेट किया गया

OpenAI-संगत API URL: बेस URL और हेडर

बेस URL https://api.chinesellmapi.com/v1 है। इसे उस जगह डालें जहाँ आपका OpenAI क्लाइंट बेस URL की अपेक्षा करता है, अपनी कुंजी को Bearer टोकन के रूप में जोड़ें, और मॉडल ID uncensored का उपयोग करें।

एक लैपटॉप टर्मिनल को चमकदार सर्वर क्यूब से जोड़ने का एक केबल, जो एक क्लाइंट को API एंडपॉइंट से जोड़ने का प्रतिनिधित्व करता है

संक्षिप्त उत्तर

यदि आप इस सेवा के लिए openai compatible api url ढूँढ रहे हैं, तो इस मान को कॉपी करें:

https://api.chinesellmapi.com/v1

यह बेस URL है। हर OpenAI SDK, डेस्कटॉप क्लाइंट और एजेंट फ्रेमवर्क जिसमें "बेस URL", "API बेस", "एंडपॉइंट" या "होस्ट" नाम का फ़ील्ड होता है, इस स्ट्रिंग का उपयोग करता है। कुंजी को संबंधित "API कुंजी" फ़ील्ड में डालें, और मॉडल का नाम uncensored है।

इसके पीछे दो एंडपॉइंट हैं: चैट के लिए POST /v1/chat/completions और मॉडलों की सूची देखने के लिए GET /v1/models। OpenAI सतह से कुछ और नहीं दिया जाता, इसलिए एम्बेडिंग, इमेज या फाइन-ट्यूनिंग का कोई रास्ता नहीं है। यदि आपको पहले कुंजी चाहिए, तो API कुंजी पृष्ठ पर साइन-अप करने की प्रक्रिया बताई गई है।

बेस URL बनाम पूर्ण एंडपॉइंट URL

यहाँ सबसे अधिक त्रुटियाँ होती हैं। क्लाइंट दो समूहों में बंटते हैं: वे जो बेस URL चाहते हैं और पथ स्वयं जोड़ते हैं, और वे जो कॉल का पूर्ण URL चाहते हैं। तालिका दोनों रूप दिखाती है।

फ़ील्ड क्या माँगता हैप्रविष्ट करने के लिए मान
बेस URL, API बेस, OpenAI होस्टhttps://api.chinesellmapi.com/v1
पूर्ण चैट कंप्लीशन्स URLhttps://api.chinesellmapi.com/v1/chat/completions
मॉडल सूची URLhttps://api.chinesellmapi.com/v1/models

आधिकारिक OpenAI SDK, LangChain का OpenAI व्रैपर, LiteLLM और अधिकांश चैट फ्रंट एंड पहली श्रेणी में आते हैं। वे टूल जो आपको एक कच्चा अनुरोध URL पेस्ट करने देते हैं, दूसरी श्रेणी में आते हैं। जब फ़ील्ड लेबल यह नहीं बताता कि यह कौन सा है, तो प्लेसहोल्डर टेक्स्ट पढ़ें: यदि यह /v1 पर समाप्त होता है, तो यह बेस URL चाहता है।

ट्रेलिंग स्लैश

अधिकांश SDK ट्रेलिंग स्लैश को संभाल लेते हैं, लेकिन कुछ अंतिम पथ को सादे स्ट्रिंग जोड़कर बनाते हैं। यदि आपको 404 मिलता है और URL /v1/ पर समाप्त होता है, तो अंतिम स्लैश हटाएं और पुनः प्रयास करें।

API द्वारा अपेक्षित हेडर

अनुरोधों को प्रमाणीकरण और बॉडी प्रकार के लिए एक-एक हेडर की आवश्यकता होती है:

  • Authorization: Bearer YOUR_KEY
  • Content-Type: application/json

SDK आपके लिए दोनों सेट कर देते हैं। यदि आप अनुरोध हाथ से बना रहे हैं, तो यहाँ न्यूनतम कार्य करने वाला कॉल है:

curl https://api.chinesellmapi.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Say hello in one sentence."}]
  }'

प्रतिक्रिया में कुछ हेडर होते हैं जिनका लॉग रखना उपयोगी है: सहायता प्रश्नों के लिए X-Request-Id, शेष क्रेडिट के लिए X-Balance-USD, और आपकी कुंजी पर लागू सीमाओं के लिए X-RateLimit-Limit-Requests और X-RateLimit-Limit-Concurrency।

OpenAI SDK में सेट करना

स्टॉक OpenAI सेटअप की तुलना में केवल दो मान बदलते हैं: बेस URL और कुंजी। आपके कोड में बाकी सब कुछ वैसा ही रहता है।

Python

from openai import OpenAI

client = OpenAI(
    base_url="https://api.chinesellmapi.com/v1",
    api_key="YOUR_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Translate 'good morning' into Chinese."}],
)
print(resp.choices[0].message.content)

Node

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.chinesellmapi.com/v1",
  apiKey: process.env.API_KEY,
});

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Translate 'good morning' into Chinese." }],
});
console.log(resp.choices[0].message.content);

स्ट्रीमिंग इसी तरह काम करता है: stream: true जोड़ें और चंक पढ़ें। उपयोग के आंकड़े स्ट्रीम के अंत में आते हैं। ध्यान रखें कि स्ट्रीम किया गया अनुरोध स्ट्रीम बंद होने तक आपके कॉन्करेंसी स्लॉट में से एक को घेरे रखता है।

कोड के बजाय एनवायरनमेंट वेरिएबल्स

मौजूदा Python और Node के लिए OpenAI SDK OPENAI_BASE_URL और OPENAI_API_KEY को एनवायरनमेंट से पढ़ते हैं जब आप उन्हें कोड में पास नहीं करते हैं। यह मौजूदा प्रोजेक्ट को एक नए एंडपॉइंट पर बिना एक लाइन छुए पॉइंट करने का सबसे तेज़ तरीका है:

export OPENAI_BASE_URL="https://api.chinesellmapi.com/v1"
export OPENAI_API_KEY="YOUR_KEY"
python app.py

अनेक थर्ड-पार्टी टूल वही दो वेरिएबल नाम का उपयोग करते हैं, हालांकि कुछ अपने स्वयं के नाम का उपयोग करते हैं, जैसे कि पुराने प्रोजेक्ट्स में API_BASE या OPENAI_API_BASE। टूल के दस्तावेज़ों में सटीक नाम के लिए जांचें। यदि कोई प्रोजेक्ट कहीं api.openai.com को हार्ड-कोड करता है, तो उस होस्टनाम के लिए स्रोत में खोजें और इसे बदलें।

मॉडल का नाम आमतौर पर एक अलग सेटिंग में होता है, इसलिए इसे uncensored पर बदलना न भूलें। एक गलत URL के बाद डिफ़ॉल्ट OpenAI मॉडल नाम को बनाए रखना त्रुटि का दूसरा सबसे सामान्य कारण है।

अपने ऐप को डीबग करने से पहले कनेक्शन की जाँच करें

URL और कुंजी का परीक्षण ऐसे कॉल से करें जिसकी कोई लागत नहीं है। मॉडल सूचीबद्ध करने के लिए टोकन की आवश्यकता नहीं होती:

curl https://api.chinesellmapi.com/v1/models \
  -H "Authorization: Bearer YOUR_KEY"

यदि यह uncensored सहित एक JSON सूची लौटाता है, तो URL और कुंजी ठीक हैं और शेष समस्या आपके क्लाइंट की सेटिंग्स में है। यदि यह विफल होता है, तो इस तालिका का उपयोग करें।

लक्षणसंभावित कारणसमाधान
404 नहीं मिलापथ दोगुना (/v1/v1/...) या /v1 अनुपस्थितबेस URL को सटीक रूप से एक बार दर्ज करें, जो /v1 पर समाप्त हो
401 अनअथोराइज्डकुंजी अनुपस्थित, स्पेस के साथ कॉपी की गई, या गलत हेडर में भेजी गईAuthorization: Bearer YOUR_KEY भेजें और कुंजी को फिर से कॉपी करें
rate_limited कोड के साथ 429प्रति मिनट बहुत सारे अनुरोधगति कम करें या अनुरोधों को कतार में लगाएं
429 कोड concurrency के साथएक ही समय में बहुत सारे अनुरोधसमानांतर कॉल को सीमित करें, याद रखें कि स्ट्रीमिंग एक स्लॉट पकड़े रखती है
429 के साथ Retry-After: 5अस्थायी ओवरलोडपाँच सेकंड प्रतीक्षा करें और पुनः प्रयास करें
मॉडल नहीं मिलापुराना बचा हुआ OpenAI मॉडल नाममॉडल को uncensored पर सेट करें

सीमाएँ जिन्हें आपको इसे प्रोडक्शन में इंगित करने से पहले जानना चाहिए

एक पूर्ण कुंजी 8 समानांतर अनुरोधों और प्रति मिनट 300 अनुरोधों की अनुमति देती है। ट्रायल कुंजी 2 समानांतर अनुरोधों और प्रति मिनट 60 की अनुमति देती है। अनुरोध बॉडी 8 MB तक हो सकती है, और कॉन्टेक्स्ट विंडो 100,000 टोकन है, प्रॉम्प्ट और कंप्लीशन मिलाकर, इसलिए max_tokens वैकल्पिक है।

सर्विस केवल टेक्स्ट है और एक स्वतंत्र प्रदाता द्वारा चलाए जाने वाले एकल ओपन-वेट मॉडल को चलाता है। यह किसी मॉडल विक्रेता की आधिकारिक API नहीं है और न ही यह विक्रेताओं के बीच रूट करता है। यदि आपका ऐप एक चीनी-भाषा उत्पाद है, तो चीनी-भाषा ऐप क्विकस्टार्ट प्रॉम्प्ट को संरचित करने का तरीका दिखाता है, और ट्रांसलेशन API गाइड ग्लोसरी और प्लेसहोल्डर कवर करता है।

बिलिंग प्रीपेड क्रेडिट से पे-एज़-यू-गो है: 1M इन्पुट टोकन के लिए $0.15 और 1M आउटपुट टोकन के लिए $0.50। विफल या अस्वीकृत अनुरोधों के लिए चार्ज नहीं किया जाता। मूल्य निर्धारण पृष्ठ पर टॉप-अप आकार और बोनस सूचीबद्ध हैं, और नए उपयोगकर्ता कुंजी पृष्ठ पर एक क्लिक से 7 दिनों के लिए और बिना कार्ड के $0.50 का मुफ़्त ट्रायल क्रेडिट दावा कर सकते हैं। क्लाइंट सेटअप की अधिक विस्तृत गाइड के लिए क्विकस्टार्ट दस्तावेज़ देखें।

नाबालिगों का यौन चित्रण करने वाली सामग्री कभी भी अनुमत नहीं है; इसके अलावा, मॉडल वैध वयस्क उपयोग के लिए सामग्री से इनकार किए बिना उत्तर देने के लिए ट्यून किया गया है।

URL के अन्य स्थान

फ्रेमवर्क्स फ़ील्ड को अलग नाम देते हैं, लेकिन मान समान है। तीन सामान्य उदाहरण:

# LangChain
from langchain_openai import ChatOpenAI
llm = ChatOpenAI(
    base_url="https://api.chinesellmapi.com/v1",
    api_key="YOUR_KEY",
    model="uncensored",
)

# LiteLLM
import litellm
r = litellm.completion(
    model="openai/uncensored",
    api_base="https://api.chinesellmapi.com/v1",
    api_key="YOUR_KEY",
    messages=[{"role": "user", "content": "ping"}],
)

LiteLLM में openai/ प्रीफिक्स लाइब्रेरी को आपके अपने बेस URL के साथ OpenAI वायर फॉर्मेट का उपयोग करने के लिए बताता है, और स्लैश के बाद का भाग मॉडल ID है। SillyTavern जैसे चैट फ्रंट एंड में "कस्टम OpenAI-कम्पैटिबल" स्रोत के तीन बॉक्स होते हैं: URL, कुंजी और मॉडल। फिर से तीन मान।

कुंजी को ब्राउज़र से दूर रखें

अपनी वेबसाइट पर भेजे जाने वाले फ्रंट-एंड JavaScript से API कॉल न करें। कोई भी व्यक्ति पृष्ठ से कुंजी पढ़ सकता है और आपका क्रेडिट खर्च कर सकता है। बीच में एक छोटा सर्वर रूट रखें, वहां कुंजी को एक एनवायरनमेंट वेरिएबल में स्टोर करें, और अपनी साइट को उस रूट को कॉल करने दें।

कोड बदले बिना एंडपॉइंट्स के बीच स्विच करना

यदि आप कई प्रदाताओं का परीक्षण करते हैं, तो तीनों मानों को स्रोत में नहीं बल्कि कॉन्फ़िगरेशन में रखें। एक छोटा सेटिंग्स ब्लॉक काम कर देता है और URL वह एकमात्र चीज़ बन जाती है जिसे आपको संपादित करना होता है:

import os
from openai import OpenAI

client = OpenAI(
    base_url=os.getenv("LLM_BASE_URL", "https://api.chinesellmapi.com/v1"),
    api_key=os.environ["LLM_API_KEY"],
)
MODEL = os.getenv("LLM_MODEL", "uncensored")

इससे स्टैगिंग और प्रोडक्शन को अलग करना भी आसान हो जाता है: प्रत्येक एनवायरनमेंट के लिए एक अलग कुंजी का उपयोग करें, और X-Balance-USD रिस्पॉन्स हेडर प्रत्येक का शेष क्रेडिट दिखाएगा।

प्रश्न और उत्तर

क्या मुझे बेस URL में /chat/completions शामिल करना चाहिए?

नहीं। https://api.chinesellmapi.com/v1 दर्ज करें और SDK को /chat/completions जोड़ने दें। केवल वे टूल्स जिन्हें एक पूर्ण अनुरोध URL की आवश्यकता होती है, उन्हें लंबा रूप चाहिए।

क्या मैं एक ही URL का उपयोग कई ऐप्स के लिए कर सकता हूं?

हाँ। URL और कुंजी किसी भी संख्या में क्लाइंट्स में जा सकते हैं। वे आपकी कुंजी की सीमाओं को साझा करते हैं: 8 समानांतर अनुरोध और एक पूर्ण कुंजी पर प्रति मिनट 300 अनुरोध।

मुझे कौन सा मॉडल नाम दर्ज करना चाहिए?

uncensored का उपयोग करें। आप अपनी कुंजी के साथ GET /v1/models कॉल करके इसकी पुष्टि कर सकते हैं।

क्या यह एक OpenAI-शैली वाले विक्रेता की आधिकारिक API है?

नहीं। यह एक स्वतंत्र प्रदाता द्वारा चलाए जाने वाले एक ओपन-वेट मॉडल के लिए एक होस्टेड API है, जो OpenAI अनुरूप प्रारूप के साथ संगत होने के लिए बनाई गई है।

क्रेडिट खर्च किए बिना कुंजी का परीक्षण कैसे करें?

Authorization हेडर के साथ GET /v1/models कॉल करें। यह मॉडल सूची लौटाता है और टोकन का उपयोग नहीं करता है।

आपकी कुंजी बस एक फ़ॉर्म दूर है

एक खाता बनाएँ, कुंजी कॉपी करें, बेस URL बदलें। सेटअप यही है।

API कुंजी पाएँ