HI ▾

Chinese LLM APIअनुवाद

API कुंजी पाएँ

अपडेट किया गया

सस्ता Chinese LLM API: कीमत के अलावा क्या तुलना करें

प्रति-टोकन कीमत आपके भुगतान का केवल आधा हिस्सा है। अपनी स्वयं की टेक्स्ट पर टोकन मापें, फिर कॉन्टेक्स्ट विंडो, लिमिट और न्यूनतम राशि की तुलना करें।

कीमत वाले क्रिस्टल से जुड़े अमूर्त ब्रश-स्ट्रोक टाइल्स

अपनी स्वयं की टेक्स्ट की लागत से शुरू करें

एक सस्ता चीनी एलएलएम एपीआई तभी सस्ता है यदि यह आपके टेक्स्ट को अनुरोध प्रति उचित मूल्य पर प्रोसेस करता है। मूल्य सूची में लागत प्रति मिलियन टोकन दिखाई जाती है, लेकिन एक टोकन एक वर्ण या शब्द नहीं है। एक चीनी वाक्य को कितने टोकन की आवश्यकता है, यह एपीआई के पीछे के मॉडल के टोकनाइज़र पर निर्भर करता है, और दो प्रदाता समान प्रति-टोकन दरों पर भी समान पैराग्राफ के लिए बहुत अलग कुल राशि की वसूली कर सकते हैं।

तो पहला कदम मापना है। अपनी स्वयं की चीनी प्रॉम्प्ट्स का एक नमूना भेजें, प्रतिक्रिया में usage फ़ील्ड पढ़ें, और अनुरोध प्रति लागत की गणना करें। हमारी दरें 1M इनपुट टोकन के लिए $0.15 और 1M आउटपुट टोकन के लिए $0.50 हैं, और नीचे दिया गया कोड एक नमूने को औसत लागत में बदल देता है।

from openai import OpenAI

client = OpenAI(base_url="https://api.chinesellmapi.com/v1", api_key="YOUR_KEY")
samples = ["请用三句话介绍一下杭州。", "把下面这段话翻译成英文:今天天气很好。"]

for text in samples:
    r = client.chat.completions.create(
        model="uncensored",
        messages=[{"role": "user", "content": text}],
    )
    u = r.usage
    cost = (u.prompt_tokens * 0.15 + u.completion_tokens * 0.50) / 1_000_000
    print(len(text), "chars ->", u.prompt_tokens, "in,", u.completion_tokens, "out, $%.6f" % cost)

दो के बजाय 30 से 50 प्रतिनिधि प्रॉम्प्ट्स चलाएँ। आप जो टोकन से वर्णों का अनुपात देखते हैं, वह वह संख्या है जिसे आपको प्रदाताओं की तुलना में उपयोग करना चाहिए।

इनपुट, आउटपुट और न्यूनतम की तुलना करें

अन्य लागत कारक किसी अंग्रेजी API के समान हैं, और वे चीनी पाठ के साथ भी उतने ही महत्वपूर्ण हैं।

  • इनपुट और आउटपुट की कीमतें। आउटपुट आमतौर पर प्रति टोकन अधिक खर्च करता है। यहाँ यह $0.50 है जबकि इनपुट के लिए $0.15 है, इसलिए एक ऐसा कार्य जो लंबे जवाब उत्पन्न करता है, जैसे कहानी लेखन, एक ऐसे कार्य से अधिक खर्च होता है जो छोटे टेक्स्ट को वर्गीकृत करता है।
  • न्यूनतम टॉप-अप। हमारा $20 से शुरू होता है और पूर्ण राशि में $500 तक जाता है।
  • समाप्ति और सदस्यता। यहाँ क्रेडिट कभी समाप्त नहीं होता है और कोई सदस्यता नहीं है। तुलना करने वाले हर प्रदाता पर दोनों की जाँच करें।
  • अनुरोध विफल। विफल या अस्वीकृत अनुरोधों का यहाँ शुल्क नहीं लिया जाता है। हर प्रदाता ऐसा नहीं करता है।

अन्य प्रदाताओं के लिए, इस ब्लॉग पोस्ट सहित, उनकी वर्तमान कीमतों की जाँच करें। कीमतें बदलती हैं।

भाषा की गुणवत्ता छोटे कीमत अंतर से अधिक महत्वपूर्ण है

यदि आपके उपयोगकर्ता चीनी पढ़ते हैं, तो गुणवत्ता की समस्याएँ मिश्रित-भाषा के जवाबों, कठोर वाक्य रचना, गलत माप शब्दों और लहजे में त्रुटियों के रूप में प्रकट होती हैं। एक मॉडल जो प्रति मिलियन टोकन पर कुछ सेंट सस्ता है लेकिन जवाब के लिए दो प्रयासों की आवश्यकता है, व्यावहारिक रूप से अधिक महंगा है।

अपने उत्पाद की आवश्यकता के अनुसार एक छोटा मूल्यांकन सेट बनाएँ:

  1. दैनिक बोलचाल की चीनी में दस प्रॉम्प्ट, औपचारिक लेखन में दस, और उस शैली में दस जिसे आप सेवा देते हैं, जैसे ग्राहक सहायता या वेब फिक्शन।
  2. एक स्थानीय पाठक से प्रत्येक जवाब की प्राकृतिकता और सटीकता के लिए 1 से 5 के पैमाने पर रेटिंग देने के लिए कहें।
  3. जाँच करें कि मॉडल चीनी में पूछे जाने पर चीनी में जवाब देता है, और निर्देशानुसार सरलीकृत या पारंपरिक अक्षरों तक सीमित रहता है।

स्क्रिप्ट और शैली को सिस्टम प्रॉम्प्ट में डालें, उदाहरण के लिए एक नोट जो मॉडल को सरलीकृत चीनी में प्राकृतिक लहजे में उत्तर देने का निर्देश दे। सेवा एक ओपन-वेट मॉडल चलाती है, इसलिए आप गुणवत्ता सुधारने के लिए मॉडल नहीं बदल सकते। आप प्रॉम्प्ट समायोजित करते हैं, और यदि परिणाम पर्याप्त नहीं हैं, तो आप एक अन्य प्रदाता चुनते हैं। यह एक उचित समझौता है जिसे आपको शुरू करने से पहले जानना चाहिए।

एक और जाँच दस मिनट के लायक है: एक ही सवाल तीन बार पूछें और तुलना करें। नमूनीकरण से उत्तर भिन्न होते हैं, और एक उत्पाद के लिए आपको यह जानना चाहिए कि फैलाव कितना है। seed सेट करने और एक कम temperature सेट करने से यह संकीर्ण होता है, जो जब आप प्रॉम्प्ट को ट्यून करते हैं और केवल अपने परिवर्तनों को देखना चाहते हैं तो मदद करता है।

कॉन्टेक्स्ट लंबाई और लंबे चीनी दस्तावेज़

कॉन्टेक्स्ट को टोकन में गिना जाता है, वर्णों में नहीं। विंडो यहाँ 100,000 टोकन की है, प्रॉम्प्ट और पूर्णता सहित, और एक पूर्णता शेष सब कुछ उपयोग कर सकती है। अनुबंध, उपन्यास या चैट लॉग जैसे लंबे दस्तावेजों के लिए, सीमा पर भरोसा करने से पहले एक वास्तविक कॉल के साथ जांचें कि आपका नमूना कितने टोकन लेता है। चीनी पाठ का एक ही पृष्ठ अंग्रेजी संस्करण की तुलना में कम या अधिक टोकन उपयोग कर सकता है, टोकनाइज़र पर निर्भर करके।

लंबे इनपुट भेजने पर हर बार पैसा लगता है। एक 60,000 टोकन दस्तावेज़ की लागत 60,000 x $0.15 / 1M = $0.009 प्रति पढ़ाई है। यदि आप इसके बारे में दस प्रश्न पूछते हैं, इसे दस बार भेजें, और आप केवल इनपुट के लिए $0.09 भुगतान करते हैं। दोहराए गए प्रश्नों के लिए, काम को बाँटें: एक बार सारांश बनाएँ और सारांश के खिलाफ प्रश्न पूछें।

एक सस्ती सेटअप को प्रभावित करने वाली सीमाएँ

कम कीमत तब काम नहीं आती जब रेट लिमिट्स आपकी एप को रोक दें। एक पूर्ण कुंजी 8 समानांतर अनुरोध और प्रति मिनट 300 अनुरोधों की अनुमति देती है। एक ट्रायल कुंजी 2 और 60 की अनुमति देती है। सीमा से अधिक होने पर API HTTP 429 लौटाता है त्रुटि कोड rate_limited या concurrency के साथ। अस्थायी ओवरलोड पर यह 429 लौटाता है Retry-After: 5 हेडर के साथ।

एक स्ट्रीम किए गए उत्तर में स्ट्रीम समाप्त होने तक उसकी कंकरेंसी स्लॉट बनी रहती है, जो एक चैट ऐप में जहाँ उपयोगकर्ता धीरे-धीरे पढ़ते हैं, इसे भूलना आसान है। यदि आप एक ही समय में 8 से अधिक लोगों की चैट की उम्मीद करते हैं, तो API के सामने एक कतार की योजना बनाएं। अधिकतम अनुरोध बॉडी 8 MB है, जो एक टेक्स्ट प्रॉम्प्ट को आवश्यकता से कहीं अधिक है।

सामान्य चीनी-भाषा उपयोग मामले और उनकी लागत प्रोफ़ाइल

अलग-अलग कार्य कीमत के पैमाने पर अलग-अलग बिंदुओं पर बैठते हैं, इसलिए टेस्ट को कार्य से मिलाएँ।

  • ग्राहक सहायता चैट। छोटे प्रश्न, मध्यम उत्तर, एक लंबा सिस्टम प्रॉम्प्ट। इनपुट प्रमुख है, इसलिए सिस्टम प्रॉम्प्ट को संक्षिप्त रखें।
  • अनुवाद। इनपुट और आउटपुट लगभग समान लंबाई के होते हैं। हमारी चीनी-अंग्रेजी अनुवाद API पेज पैटर्न दिखाती है।
  • कहानी और रोलप्ले जनरेशन। छोटे प्रॉम्प्ट, लंबे उत्तर। आउटपुट प्रमुख है, इसलिए $0.50 की दर पर ध्यान देना चाहिए।
  • वर्गीकरण और टैगिंग। बहुत छोटे आउटपुट। ये अनुरोध प्रति सबसे सस्ते कार्य हैं, और JSON मोड के लिए एक अच्छा विकल्प हैं।

पहली कार्यरत ऐप के लिए, चीनी भाषा ऐप क्विकस्टार्ट में चरण-दर-चरण कोड है। temperature को अनुवाद और टैगिंग के लिए कम और कथा साहित्य के लिए अधिक सेट करें। अधिकांश क्लाइंट उन सेटिंग्स को अपरिवर्तित पास करते हैं।

यह सेवा क्या है और क्या नहीं

यह एक होस्टेड, OpenAI-संगत टेक्स्ट API है जो एक स्वतंत्र प्रदाता से एक ओपन-वेट मॉडल चलाता है। मॉडल को कानूनी वयस्क उपयोग के लिए सामग्री अस्वीकृति के बिना उत्तर देने के लिए ट्यून किया गया है। यह वयस्कों के लिए कथा साहित्य, रोलप्ले और कंपैनियन ऐप्स के लिए उपयुक्त है, जिनमें चीनी वेब फिक्शन और रोलप्ले शामिल हैं। नाबालिगों से जुड़े यौन सामग्री की कभी अनुमति नहीं है।

यह किसी मॉडल विक्रेता की आधिकारिक API नहीं है, और यह एक राउटर भी नहीं है। इसमें एम्बेडिंग्स एंडपॉइंट, इमेज, ऑडियो या वीडियो जनरेशन और फाइन-ट्यूनिंग नहीं है। यदि आपको चीनी खोज के लिए एम्बेडिंग्स की आवश्यकता है, तो उस भाग के लिए इस API को किसी अन्य सेवा के साथ जोड़ें।

प्रॉम्प्ट्स को प्रशिक्षण के लिए उपयोग नहीं किया जाता है। स्ट्रीमिंग, टूल कॉलिंग और JSON मोड (response_format json_object के साथ) सभी काम करते हैं। जब आप बेस URL सेट करते हैं तो कोई भी OpenAI SDK कनेक्ट होता है: बेस URL को https://api.chinesellmapi.com/v1 पर बदलें, अपनी कुंजी रखें, और मॉडल को uncensored पर सेट करें।

निःशुल्क इसे कैसे आज़माएं

Google या ईमेल से साइन अप करें, API कुंजी पेज खोलें और एक क्लिक से $0.50 का मुफ़्त ट्रायल क्रेडिट क्लेम करें। कार्ड की आवश्यकता नहीं है, यह एक व्यक्ति के लिए एक क्लेम है, और यह 7 दिनों के लिए मान्य है। प्रति अनुरोध 2,000 इनपुट और 500 आउटपुट टोकन पर, जिसकी लागत $0.00055 है, ट्रायल लगभग 909 अनुरोधों को कवर करता है।

उसके बाद, टॉप-अप $20 से $500 तक किसी भी पूर्ण राशि के होते हैं, क्रिप्टो (TRC20 पर USDT, Base पर USDC) द्वारा। बोनस $50 से +5%, $100 से +10% और $200 से +15% हैं। मूल्य निर्धारण पेज पर पूर्ण तालिका है, और दस्तावेज़ में हर पैरामीटर सूचीबद्ध है।

प्रश्न और उत्तर

चीनी पाठ में कितने टोकन का उपयोग होता है?

यह मॉडल के टोकनाइज़र पर निर्भर करता है। एक नमूना भेजें और अपनी स्वयं की रूपांतरण दर प्राप्त करने के लिए usage फ़ील्ड को पढ़ें।

क्या मैं भुगतान करने से पहले चीनी गुणवत्ता का परीक्षण कर सकता हूँ?

हाँ। API कुंजी पेज पर एक क्लिक से $0.50 का मुफ़्त ट्रायल क्रेडिट क्लेम करें, बिना कार्ड, 7 दिनों के लिए मान्य।

क्या यह एक चीनी मॉडल विक्रेता की आधिकारिक API है?

नहीं। यह एक स्वतंत्र प्रदाता से एक ओपन-वेट मॉडल चलाती है और विक्रेता की आधिकारिक API नहीं है।

क्या यह चीनी खोज के लिए एम्बेडिंग्स प्रदान करता है?

नहीं। यह केवल एक टेक्स्ट चैट API है, इसलिए एम्बेडिंग्स के लिए एक अन्य सेवा का उपयोग करें।

आपकी कुंजी बस एक फॉर्म दूर है

एक खाता बनाएँ, कुंजी कॉपी करें, बेस URL बदलें। सेटअप यही है।

API कुंजी पाएँ