अपडेट किया गया
चीनी भाषा ऐप्स के लिए OpenRouter विकल्प
एक राउटर आपको कई मॉडल देता है; एक अकेला होस्टेड मॉडल आपको एक स्थिर एंडपॉइंट देता है। यहाँ बताया गया है कि एक चीनी-भाषा ऐप के लिए निर्णय कैसे लें।

संक्षिप्त उत्तर
यदि आप OpenRouter विकल्प चीनी ऐप्स के लिए खोज रहे हैं, तो ईमानदार जवाब इस बात पर निर्भर करता है कि आपको OpenRouter में क्या पसंद था। यदि यह एक कुंजी के पीछे कई मॉडल के चयन के बारे में था, तो यह सेवा एक प्रतिस्थापन नहीं है, क्योंकि यह एकल मॉडल प्रदान करती है। यदि यह चीनी-भाषा उत्पाद के लिए भविष्यवाणी योग्य मूल्य निर्धारण के साथ एक सरल OpenAI-संगत एंडपॉइंट था, तो एकल होस्टेड मॉडल चलाना आसान हो सकता है।
नीचे एक सादा तुलना, एक निर्णय सूची और दोनों को आज़माने के लिए आवश्यक कोड परिवर्तन दिया गया है। आप ट्रायल क्रेडिट पर इस API का परीक्षण कर सकते हैं और अपने OpenRouter खाते को समानांतर में रख सकते हैं, क्योंकि स्विच करना केवल एक बेस URL का मामला है।
प्रत्येक विकल्प क्या है
| OpenRouter जैसा एक राउटर | यह सेवा | |
|---|---|---|
| मुख्य विचार | एक API कुंजी जो कई विक्रेताओं के कई मॉडल तक पहुँच प्रदान करती है | एक होस्टेड ओपन-वेट मॉडल जो OpenAI-कम्पैटिबल API के पीछे है |
| मॉडल चयन | आप प्रति अनुरोध चुनते हैं | फिक्स्ड: मॉडल ID uncensored |
| मूल्य | मॉडल के अनुसार भिन्न; उनकी वर्तमान कीमतें जाँचें | 1M इनपुट प्रति $0.15, 1M आउटपुट प्रति $0.50 |
| सामग्री व्यवहार | प्रत्येक मॉडल और उसकी होस्टिंग द्वारा निर्धारित | कानूनी वयस्क उपयोग के लिए बिना सामग्री अस्वीकृति के उत्तर देने के लिए ट्यून्ड |
| अतिरिक्त सुविधाएँ | कई मॉडल सुविधाएँ, मॉडल पर निर्भर | चैट, प्रतिक्रियाएँ, स्ट्रीमिंग, टूल्स, JSON मोड; कोई छवि, ऑडियो या एम्बेडिंग नहीं |
रोटर कॉलम के बारे में सब कुछ सामान्य है और बदल सकता है, इसलिए उसकी वर्तमान दस्तावेज़ीकरण पढ़ें। दायां कॉलम वह दिखाता है जो यह सेवा आज प्रदान करती है।
जब एक रूटर बेहतर फिट होता है
इन मामलों के बारे में स्वयं से ईमानदार रहें, और यदि कोई भी आपका वर्णन करता है तो एक रोटर का उपयोग करें:
- आप कई विक्रेताओं के मॉडल की तुलना चीनी प्रॉम्प्ट पर करना चाहते हैं और प्रत्येक कार्य के लिए सर्वोत्तम चुनना चाहते हैं।
- आपको एक विशिष्ट मॉडल की आवश्यकता है, उदाहरण के लिए किसी विशिष्ट चीनी प्रयोगशाला की रिलीज़, उसी ऐप में।
- आप चाहते हैं कि जब एक मॉडल डाउन हो तो स्वचालित फॉलबैक हो।
- आपको एम्बेडिंग, विज़न या अन्य एंडपॉइंट एक ही API कुंजी के माध्यम से चाहिए।
एकल-मॉडल सेवा इनमें से कुछ भी नहीं कर सकती। यह विक्रेताओं के बीच एक रोटर नहीं है, और यह किसी भी मॉडल विक्रेता की आधिकारिक API नहीं है। यदि मॉडल चयन आपकी मुख्य आवश्यकता है, तो रोटर बेहतर है।
जब एक होस्टेड मॉडल बेहतर फिट है
एकल मॉडल की एक स्पष्ट आकार वाली उत्पाद के लिए वास्तविक लाभ हैं।
- भविष्यवाणी योग्य व्यवहार। मॉडल आपके सामने नहीं बदलता, इसलिए आपके प्रॉम्प्ट, टोन सेटिंग्स और परीक्षण मान्य रहते हैं। कई मॉडल के साथ, व्यवहार चयन के अनुसार अलग-अलग होता है, और आपको प्रति मॉडल एक परीक्षण सेट की आवश्यकता होती है।
- भविष्यवाणी योग्य लागत। कीमतों का एक ही जोड़ा है। मासिक बजट एक गुणा है, कैटलॉग में खोज नहीं।
- कानूनी वयस्क उपयोग के लिए कोई अस्वीकृति नहीं। चीनी वेब फिक्शन, रोलप्ले और वयस्कों के लिए कंपैनियन ऐप्स के लिए, अस्वीकृतियां अनुभव को खराब कर देती हैं। यह मॉडल उन्हें टालने के लिए ट्यून्ड है। चीनी वेब फिक्शन और रोलप्ले देखें। नाबालिगों से संबंधित यौन सामग्री कभी भी अनुमत नहीं है।
- कम सेटअप प्रयास। एक मॉडल ID, चुनने के लिए कुछ नहीं।
गुणवत्ता जोखिम का व्यापार है, और यह मुख्य बात है जिसका आकलन करें। यदि यह एक मॉडल आपके चीनी कार्य पर किसी अन्य मॉडल से कमजोर है, तो आप सेवा के भीतर स्विच नहीं कर सकते। प्रतिबद्ध होने से पहले इसे परीक्षण करें। उसका एक उचित तरीका यह है कि पहले अपनी तीन सबसे कठिन प्रॉम्प्ट दें, जैसे कि एक लंबी संवाद जिसमें एक स्थिर किरादार की आवाज़ हो, एक मुहावरा-प्रधान कठिन रीराइट और एक सख्त JSON की आवश्यकता वाला अनुरोध, और देखें कि यह कहाँ विफल होता है।
स्विचिंग परीक्षण: समान कोड, दो एंडपॉइंट
चूंकि दोनों OpenAI प्रोटोकॉल बोलते हैं, एक निष्पक्ष परीक्षण की लागत बहुत कम है। ऊपर दी गई दरों पर, 2,500 इनपुट और 500 आउटपुट टोकन वाले एक अनुरोध की लागत $0.000375 + $0.00025 = $0.000625 है, इसलिए 30 प्रॉम्प्ट की लागत लगभग $0.019 है, जो $0.50 ट्रायल का एक छोटा हिस्सा है। आप दोनों के खिलाफ एक स्क्रिप्ट चला सकते हैं और उत्तरों और लागत की तुलना एक साथ कर सकते हैं।
import os
from openai import OpenAI
ours = OpenAI(base_url="https://api.chinesellmapi.com/v1", api_key=os.environ["OUR_KEY"])
router = OpenAI(base_url=os.environ["ROUTER_URL"], api_key=os.environ["ROUTER_KEY"])
prompt = "用轻松的语气,写一段三句话的咖啡店开业公告。"
a = ours.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": prompt}],
)
b = router.chat.completions.create(
model=os.environ["ROUTER_MODEL"],
messages=[{"role": "user", "content": prompt}],
)
print("OURS :", a.choices[0].message.content, a.usage.total_tokens)
print("ROUTER:", b.choices[0].message.content, b.usage.total_tokens)फिर अपने उत्पाद से 30 प्रॉम्प्ट पर लूप चलाएं, आउटपुट को शफल करें और एक स्थानीय पाठक को लेबल के बिना उन्हें रेट करने दें। प्रत्येक पक्ष की टोकन संख्या को उसकी अपनी कीमतों से गुणा करें ताकि अच्छे उत्तर की लागत प्राप्त हो सके। राउटर के लिए URL और मॉडल का नाम उसकी दस्तावेज़ीकरण से आता है, इसलिए स्क्रिप्ट उन्हें वातावरण से पढ़ती है।
लागत: एक कार्य उदाहरण
मान लीजिए कि एक चीनी-भाषा चैट सुविधा 2,500 इनपुट टोकन भेजती है और 500 आउटपुट टोकन प्राप्त करती है, महीने में 20,000 बार।
- इनपुट: 20,000 x 2,500 = 50M टोकन, इसलिए 50 x $0.15 = $7.50।
- आउटपुट: 20,000 x 500 = 10M टोकन, इसलिए 10 x $0.50 = $5.00।
- कुल: इस सेवा पर प्रति माह $12.50।
तुलना करने के लिए, उस मॉडल के लिए राउटर की वर्तमान कीमत लें, उसी दो पंक्तियों को लागू करें और जांचें कि क्या यह मॉडल की कीमत के अलावा कोई शुल्क लगाता है। चीनी पाठ के लिए टोकन गणना टोकनाइज़र के अनुसार अलग होती है, इसलिए usage फ़ील्ड का उपयोग करके दोनों पक्षों पर उन्हें मापें, न कि मेरी गणना दोहराएं।
योग का राउटर पक्ष भरने के लिए आपका है, और वहां एक और पंक्ति मायने रखती है: मॉडल कीमत में व्यापक रूप से भिन्न होते हैं, इसलिए राउटर पर सबसे सस्ता मॉडल अलग गुणवत्ता स्तर वाला एक अलग मॉडल हो सकता है। शीर्षक कीमत की तुलना में स्वीकार्य उत्तर की लागत की तुलना करें। एक सस्ता मॉडल जिसके लिए आपको 30% प्रॉम्प्ट पर पुनः प्रयास करना पड़ता है, कोई बचत नहीं है।
यहां कोई सदस्यता नहीं है। आप प्रीपेड क्रेडिट से भुगतान करते हैं, यह कभी समाप्त नहीं होता है, और विफल या अस्वीकृत अनुरोधों के लिए चार्ज नहीं किया जाता है। न्यूनतम टॉप-अप $20 है, $50 से +5% क्रेडिट, $100 से +10% और $200 से +15%।
किसी भी प्रदाता से पूछने के लिए सात प्रश्न
चाहे आप राउटर चुनें, इस सेवा या कुछ और, एक चीनी-भाषा उत्पाद में हैरानियों से बचने के लिए वही चेकलिस्ट आपको सुरक्षित रखती है।
- मेरे अनुरोध का उत्तर कौन सा सटीक मॉडल देता है, और क्या वह बिना सूचना के बदल सकता है?
- चीनी टोकन को कैसे गिना और बिल किया जाता है, और एक सामान्य अनुरोध के लिए मुझे क्या भुगतान करना है?
- जब मेरी सामग्री सीमांत होती है तो क्या होता है: अस्वीकृति, पुनर्लेखन या एक शांत फ़िल्टर? क्या अस्वीकृत अनुरोधों के लिए बिल किया जाता है?
- एक नई कुंजी के लिए कन्करेंसी और प्रति मिनट सीमाएं क्या हैं?
- क्या मेरे प्रॉम्प्ट डेटा का उपयोग प्रशिक्षण के लिए किया जाता है या अन्य पक्षों के साथ साझा किया जाता है? यहाँ, प्रॉम्प्ट का उपयोग प्रशिक्षण के लिए नहीं किया जाता है।
- मैं कोड से अपना बैलेंस कैसे देखूं? यहाँ,
X-Balance-USDहेडर औरGET /v1/balanceइसे देते हैं। - निकासी मार्ग क्या है? एक OpenAI-संगत API के साथ, यह एक बेस URL परिवर्तन है।
प्रत्येक उम्मीदवार के लिए एक तालिका में उत्तर लिखें। तालिका में अंतराल, जैसे "अज्ञात" या "दस्तावेज़ नहीं है", वे भी जानकारी हैं।
सीमाएं और सुविधाएं जिन्हें आपको जानना चाहिए
एक पूर्ण कुंजी 8 समानांतर अनुरोध और प्रति मिनट 300 की अनुमति देती है, एक ट्रायल कुंजी 2 और 60 की। कॉन्टेक्स्ट विंडो 100,000 टोकन का है, प्रॉम्प्ट और कंप्लीशन मिलाकर। स्ट्रीमिंग, टूल कॉलिंग और JSON मोड काम करते हैं, और प्रॉम्प्ट प्रशिक्षण के लिए उपयोग नहीं किए जाते हैं। सेवा केवल पाठ के लिए है: एम्बेडिंग, छवियां, ऑडियो, वीडियो या फाइन-ट्यूनिंग नहीं।
यदि आपके ऐप को चैट और एम्बेडिंग दोनों की आवश्यकता है, तो चैट के लिए इस API का उपयोग करें और एम्बेडिंग के लिए एक अन्य प्रदाता का उपयोग करें। यह विभाजन सामान्य है, और इसके बारे में किसी भी राउटर की आवश्यकता नहीं है। कॉन्फ़िगरेशन में दोनों बेस URL रखें, प्रत्येक कार्य के लिए एक, ताकि आप बाद में किसी भी एक को बिना बिजनेस लॉजिक को छुए बदल सकें।
इसे कैसे आज़माएं
Google या ईमेल से साइन अप करें, API कुंजी पेज खोलें और एक क्लिक के साथ $0.50 ट्रायल क्रेडिट दावें। इसके लिए कार्ड की आवश्यकता नहीं है और यह 7 दिन तक चलता है। फिर काम करने वाले कोड के लिए चीनी भाषा ऐप क्विकस्टार्ट का पालन करें, या दस्तावेज़ पढ़ें। दरें और बोनस मूल्य निर्धारण पेज पर हैं। ट्रायल कुंजी निम्न ट्रायल सीमाओं पर चलती है, जो कुछ दर्जन प्रॉम्प्ट की तुलना के लिए पर्याप्त है। टॉप-अप क्रिप्टो (TRC20 पर USDT, Base पर USDC) से भुगतान किया जा सकता है।
अधिक गाइड
प्रश्न और उत्तर
क्या यह OpenRouter के लिए सीधा प्रतिस्थापन है?
केवल चैट के लिए। यह एक ही मॉडल को सर्व करता है, इसलिए आपको मॉडल चयन, फॉलबैक और गैर-चैट एंडपॉइंट खो जाएंगे।
क्या मैं दोनों के लिए एक ही कोड का उपयोग कर सकता हूँ?
हाँ। दोनों ओपनएआई प्रोटोकॉल का उपयोग करते हैं, इसलिए आपको बेस URL, कुंजी और मॉडल नाम बदलना होगा।
क्या मॉडल चीनी भाषा में अच्छा है?
अपने प्रॉम्प्ट से इसका परीक्षण करें। मुफ़्त ट्रायल क्रेडिट का उपयोग करें और एक स्थानीय पाठक से उत्तरों का मूल्यांकन करवाएँ।
क्या इसे आज़माने के लिए कार्ड की आवश्यकता है?
नहीं। $0.50 ट्रायल क्रेडिट के लिए केवल साइन-अप और एक क्लिक की आवश्यकता है।
आपकी कुंजी बस एक फ़ॉर्म दूर है
एक खाता बनाएँ, कुंजी कॉपी करें, बेस URL बदलें। सेटअप यही है।