更新于
面向中文应用的 OpenRouter 替代方案
路由器提供多种模型;单一托管模型提供一个稳定的接口。以下是如何为中文应用做出决定的方法。

简短回答
如果你正在寻找适合中文应用使用的OpenRouter 替代方案,诚实的答案取决于你喜欢 OpenRouter 的哪一点。如果你喜欢的是通过一个密钥选择众多模型,这项服务不是替代品,因为它只提供单一模型。如果你需要的是具有可预测定价的 OpenAI 兼容接口用于中文产品,托管单一模型可能更容易运行。
以下是直接对比、决策列表以及尝试两者所需的代码更改。您可以使用试用额度测试此 API,并并行保留您的 OpenRouter 账户,因为切换只需更改一个基础 URL。
每种选项是什么
| 路由器(如 OpenRouter) | 本服务 | |
|---|---|---|
| 核心概念 | 一个 API 密钥即可访问来自多个供应商的多种模型 | OpenAI 兼容 API 背后的单一托管开放权重模型 |
| 模型选择 | 每次请求选择 | 固定:模型 ID uncensored |
| 定价 | 因模型而异;请查看其当前定价 | 每 1M 输入 token $0.15,每 1M 输出 token $0.50 |
| 内容行为 | 由每个模型及其主机设定 | 针对合法的成人使用进行无内容拒绝调优 |
| 额外功能 | 多种模型功能,取决于具体模型 | 聊天、回复、流式输出、工具、JSON 模式;不支持图像、音频或嵌入 |
路由器列的所有内容均为通用信息,可能已发生变化,请阅读其当前文档。右列是本服务今天提供的功能。
当路由器是更好的选择时
诚实地审视以下情况,如果任何一条符合你,请使用路由器:
- 你想在中文提示词下比较多个供应商的模型,并为每个任务选择最佳模型。
- 你需要通过名称获取特定模型,例如在同一个应用中获取某个中文实验室的发布版本。
- 当一个模型宕机时,你需要自动故障转移。
- 你需要通过同一个 API 密钥获取嵌入、视觉或其他接口。
单模型服务无法做到上述任何一点。它不是跨供应商的路由器,也不是任何模型供应商的官方 API。如果模型选择是你的主要需求,路由器胜出。
何时单一托管模型是更好的选择
对于形态明确的产品,单一模型具有真正的优势。
- 可预测的行为。 模型不会发生变化,因此你的提示词、语气设置和测试保持有效。使用多种模型时,行为因选择而异,你需要为每个模型准备测试套件。
- 可预测的成本。 只有一对价格。月度预算是乘法运算,而不是在目录中查找。
- 合法成人使用无拒绝。 对于中文网络小说、角色扮演和成人伴侣应用,拒绝会破坏体验。该模型经过调整以避免拒绝。详见中文网络小说与角色扮演。涉及未成年人的性内容始终禁止。
- 低设置工作量。 一个模型 ID,无需选择。
权衡在于质量风险,这是需要权衡的主要风险。如果该模型在你的中文任务上弱于其他模型,你无法在服务内切换。提交前请测试。一个公平的测试方法是先给它你最难用的三个提示词,例如带有持续角色声音的长对话、包含难懂成语的改写请求以及需要严格 JSON 的请求,看看它在哪里失败。
切换测试:相同代码,两个接口
由于两者都使用 OpenAI 协议,公平的测试成本非常低。按上述费率,一次包含 2,500 个输入 token 和 500 个输出 token 的请求成本为 $0.000375 + $0.00025 = $0.000625,因此 30 次提示词的成本约为 $0.019,这是 $0.50 试用额度的一小部分。你可以运行一个脚本同时测试两者,并排比较答案和成本。
import os
from openai import OpenAI
ours = OpenAI(base_url="https://api.chinesellmapi.com/v1", api_key=os.environ["OUR_KEY"])
router = OpenAI(base_url=os.environ["ROUTER_URL"], api_key=os.environ["ROUTER_KEY"])
prompt = "用轻松的语气,写一段三句话的咖啡店开业公告。"
a = ours.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": prompt}],
)
b = router.chat.completions.create(
model=os.environ["ROUTER_MODEL"],
messages=[{"role": "user", "content": prompt}],
)
print("OURS :", a.choices[0].message.content, a.usage.total_tokens)
print("ROUTER:", b.choices[0].message.content, b.usage.total_tokens)然后遍历产品中的 30 个提示词,打乱输出结果,让本地读者在不带标签的情况下对它们进行评分。将每侧的 token 数量乘以其各自的价格,得出每个合格答案的成本。路由器的 URL 和模型名称来自其文档,这就是脚本从环境变量中读取它们的原因。
成本:计算示例
假设一个中文聊天功能每月发送 2,500 输入 token 并获得 500 输出 token,共 20,000 次。
- 输入:20,000 x 2,500 = 50M token,即 50 x $0.15 = $7.50。
- 输出:20,000 x 500 = 10M token,即 10 x $0.50 = $5.00。
- 总计:此服务每月 $12.50。
为了比较,获取你打算选择的路由器对该模型的当前价格,应用相同的两行代码,并检查它是否在模型价格之外收取任何费用。中文文本的 token 数量因 tokenizer 而异,因此请通过 usage 字段在两侧测量它们,而不是复用我的数据。
求和的路由器部分由你填写,还有一行在那里很重要:模型价格差异很大,因此路由器上最便宜的模型可能是具有不同质量水平的不同模型。比较可接受答案的成本,而不是标价。一个你必须在 30% 的提示词上重试的更便宜模型并不能省钱。
这里没有订阅。你从预付额度中支付,它不会过期,失败或被拒绝的请求不会收费。最低充值为 $20,$50 起 +5% 额度,$100 起 +10% 额度,$200 起 +15% 额度。
向任何供应商提出的七个问题
无论你选择路由器、这项服务还是其他服务,相同的检查清单都能保护你的中文语言产品免受意外。
- 哪个确切模型回答我的请求,且该模型是否会未经通知而更改?
- 中文 token 如何计数和计费,典型请求的费用是多少?
- 当我的内容处于边缘情况时会发生什么:拒绝、重写还是静默过滤?被拒绝的请求会计费吗?
- 新 API 密钥的并发请求数和每分钟限制是多少?
- 我的提示词数据是否用于训练或与其他方共享?在此,提示词不用于训练。
- 如何通过代码查看余额?在此,
X-Balance-USD头部和GET /v1/balance提供余额。 - 退出路径是什么?使用 OpenAI 兼容 API,只需更改基础 URL。
为每个候选者将答案写入表格。表格中的空白,如“未知”或“未记录”,也是信息。
你应该知道的限制和功能
完整密钥允许 8 个并发请求和每分钟 300 个请求,试用密钥允许 2 个和 60 个。上下文窗口为 100,000 个 token(提示词加补全)。支持流式输出、函数调用和 JSON 模式,且提示词不用于训练。该服务仅支持文本:不支持嵌入、图像、音频、视频或微调。
如果你的应用同时需要聊天和嵌入,请使用此 API 进行聊天,并使用另一家提供商进行嵌入。这种拆分很常见,无需使用路由器。在配置中保留两个 Base URL,每个任务一个,以便以后更改其中任何一个而不影响业务逻辑。
如何试用
使用 Google 或邮箱注册,打开 API 密钥页面,一键领取 $0.50 试用额度。它不需要信用卡,有效期为 7 天。然后按照 中文应用快速入门 获取可运行的代码,或阅读 文档。费率和奖励在 定价页面 上。试用密钥以较低的试用限制运行,这对于几十次提示词的比较运行来说已经足够。充值可以通过加密货币(TRC20 上的 USDT、Base 上的 USDC)支付。
更多指南
问答
这能直接替换 OpenRouter 吗?
仅支持聊天。它只提供一个模型,因此你将失去模型选择、回退机制和非聊天接口。
我可以使用相同的代码吗?
可以。两者都使用 OpenAI 协议,因此你只需更改 Base URL、密钥和模型名称。
该模型擅长中文吗?
使用你自己的提示词进行测试。使用免费试用额度,并请母语人士对回答进行评分。
试用需要信用卡吗?
不需要。$0.50 试用额度只需注册并点击一次。
只差一张表单,即可获得密钥
创建账户,复制密钥,更改基础 URL。这就是全部设置。