01 / 能力
网关本身不难,难的是它背后的运营:谁能用哪些模型、每个客户什么价格、这个月花了多少。词元Club 把这层做成了产品。
已有的 OpenAI SDK、LangChain、Dify、Cherry Studio 等客户端,改 base_url 和 Key 就能用,业务代码不动。
不同模型分走多条上游通道,延迟更稳、可用性更高。一个 Key,调用时按模型名自动路由。
输入与输出分开计价,缓存命中单独计算。视频、图像这类按次计费的模型单独计。
同一款模型,不同客户可以有不同的倍率。签了大单可以单独给一档价,不用改代码、不用另开系统。
每一次调用都有记录:模型、token 数、耗时、状态、费用。可以按 Key、按用户、按模型、按时间筛。
用户自己登录后台就能建 Key、设过期时间、设额度上限。不用每次都找管理员。
02 / 两种角色
两套界面,权限彻底分开。普通用户看不到别人的用量,也看不到成本价;管理员能看到全部客户、全部模型与全部账单。
03 / 计费
计费口径只有一套,公开在定价页上。模型价格随上游调整,调价会在控制台提前公告。
| 项目 | 怎么算 |
|---|---|
| 文本模型 | 按 token 计,输入与输出分开定价;命中缓存的输入按缓存价计。 |
| 图像模型 | 按生成张数计,不同尺寸与质量分档计价。 |
| 视频模型 | 按生成次数计,异步任务提交与结果轮询都不额外收费。 |
| 失败调用 | 上游返回失败的不计费;已计费但上游失败的,自动退回额度。 |
| 客户费率 | 在上游价基础上按客户分组设置倍率,管理员可随时调整,下一笔调用即生效。 |
04 / 接入
如果你的系统已经兼容 OpenAI 协议,通常只需要改两处:base_url 和 API Key。
# 1. 安装(如果还没装) pip install openai # 2. 指向词元Club,换成你自己的 Key export OPENAI_BASE_URL="https://token.aidatas.cloud/v1" export OPENAI_API_KEY="sk-你的Key" # 3. 直接调用,模型名用上游原名 from openai import OpenAI client = OpenAI() resp = client.chat.completions.create( model="deepseek-chat", messages=[{"role": "user", "content": "你好"}], ) print(resp.choices[0].message.content)
05 / 数据与合规
这是我们的产品原则,也是我们敢把它写出来的原因。
请求到达后转发给上游,返回后直接回给你。内容不写入磁盘、不入日志、不做分析。
模型名、token 用量、耗时、状态码、费用。没有这些就收不了费,也查不了故障。
我们既不训练模型,也不把数据交给任何第三方做训练。上游的数据政策请参见各模型官方条款。
说明:本服务面向企业与开发者提供模型调用接入与计费管理。使用者应自行确保其使用场景符合所在地法律法规及上游模型的服务条款;涉及生成式人工智能服务的公开运营,需按规定完成相应备案与安全评估。