TokensRelay API 文档

同时兼容 OpenAI 与 Anthropic 两套 API 格式。把现有代码里的 base_url 换成我们的地址，无需改动其他逻辑。

→ 在线 Playground：无需写代码，直接在浏览器里测试模型

介绍

TokensRelay（搬运工）是一个 AI 模型聚合网关，把 OpenAI、Anthropic Claude、Google Gemini、DeepSeek、Qwen 等数十家上游统一接入。你用一个 API Key，就能调用全部模型。

鉴权

在 控制台 → 令牌 创建一个 API Key，根据所用 API 格式携带对应请求头：

快速开始

三步开始调用：

• ① 在 控制台注册并充值；
• ② 创建 API Key；
• ③ 把下面任意一段代码里的 $TOKENSRELAY_KEY 换成你的 Key 运行。

OpenAI 格式

复制curl https://tokensrelay.cn/v1/chat/completions \
  -H "Authorization: Bearer $TOKENSRELAY_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "auto",
    "messages": [{"role": "user", "content": "你好，介绍一下你自己"}]
  }'

Anthropic 格式

复制curl https://tokensrelay.cn/v1/messages \
  -H "x-api-key: $TOKENSRELAY_KEY" \
  -H "anthropic-version: 2023-06-01" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "qwen/qwen3.5-122b-a10b",
    "max_tokens": 1024,
    "messages": [{"role": "user", "content": "你好，介绍一下你自己"}]
  }'

Chat Completions

请求参数

响应示例

复制{
  "id": "chatcmpl-xxx",
  "object": "chat.completion",
  "model": "deepseek-ai/deepseek-v4-flash",
  "choices": [{
    "index": 0,
    "message": {"role": "assistant", "content": "你好！我是……"},
    "finish_reason": "stop"
  }],
  "usage": {"prompt_tokens": 12, "completion_tokens": 28, "total_tokens": 40}
}

Messages（Anthropic 原生格式）NEW

兼容 Anthropic 官方 Messages API 格式，让使用 anthropic SDK 的项目无缝接入，无需改动业务逻辑。

Base URL

请求参数

响应示例（非流式）

复制{
  "id": "msg_01XFDUDYJgAACzvnptvVoYEL",
  "type": "message",
  "role": "assistant",
  "model": "claude-sonnet-4-5",
  "content": [{"type": "text", "text": "你好！我是 Claude……"}],
  "stop_reason": "end_turn",
  "stop_sequence": null,
  "usage": {"input_tokens": 12, "output_tokens": 30}
}

stop_reason 映射

Tool Use 示例

复制curl https://tokensrelay.cn/v1/messages \
  -H "x-api-key: $TOKENSRELAY_KEY" \
  -H "anthropic-version: 2023-06-01" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "claude-sonnet-4-5",
    "max_tokens": 1024,
    "tools": [{
      "name": "get_weather",
      "description": "查询城市天气",
      "input_schema": {
        "type": "object",
        "properties": {
          "city": {"type": "string", "description": "城市名"}
        },
        "required": ["city"]
      }
    }],
    "messages": [{"role": "user", "content": "北京今天天气怎么样？"}]
  }'

流式输出

OpenAI 格式流式

设置 "stream": true，服务端将以 Server-Sent Events 持续推送增量片段，最后以 data: [DONE] 结束。

复制data: {"choices":[{"delta":{"content":"你"}}]}
data: {"choices":[{"delta":{"content":"好"}}]}
data: [DONE]

Anthropic 格式流式

设置 "stream": true，服务端将按 Anthropic SSE 协议推送事件序列：

复制event: message_start
data: {"type":"message_start","message":{"id":"msg_xxx","type":"message","role":"assistant","content":[],"model":"claude-sonnet-4-5","stop_reason":null,"usage":{"input_tokens":0,"output_tokens":0}}}

event: content_block_start
data: {"type":"content_block_start","index":0,"content_block":{"type":"text","text":""}}

event: content_block_delta
data: {"type":"content_block_delta","index":0,"delta":{"type":"text_delta","text":"你好"}}

event: content_block_stop
data: {"type":"content_block_stop","index":0}

event: message_delta
data: {"type":"message_delta","delta":{"stop_reason":"end_turn","stop_sequence":null},"usage":{"input_tokens":12,"output_tokens":5}}

event: message_stop
data: {"type":"message_stop"}

模型列表

返回当前账户可用的全部模型，以 GET /v1/models 实时返回为准（实测约 90+ 个）。实际可用模型以 GET /v1/models 与控制台为准。下表为默认部署即可直接调用的代表性模型（2026-06 实测验证）：

智能路由 (model = auto)

这是 TokensRelay 的特色能力。当你设置 "model": "auto" 时，网关会分析你的请求内容，自动选择最合适的模型：

• 含图片/视觉内容 → 自动转视觉模型（注：图片输入当前上游不稳定，可能失败，建议以文本为主）；
• 编程 / 代码意图 → 自动转代码模型；
• 需要深度推理 → 自动转思考模型；
• 其余 → 高性价比通用模型。

复制{
  "model": "auto",
  "messages": [{"role": "user", "content": "用 Python 写一个快速排序"}]
}
// → 自动路由到代码模型

Embeddings

复制curl https://tokensrelay.cn/v1/embeddings \
  -H "Authorization: Bearer $TOKENSRELAY_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"text-embedding-3-small","input":"要向量化的文本"}'

Python SDK — OpenAI 格式

直接使用官方 openai 库，只改 base_url：

复制pip install openai

复制from openai import OpenAI

client = OpenAI(
    api_key="sk-xxxxxxxxxxxxxxxxxxxxxxxx",   # TokensRelay Key
    base_url="https://tokensrelay.cn/v1",
)

resp = client.chat.completions.create(
    model="auto",  # 或 qwen/qwen3.5-397b-a17b / deepseek-ai/deepseek-v4-flash ...
    messages=[{"role": "user", "content": "你好"}],
)
print(resp.choices[0].message.content)

# 流式
stream = client.chat.completions.create(
    model="deepseek-ai/deepseek-v4-flash",
    messages=[{"role": "user", "content": "讲个笑话"}],
    stream=True,
)
for chunk in stream:
    print(chunk.choices[0].delta.content or "", end="")

Python SDK — Anthropic 原生格式NEW

使用官方 anthropic 库，只改 base_url，其余代码与访问 Anthropic 官方完全一致：

复制pip install anthropic

复制import anthropic

client = anthropic.Anthropic(
    api_key="sk-xxxxxxxxxxxxxxxxxxxxxxxx",   # TokensRelay Key
    base_url="https://tokensrelay.cn",       # 注意：不加 /v1 后缀
)

# 非流式
message = client.messages.create(
    model="claude-sonnet-4-5",
    max_tokens=1024,
    system="你是一个专业的 Python 工程师。",
    messages=[{"role": "user", "content": "用 Python 实现二分查找"}],
)
print(message.content[0].text)

# 流式
with client.messages.stream(
    model="claude-sonnet-4-5",
    max_tokens=1024,
    messages=[{"role": "user", "content": "讲个笑话"}],
) as stream:
    for text in stream.text_stream:
        print(text, end="", flush=True)

# Tool Use
tools = [{
    "name": "get_weather",
    "description": "查询城市天气",
    "input_schema": {
        "type": "object",
        "properties": {"city": {"type": "string"}},
        "required": ["city"],
    },
}]
resp = client.messages.create(
    model="claude-sonnet-4-5",
    max_tokens=512,
    tools=tools,
    messages=[{"role": "user", "content": "北京今天天气如何？"}],
)
if resp.stop_reason == "tool_use":
    tool_block = next(b for b in resp.content if b.type == "tool_use")
    print(f"调用工具: {tool_block.name}, 参数: {tool_block.input}")

Node.js SDK — OpenAI 格式

复制npm install openai

复制import OpenAI from "openai";

const client = new OpenAI({
  apiKey: process.env.TOKENSRELAY_KEY,
  baseURL: "https://tokensrelay.cn/v1",
});

const resp = await client.chat.completions.create({
  model: "auto",
  messages: [{ role: "user", content: "你好" }],
});
console.log(resp.choices[0].message.content);

Node.js SDK — Anthropic 原生格式NEW

复制npm install @anthropic-ai/sdk

复制import Anthropic from "@anthropic-ai/sdk";

const client = new Anthropic({
  apiKey: process.env.TOKENSRELAY_KEY,   // TokensRelay Key
  baseURL: "https://tokensrelay.cn",     // 注意：不加 /v1 后缀
});

// 非流式
const message = await client.messages.create({
  model: "claude-sonnet-4-5",
  max_tokens: 1024,
  system: "你是一个专业的前端工程师。",
  messages: [{ role: "user", content: "解释一下 React Hooks 的工作原理" }],
});
console.log(message.content[0].text);

// 流式
const stream = client.messages.stream({
  model: "claude-sonnet-4-5",
  max_tokens: 1024,
  messages: [{ role: "user", content: "写一首关于编程的诗" }],
});
for await (const chunk of stream) {
  if (chunk.type === "content_block_delta" && chunk.delta.type === "text_delta") {
    process.stdout.write(chunk.delta.text);
  }
}

cURL

OpenAI 格式

复制curl https://tokensrelay.cn/v1/chat/completions \
  -H "Authorization: Bearer $TOKENSRELAY_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"Hello"}],"stream":true}'

Anthropic 格式

复制curl https://tokensrelay.cn/v1/messages \
  -H "x-api-key: $TOKENSRELAY_KEY" \
  -H "anthropic-version: 2023-06-01" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "claude-sonnet-4-5",
    "max_tokens": 1024,
    "stream": true,
    "messages": [{"role": "user", "content": "你好"}]
  }'

Cline（VSCode AI 编程助手）

Cline 是 VSCode 插件，支持自定义 OpenAI 兼容提供商，可直接接入 TokensRelay。

复制Base URL:  https://tokensrelay.cn/v1
API Key:   sk-xxxxxxxxxxxxxxxxxxxxxxxx（你的 TokensRelay Key）
Model:     auto  （或 qwen/qwen3.5-397b-a17b、deepseek-ai/deepseek-v4-flash 等）

Claude Code — 接入 TokensRelay 完整指南

Claude Code 是 Anthropic 官方编程 CLI，底层使用 Anthropic 原生 /v1/messages 协议。TokensRelay 原生支持该协议，只需替换两个配置项即可接入，代码与交互方式完全不变。

工作原理

Claude Code 启动时读取 ANTHROPIC_BASE_URL（或 settings 中的 baseUrl），将其与 /v1/messages 拼接后作为 API 端点，使用 ANTHROPIC_API_KEY（或 apiKey）进行鉴权。只需把这两个值指向 TokensRelay 即可。

第 0 步：安装 Claude Code

复制# 需要 Node.js 18+
npm install -g @anthropic-ai/claude-code

# 验证安装
claude --version

配置方式（任选其一）

复制# 追加到 ~/.zshrc（macOS 默认）或 ~/.bashrc（Linux）
echo 'export ANTHROPIC_BASE_URL=https://tokensrelay.cn' >> ~/.zshrc
echo 'export ANTHROPIC_API_KEY=sk-xxxxxxxxxxxxxxxxxxxxxxxx' >> ~/.zshrc

# 立即生效
source ~/.zshrc

# 启动 Claude Code
claude

复制# 新建或编辑 ~/.claude/settings.json，加入以下字段：
{
  "apiKey": "sk-xxxxxxxxxxxxxxxxxxxxxxxx",
  "baseUrl": "https://tokensrelay.cn"
}

复制mkdir -p .claude
cat > .claude/settings.json <<'EOF'
{
  "apiKey": "sk-xxxxxxxxxxxxxxxxxxxxxxxx",
  "baseUrl": "https://tokensrelay.cn"
}
EOF

复制ANTHROPIC_BASE_URL=https://tokensrelay.cn \
ANTHROPIC_API_KEY=sk-xxxxxxxxxxxxxxxxxxxxxxxx \
claude --model claude-sonnet-4-5 -p "你好"

复制claude \
  --settings '{"apiKey":"sk-xxxxxxxxxxxxxxxxxxxxxxxx","baseUrl":"https://tokensrelay.cn"}' \
  --model claude-sonnet-4-5 \
  -p "帮我检查这段代码有没有 bug"

模型选择

用 --model（或 -m）指定模型。支持全名和别名：

验证连接

配置完成后，运行以下命令快速验证：

复制# 非交互模式单次问答，成功则说明配置正确
claude -p "用一句话介绍你自己" --model qwen/qwen3.5-397b-a17b

常用操作示例

复制claude                          # 启动交互会话
claude -m claude-sonnet-4-5    # 指定模型启动
claude -c                      # 继续上次会话
claude -r                      # 选择历史会话恢复

复制# 单次问答，结果打印到 stdout
claude -p "这段代码有什么问题？" < main.py

# 管道输入
git diff HEAD~1 | claude -p "总结这次提交的改动"

# 格式化 JSON 输出（适合程序解析）
claude -p "列出5个排序算法" --output-format json

# 流式 JSON（逐 token 到达，适合实时展示）
claude -p "写一首诗" --output-format stream-json

复制# 写入 ~/.zshrc 或 ~/.bashrc
alias cc-tr='ANTHROPIC_BASE_URL=https://tokensrelay.cn ANTHROPIC_API_KEY=sk-xxxxxxxx claude'
alias cc-official='env -u ANTHROPIC_BASE_URL -u ANTHROPIC_API_KEY claude'

# 使用
cc-tr -p "帮我 review 这段代码" < service.go   # 走 TokensRelay
cc-official                                    # 走 Anthropic 官方

故障排查

复制# 内置健康检查，可显示配置来源和连通性
claude doctor

Codex CLI（OpenAI 官方 CLI）

OpenAI Codex CLI 支持设置 OPENAI_BASE_URL 覆盖默认端点。

复制# 安装
npm install -g @openai/codex

# 配置环境变量
export OPENAI_BASE_URL=https://tokensrelay.cn/v1
export OPENAI_API_KEY=sk-xxxxxxxxxxxxxxxxxxxxxxxx

# 使用
codex "帮我重构这个函数，添加错误处理"

复制# 或在 ~/.codex/config.yaml 中配置
provider: openai
model: auto
openai:
  baseURL: https://tokensrelay.cn/v1

Cursor / Continue / 其他工具

所有支持 OpenAI 兼容 API 的工具，统一填以下两个参数即可：

Cursor

Settings → Models → Add Model → 选择 OpenAI Compatible，填入上表参数。或在 .cursor/mcp.json 中指定。

Continue（VSCode/JetBrains 插件）

复制// ~/.continue/config.json
{
  "models": [{
    "title": "TokensRelay Auto",
    "provider": "openai",
    "model": "auto",
    "apiBase": "https://tokensrelay.cn/v1",
    "apiKey": "sk-xxxxxxxxxxxxxxxxxxxxxxxx"
  }]
}

LangChain / LlamaIndex

复制from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    model="auto",
    api_key="sk-...",
    base_url="https://tokensrelay.cn/v1",
)

Coze（字节 Bot 平台）

Coze 是字节跳动旗下的 AI Bot 搭建平台，支持通过「HTTP 请求」插件调用 TokensRelay OpenAI 兼容接口，无需代理即可直接使用。

复制Method:   POST
URL:      https://tokensrelay.cn/v1/chat/completions
Headers:
  Authorization: Bearer sk-xxxxxxxxxxxxxxxxxxxxxxxx
  Content-Type: application/json
Body:
{
  "model": "auto",
  "messages": [
    {"role": "system", "content": "你是一个智能助手"},
    {"role": "user", "content": "{{input.prompt}}"}
  ]
}

Dify

Dify 是开源 LLM 应用平台，支持自定义 OpenAI 兼容模型提供商，只需填入 API Key 与 Base URL 即可调用全部 TokensRelay 模型。

故障排查

NextChat（ChatGPT Next Web）

NextChat 是流行的开源 AI 客户端，支持 Vercel 一键部署、Docker 或手动安装，兼容 TokensRelay OpenAI 格式。

方式 A：Vercel 部署

复制OPENAI_API_KEY = sk-xxxxxxxxxxxxxxxxxxxxxxxx
BASE_URL       = https://tokensrelay.cn        # 注意：不加 /v1
CODE           = my-access-password             # 访问密码

方式 B：Docker

复制docker run -d -p 3000:3000 \
  -e OPENAI_API_KEY=sk-xxxxxxxxxxxxxxxxxxxxxxxx \
  -e BASE_URL=https://tokensrelay.cn \
  -e CODE=my-access-password \
  yidadaa/chatgpt-next-web

方式 C：Docker Compose

复制version: '3'
services:
  nextchat:
    image: yidadaa/chatgpt-next-web
    ports:
      - "3000:3000"
    environment:
      OPENAI_API_KEY: sk-xxxxxxxxxxxxxxxxxxxxxxxx
      BASE_URL: https://tokensrelay.cn
      CODE: my-access-password
    restart: unless-stopped

方式 D：已有实例手动配置

打开 NextChat 设置 → 「自定义接口地址」，填入 https://tokensrelay.cn（不加 /v1）和你的 API Key。

Claude Code Desktop

Claude Code Desktop 是 Anthropic 官方桌面客户端。与命令行版（Claude Code CLI）不同，桌面版的 Base URL 需要加 /v1 后缀。

故障排查

OpenAI Codex Desktop

Codex Desktop 桌面客户端通过 ~/.codex/ 目录下的配置文件接入（Windows：%USERPROFILE%\.codex\）。

~/.codex/auth.json

复制{
  "OPENAI_API_KEY": "sk-xxxxxxxxxxxxxxxxxxxxxxxx"
}

~/.codex/config.toml

复制model_provider = "tokensrelay"
model = "auto"
wire_api = "responses"          # 必须为 responses，不能是 chat
disable_response_storage = true
preferred_auth_method = "apikey"

[model_providers.tokensrelay]
name = "tokensrelay"
base_url = "https://tokensrelay.cn/v1"   # /v1 不可省略

修改后完全退出 Codex Desktop 并重启以使配置生效。

OpenCode

OpenCode 是开源 AI 编程 CLI，通过 JSON 配置文件支持自定义 OpenAI 兼容提供商。

安装

复制# npm 安装
npm install -g opencode-ai

# 或脚本安装（macOS/Linux）
curl -fsSL https://opencode.ai/install | bash

# 验证
opencode -v

配置文件

路径：macOS/Linux ~/.config/opencode/opencode.json，Windows C:\Users\[用户名]\.config\opencode\opencode.json

复制{
  "providers": {
    "tokensrelay": {
      "apiKey": "sk-xxxxxxxxxxxxxxxxxxxxxxxx",
      "baseURL": "https://tokensrelay.cn/v1"
    }
  },
  "models": {
    "tokensrelay/auto": {
      "contextLength": 200000,
      "maxTokens": 32768
    },
    "tokensrelay/qwen/qwen3.5-122b-a10b": {
      "contextLength": 131072,
      "maxTokens": 32768
    }
  }
}

Provider ID 只能含小写字母和数字。配置修改后需重启 OpenCode 才生效。在会话中用 /models 命令确认可用模型。

OpenClaw

OpenClaw 是支持多技能扩展的 AI Agent 框架，首次运行时通过向导配置 TokensRelay 端点。

安装

复制# macOS / Linux
curl -fsSL https://openclaw.ai/install.sh | bash
source ~/.zshrc

# Windows（PowerShell 管理员）
iwr -useb https://openclaw.ai/install.ps1 | iex

# 验证
openclaw --version

配置

首次运行 openclaw 启动配置向导，按提示：

• 选择 Custom API Integration
• Base URL：https://tokensrelay.cn/v1
• 粘贴你的 TokensRelay API Key
• 从列表选择模型（推荐 auto）

看到 ✅ Model connect success 提示即配置成功。

复制openclaw tui              # 启动 TUI 界面
openclaw skill list       # 查看可用技能
openclaw skill install pdf-kit  # 安装技能

Hermes Agent（Nous Research）

Hermes Agent 是 Nous Research 开发的开源 AI Agent，通过配置文件接入 TokensRelay OpenAI 兼容接口。

安装

复制# macOS / Linux
curl -fsSL https://raw.githubusercontent.com/NousResearch/hermes-agent/main/scripts/install.sh | bash
source ~/.zshrc

# Windows（PowerShell 管理员）
irm https://raw.githubusercontent.com/NousResearch/hermes-agent/main/scripts/install.ps1 | iex

配置

复制# 运行配置向导
hermes config

选择 OpenAI Compatible 提供商，或手动编辑 ~/.hermes/config.yaml（Windows：%USERPROFILE%\.hermes\config.yaml）：

复制provider:
  type: openai
  api_key: sk-xxxxxxxxxxxxxxxxxxxxxxxx
  base_url: https://tokensrelay.cn/v1   # 必须含 /v1
  model: auto

复制hermes          # 启动对话
hermes model    # 查看可用模型
# 会话中用 /model 命令切换模型

故障排查

WorkBuddy（腾讯云）

腾讯云 WorkBuddy 支持添加自定义模型，在模型设置中填入 TokensRelay 端点与 Key 即可调用全部可用模型。

故障排查

方法论 · 成本控制

无论所属行业，企业批量使用 AI 编程/Agent 工具时都会遇到三个共性问题：怎么在完成工作的前提下尽量省钱、怎么减少模型"一本正经地编造"（幻觉），以及怎么保证 AI 改出来的代码不出生产事故。本节给出通用方法，下方各行业章节会引用这里的做法。

分场景的模型选择策略

方法论 · 减少幻觉

"幻觉"指模型给出看似合理但实际错误或编造的内容——错误的 API、不存在的政策条款、虚构的故障代码等。以下方法可显著降低幻觉概率：

方法论 · 代码稳定性

AI 能显著提速编码，但不受控的批量改动是生产事故的常见来源。以下做法能在提速的同时控制风险：

行业最佳实践 · 总览

下面 8 个行业章节均按统一结构展开：行业现状（核心矛盾与约束）→ 分部门最佳实践（场景/工具/模型/注意事项）→ 工具配置参考 → 本行业成本与质量要点（链接回方法论）。可直接跳转到所属行业：

行业最佳实践 · 教育

行业现状

在线教育平台、K12/职业培训机构、高校信息化部门正在快速把 AI 编程工具引入教学与管理系统开发。共同特点：IT 人手有限、预算敏感、面向学生/家长的内容必须保证准确（错误的知识性回答会直接影响教学质量与口碑）。AI 工具的价值主要体现在「降低开发与答疑的人力成本」，但必须配套成本管控与准确性校验。

分部门最佳实践

工具配置参考

复制Base URL:  https://tokensrelay.cn/v1
API Key:   sk-xxxxxxxxxxxxxxxxxxxxxxxx
Model:     auto  （或 qwen/qwen3.5-122b-a10b、deepseek-ai/deepseek-v4-flash 等）

本行业成本与质量要点

• 成本：学生/课程数量大，优先用 auto 或低价模型（见成本控制）；按班级/项目创建子令牌并设置月度上限。
• 幻觉：所有面向学生/家长的知识性回答必须 RAG + 标注来源，定期抽样核对（见减少幻觉）。
• 稳定性：校务系统类改动遵循小步提交 + CI 门禁（见代码稳定性），避免选课/成绩等核心流程因 AI 改动出错。

行业最佳实践 · 医疗

行业现状

医院信息科、互联网医疗企业、医疗软件供应商对 AI 编程工具的态度是「积极但谨慎」：开发效率需求强烈，但数据合规（类 HIPAA 要求）与内容准确性要求极高——任何幻觉或误操作都可能演变为医疗安全事件，因此数据安全是第一优先级。以下场景均针对开发/办公环境，不涉及向模型直接传输患者隐私数据。

分部门最佳实践

工具配置参考

本行业成本与质量要点

• 成本：为每个科室/项目单独开通子令牌并设置较低的日限额，结合限流策略降低误操作风险（见成本控制）。
• 幻觉：面向患者/临床的回答必须 RAG + 来源可追溯 + 人工抽查；科研引用必须人工核实真实性（见减少幻觉）。幻觉在医疗场景等同于安全风险，容忍度为零。
• 稳定性：HIS 核心模块改动遵循双人 review + 灰度发布，危险 SQL/脚本必须先在测试环境验证（见代码稳定性）。

行业最佳实践 · 互联网

行业现状

互联网/科技公司技术团队规模大、迭代节奏快，AI 编程工具已成为日常开发标配。核心矛盾不再是"要不要用"，而是"效率提升"与"代码质量/成本失控"之间的平衡——大团队若缺乏统一规范，很容易出现模型滥用导致成本暴涨，或 AI 改动未经把关引入隐患。

分部门最佳实践

工具配置参考

复制Method: POST
URL:    https://tokensrelay.cn/v1/chat/completions
Headers:
  Authorization: Bearer sk-xxxxxxxxxxxxxxxxxxxxxxxx
  Content-Type: application/json
Body:
{
  "model": "auto",
  "messages": [
    {"role": "system", "content": "你是XX公司的客服助手"},
    {"role": "user", "content": "{{user_input}}"}
  ]
}

将返回结果中的 choices[0].message.content 映射到下一节点，作为机器人回复。

本行业成本与质量要点

• 成本：大规模团队优先用 auto + 按部门子令牌设预算（见成本控制）；高并发客服场景默认 auto，复杂问题再升级到 更强模型(如 qwen/qwen3.5-397b-a17b、moonshotai/kimi-k2.6)。
• 幻觉：客服/运营类必须 RAG 接入最新产品文档与价格表，避免回答过时信息（见减少幻觉）。
• 稳定性：研发类核心改动遵循小步提交 + CI 门禁 + 危险操作二次确认（见代码稳定性），AI 改动建议在 commit message 中标注以便追踪。

行业最佳实践 · 工业制造

行业现状

制造企业的 IT/研发力量普遍薄弱，存量系统多为老旧的 C/C++、PLC、VB 代码，文档缺失严重。AI 工具的核心价值是「读懂老代码」「快速对接新系统」与「把老师傅的经验数字化成知识库」。同时车间网络环境特殊（内网、出口受限、弱网），接入方案需要兼顾安全审计与可用性。

分部门最佳实践

工具配置参考

本行业成本与质量要点

• 成本：批量脚本类任务（数据转换、报表）优先用低价模型/auto（见成本控制）。
• 幻觉：设备故障知识库必须 RAG + 来源可查，杜绝编造故障代码含义（见减少幻觉）。
• 稳定性：嵌入式/工控相关改动先在仿真或测试设备验证，配置变更双人确认（见代码稳定性）。

行业最佳实践 · 金融

行业现状

银行、证券、保险、消费金融等机构受强监管约束：数据安全分级管理、操作留痕审计、核心交易系统的稳定性要求接近零容错。AI 工具的落地路径通常是「先外围、再核心」——优先在风控规则、合规检索、报表与运营脚本等非核心交易链路试点，积累信任后再逐步扩展。

分部门最佳实践

工具配置参考

本行业成本与质量要点

• 成本：按部门设置独立子令牌并设额度上限，满足监管对操作留痕和成本归因的审计要求（见成本控制）。
• 幻觉：监管政策类回答必须 RAG + 标注文号/日期 + 人工复核——金融场景下的幻觉等同于合规风险（见减少幻觉）。
• 稳定性：核心交易系统的稳定性要求高于一般行业，AI 改动需双人 review、完整回归测试和灰度发布（见代码稳定性）。

行业最佳实践 · 零售电商

行业现状

零售/电商企业业务迭代速度快，大促期间流量与调用量会出现数量级波动。AI 应用集中在客服、商品文案、运营脚本与数据分析，目标是在保证商品/价格/库存信息准确的前提下，用更低成本覆盖更大的客服与内容生产量。

分部门最佳实践

工具配置参考

本行业成本与质量要点

• 成本：大促前评估调用量峰值，提前规划配额；批量内容生成默认走 auto 或低价模型（见成本控制）。
• 幻觉：客服类幻觉直接影响转化率与投诉率，价格/库存/物流信息必须 RAG 实时同步（见减少幻觉）。
• 稳定性：价格、库存相关代码改动走严格的小步提交 + 测试验证（见代码稳定性），大促期间冻结非必要改动。

行业最佳实践 · 政务

行业现状

数字政府建设加速推进，AI 工具被用于政务系统开发、政策法规问答与市民服务热线。本行业有三个突出特点：涉及公民个人信息，数据安全要求最高；政策解读错误会直接影响政府公信力，准确性要求极高；部分场景需考虑信创/国产化适配。

分部门最佳实践

工具配置参考

本行业成本与质量要点

• 成本：按业务系统/科室设置子令牌与额度，便于经费核算与审计（见成本控制）。
• 幻觉：政策与办事流程类回答必须 RAG + 标注法规依据 + 人工审核，幻觉直接影响政府公信力（见减少幻觉）。
• 稳定性：涉及公民信息的系统改动遵循脱敏测试 + 双人 review（见代码稳定性）；信创环境下优先评估 qwen/deepseek 等国产模型的适配性。

行业最佳实践 · 法律服务

行业现状

律所与企业法务部门正在用 AI 辅助合同审查、法律检索与文书起草，效率提升明显，但对准确性与保密性的要求极高——执业要求决定了 AI 输出只能作为「初稿/辅助」，最终责任仍由执业律师承担；客户资料的保密义务也要求严格的数据处理规范。

分部门最佳实践

工具配置参考

本行业成本与质量要点

• 成本：检索/摘要类高频任务可用 auto 或性价比模型，合同审查等关键任务用强模型（见成本控制）。
• 幻觉：法条与案例引用必须可追溯到具体编号并人工核实，杜绝"看似真实"的编造引用（见减少幻觉）。
• 稳定性：AI 输出定位为辅助初稿，所有对外文件须经执业人员审核确认后才能发出（见代码稳定性中"人工复核"的同等原则）。

优惠券 / 兑换码

如果你拿到了 TokensRelay 的优惠券或兑换码，可以在控制台兑换为账户余额。

充值

访问 控制台 → 充值 进行在线充值。余额按实际 API 用量扣减，无月费。

限流

为保障公平使用，接口存在速率限制。超限会返回 429，建议客户端实现指数退避重试。

错误码

复制// OpenAI 格式错误
{"error": {"message": "余额不足", "type": "tokensrelay_error", "code": 402}}

// Anthropic 格式错误
{"type": "error", "error": {"type": "api_error", "message": "余额不足"}}

常见问题

可以用官方 Anthropic SDK 接入吗？

可以。设置 base_url="https://tokensrelay.cn"（不加 /v1）和 api_key 为你的 TokensRelay Key 即可，代码其余部分与访问 Anthropic 官方完全一致。详见 Python Anthropic SDK 或 Node.js Anthropic SDK 示例。

能直接用 LangChain / LlamaIndex / Cursor / Continue 吗？

可以。任何支持自定义 OpenAI base_url 的工具都能接入，填 https://tokensrelay.cn/v1 与你的 Key 即可。详细步骤见客户端工具 → Cursor / Continue。

Cline / Claude Code 怎么配置？

见Cline 配置与Claude Code 配置章节，均有逐步说明。Claude Code 支持 5 种配置方式（环境变量、settings.json、项目级配置、内联变量、--settings 参数）。

Claude Code 配置完成后如何确认连的是 TokensRelay？

运行 echo $ANTHROPIC_BASE_URL 确认输出为 https://tokensrelay.cn；或运行 claude -p "say hi" --model qwen/qwen3.5-397b-a17b，若有响应则连接成功。也可以执行 claude doctor 查看配置来源。

OpenAI 格式和 Anthropic 格式可以用同一个 Key 吗？

可以。同一个 TokensRelay Key 同时适用于两种格式，共享账户余额，无需分别申请。

支持函数调用 / 工具吗？

支持。OpenAI 格式透传 tools / tool_choice 字段；Anthropic 格式支持 tool_use 内容块与 tool_result 多轮对话（取决于所选上游模型能力）。

服务是否稳定？

实时运行状态见 状态页。

如何在线测试模型？

访问 在线 Playground，无需写代码，直接在浏览器中选模型、发消息、看流式输出。

需要帮助？提交工单 · 在线 Playground · 返回控制台