多模型控制台 · 完整使用教程

本程序把多个大模型的 API 接口进行优化聚合，切换时上下文完整保留，实现对话不断连，稳定性媲美官方接口。

第一步：下载程序

桌面版是单个 exe 文件，双击即用，不需要安装 Python。

点击返回首页下载 →

下载后建议放到一个单独的文件夹里，比如 D:\AI网关\，因为程序启动后会在同目录下生成配置文件和日志。

第二步：首次运行

24 小时免费试用

双击 exe，首次打开自动获得 24 小时免费试用，所有功能正常使用。

点击「开始试用」，进入主界面。

生成的文件

文件	说明
`providers.json`	上游 API 配置（Key 信息）
`config.json`	端口、本地 API Key 等配置
`routers.json`	自定义路由组
`history.jsonl`	探测历史
`usage.jsonl`	Token 消耗记录
`gateway.log`	运行日志

第三步：注册上游 API Key

需要注册以下三家平台的免费 API Key。全部注册大约 10 分钟。

3.1 NVIDIA NIM

🌐 官网 🔑 API Key 页面

免费额度：无限次调用（需绑定手机号）

打开 NVIDIA Build 平台
点击右上角「Sign Up」注册 → 邮箱验证 → 绑定手机号
登录后打开 API Key 管理页
点击「Generate API Key」→ 复制保存

Key 只显示一次，请立即保存。

3.2 商汤 SenseNova

🌐 官网 🔑 API Key 页面

免费额度：每日免费调用额度（手机号注册即可）

打开商汤大装置平台
手机号注册
登录后打开 API Key 管理页
点击「创建 API Key」→ 复制保存

3.3 魔搭 ModelScope

🌐 官网 🔑 Token 页面

免费额度：新用户赠送额度

⚠️ 务必绑定阿里云账号，否则无法获取 Token。登录后按页面提示绑定（支付宝扫码最快）。

打开 ModelScope 平台
右上角登录 → 用阿里云账号（或支付宝扫码）
登录后打开 Token 管理页
点击「创建令牌」→ 复制保存

汇总 Key

平台	Key 示例
NVIDIA	`nvapi-xxxxxxxxxx...`
商汤 SenseNova	`sk-xxxxxxxxxx...`
魔搭 ModelScope	`ms-xxxxxxxxxx...`

第四步：一键配置

回到多模型控制台主界面，点击右上角「⚡ 一键配置」。

将三家平台的 Key 分别粘贴到对应输入框中，点击「一键应用」。

系统会自动：

校验 Key 是否有效
拉取每个平台下的可用模型
配置三个路由组：256k（超长上下文）、1m（百万上下文）、识图（支持图片识别）

第五步：接入 AI 客户端

配置完成后，将面板上的连接信息填入你的 AI 客户端：

配置项	值
Base URL / API 地址	`http://127.0.0.1:8001/v1`
API Key	面板上显示的 `sk-local-xxxx`

5.1 ChatBox

打开 ChatBox → 左下角「设置」
模型提供方选「OpenAI API」
API 域名：http://127.0.0.1:8001
API 密钥：面板上的 Key
保存

5.2 Cherry Studio

打开 Cherry Studio → 左下角「设置」
添加提供商 → 类型选「OpenAI」
API 地址：http://127.0.0.1:8001/v1
API 密钥：面板上的 Key
点击「检查」→ 保存

5.3 NextChat（ChatGPT-Next-Web）

打开 NextChat → 左下角「设置」
勾选「自定义接口」
接口地址：http://127.0.0.1:8001
API Key：面板上的 Key
确认

5.4 使用路由组

在客户端中选择以下模型名即可使用路由功能：

模型名	效果
`1m`	自动选百万上下文模型
`256k`	自动选超长上下文模型
`识图`	自动选支持识图的模型

选择具体模型名（如 NVIDIA-deepseek-ai/deepseek-v4-flash）则固定使用该模型，不自动切换。

第六步：管理面板

功能	说明
实时监控	查看所有模型在线状态、延迟、可用率
消耗统计	查看每日 Token 使用量
路由配置	自定义路由组
系统公告	查看开发者推送的公告
检查更新	一键检测并安装新版本

程序关闭后会在后台托盘常驻，右键托盘图标可「显示窗口」或「退出」。

第七步：激活与购买

24 小时试用结束后，需购买激活继续使用。定价 45 元终身。

点击弹窗中的「在线购买 (45 元)」：

系统生成微信 / 支付宝支付二维码
手机扫码支付
支付成功后自动激活，刷新即可正常使用

常见问题

Key 失效了怎么办？

Key 由各平台发放，前往对应平台重新生成，然后在多模型控制台中点「一键配置」填入新 Key。

模型报错了怎么办？

网关会自动切换到下一个可用模型，你无感知。也可以点击「立即检测」手动检查各模型状态。

怎么更新版本？

打开程序后自动检查更新，有新版本弹窗提示，点击「立即更新」自动下载安装。

更新后 Key 和配置会丢吗？

不会。Key 和配置保存在 exe 同目录的独立文件中，更新只替换程序本身。

换电脑了怎么办？

激活码绑定电脑硬件，换电脑需重新购买。如需迁移请联系客服。

Mac 能用吗？

目前仅支持 Windows。Mac 版本正在计划中。