Mono
候补名单

连接自定义 AI 模型:端点、密钥与回退设置

在 Mono 中配置兼容 OpenAI 的模型,验证连接和回退行为,并区分文本回答与工具执行能力。

自定义模型端点让应用把请求发送到你选择的服务器。模型可以运行在电脑上,也可以由托管服务提供;填入地址不代表模型会在手机上运行。先用一条不含敏感内容的简短请求测试,再尝试文件或工作流。

Reunified 的 Mono 允许你使用自己的模型,而且你自己运行的模型给出的回复在 Mono 中不收费。Mono 目前采用候补名单。本指南介绍相关设置,并提供一份获得使用资格后可用的检查清单。即使服务器声称兼容,也请用你实际使用的应用和模型测试。

1. 准备正确的连接信息

你需要 API 基础 URL、准确的模型 ID,以及在需要时提供 API 密钥。请按照服务器运营方的设置说明操作。网站地址、模型下载页面或 MCP 服务器 URL 都不是模型 API 端点。

Mono 会把文本请求发送到你填写的地址下的 Chat Completions 路径,所以请填写 API 基础地址,而不是完整路径。例如,如果服务商给出的是 https://models.example.com/v1/chat/completions,就填写 https://models.example.com/v1。这是一个虚构的示例地址,不是真实服务。

检查模型还支持什么。能用文本回答,并不代表它支持图像、工具、流式输出或所有请求选项。

2. 先配置一种模型用途

打开“设置”,进入“集成”,在“自定义端点”下打开“文本模型”。在对应字段中填写端点 URL、API 密钥和模型 ID。不要把密钥放进聊天消息或截图。不需要登录的本地服务器可能不要求密钥,但这并不代表把它开放到互联网是安全的。

先从文本模型开始。Mono 为文本、代码和辅助模型分别提供设置,改动其中一个不会影响其他。记下你改了哪一个,以后出问题时就知道从哪里查起。

使用自定义文本模型时,工具和技能等部分功能的表现可能与 Mono 内置模型不同。先测试普通对话。如果某个工作流需要技能,文本回答得好并不能证明工作流能正常运行。

3. 决定连接失败后的行为

每个自定义模型都有一个“无法连接时使用默认模型”开关,默认是打开的。不要假设所有功能在服务器宕机时的反应都一样。实际测试一下:停掉你的服务器,看看你使用的功能会发生什么。

如果出于隐私或费用原因,你的请求只能发到自己的服务器,请关闭这个开关,并测试服务器出错时会发生什么。检查请求实际发往哪里;只看屏幕上的设置是不够的。更换文本模型后,其他模型和已连接的工具也仍需检查。

发送敏感信息之前,阅读隐私检查指南和用量费用指南。

4. 做一个小型连接测试

提问:“把红、绿、蓝三个词分行返回。”检查回复是否到达、服务器日志(如有)是否显示你选择的模型,以及服务商的用量页面是否与测试相符。

然后测试一个你真正需要的功能,比如更长的对话。每次只改一项。记录应用版本、服务器版本、模型 ID 和日期;某一种组合能用,并不代表所有模型都能用。

如果服务器在你的电脑上,也要从手机的真实网络测试。手机上的 localhost 指的是手机本身。请使用服务器支持的、需要登录的连接方式,而不是把没有保护的服务开放到互联网。

5. 找到最先失败的环节

现象 优先检查
连接超时 服务器是否运行、设备能否访问、网络规则
未获授权 密钥是否正确、账户和登录要求
“未找到”错误 基础 URL,以及是否重复添加了 /chat/completions 路径
模型不存在 该服务器上可用的准确模型 ID
文本正常,工作流失败 工作流需要的工具或其他功能

分享任何日志前,先删除其中的机密信息。能登录服务商网站,不代表你的 API 密钥可用;文本测试成功,也不代表代码模型已经配置好。

6. 保留可恢复的配置

记下之前的设置,但不要写入机密信息。更换服务器后,重复那个小测试,并在应用和服务商两边核对费用。在把某个设置称为“本地”或“私密”之前,先检查其他模型的设置。

加入 Mono 候补名单获取开放信息。如果目标是连接外部服务而非更换模型,请使用单独的MCP 连接指南。

作者

Reunified 打造能把分散的东西重新聚到一起的应用。

继续阅读

全部文章

即将推出

加入候补名单

留下你的邮箱,Mono 可以下载时我们会通知你。

你会在哪里使用 Mono?