連線自訂 AI 模型:端點、金鑰與備援切換設定
在 Mono 中設定相容 OpenAI 的模型,驗證連線和備援切換行為,並區分文字回答與工具執行能力。
自訂模型端點讓應用程式把請求發送到你選擇的伺服器。模型可以執行在電腦上,也可以由托管服務提供;填入地址不代表模型會在手機上執行。先用一則不含敏感內容的簡短請求測試,再嘗試檔案或工作流程。
Reunified 的 Mono 讓你使用自己的模型,而且你自行執行的模型所產生的回覆,在 Mono 中不收費。Mono 目前採用候補名單。本指南介紹相關設定,並提供一份取得使用資格後可用的檢查清單。即使伺服器宣稱相容,也請用你實際使用的 App 和模型測試。
1. 準備正確的連線資訊
你需要 API 基礎 URL、正確的模型 ID,以及在需要時提供 API 金鑰。請依照伺服器營運方的設定說明操作。網站位址、模型下載頁面或 MCP 伺服器 URL,都不是模型 API 端點。
Mono 會把文字要求送到你填寫的位址底下的 Chat Completions 路徑,所以請填寫 API 基礎位址,而不是完整路徑。例如,如果供應商提供的是 https://models.example.com/v1/chat/completions,就填寫 https://models.example.com/v1。這是虛構的範例位址,不是真實服務。
檢查模型還支援什麼。能用文字回答,不代表它支援圖片、工具、串流輸出或所有要求選項。
2. 先設定一種模型用途
開啟「設定」,進入「整合」,在「自訂端點」下開啟「文字模型」。在對應欄位填寫端點 URL、API 金鑰與模型 ID。不要把金鑰放進聊天訊息或螢幕截圖。不需要登入的本機伺服器可能不要求金鑰,但這不代表把它開放到網際網路是安全的。
先從文字模型開始。Mono 為文字、程式碼和輔助模型分別提供設定,修改其中一個不會影響其他。記下你改了哪一個,之後出問題時就知道從哪裡查起。
使用自訂文字模型時,工具和技能等部分功能的表現,可能與 Mono 內建模型不同。先測試一般對話。如果某個工作流程需要技能,文字回答得好並不能證明工作流程能正常運作。
3. 決定連線失敗後的行為
每個自訂模型都有「無法連線時使用預設模型」開關,預設為開啟。不要假設所有功能在伺服器停擺時的反應都一樣。實際測試看看:停止你的伺服器,看看你使用的功能會發生什麼事。
如果基於隱私或費用考量,你的要求只能送到自己的伺服器,請關閉這個開關,並測試伺服器出錯時會發生什麼事。確認要求實際送往哪裡;只看畫面上的設定並不夠。更換文字模型後,其他模型和已連接的工具也仍需檢查。
4. 做一個小型連線測試
提問:「把紅、綠、藍三個詞分行回傳。」檢查回覆是否送達、伺服器記錄(若有)是否顯示你選擇的模型,以及供應商的用量頁面是否與測試相符。
接著測試一個你真正需要的功能,例如較長的對話。每次只改一項。記錄 App 版本、伺服器版本、模型 ID 與日期;某一種組合可行,不代表所有模型都可行。
如果伺服器在你的電腦上,也要從手機的真實網路測試。手機上的 localhost 指的是手機本身。請使用伺服器支援、需要登入的連線方式,而不是把沒有保護的服務開放到網際網路。
5. 找到最先失敗的環節
| 現象 | 優先檢查 |
|---|---|
| 連線逾時 | 伺服器是否執行、裝置能否連到、網路規則 |
| 未獲授權 | 金鑰是否正確、帳號與登入要求 |
| 「找不到」錯誤 | 基礎 URL,以及是否重複加上 /chat/completions 路徑 |
| 模型不存在 | 該伺服器上可用的正確模型 ID |
| 文字正常,工作流程失敗 | 工作流程需要的工具或其他功能 |
分享任何記錄前,先移除其中的機密資訊。能登入供應商網站,不代表你的 API 金鑰可用;文字測試成功,也不代表程式碼模型已設定好。
6. 保留可復原的設定
記下先前的設定,但不要寫入機密資訊。更換伺服器後,重做那個小測試,並在 App 和供應商兩邊核對費用。在把某個設定稱為「本機」或「私密」之前,先檢查其他模型的設定。
加入 Mono 候補名單取得開放資訊。如果目標是連線外部服務而非更換模型,請使用單獨的MCP 連線指南。
