Mono
候補名單

連線自訂 AI 模型:端點、金鑰與備援切換設定

在 Mono 中設定相容 OpenAI 的模型,驗證連線和備援切換行為,並區分文字回答與工具執行能力。

自訂模型端點讓應用程式把請求發送到你選擇的伺服器。模型可以執行在電腦上,也可以由托管服務提供;填入地址不代表模型會在手機上執行。先用一則不含敏感內容的簡短請求測試,再嘗試檔案或工作流程。

Reunified 的 Mono 讓你使用自己的模型,而且你自行執行的模型所產生的回覆,在 Mono 中不收費。Mono 目前採用候補名單。本指南介紹相關設定,並提供一份取得使用資格後可用的檢查清單。即使伺服器宣稱相容,也請用你實際使用的 App 和模型測試。

1. 準備正確的連線資訊

你需要 API 基礎 URL、正確的模型 ID,以及在需要時提供 API 金鑰。請依照伺服器營運方的設定說明操作。網站位址、模型下載頁面或 MCP 伺服器 URL,都不是模型 API 端點。

Mono 會把文字要求送到你填寫的位址底下的 Chat Completions 路徑,所以請填寫 API 基礎位址,而不是完整路徑。例如,如果供應商提供的是 https://models.example.com/v1/chat/completions,就填寫 https://models.example.com/v1。這是虛構的範例位址,不是真實服務。

檢查模型還支援什麼。能用文字回答,不代表它支援圖片、工具、串流輸出或所有要求選項。

2. 先設定一種模型用途

開啟「設定」,進入「整合」,在「自訂端點」下開啟「文字模型」。在對應欄位填寫端點 URL、API 金鑰與模型 ID。不要把金鑰放進聊天訊息或螢幕截圖。不需要登入的本機伺服器可能不要求金鑰,但這不代表把它開放到網際網路是安全的。

先從文字模型開始。Mono 為文字、程式碼和輔助模型分別提供設定,修改其中一個不會影響其他。記下你改了哪一個,之後出問題時就知道從哪裡查起。

使用自訂文字模型時,工具和技能等部分功能的表現,可能與 Mono 內建模型不同。先測試一般對話。如果某個工作流程需要技能,文字回答得好並不能證明工作流程能正常運作。

3. 決定連線失敗後的行為

每個自訂模型都有「無法連線時使用預設模型」開關,預設為開啟。不要假設所有功能在伺服器停擺時的反應都一樣。實際測試看看:停止你的伺服器,看看你使用的功能會發生什麼事。

如果基於隱私或費用考量,你的要求只能送到自己的伺服器,請關閉這個開關,並測試伺服器出錯時會發生什麼事。確認要求實際送往哪裡;只看畫面上的設定並不夠。更換文字模型後,其他模型和已連接的工具也仍需檢查。

發送敏感資訊之前,閱讀隱私檢查指南和用量費用指南。

4. 做一個小型連線測試

提問:「把紅、綠、藍三個詞分行回傳。」檢查回覆是否送達、伺服器記錄(若有)是否顯示你選擇的模型,以及供應商的用量頁面是否與測試相符。

接著測試一個你真正需要的功能,例如較長的對話。每次只改一項。記錄 App 版本、伺服器版本、模型 ID 與日期;某一種組合可行,不代表所有模型都可行。

如果伺服器在你的電腦上,也要從手機的真實網路測試。手機上的 localhost 指的是手機本身。請使用伺服器支援、需要登入的連線方式,而不是把沒有保護的服務開放到網際網路。

5. 找到最先失敗的環節

現象 優先檢查
連線逾時 伺服器是否執行、裝置能否連到、網路規則
未獲授權 金鑰是否正確、帳號與登入要求
「找不到」錯誤 基礎 URL,以及是否重複加上 /chat/completions 路徑
模型不存在 該伺服器上可用的正確模型 ID
文字正常,工作流程失敗 工作流程需要的工具或其他功能

分享任何記錄前,先移除其中的機密資訊。能登入供應商網站,不代表你的 API 金鑰可用;文字測試成功,也不代表程式碼模型已設定好。

6. 保留可復原的設定

記下先前的設定,但不要寫入機密資訊。更換伺服器後,重做那個小測試,並在 App 和供應商兩邊核對費用。在把某個設定稱為「本機」或「私密」之前,先檢查其他模型的設定。

加入 Mono 候補名單取得開放資訊。如果目標是連線外部服務而非更換模型,請使用單獨的MCP 連線指南。

作者

Reunified 打造能把分散的東西重新聚在一起的 App。

繼續閱讀

所有文章

即將推出

加入候補名單

留下你的電子郵件地址,Mono 可以下載時我們會通知你。

你會在哪裡使用 Mono?