Mono
候補名單

用手機透過家中 Wi-Fi 或 VPN 使用電腦上的 Ollama

讓手機 App 使用電腦上的 Ollama 模型:把 Ollama 開放給家用網路、找到基礎 URL、完成測試,並避免它暴露在網際網路上。

要在手機上使用 Ollama,先讓電腦上的 Ollama 接受來自家用網路的連線,再在手機 App 中填入 http://<computer-ip>:11434/v1 和完全相符的模型名稱。不在家時,請使用私人 VPN,不要在路由器上開放連接埠。

本指南涵蓋電腦端設定、網路設定和第一次測試,適用於任何能填入相容 OpenAI 基礎 URL 的 App;不涵蓋在手機本身執行模型。Reunified 的 Mono 可以把這樣的端點當作文字模型使用,但 Mono 還沒有正式推出。

1. 了解每部裝置負責什麼

模型在電腦上執行。手機只負責傳送請求和顯示回覆,所以:

  • 手機上的 localhost 指的是手機本身。App 需要的是電腦的位址。
  • 聊天期間,電腦必須開機、保持喚醒,而且連得到。

本指南的範例是虛構的。一台名為 den-pc 的 Windows 桌上型電腦位於家用網路上,位址是 192.168.1.20,已經下載好一個模型 llama3.2。手機連在同一個家中 Wi-Fi 上。

2. 讓 Ollama 不只監聽本機

預設情況下,Ollama 綁定在 127.0.0.1 的 11434 連接埠,所以只有電腦本身連得到。要改變這一點:

  • macOS 或 Windows 上的 Ollama App: 開啟設定(Settings),打開「Expose Ollama to the network」(把 Ollama 開放到網路)。den-pc 上做的就是這項變更。
  • Linux 服務: 執行 systemctl edit ollama.service,在 [Service] 底下加入 Environment="OLLAMA_HOST=0.0.0.0:11434",然後執行 systemctl daemon-reload 和 systemctl restart ollama。
  • 沒有這個開關: 把環境變數 OLLAMA_HOST 設為 0.0.0.0:11434(所有網路),再重新啟動 Ollama。Ollama 的常見問題列出了各個系統的步驟。

如果防火牆詢問是否允許 Ollama,請允許。在 Windows 上,只允許私人網路,並把家用網路的網路設定檔類型(network profile type)設為私人(Private)。Windows 11 會先把新連上的網路設為公用(Public)。

3. 找到手機要使用的位址

你需要三個值:

  • 基礎 URL: http://<computer-ip>:11434/v1,其中電腦的區域網路 IP 可以在它的網路設定中找到(Windows 上也可以執行 ipconfig)。Ollama 的相容 OpenAI 的 API 位於 /v1 底下。專為 Ollama 自家 API 設計的 App,需要的是不含 /v1 的位址。
  • 模型名稱: 在電腦上執行 ollama list,複製含標籤的完整名稱,例如 llama3.2:latest。
  • API 金鑰: Ollama 不會檢查它。留空即可;如果 App 一定要填,就隨意輸入一個佔位值。

以 den-pc 為例,在手機的瀏覽器中開啟 http://192.168.1.20:11434/v1/models。如果看到一份列出你的模型的簡短 JSON 清單,代表網路路徑是通的。

在路由器設定中為這台電腦保留 IP,避免位址改變。

4. 不要讓它暴露在網際網路上

Ollama 的 API 沒有登入驗證,任何能連到 11434 連接埠的人都可以執行或刪除你的模型。要讓它只供你自己的裝置使用:

  • 不要在路由器上設定連接埠轉送。
  • 只在你能掌控的 Wi-Fi 上使用,不要用訪客網路或共用網路。一般的 http:// 沒有加密。
  • 如果是筆記型電腦,Ollama 現在在咖啡廳或辦公室的 Wi-Fi 上也會接受連線。出門前,先還原第 2 節的變更。
  • 不在家時,使用只有你自己的裝置會加入的私人 VPN,並在基礎 URL 中填入電腦的 VPN 位址。
  • 常見問題中的 Proxy 和通道範例都沒有登入驗證,而且通道位址是公開的。使用之前,先加上登入驗證。

為了在咖啡廳聊天,範例中的讀者在 den-pc 和手機上安裝同一個私人 VPN,然後只修改基礎 URL 裡的 IP。AI 隱私檢查清單可以幫你追查哪些資料離開了你的裝置。

5. 連接 App 並完成第一次測試

填入範例中的值。各個 App 的欄位名稱不同(請參閱連線自訂模型)。

欄位 值
基礎 URL 或端點 URL http://192.168.1.20:11434/v1
API 金鑰 留空,或填入佔位值
模型名稱或模型 ID llama3.2:latest,從 ollama list 複製

傳送:「把紅、綠、藍三個詞分行回傳。」接著在電腦上執行 ollama ps,應該會看到你的模型顯示為已載入。

然後結束 Ollama,再傳送一則訊息。你應該會收到錯誤。如果仍然收到回覆,代表 App 用了另一個模型。

在 Mono 中,到「設定」>「整合」>「自訂端點」開啟「文字模型」,並填入這些值。「無法連線時使用預設模型」開關預設為開啟,所以也要在 Mono 裡做一次停止伺服器的測試。使用你自己的文字模型時,聊天不會使用技能或任何工具,而它的回覆在 Mono 中免費。

6. 排除常見的連線問題

症狀 檢查什麼
電腦上可以用,手機上逾時 網路開關已開啟或已設定 OLLAMA_HOST、Ollama 已重新啟動、防火牆在這個網路上允許它
之前可以用,現在逾時 電腦進入睡眠、它的 IP 改變了、手機用的是行動數據或訪客 Wi-Fi
路徑出現「找不到」錯誤 基礎 URL 少了 /v1,或重複加了一次
錯誤訊息說找不到模型 名稱和標籤要與 ollama list 顯示的完全相同
iPhone 瀏覽器測試正常,App 卻連不上 這個 App 在「設定」>「隱私權與安全性」>「區域網路」中的存取權
第一則回覆很慢 模型正在載入。預設情況下,模型閒置 5 分鐘後,Ollama 會將它卸載

如果電腦一直進入睡眠,請參閱如何讓電腦保持喚醒。Mono 還沒有正式推出,但你可以加入候補名單。

作者

Reunified 打造能把分散的東西重新聚在一起的 App。

繼續閱讀

所有文章

閱讀約需 6 分鐘

如何防範 AI 助理的提示詞注入攻擊

限制 AI 助理處理電子郵件、網頁和檔案時能做的事,保持核准機制開啟,安全地測試你的設定,並知道助理被操控時該怎麼辦。

即將推出

加入候補名單

留下你的電子郵件地址,Mono 可以下載時我們會通知你。

你會在哪裡使用 Mono?