用手機透過家中 Wi-Fi 或 VPN 使用電腦上的 Ollama
讓手機 App 使用電腦上的 Ollama 模型:把 Ollama 開放給家用網路、找到基礎 URL、完成測試,並避免它暴露在網際網路上。
要在手機上使用 Ollama,先讓電腦上的 Ollama 接受來自家用網路的連線,再在手機 App 中填入 http://<computer-ip>:11434/v1 和完全相符的模型名稱。不在家時,請使用私人 VPN,不要在路由器上開放連接埠。
本指南涵蓋電腦端設定、網路設定和第一次測試,適用於任何能填入相容 OpenAI 基礎 URL 的 App;不涵蓋在手機本身執行模型。Reunified 的 Mono 可以把這樣的端點當作文字模型使用,但 Mono 還沒有正式推出。
1. 了解每部裝置負責什麼
模型在電腦上執行。手機只負責傳送請求和顯示回覆,所以:
- 手機上的
localhost指的是手機本身。App 需要的是電腦的位址。 - 聊天期間,電腦必須開機、保持喚醒,而且連得到。
本指南的範例是虛構的。一台名為 den-pc 的 Windows 桌上型電腦位於家用網路上,位址是 192.168.1.20,已經下載好一個模型 llama3.2。手機連在同一個家中 Wi-Fi 上。
2. 讓 Ollama 不只監聽本機
預設情況下,Ollama 綁定在 127.0.0.1 的 11434 連接埠,所以只有電腦本身連得到。要改變這一點:
- macOS 或 Windows 上的 Ollama App: 開啟設定(Settings),打開「Expose Ollama to the network」(把 Ollama 開放到網路)。den-pc 上做的就是這項變更。
- Linux 服務: 執行
systemctl edit ollama.service,在[Service]底下加入Environment="OLLAMA_HOST=0.0.0.0:11434",然後執行systemctl daemon-reload和systemctl restart ollama。 - 沒有這個開關: 把環境變數
OLLAMA_HOST設為0.0.0.0:11434(所有網路),再重新啟動 Ollama。Ollama 的常見問題列出了各個系統的步驟。
如果防火牆詢問是否允許 Ollama,請允許。在 Windows 上,只允許私人網路,並把家用網路的網路設定檔類型(network profile type)設為私人(Private)。Windows 11 會先把新連上的網路設為公用(Public)。
3. 找到手機要使用的位址
你需要三個值:
- 基礎 URL:
http://<computer-ip>:11434/v1,其中電腦的區域網路 IP 可以在它的網路設定中找到(Windows 上也可以執行ipconfig)。Ollama 的相容 OpenAI 的 API 位於/v1底下。專為 Ollama 自家 API 設計的 App,需要的是不含/v1的位址。 - 模型名稱: 在電腦上執行
ollama list,複製含標籤的完整名稱,例如llama3.2:latest。 - API 金鑰: Ollama 不會檢查它。留空即可;如果 App 一定要填,就隨意輸入一個佔位值。
以 den-pc 為例,在手機的瀏覽器中開啟 http://192.168.1.20:11434/v1/models。如果看到一份列出你的模型的簡短 JSON 清單,代表網路路徑是通的。
在路由器設定中為這台電腦保留 IP,避免位址改變。
4. 不要讓它暴露在網際網路上
Ollama 的 API 沒有登入驗證,任何能連到 11434 連接埠的人都可以執行或刪除你的模型。要讓它只供你自己的裝置使用:
- 不要在路由器上設定連接埠轉送。
- 只在你能掌控的 Wi-Fi 上使用,不要用訪客網路或共用網路。一般的
http://沒有加密。 - 如果是筆記型電腦,Ollama 現在在咖啡廳或辦公室的 Wi-Fi 上也會接受連線。出門前,先還原第 2 節的變更。
- 不在家時,使用只有你自己的裝置會加入的私人 VPN,並在基礎 URL 中填入電腦的 VPN 位址。
- 常見問題中的 Proxy 和通道範例都沒有登入驗證,而且通道位址是公開的。使用之前,先加上登入驗證。
為了在咖啡廳聊天,範例中的讀者在 den-pc 和手機上安裝同一個私人 VPN,然後只修改基礎 URL 裡的 IP。AI 隱私檢查清單可以幫你追查哪些資料離開了你的裝置。
5. 連接 App 並完成第一次測試
填入範例中的值。各個 App 的欄位名稱不同(請參閱連線自訂模型)。
| 欄位 | 值 |
|---|---|
| 基礎 URL 或端點 URL | http://192.168.1.20:11434/v1 |
| API 金鑰 | 留空,或填入佔位值 |
| 模型名稱或模型 ID | llama3.2:latest,從 ollama list 複製 |
傳送:「把紅、綠、藍三個詞分行回傳。」接著在電腦上執行 ollama ps,應該會看到你的模型顯示為已載入。
然後結束 Ollama,再傳送一則訊息。你應該會收到錯誤。如果仍然收到回覆,代表 App 用了另一個模型。
在 Mono 中,到「設定」>「整合」>「自訂端點」開啟「文字模型」,並填入這些值。「無法連線時使用預設模型」開關預設為開啟,所以也要在 Mono 裡做一次停止伺服器的測試。使用你自己的文字模型時,聊天不會使用技能或任何工具,而它的回覆在 Mono 中免費。
6. 排除常見的連線問題
| 症狀 | 檢查什麼 |
|---|---|
| 電腦上可以用,手機上逾時 | 網路開關已開啟或已設定 OLLAMA_HOST、Ollama 已重新啟動、防火牆在這個網路上允許它 |
| 之前可以用,現在逾時 | 電腦進入睡眠、它的 IP 改變了、手機用的是行動數據或訪客 Wi-Fi |
| 路徑出現「找不到」錯誤 | 基礎 URL 少了 /v1,或重複加了一次 |
| 錯誤訊息說找不到模型 | 名稱和標籤要與 ollama list 顯示的完全相同 |
| iPhone 瀏覽器測試正常,App 卻連不上 | 這個 App 在「設定」>「隱私權與安全性」>「區域網路」中的存取權 |
| 第一則回覆很慢 | 模型正在載入。預設情況下,模型閒置 5 分鐘後,Ollama 會將它卸載 |
