手机如何通过家庭 Wi-Fi 或 VPN 使用电脑上的 Ollama
让手机应用调用电脑上的 Ollama 模型:向家庭网络开放 Ollama,找到基础 URL,完成测试,并避免把它暴露在公网上。
要在手机上使用 Ollama,先让电脑上的 Ollama 接受来自家庭网络的连接,再在手机应用中填写 http://<computer-ip>:11434/v1 和准确的模型名称。不在家时,请使用私人 VPN,不要在路由器上开放端口。
本指南介绍电脑端设置、网络设置,以及用任意支持 OpenAI 兼容基础 URL 的应用完成第一次测试,不涉及直接在手机上运行模型。Reunified 的 Mono 可以把这样的端点用作文本模型,但 Mono 还没有正式推出。
1. 弄清每台设备负责什么
模型在电脑上运行。手机只负责发送请求和显示回复,所以:
- 手机上的
localhost指的是手机本身。应用需要的是电脑的地址。 - 聊天期间,电脑必须开着、保持唤醒,并且手机能连上它。
本指南中的示例是虚构的。一台名为 den-pc 的 Windows 台式机连在家庭网络上,地址是 192.168.1.20,已经拉取了一个模型 llama3.2。手机连接的是同一个家庭 Wi-Fi。
2. 让 Ollama 不只监听本机
默认情况下,Ollama 绑定在 127.0.0.1 的 11434 端口上,所以只有电脑自己能访问它。要改变这一点:
- macOS 或 Windows 上的 Ollama 应用:打开 Settings(设置),开启“Expose Ollama to the network”(向网络公开 Ollama)。den-pc 上做的就是这项修改。
- Linux 服务:运行
systemctl edit ollama.service,在[Service]下添加Environment="OLLAMA_HOST=0.0.0.0:11434",然后运行systemctl daemon-reload和systemctl restart ollama。 - 没有这个开关:把环境变量
OLLAMA_HOST设为0.0.0.0:11434(所有网络),然后重启 Ollama。Ollama 的常见问题列出了各个系统的具体步骤。
如果防火墙询问是否允许 Ollama,请允许。在 Windows 上,只允许专用网络,并把家庭网络的“网络配置文件类型”设为“专用网络”(Windows 11 首次连接新网络时,默认设为公用网络)。
3. 找到手机要用的地址
你需要三项信息:
- 基础 URL:
http://<computer-ip>:11434/v1,其中电脑的本地 IP 可以在网络设置中找到(Windows 上也可以运行ipconfig)。Ollama 的 OpenAI 兼容 API 位于/v1路径下。专为 Ollama 自有 API 设计的应用,需要的是不带/v1的地址。 - 模型名称:在电脑上运行
ollama list,复制带标签的完整名称,例如llama3.2:latest。 - API 密钥:Ollama 不会检查它。留空即可;如果应用要求必须填写,随便填一个占位值。
以 den-pc 为例,在手机浏览器中打开 http://192.168.1.20:11434/v1/models。如果看到一个包含你的模型的简短 JSON 列表,说明网络路径是通的。
在路由器设置中为这台电脑保留 IP 地址,以免地址变化。
4. 不要把它暴露在公网上
Ollama 的 API 没有登录验证,任何能访问 11434 端口的人都可以运行或删除你的模型。要让它只供你自己的设备使用:
- 不要在路由器上做端口转发。
- 只在你自己管理的 Wi-Fi 上使用,不要在访客网络或共享网络上使用。普通的
http://连接没有加密。 - 如果是笔记本电脑,Ollama 现在在咖啡馆或办公室的 Wi-Fi 上也会接受连接。出门前,先撤销第 2 节中的修改。
- 不在家时,使用只有你自己的设备加入的私人 VPN,并在基础 URL 中填写电脑的 VPN 地址。
- 常见问题中的代理服务器和隧道示例都没有登录验证,而且隧道地址是公开的。使用之前,先加上登录验证。
在示例中,为了在咖啡馆里聊天,读者在 den-pc 和手机上安装了同一个私人 VPN,然后只改了基础 URL 中的 IP。AI 隐私检查清单可以帮你弄清哪些数据离开了你的设备。
5. 连接应用并完成第一次测试
填入示例中的值。不同应用的字段名称各不相同(参见连接自定义模型)。
| 字段 | 值 |
|---|---|
| 基础 URL 或端点 URL | http://192.168.1.20:11434/v1 |
| API 密钥 | 留空,或填一个占位值 |
| 模型名称或模型 ID | llama3.2:latest,从 ollama list 复制 |
发送:“把红、绿、蓝三个词分行返回。”然后在电脑上运行 ollama ps,应该能看到你的模型显示为已加载。
接着退出 Ollama,再发一条消息。这时你应该会收到错误提示。如果仍然收到回复,说明应用用了别的模型。
在 Mono 中,依次进入“设置”>“集成”>“自定义端点”,打开“文本模型”并填入这些值。“无法连接时使用默认模型”开关默认是打开的,所以在 Mono 里也要做一次停掉服务器的测试。使用你自己的文本模型时,聊天不会调用技能或任何工具,它的回复在 Mono 中免费。
6. 解决常见连接问题
| 现象 | 检查什么 |
|---|---|
| 电脑上能用,手机上超时 | 网络开关已打开或已设置 OLLAMA_HOST,Ollama 已重启,防火墙在当前网络上允许它 |
| 之前能用,现在超时 | 电脑进入了睡眠,IP 地址变了,手机连的是移动数据或访客 Wi-Fi |
| 路径报“未找到”错误 | 基础 URL 缺少 /v1,或者重复添加了一次 |
| 错误提示找不到模型 | 名称和标签要与 ollama list 显示的完全一致 |
| iPhone 浏览器测试正常,应用却连不上 | 在“设置”>“隐私与安全性”>“本地网络”中检查该应用的访问权限 |
| 第一条回复很慢 | 模型正在加载。默认情况下,模型闲置 5 分钟后,Ollama 会将其卸载 |
