Mono
候补名单

手机如何通过家庭 Wi-Fi 或 VPN 使用电脑上的 Ollama

让手机应用调用电脑上的 Ollama 模型:向家庭网络开放 Ollama,找到基础 URL,完成测试,并避免把它暴露在公网上。

要在手机上使用 Ollama,先让电脑上的 Ollama 接受来自家庭网络的连接,再在手机应用中填写 http://<computer-ip>:11434/v1 和准确的模型名称。不在家时,请使用私人 VPN,不要在路由器上开放端口。

本指南介绍电脑端设置、网络设置,以及用任意支持 OpenAI 兼容基础 URL 的应用完成第一次测试,不涉及直接在手机上运行模型。Reunified 的 Mono 可以把这样的端点用作文本模型,但 Mono 还没有正式推出。

1. 弄清每台设备负责什么

模型在电脑上运行。手机只负责发送请求和显示回复,所以:

  • 手机上的 localhost 指的是手机本身。应用需要的是电脑的地址。
  • 聊天期间,电脑必须开着、保持唤醒,并且手机能连上它。

本指南中的示例是虚构的。一台名为 den-pc 的 Windows 台式机连在家庭网络上,地址是 192.168.1.20,已经拉取了一个模型 llama3.2。手机连接的是同一个家庭 Wi-Fi。

2. 让 Ollama 不只监听本机

默认情况下,Ollama 绑定在 127.0.0.1 的 11434 端口上,所以只有电脑自己能访问它。要改变这一点:

  • macOS 或 Windows 上的 Ollama 应用:打开 Settings(设置),开启“Expose Ollama to the network”(向网络公开 Ollama)。den-pc 上做的就是这项修改。
  • Linux 服务:运行 systemctl edit ollama.service,在 [Service] 下添加 Environment="OLLAMA_HOST=0.0.0.0:11434",然后运行 systemctl daemon-reload 和 systemctl restart ollama。
  • 没有这个开关:把环境变量 OLLAMA_HOST 设为 0.0.0.0:11434(所有网络),然后重启 Ollama。Ollama 的常见问题列出了各个系统的具体步骤。

如果防火墙询问是否允许 Ollama,请允许。在 Windows 上,只允许专用网络,并把家庭网络的“网络配置文件类型”设为“专用网络”(Windows 11 首次连接新网络时,默认设为公用网络)。

3. 找到手机要用的地址

你需要三项信息:

  • 基础 URL:http://<computer-ip>:11434/v1,其中电脑的本地 IP 可以在网络设置中找到(Windows 上也可以运行 ipconfig)。Ollama 的 OpenAI 兼容 API 位于 /v1 路径下。专为 Ollama 自有 API 设计的应用,需要的是不带 /v1 的地址。
  • 模型名称:在电脑上运行 ollama list,复制带标签的完整名称,例如 llama3.2:latest。
  • API 密钥:Ollama 不会检查它。留空即可;如果应用要求必须填写,随便填一个占位值。

以 den-pc 为例,在手机浏览器中打开 http://192.168.1.20:11434/v1/models。如果看到一个包含你的模型的简短 JSON 列表,说明网络路径是通的。

在路由器设置中为这台电脑保留 IP 地址,以免地址变化。

4. 不要把它暴露在公网上

Ollama 的 API 没有登录验证,任何能访问 11434 端口的人都可以运行或删除你的模型。要让它只供你自己的设备使用:

  • 不要在路由器上做端口转发。
  • 只在你自己管理的 Wi-Fi 上使用,不要在访客网络或共享网络上使用。普通的 http:// 连接没有加密。
  • 如果是笔记本电脑,Ollama 现在在咖啡馆或办公室的 Wi-Fi 上也会接受连接。出门前,先撤销第 2 节中的修改。
  • 不在家时,使用只有你自己的设备加入的私人 VPN,并在基础 URL 中填写电脑的 VPN 地址。
  • 常见问题中的代理服务器和隧道示例都没有登录验证,而且隧道地址是公开的。使用之前,先加上登录验证。

在示例中,为了在咖啡馆里聊天,读者在 den-pc 和手机上安装了同一个私人 VPN,然后只改了基础 URL 中的 IP。AI 隐私检查清单可以帮你弄清哪些数据离开了你的设备。

5. 连接应用并完成第一次测试

填入示例中的值。不同应用的字段名称各不相同(参见连接自定义模型)。

字段 值
基础 URL 或端点 URL http://192.168.1.20:11434/v1
API 密钥 留空,或填一个占位值
模型名称或模型 ID llama3.2:latest,从 ollama list 复制

发送:“把红、绿、蓝三个词分行返回。”然后在电脑上运行 ollama ps,应该能看到你的模型显示为已加载。

接着退出 Ollama,再发一条消息。这时你应该会收到错误提示。如果仍然收到回复,说明应用用了别的模型。

在 Mono 中,依次进入“设置”>“集成”>“自定义端点”,打开“文本模型”并填入这些值。“无法连接时使用默认模型”开关默认是打开的,所以在 Mono 里也要做一次停掉服务器的测试。使用你自己的文本模型时,聊天不会调用技能或任何工具,它的回复在 Mono 中免费。

6. 解决常见连接问题

现象 检查什么
电脑上能用,手机上超时 网络开关已打开或已设置 OLLAMA_HOST,Ollama 已重启,防火墙在当前网络上允许它
之前能用,现在超时 电脑进入了睡眠,IP 地址变了,手机连的是移动数据或访客 Wi-Fi
路径报“未找到”错误 基础 URL 缺少 /v1,或者重复添加了一次
错误提示找不到模型 名称和标签要与 ollama list 显示的完全一致
iPhone 浏览器测试正常,应用却连不上 在“设置”>“隐私与安全性”>“本地网络”中检查该应用的访问权限
第一条回复很慢 模型正在加载。默认情况下,模型闲置 5 分钟后,Ollama 会将其卸载

如果电脑总是进入睡眠,请参阅如何让电脑保持唤醒。Mono 还没有正式推出,你可以加入候补名单。

作者

Reunified 打造能把分散的东西重新聚到一起的应用。

继续阅读

全部文章

阅读约需 6 分钟

如何防范 AI 助手中的提示词注入

限制 AI 助手处理邮件、网页和文件时能做的事,保持操作审批开启,安全地测试你的设置,并了解助手被操纵后该怎么办。

即将推出

加入候补名单

留下你的邮箱,Mono 可以下载时我们会通知你。

你会在哪里使用 Mono?