Как пользоваться Ollama с телефона через домашний Wi-Fi или VPN

Чтобы пользоваться Ollama с телефона, разрешите Ollama на компьютере принимать подключения из домашней сети, а затем укажите в приложении на телефоне адрес http://<computer-ip>:11434/v1 и точное название модели. Вне дома используйте частный VPN, а не открытый порт на роутере.

В этом руководстве речь о настройке компьютера и сети и о первой проверке в любом приложении, которое принимает базовый URL OpenAI-совместимого API. Запуск модели на самом телефоне здесь не рассматривается. Mono от Reunified может использовать такой эндпоинт как текстовую модель, но он ещё не вышел.

1. Разберитесь, что где работает

Модель работает на компьютере. Телефон только отправляет запросы и показывает ответы, поэтому:

• localhost на телефоне означает сам телефон. Приложению нужен адрес компьютера.
• Пока вы переписываетесь с моделью, компьютер должен быть включён, не спать и оставаться доступным по сети.

Пример в этом руководстве вымышленный. Настольный компьютер с Windows под именем den-pc подключён к домашней сети по адресу 192.168.1.20, и на него уже скачана одна модель, llama3.2. Телефон подключён к той же домашней сети Wi-Fi.

2. Разрешите Ollama принимать подключения не только с localhost

По умолчанию Ollama слушает адрес 127.0.0.1 на порту 11434, поэтому подключиться к ней может только сам компьютер. Чтобы это изменить:

• Приложение Ollama на macOS или Windows: откройте настройки (Settings) и включите доступ из сети (Expose Ollama to the network). Именно так настроен den-pc.
• Служба в Linux: выполните systemctl edit ollama.service, добавьте Environment="OLLAMA_HOST=0.0.0.0:11434" в раздел [Service], затем выполните systemctl daemon-reload и systemctl restart ollama.
• Если такого переключателя нет: задайте переменной окружения OLLAMA_HOST значение 0.0.0.0:11434 (все сети) и перезапустите Ollama. В FAQ Ollama есть шаги для каждой системы.

Если брандмауэр спросит про Ollama, разрешите доступ. В Windows разрешите его только для частных сетей, а для домашней сети смените тип сетевого профиля на частный (Private): Windows 11 по умолчанию делает новые сети общедоступными (Public).

3. Найдите адрес для телефона

Нужны три значения:

• Базовый URL: http://<computer-ip>:11434/v1, где вместо заглушки подставьте локальный IP-адрес компьютера из его сетевых настроек (в Windows его показывает ipconfig). OpenAI-совместимый API Ollama находится по пути /v1. Приложениям, созданным для собственного API Ollama, нужен адрес без /v1.
• Название модели: выполните ollama list на компьютере и скопируйте название вместе с тегом, например llama3.2:latest.
• API-ключ: Ollama его игнорирует. Оставьте поле пустым или, если приложение требует его заполнить, введите любую заглушку.

Для den-pc откройте в браузере телефона http://192.168.1.20:11434/v1/models. Если появится короткий список в формате JSON с вашей моделью, значит, связь по сети есть.

Закрепите IP-адрес компьютера в настройках роутера, чтобы он не менялся.

4. Не открывайте доступ из публичного интернета

В API Ollama нет авторизации, поэтому любой, кто может достучаться до порта 11434, сможет запускать или удалять ваши модели. Чтобы доступ был только у ваших устройств:

• Не пробрасывайте порт на роутере.
• Пользуйтесь этим в сети Wi-Fi, которой управляете вы, а не в гостевой или общей сети. Обычный http:// не шифруется.
• На ноутбуке Ollama теперь принимает подключения и в Wi-Fi кафе или офиса. Перед уходом из дома отмените изменение из раздела 2.
• Вне дома используйте частный VPN, к которому подключены только ваши устройства, и укажите в базовом URL адрес компьютера в этом VPN.
• В примерах прокси и туннелей из FAQ нет авторизации, а адрес туннеля публичный. Прежде чем ими пользоваться, добавьте авторизацию.

Чтобы переписываться с моделью из кафе, читатель из примера ставит один и тот же частный VPN на den-pc и на телефон, а в базовом URL меняет только IP-адрес. Чек-лист приватности ИИ поможет проследить, что покидает ваши устройства.

5. Подключите приложение и проведите первую проверку

Введите значения из примера. Названия полей в разных приложениях отличаются (см. подключение своей модели).

Отправьте: «Верни три слова: красный, зелёный, синий, каждое на отдельной строке». После этого команда ollama ps на компьютере должна показать вашу модель как загруженную.

Затем остановите Ollama и отправьте ещё одно сообщение. Должна появиться ошибка. Если пришёл ответ, значит, приложение использовало другую модель.

В Mono включите «Текстовая модель» в разделе «Настройки» > «Интеграции» > «Свои эндпоинты» и введите эти значения. Переключатель «Использовать модель по умолчанию, если эндпоинт недоступен» по умолчанию включён, поэтому проверку с остановленным сервером проведите и там. Со своей текстовой моделью чат не использует навыки и инструменты, а её ответы в Mono бесплатны.

6. Исправьте частые проблемы с подключением

Если компьютер то и дело засыпает, посмотрите, как не дать компьютеру уснуть. Mono пока недоступен, но вы можете записаться в список ожидания.