Mono
Lista de espera

Usar o Ollama no telemóvel através do Wi-Fi de casa ou de uma VPN

Ponha uma aplicação do telemóvel a usar um modelo do Ollama no seu computador: abra o Ollama à rede de casa, encontre o URL base, teste e mantenha-o fora da internet.

Para usar o Ollama a partir do telemóvel, deixe o Ollama do computador aceitar ligações da rede de casa e depois indique a uma aplicação do telemóvel o endereço http://<computer-ip>:11434/v1 com o nome exato do modelo. Fora de casa, use uma VPN privada, não uma porta aberta no router.

Este guia trata do computador, da rede e de um primeiro teste com qualquer aplicação que aceite um URL base compatível com OpenAI. Não trata de executar um modelo no próprio telemóvel. O Mono da Reunified aceita um endpoint destes como modelo de texto, mas ainda não foi lançado.

1. Saiba o que corre em cada dispositivo

O modelo corre no computador. O telemóvel só envia pedidos e mostra as respostas, por isso:

  • localhost no telemóvel é o próprio telemóvel. A aplicação precisa do endereço do computador.
  • O computador tem de estar ligado, acordado e acessível enquanto conversa.

O exemplo deste guia é inventado. Um computador de secretária com Windows, chamado den-pc, está na rede de casa com o endereço 192.168.1.20 e tem um modelo, llama3.2, já descarregado. O telemóvel está ligado ao mesmo Wi-Fi de casa.

2. Deixe o Ollama aceitar ligações para além de localhost

Por predefinição, o Ollama escuta em 127.0.0.1 na porta 11434, por isso só o próprio computador lhe consegue aceder. Para mudar isso:

  • Aplicação Ollama no macOS ou no Windows: abra as definições (Settings) e ative a opção para expor o Ollama à rede («Expose Ollama to the network»). Foi esta a alteração feita no den-pc.
  • Serviço no Linux: execute systemctl edit ollama.service, acrescente Environment="OLLAMA_HOST=0.0.0.0:11434" em [Service] e depois execute systemctl daemon-reload e systemctl restart ollama.
  • Sem essa opção: defina a variável de ambiente OLLAMA_HOST como 0.0.0.0:11434 (todas as redes) e reinicie o Ollama. As perguntas frequentes do Ollama indicam os passos para cada sistema.

Se a firewall perguntar pelo Ollama, permita-o. No Windows, permita apenas as redes privadas e mude o tipo de perfil da rede de casa para privada («Private»), porque o Windows 11 define as redes novas como públicas («Public»).

3. Encontre o endereço que o telemóvel deve usar

Precisa de três valores:

  • URL base: http://<computer-ip>:11434/v1, com o IP local do computador, que encontra nas definições de rede (ou com ipconfig no Windows). A API compatível com OpenAI do Ollama fica em /v1. As aplicações feitas para a API própria do Ollama pedem o endereço sem /v1.
  • Nome do modelo: execute ollama list no computador e copie o nome com a etiqueta, por exemplo llama3.2:latest.
  • Chave de API: o Ollama ignora-a. Deixe o campo vazio ou escreva um valor qualquer se a aplicação o exigir.

No caso do den-pc, abra http://192.168.1.20:11434/v1/models no navegador do telemóvel. Uma lista JSON curta com o seu modelo significa que o caminho pela rede funciona.

Reserve o IP do computador nas definições do router para que não mude.

4. Mantenha-o fora da internet pública

A API do Ollama não tem início de sessão, por isso qualquer pessoa que chegue à porta 11434 pode executar ou apagar os seus modelos. Para a manter restrita aos seus dispositivos:

  • Não reencaminhe a porta no router.
  • Use-a num Wi-Fi que controla, não numa rede de convidados ou partilhada. O http:// simples não é encriptado.
  • Num portátil, o Ollama passa a aceitar ligações também no Wi-Fi do café ou do escritório. Desfaça a alteração da secção 2 antes de sair.
  • Fora de casa, use uma VPN privada a que só os seus dispositivos se ligam, com o endereço VPN do computador no URL base.
  • Os exemplos de proxy e de túnel das perguntas frequentes não têm início de sessão, e o endereço de um túnel é público. Acrescente início de sessão antes de usar um.

Para conversar a partir de um café, o leitor do exemplo instala a mesma VPN privada no den-pc e no telemóvel e depois muda apenas o IP no URL base. A lista de verificação de privacidade na IA ajuda a perceber o que sai dos seus dispositivos.

5. Ligue uma aplicação e faça um primeiro teste

Introduza os valores do exemplo. Os nomes dos campos variam de aplicação para aplicação (consulte o guia para ligar um modelo personalizado).

Campo Valor
URL base ou URL do endpoint http://192.168.1.20:11434/v1
Chave de API Vazia, ou um valor qualquer
Nome do modelo ou ID do modelo llama3.2:latest, copiado de ollama list

Envie: «Devolve as três palavras vermelho, verde, azul em linhas separadas.» Depois, ollama ps no computador deve mostrar o seu modelo como carregado.

A seguir, feche o Ollama e envie outra mensagem. Deve receber um erro. Se receber uma resposta, a aplicação usou outro modelo.

No Mono, ative Modelo de texto em Configurações > Integrações > Endpoints personalizados e introduza estes valores. O interruptor «Usar o modelo padrão se o endpoint não responder» está ativado por predefinição, por isso faça também aí o teste com o servidor parado. Com o seu próprio modelo de texto, a conversa não usa skills nem ferramentas, e as respostas são grátis no Mono.

6. Resolva problemas comuns de ligação

Sintoma O que verificar
Funciona no computador, mas o telemóvel excede o tempo de espera Opção de rede ativada ou OLLAMA_HOST definido, Ollama reiniciado, firewall a permitir o Ollama nesta rede
Funcionava antes, agora excede o tempo de espera Computador em suspensão, IP alterado, telemóvel em dados móveis ou no Wi-Fi de convidados
Erro de «não encontrado» no caminho /v1 em falta no URL base, ou acrescentado duas vezes
O erro diz que o modelo não foi encontrado Nome e etiqueta exatamente como ollama list os mostra
O teste no navegador do iPhone funciona, mas a aplicação não se liga O acesso da aplicação em Definições > Privacidade e segurança > Rede local
A primeira resposta é lenta O modelo está a carregar. Por predefinição, o Ollama retira-o da memória após 5 minutos sem uso

Se o computador continuar a entrar em suspensão, veja como manter o computador acordado. O Mono ainda não está disponível, mas pode inscrever-se na lista de espera.

Escrito por

A Reunified cria aplicações que voltam a juntar o que está disperso.

Continua a ler

Todos os artigos

Brevemente

Junta-te à lista de espera

Deixa o teu email e escrevemos-te quando o Mono estiver pronto para descarregar.

Onde vai usar o Mono?