Jak używać Ollamy z telefonu przez domowe Wi-Fi lub VPN

Aby używać Ollamy z telefonu, pozwól Ollamie na komputerze przyjmować połączenia z sieci domowej, a potem wpisz w aplikacji na telefonie adres http://<computer-ip>:11434/v1 i dokładną nazwę modelu. Poza domem korzystaj z prywatnego VPN, a nie z otwartego portu na routerze.

Ten poradnik obejmuje komputer, sieć i pierwszy test z dowolną aplikacją, która przyjmuje bazowy adres URL zgodny z API OpenAI. Nie dotyczy uruchamiania modelu na samym telefonie. Mono firmy Reunified może używać takiego endpointu jako modelu tekstowego, ale sam Mono nie jest jeszcze dostępny.

1. Ustal, co działa na którym urządzeniu

Model działa na komputerze. Telefon tylko wysyła zapytania i wyświetla odpowiedzi, więc:

• localhost na telefonie oznacza sam telefon. Aplikacja potrzebuje adresu komputera.
• Komputer musi być włączony, wybudzony i osiągalny przez cały czas rozmowy.

Przykład w tym poradniku jest zmyślony. Komputer stacjonarny z Windows o nazwie den-pc działa w sieci domowej pod adresem 192.168.1.20 i ma pobrany jeden model, llama3.2. Telefon jest w tej samej domowej sieci Wi-Fi.

2. Pozwól Ollamie nasłuchiwać poza localhost

Domyślnie Ollama nasłuchuje na adresie 127.0.0.1 i porcie 11434, więc połączyć się z nią może tylko sam komputer. Aby to zmienić:

• Aplikacja Ollama na macOS lub Windows: otwórz ustawienia (Settings) i włącz udostępnianie Ollamy w sieci („Expose Ollama to the network”). Na den-pc wystarcza właśnie ta zmiana.
• Usługa w systemie Linux: uruchom systemctl edit ollama.service, dodaj Environment="OLLAMA_HOST=0.0.0.0:11434" w sekcji [Service], a potem uruchom systemctl daemon-reload i systemctl restart ollama.
• Brak takiego przełącznika: ustaw zmienną środowiskową OLLAMA_HOST na 0.0.0.0:11434 (wszystkie sieci) i uruchom Ollamę ponownie. FAQ Ollamy podaje kroki dla każdego systemu.

Jeśli zapora zapyta o Ollamę, zezwól na połączenia. W Windows zezwól tylko w sieciach prywatnych i ustaw typ profilu sieci domowej na prywatny (Private). Windows 11 oznacza nowe sieci jako publiczne (Public).

3. Znajdź adres, którego ma używać telefon

Potrzebujesz trzech wartości:

• Bazowy adres URL: http://<computer-ip>:11434/v1, z lokalnym adresem IP komputera, który znajdziesz w jego ustawieniach sieci (albo w wyniku ipconfig w Windows). API zgodne z OpenAI jest w Ollamie dostępne pod /v1. Aplikacje stworzone dla natywnego API Ollamy potrzebują adresu bez /v1.
• Nazwa modelu: uruchom ollama list na komputerze i skopiuj nazwę razem z tagiem, na przykład llama3.2:latest.
• Klucz API: Ollama go ignoruje. Zostaw pole puste albo wpisz dowolny tekst zastępczy, jeśli aplikacja wymaga klucza.

Dla den-pc otwórz http://192.168.1.20:11434/v1/models w przeglądarce telefonu. Krótka lista JSON z Twoim modelem oznacza, że połączenie przez sieć działa.

Zarezerwuj adres IP komputera w ustawieniach routera, żeby się nie zmieniał.

4. Nie wystawiaj Ollamy do publicznego internetu

API Ollamy nie ma logowania, więc każdy, kto dotrze do portu 11434, może uruchamiać lub usuwać Twoje modele. Aby dostęp miały tylko Twoje urządzenia:

• Nie przekierowuj tego portu na routerze.
• Używaj Ollamy w sieci Wi-Fi, którą kontrolujesz, a nie w sieci dla gości czy współdzielonej. Zwykłe http:// nie jest szyfrowane.
• Na laptopie Ollama nasłuchuje teraz także w sieci Wi-Fi w kawiarni czy biurze. Zanim wyjdziesz, cofnij zmianę z sekcji 2.
• Poza domem korzystaj z prywatnego VPN, do którego należą tylko Twoje urządzenia, i wpisz w bazowym adresie URL adres komputera w tym VPN.
• Przykłady proxy i tuneli w FAQ nie mają logowania, a adres tunelu jest publiczny. Zanim z nich skorzystasz, dodaj logowanie.

Aby rozmawiać z kawiarni, osoba z przykładu instaluje ten sam prywatny VPN na den-pc i na telefonie, a potem zmienia w bazowym adresie URL tylko adres IP. Lista kontrolna prywatności AI pomaga prześledzić, co opuszcza Twoje urządzenia.

5. Podłącz aplikację i wykonaj pierwszy test

Wpisz wartości z przykładu. Nazwy pól różnią się między aplikacjami (zobacz poradnik podłączania własnego modelu).

Wyślij: „Zwróć trzy słowa: czerwony, zielony, niebieski, każde w osobnym wierszu”. Potem polecenie ollama ps na komputerze powinno pokazać Twój model jako załadowany.

Następnie zamknij Ollamę i wyślij kolejną wiadomość. Powinien pojawić się błąd. Jeśli przyjdzie odpowiedź, aplikacja użyła innego modelu.

W Mono otwórz Ustawienia > Integracje > Własne endpointy, włącz Model tekstowy i wpisz te wartości. Przełącznik „Użyj domyślnego modelu, gdy endpoint jest niedostępny” jest domyślnie włączony, więc tam również wykonaj test z zatrzymanym serwerem. Z własnym modelem tekstowym czat nie korzysta z umiejętności ani z żadnych narzędzi, a jego odpowiedzi są w Mono bezpłatne.

6. Rozwiąż typowe problemy z połączeniem

Jeśli komputer ciągle przechodzi w uśpienie, zobacz, jak wyłączyć uśpienie komputera. Mono nie jest jeszcze dostępny, ale możesz dołączyć do listy oczekujących.