휴대폰에서 Ollama 사용하기: 집 Wi-Fi나 VPN으로 연결하는 방법

휴대폰에서 Ollama를 쓰려면 컴퓨터의 Ollama가 집 네트워크에서 오는 연결을 받도록 설정한 다음, 휴대폰 앱의 주소를 http://<computer-ip>:11434/v1로 지정하고 정확한 모델 이름을 입력하세요. 집 밖에서는 공유기 포트를 여는 대신 개인 VPN을 쓰세요.

이 글은 컴퓨터와 네트워크 설정, 그리고 OpenAI 호환 기본 URL을 입력할 수 있는 앱에서 하는 첫 테스트를 다뤄요. 휴대폰 자체에서 모델을 실행하는 방법은 다루지 않아요. Reunified의 Mono도 이런 엔드포인트를 텍스트 모델로 쓸 수 있지만, 아직 출시 전이에요.

1. 어느 기기에서 무엇이 실행되는지 알아 두세요

모델은 컴퓨터에서 실행돼요. 휴대폰은 요청을 보내고 답을 보여 줄 뿐이므로 다음을 기억하세요.

• 휴대폰에서 localhost는 휴대폰 자신을 뜻해요. 앱에는 컴퓨터의 주소가 필요해요.
• 채팅하는 동안 컴퓨터가 켜져 있고, 절전 상태가 아니며, 휴대폰에서 연결할 수 있어야 해요.

이 글의 예시는 가상의 상황이에요. den-pc라는 Windows 데스크톱이 집 네트워크의 192.168.1.20에 있고, llama3.2 모델 하나를 이미 받아(pull) 두었어요. 휴대폰도 같은 집 Wi-Fi에 연결되어 있어요.

2. Ollama가 localhost 밖의 연결도 받게 하세요

Ollama는 기본적으로 127.0.0.1의 11434번 포트에서 연결을 기다리므로, 그 컴퓨터 자신만 접속할 수 있어요. 이를 바꾸려면 다음 중 하나를 하세요.

• macOS나 Windows의 Ollama 앱: Settings를 열고 “Expose Ollama to the network”(Ollama를 네트워크에 공개)를 켜세요. den-pc에서 바꾸는 설정도 이것이에요.
• Linux 서비스: systemctl edit ollama.service를 실행해 [Service] 아래에 Environment="OLLAMA_HOST=0.0.0.0:11434"를 추가한 다음, systemctl daemon-reload와 systemctl restart ollama를 실행하세요.
• 이런 스위치가 없을 때: 환경 변수 OLLAMA_HOST를 0.0.0.0:11434(모든 네트워크)로 설정하고 Ollama를 다시 시작하세요. 시스템별 단계는 Ollama FAQ에 나와 있어요.

방화벽이 Ollama에 대해 물으면 허용하세요. Windows에서는 개인 네트워크만 허용하고, 집 네트워크의 네트워크 프로필 유형을 개인(Private)으로 설정하세요(Windows 11은 새 네트워크를 처음에 공용(Public)으로 설정해요).

3. 휴대폰에서 쓸 주소를 찾으세요

필요한 값은 세 가지예요.

• 기본 URL: http://<computer-ip>:11434/v1이에요. IP 자리에는 컴퓨터의 네트워크 설정(Windows에서는 ipconfig)에서 확인한 로컬 IP를 넣으세요. Ollama의 OpenAI 호환 API는 /v1 아래에 있어요. Ollama 자체 API용으로 만든 앱에는 /v1을 뺀 주소를 입력해야 해요.
• 모델 이름: 컴퓨터에서 ollama list를 실행하고 llama3.2:latest처럼 태그까지 포함된 이름을 복사하세요.
• API 키: Ollama는 키를 확인하지 않아요. 비워 두거나, 앱이 꼭 입력하라고 하면 아무 임시 값이나 넣으세요.

den-pc라면 휴대폰 브라우저에서 http://192.168.1.20:11434/v1/models를 여세요. 내 모델이 들어 있는 짧은 JSON 목록이 보이면 네트워크 경로는 정상이에요.

IP가 바뀌지 않도록 공유기 설정에서 컴퓨터의 IP를 예약해 두세요.

4. 공용 인터넷에는 노출하지 마세요

Ollama API에는 로그인이 없어서, 11434번 포트에 접속할 수 있는 사람은 누구나 내 모델을 실행하거나 삭제할 수 있어요. 내 기기에서만 쓰려면 다음을 지키세요.

• 공유기에서 포트 포워딩을 하지 마세요.
• 게스트 네트워크나 공유 네트워크가 아니라 직접 관리하는 Wi-Fi에서 쓰세요. 일반 http:// 연결은 암호화되지 않아요.
• 노트북이라면 이제 Ollama가 카페나 사무실 Wi-Fi에서도 연결을 받아요. 나가기 전에 2번 섹션의 변경을 되돌리세요.
• 집 밖에서는 내 기기만 참여하는 개인 VPN을 쓰고, 기본 URL에는 컴퓨터의 VPN 주소를 넣으세요.
• FAQ에 있는 프록시와 터널 예시에는 로그인이 없고, 터널 주소는 누구나 접속할 수 있는 공개 주소예요. 쓰기 전에 로그인을 추가하세요.

예시에서는 카페에서 채팅하려고 den-pc와 휴대폰에 같은 개인 VPN을 설치한 뒤, 기본 URL의 IP만 바꿔요. 무엇이 내 기기 밖으로 나가는지 따져 보려면 AI 개인정보 체크리스트를 참고하세요.

5. 앱을 연결하고 첫 테스트를 하세요

예시의 값을 입력하세요. 입력란 이름은 앱마다 달라요(맞춤 모델 연결하기 참고).

“빨강, 초록, 파랑 세 단어를 한 줄에 하나씩 써 줘”라고 보내세요. 그런 다음 컴퓨터에서 ollama ps를 실행하면 모델이 로드된 상태로 나와야 해요.

이어서 Ollama를 종료하고 메시지를 하나 더 보내세요. 오류가 나야 정상이에요. 답이 온다면 앱이 다른 모델을 쓴 거예요.

Mono에서는 설정 > 연동 > 사용자 지정 엔드포인트에서 ‘텍스트 모델’을 켜고 이 값들을 입력하세요. ‘연결되지 않으면 기본 모델 사용’ 스위치가 기본으로 켜져 있으니, 여기서도 서버를 멈춘 상태로 테스트해 보세요. 내 텍스트 모델로 채팅할 때는 스킬도 도구도 쓰지 않으며, 그 답변은 Mono에서 무료예요.

6. 흔한 연결 문제를 해결하세요

컴퓨터가 자꾸 절전 상태로 들어간다면 컴퓨터를 깨어 있게 하는 방법을 보세요. Mono는 아직 출시 전이지만 대기자 명단에 등록할 수 있어요.