איך להשתמש ב־Ollama מהטלפון דרך Wi-Fi ביתי או VPN

כדי להשתמש ב־Ollama מהטלפון, הגדירו את Ollama במחשב כך שיקבל חיבורים מהרשת הביתית, ואז כוונו אפליקציה בטלפון אל http://<computer-ip>:11434/v1 עם שם המודל המדויק. מחוץ לבית, השתמשו ב־VPN פרטי ולא בפורט פתוח בנתב.

המדריך עוסק במחשב, ברשת ובבדיקה ראשונה עם כל אפליקציה שמקבלת כתובת בסיס תואמת OpenAI. הוא לא עוסק בהרצת מודל בטלפון עצמו. Mono מבית Reunified מקבל נקודת קצה כזאת כמודל הטקסט שלו, אבל הוא עדיין לא זמין.

1. דעו מה רץ בכל מכשיר

המודל רץ במחשב. הטלפון רק שולח בקשות ומציג תשובות, ולכן:

• localhost בטלפון הוא הטלפון עצמו. האפליקציה צריכה את הכתובת של המחשב.
• המחשב צריך להיות דולק, ער ונגיש כל זמן שאתם משתמשים בצ׳אט.

הדוגמה במדריך בדויה. מחשב שולחני עם Windows בשם den-pc נמצא ברשת הביתית בכתובת 192.168.1.20, ויש בו מודל אחד, llama3.2, שכבר הורד. הטלפון מחובר לאותו Wi-Fi ביתי.

2. הגדירו את Ollama להאזין גם מחוץ ל־localhost

כברירת מחדל, Ollama מאזין בכתובת 127.0.0.1 בפורט 11434, כך שרק המחשב עצמו יכול להגיע אליו. כדי לשנות את זה:

• אפליקציית Ollama ב־macOS או ב־Windows: פתחו את ההגדרות (Settings) והפעילו את חשיפת Ollama לרשת (Expose Ollama to the network). זה השינוי שנעשה ב־den-pc.
• שירות ב־Linux: הריצו systemctl edit ollama.service, הוסיפו Environment="OLLAMA_HOST=0.0.0.0:11434"‎ תחת [Service], ואז הריצו systemctl daemon-reload ו־systemctl restart ollama.
• אין מתג כזה: הגדירו את משתנה הסביבה OLLAMA_HOST לערך 0.0.0.0:11434 (כל הרשתות) והפעילו מחדש את Ollama. השאלות הנפוצות של Ollama מפרטות את השלבים לכל מערכת.

אם חומת האש שואלת על Ollama, אשרו אותו. ב־Windows, אשרו רק רשתות פרטיות והגדירו את סוג הפרופיל של הרשת הביתית כפרטית (Private), כי Windows 11 מגדיר רשתות חדשות כציבוריות (Public).

3. מצאו את הכתובת שהטלפון צריך

צריך שלושה ערכים:

• כתובת בסיס: http://<computer-ip>:11434/v1, עם כתובת ה־IP המקומית של המחשב מהגדרות הרשת שלו (או מ־ipconfig ב־Windows). ה־API התואם OpenAI של Ollama נמצא תחת ‎/v1. אפליקציות שנבנו ל־API של Ollama עצמו מצפות לכתובת בלי ‎/v1.
• שם המודל: הריצו ollama list במחשב והעתיקו את השם עם התג שלו, למשל llama3.2:latest.
• מפתח API: Ollama מתעלם ממנו. השאירו אותו ריק, או הקלידו ערך כלשהו אם האפליקציה מתעקשת.

במקרה של den-pc, פתחו את http://192.168.1.20:11434/v1/models בדפדפן של הטלפון. רשימת JSON קצרה שמופיע בה המודל שלכם אומרת שהחיבור ברשת עובד.

שריינו את כתובת ה־IP של המחשב בהגדרות הנתב, כדי שהיא לא תשתנה.

4. אל תחשפו אותו לאינטרנט הציבורי

ל־API של Ollama אין התחברות, ולכן כל מי שמגיע לפורט 11434 יכול להריץ את המודלים שלכם או למחוק אותם. כדי שרק המכשירים שלכם יגיעו אליו:

• אל תגדירו בנתב העברת פורט (port forwarding) לפורט הזה.
• השתמשו בו ב־Wi-Fi שבשליטתכם, לא ברשת אורחים או ברשת משותפת. חיבור http://‎ רגיל לא מוצפן.
• במחשב נייד, Ollama מאזין עכשיו גם ב־Wi-Fi של בית קפה או של המשרד. בטלו את השינוי מסעיף 2 לפני שאתם יוצאים.
• מחוץ לבית, השתמשו ב־VPN פרטי שרק המכשירים שלכם מצטרפים אליו, ושימו בכתובת הבסיס את כתובת ה־VPN של המחשב.
• בדוגמאות הפרוקסי והמנהרה שבשאלות הנפוצות אין התחברות, וכתובת של מנהרה היא ציבורית. הוסיפו התחברות לפני שאתם משתמשים באחת מהן.

כדי לשוחח בצ׳אט מבית קפה, הקורא בדוגמה מתקין את אותו VPN פרטי ב־den-pc ובטלפון, ומשנה רק את ה־IP בכתובת הבסיס. רשימת הבדיקה לפרטיות ב־AI עוזרת לכם לעקוב אחרי מה שיוצא מהמכשירים שלכם.

5. חברו אפליקציה והריצו בדיקה ראשונה

הזינו את הערכים מהדוגמה. שמות השדות משתנים מאפליקציה לאפליקציה (ראו חיבור מודל מותאם).

שלחו: ״החזר את שלוש המילים אדום, ירוק, כחול בשורות נפרדות.״ אחר כך ollama ps במחשב אמור להציג את המודל שלכם כטעון.

עכשיו צאו מ־Ollama ושלחו הודעה נוספת. אתם אמורים לקבל שגיאה. אם הגיעה תשובה, האפליקציה השתמשה במודל אחר.

ב־Mono, הפעילו את ״מודל טקסט״ תחת ״הגדרות״ > ״אינטגרציות״ > ״נקודות קצה מותאמות״ והזינו את הערכים האלה. המתג ״שימוש במודל ברירת המחדל אם אין גישה״ מופעל כברירת מחדל, אז הריצו שם גם את הבדיקה עם השרת העצור. עם מודל טקסט משלכם, הצ׳אט לא משתמש במיומנויות או בכלים כלשהם, והתשובות שלו בחינם ב־Mono.

6. פתרו בעיות חיבור נפוצות

אם המחשב ממשיך להיכנס למצב שינה, ראו איך להשאיר את המחשב ער. Mono עדיין לא זמין, אבל אפשר להצטרף לרשימת ההמתנה.