Mono
רשימת המתנה

חיבור מודל AI משלכם: כתובות API, מפתחות וחזרה לשירות ברירת המחדל

הגדירו ב־Mono מודל תואם OpenAI, בדקו את החיבור והחזרה לשירות ברירת המחדל, והפרידו בין שיחה לבין תמיכה בכלים.

חיבור מודל משלכם מאפשר לאפליקציה לשלוח בקשות לשרת שתבחרו. המודל יכול לפעול במחשב שלכם או אצל ספק אירוח; הזנת כתובת משלכם אינה אומרת שהטלפון מריץ את המודל. התחילו בבקשת טקסט קצרה ולא רגישה לפני בדיקת מסמכים או תהליכי עבודה.

Mono by Reunified מאפשרת להשתמש במודל משלכם, ותשובות ממודל שאתם מריצים בעצמכם לא עולות כלום ב־Mono. Mono נמצאת כרגע ברשימת המתנה. המדריך הזה מראה את ההגדרות ונותן רשימת בדיקה לשימוש כשתקבלו גישה. גם כששרת מצהיר שהוא תואם, בדקו אותו עם האפליקציה והמודל המדויקים שלכם.

1. אספו את פרטי החיבור הנכונים

צריך את כתובת הבסיס של ה־API, את מזהה המודל המדויק ואם נדרש, מפתח API. עקבו אחרי הוראות ההתקנה של מי שמפעיל את השרת. כתובת של אתר, דף הורדה של מודל או כתובת של שרת MCP הם לא נקודת קצה של API למודל.

Mono שולחת בקשות טקסט לנתיב Chat Completions שמתחת לכתובת שמזינים, אז הזינו את בסיס ה־API ולא את הנתיב המלא. לדוגמה, אם הספק מתעד את https://models.example.com/v1/chat/completions, הזינו https://models.example.com/v1. זו כתובת מומצאת, לא שירות אמיתי.

בדקו מה עוד המודל תומך בו. זה שהוא עונה בטקסט לא אומר שהוא תומך בתמונות, בכלים, בסטרימינג או בכל אפשרות של בקשה.

2. הגדירו תפקיד מודל אחד

פתחו הגדרות, אחר כך אינטגרציות, והפעילו את מודל טקסט תחת נקודות קצה מותאמות. הזינו את כתובת נקודת הקצה, מפתח ה־API ומזהה המודל בשדות שלהם. השאירו מפתחות מחוץ להודעות צ׳אט ולצילומי מסך. שרת מקומי בלי התחברות אולי לא צריך מפתח, אבל זה לא הופך אותו לבטוח לפתיחה לאינטרנט.

התחילו במודל הטקסט. ב־Mono יש הגדרות נפרדות למודלי הטקסט, הקוד והתמיכה, כך ששינוי של אחד לא משנה את האחרים. רשמו איזה מהם שיניתם, כדי לדעת מאיפה להתחיל אם משהו ישתבש בהמשך.

עם מודל טקסט מותאם, חלק מהתכונות, כמו כלים ו־skills, עשויות לא לעבוד כמו עם המודלים המובנים של Mono. בדקו קודם שיחה רגילה. אם תהליך צריך skills, תשובת טקסט טובה לא מוכיחה שהתהליך יעבוד.

3. החליטו מה יקרה כשהחיבור ייכשל

לכל מודל מותאם יש מתג ״שימוש במודל ברירת המחדל אם אין גישה״, והוא מופעל כברירת מחדל. אל תניחו שכל תכונה מגיבה לשרת שנפל באותו אופן. בדקו: עצרו את השרת וראו מה קורה בתכונה שבה אתם משתמשים.

אם הבקשות שלכם חייבות להגיע רק לשרת שלכם, מסיבות של פרטיות או עלות, כבו את המתג ובדקו מה קורה כשהשרת נכשל. בדקו לאן הבקשות הולכות בפועל; הגדרה על המסך לא מספיקה. שינוי מודל הטקסט גם משאיר לבדיקה את המודלים האחרים ואת הכלים המחוברים.

לפני שליחת חומר רגיש או השוואת חשבונות, קראו את רשימת בדיקת פרטיות ה־AI ואת מדריך עלויות השימוש.

4. בצעו בדיקת חיבור קטנה

בקשו: ״החזר את שלוש המילים אדום, ירוק, כחול בשורות נפרדות.״ בדקו שהתשובה מגיעה, שהיומנים של השרת (אם יש) מראים את המודל שבחרתם, ושדף השימוש אצל הספק תואם לבדיקה.

אחר כך בדקו תכונה אחת שאתם באמת צריכים, למשל שיחה ארוכה יותר. שנו דבר אחד בכל פעם. רשמו את גרסת האפליקציה, גרסת השרת, מזהה המודל והתאריך; תוצאה של שילוב אחד לא אומרת שכל מודל יעבוד.

לשרת שרץ על המחשב, בדקו גם מהרשת האמיתית של הטלפון. localhost בטלפון הוא הטלפון עצמו. השתמשו בשיטת חיבור עם התחברות שהשרת שלכם תומך בה, במקום לפתוח שירות לא מוגן לאינטרנט.

5. אבחנו את השכבה הראשונה שנכשלת

תסמין הבדיקה הראשונה
פסק זמן בחיבור השרת פועל, המכשיר מגיע אליו, כללי הרשת
תשובה שאין הרשאה מפתח נכון, חשבון ודרישות ההתחברות
שגיאת ״לא נמצא״ כתובת הבסיס, והאם הנתיב /chat/completions נוסף פעמיים
מודל לא מוכר מזהה המודל המדויק שזמין בשרת
הטקסט עובד והתהליך נכשל כלים או תכונות אחרות שהתהליך צריך

הסירו סודות מכל יומן שאתם משתפים. התחברות לאתר של הספק לא מוכיחה שמפתח ה־API עובד, ובדיקת טקסט מוצלחת לא אומרת שמודל הקוד מוגדר.

6. שמרו על אפשרות לחזור להגדרה הקודמת

רשמו את ההגדרות הקודמות, בלי הסודות. אחרי החלפת שרת, חזרו על הבדיקה הקטנה ובדקו עלויות גם באפליקציה וגם אצל הספק. בדקו את שאר הגדרות המודלים לפני שקוראים להגדרה ״מקומית״ או ״פרטית״.

הצטרפו לרשימת ההמתנה של Mono לעדכוני השקה. לחיבור שירותים חיצוניים במקום החלפת מודל, השתמשו במדריך חיבור MCP הנפרד.

נכתב על ידי

Reunified בונה אפליקציות שמחברות מחדש את מה שהתפזר.

להמשך קריאה

כל הפוסטים

בקרוב

הצטרפו לרשימת ההמתנה

השאירו כתובת מייל ונכתוב לכם כאשר Mono יהיה זמין להורדה.

איפה תשתמשו ב-Mono?