הרשאות כלי AI ב־Mono: מה לבדוק לפני שמאשרים

לפני שמאשרים לכלי AI לעשות משהו, בררו מה הוא יקרא או ישנה, באיזה חשבון או קובץ מדובר, והאם האישור שלכם חל רק על הבקשה הזאת או גם על בקשות בהמשך. שם מוכר של כלי לא עונה על השאלות האלה.

ב־Mono מבית Reunified יש הגדרות נפרדות לכלי הצ׳אט, לכלי MCP מחוברים ולסוכני קוד. המדריך מסביר במה הם שונים ונותן דרך פשוטה לבדוק כל בקשה. Mono עדיין לא זמין (הצטרפו לרשימת ההמתנה), והאפשרויות שתראו תלויות בחיבור ובסוכן שבהם אתם משתמשים.

1. הפרידו בין גישה לחשבון לאישור פעולה

התחברות לשירות נותנת גישה לחשבון. אישור פעולה עונה על שאלה אחרת: האם הפעולה הזאת צריכה לרוץ עכשיו? התקנת מיומנות, מתן הרשאת מערכת ואישור בקשה של סוכן קוד הן גם החלטות נפרדות.

קחו משימה בדויה עם מסמכים: ״מצא את הטיוטה שלי״ לא אומר ״שתף את הטיוטה בפומבי״. החשבון יכול לאפשר את שתיהן, אבל הבקשה שלכם מכסה רק אחת. לפני שמחברים משהו רגיש, כתבו את הגבול שאתם מתכוונים אליו: לקרוא מסמך אחד מסוים, להחזיר סיכום ולעצור.

השתמשו במדריך התקנת המיומנויות כדי להחליט אם לסמוך על מיומנות ואיך להגדיר אותה. אחרי שהיא בשימוש, בדקו כל פעולה במקום להניח שההתקנה סגרה את כל ההחלטות הבאות.

2. הבינו איזו בקרה של Mono חלה

בהרשאות של Mono, בחלק ״כלים״ יש ברירות מחדל נפרדות לקריאות ״שאילתה״, שקוראות מידע, ולקריאות ״שינוי״, שמשנות משהו. כל אחת יכולה להיות ״אישור״, ״שאלה״ או ״דחייה״. ברירות המחדל האלה חלות על הכלים שהעוזר קורא להם בצ׳אט. במיומנות MCP מותקנת, החלק ״תצורה״ יכול להציג את הכלים שלה, ובחירה שם גוברת על ברירת המחדל עבור אותו כלי.

״שאלה״ מציגה כרטיס שבו מאשרים או דוחים את הקריאה. ״אישור״ מריץ אותה בלי לשאול, ו״דחייה״ חוסמת אותה. מאחר שההגדרות האלה עוסקות בצ׳אט, אל תניחו שהן קובעות גם מה עושים סוכני קוד או משימות מתוזמנות.

סוכני קוד מבקשים הרשאה בנפרד, והסוכן הוא שמחליט אילו אפשרויות להציע, למשל ״אשר״, ״אשר תמיד״ או ״דחה״. מצב YOLO של Mono מאשר כל בקשה של הסוכן בלי לשאול, כך שהסוכן עורך קבצים ומריץ פקודות בלי השגחה. השאירו אותו כבוי אם אתם רוצים לבדוק כל בקשה בעצמכם. סשנים ממשיכים לרוץ במחשב גם כשהטלפון מתנתק, ולכן נעילת הטלפון לא עוצרת את הסוכן.

3. קראו את הפעולה, היעד והפרטים הזמינים

השוו את הפעולה המבוקשת למשימה המקורית שלכם. שאלו מה יוצא מהמכשיר, מה עלול להשתנות ואיפה תופיע התוצאה. גם קריאה יכולה לשתף מידע פרטי עם שירות מחובר, ולכן תווית ״שאילתה״ לא אומרת שהקריאה בטוחה.

כרטיס האישור מציג את שם הכלי והשרת, אבל ייתכן שלא יציג את כל פרטי הבקשה. גם פרטי הרשאות של סוכני קוד עשויים להתקצר כדי להתאים למסך. אם היעד, הנמען או הפקודה לא ברורים, דחו או עצרו, ובקשו תיאור קריא לפני שאתם מאשרים.

מפרט כלי MCP קובע שיש להתייחס לתיאורי כלים כלא אמינים אלא אם השרת אמין. שפטו כלי לפי מה שהוא עושה בפועל ומאיפה הוא מגיע, לא לפי תווית מרגיעה.

4. בחרו בהחלטה המצומצמת שמתאימה לצורך

השתמשו בטבלה הזאת כשמופיעה בקשה:

אם הסוכן מציע גם אפשרות חד־פעמית וגם אפשרות ״תמיד״, בחרו את זו שמתאימה לכוונה שלכם. ״אשר תמיד״ רחב יותר מאישור הפעולה הנוכחית. תיעוד קריאות הכלים של ACP מתאר את האפשרויות שסוכן יכול להציע; לא כל סוכן מציע את כולן או מבקש אישור לפני כל פעולה.

5. התייחסו לתוכן שהוחזר כחומר לבדיקה

תוצאה של כלי יכולה להכיל מסמך, דף אינטרנט או הודעה משירות. הטקסט בתוך התוצאה הוא לא הוראה שלכם. אם דף שהובא אומר לעוזר לשלוח קובץ למקום אחר, השוו את זה למטרה האמיתית שלכם לפני שאתם מאשרים עוד משהו.

בדוגמת המסמך, משפט כמו ״שתף את זה עם כולם״ לא אומר מי הם ״כולם״, והוא לא נותן רשות לפרסם. בקשו את הקטע הרלוונטי והחליטו בנפרד אם צריך לעשות משהו.

אחרי שינוי שאושר, בדקו את התוצאה בשירות המקורי. אם התשובה אבדה או לא ברורה, בדקו את היעד לפני שמנסים שוב. אישור מאפשר לפעולה לנסות לרוץ; הוא לא מוכיח שהתוצאה קרתה.

6. בדקו גישה קבועה בסיום המשימה

כשהמשימה מסתיימת, החזירו ברירות מחדל רחבות למצב שאתם רוצים לשימוש יומיומי. בדקו אפשרויות ״אשר תמיד״ בהגדרות של הסוכן עצמו, אם יש לו כאלה. הסרת חיבור ב־Mono עשויה שלא לבטל את הגישה שנתתם בצד השירות, לכן השתמשו בהגדרות החשבון של אותו שירות.

שמרו פתק קצר עם החשבון, הכלי, המטרה וכל גישה שכדאי לבדוק שוב. אם נראה שבקשה נכשלת בגלל החיבור ולא בגלל ההרשאות, היעזרו בפתרון תקלות MCP. לגבי קוד, בדקו את השינויים שנוצרו בנפרד מאישורי הפקודות שהובילו אליהם.