תוכן העניינים
סוכן AI הוא כבר לא רק חלון צ׳אט שמנסח תשובות. כאשר מחברים אותו לדואר הארגוני, למערכת ניהול הלקוחות, ליומן או לכלי הפיתוח, הוא יכול לקרוא מידע, לבחור פעולה ולהוציא אותה לפועל.
זהו שינוי משמעותי: כלי שמציע מה לעשות הופך לכלי שמסוגל לעשות זאת בעצמו.
היכולת הזאת אינה מחייבת לבחור בין פיקוח אנושי על כל צעד לבין מתן שליטה מלאה למערכת. המודל המעשי נמצא באמצע: מאפשרים לסוכן לפעול בחופשיות בתוך גבולות מוגדרים, ועוצרים אותו בנקודות שבהן טעות עלולה להפוך לנזק.
הרגע שבו כלי AI מפסיק לענות ומתחיל לפעול
עוזר AI רגיל יכול לסכם הודעה, להציע תשובה או להסביר כיצד לטפל בתקלה. סוכן AI מסוגל להמשיך משם:
- לקרוא את הפנייה שהתקבלה.
- לזהות את סוג הבקשה.
- לחפש מידע במערכת נוספת.
- לעדכן שדה בכרטיס הלקוח.
- לפתוח משימה לעובד המתאים.
- להכין תשובה ולשלוח אותה, אם הוגדר שמותר לו.
ההבדל אינו רק באיכות המודל. הוא נוצר באמצעות החיבורים וההרשאות שניתנו לו. אותו סוכן יכול להיות כלי עזר זהיר עם גישה לקריאה בלבד, או מערכת בעלת סמכות רחבה לבצע שינויים בעשרות שירותים.
לכן השאלה החשובה אינה אם הסוכן חכם מספיק. צריך לבדוק מה הוא רשאי לראות, אילו פעולות הוא יכול לבצע ומה יקרה כאשר יבחר בדרך הלא נכונה.
ארבע דרגות של עצמאות
לא כל סוכן צריך לקבל אותה רמת חופש. אפשר לחלק את העבודה לארבע דרגות, בהתאם להשפעה של הפעולה וליכולת לבטל אותה.
| דרגה | מה הסוכן עושה | תפקיד האדם | שימוש מתאים |
|---|---|---|---|
| צפייה והמלצה | קורא מידע, מנתח ומציע פעולה | מבצע את הפעולה בעצמו | ניתוח פניות, איתור חריגות וסיכום מידע |
| הכנת פעולה | מכין תשובה, עדכון או משימה | בודק ומאשר לפני הביצוע | מענה ללקוחות, פרסום תוכן ועדכון מסמכים |
| ביצוע מוגבל | מבצע פעולות הפיכות לפי כללים קבועים | מטפל רק במקרים חריגים | מיון פניות, תיוג רשומות ופתיחת משימות |
| ביצוע בעל השפעה | פועל במערכות חיצוניות או משנה מידע חשוב | מאשר בנקודת ההשפעה | רכישות, מחיקות, שינוי הרשאות ושליחת מידע רגיש |
ברוב הארגונים, התועלת הגדולה נמצאת בדרגה השלישית. הסוכן מטפל בעבודה החוזרת ואינו ממתין לאישור על כל פעולה קטנה, אך הגבולות שלו ברורים ומקרים לא צפויים עוברים לאדם.
הדרגה הרביעית אינה צריכה להפוך לברירת מחדל. גם כאשר המערכת מסוגלת לבצע פעולה, אין פירוש הדבר שכדאי לאפשר לה לבצע אותה ללא אישור.
אילו משימות אפשר למסור לסוכן
משימה מתאימה לעבודה עצמאית כאשר היא תחומה, חוזרת על עצמה, ניתנת לבדיקה ואפשר לבטל את התוצאה שלה בלי לגרום לנזק משמעותי.
סוכן יכול, למשל, לעקוב אחר יומני מערכת ולפתוח קריאת שירות כאשר מופיעה תקלה מוכרת. הוא יכול לסווג הודעות נכנסות, לחלץ מהן פרטים קבועים ולעדכן אותם בשדות מוגדרים. אפשר להיעזר בו גם לאיתור רשומות כפולות, הכנת דוחות פנימיים, תזמון משימות והרצת בדיקות בסביבת פיתוח.
בכל המקרים האלה קיימת דרך ברורה לבדוק את התוצאה. אם הסוכן תייג פנייה באופן שגוי, אפשר לשנות את התיוג. אם פתח משימה מיותרת, אפשר לסגור אותה. מחיר הטעות מוגבל והפעולה אינה יוצרת מיד התחייבות כלפי לקוח, ספק או עובד.
עבודה ללא ליווי צמוד אינה עבודה ללא פיקוח. הסוכן אינו זקוק לאדם שמאשר כל שלב, אך הפעילות שלו עדיין נרשמת, נבדקת ונמדדת. כאשר הוא נתקל במקרה שאינו עומד בתנאים שהוגדרו, עליו לעצור ולהעביר אותו לטיפול אנושי.
היכן צריך להציב נקודת אישור
האישור האנושי צריך להופיע רגע לפני הפעולה שקשה לבטל, ולא בתחילת כל תהליך.
אפשר לאפשר לסוכן לאסוף מידע, להשוות אפשרויות ולהכין פעולה מלאה. רגע לפני השליחה, התשלום או השינוי הרגיש, הוא מציג את התוצאה לאישור.
גישה זו מתאימה במיוחד במקרים הבאים:
- שליחת הודעה בשם הארגון ללקוח או לציבור.
- פרסום תוכן באתר או ברשת חברתית.
- ביצוע רכישה, תשלום, זיכוי או החזר.
- מחיקה או החלפה של מידע קיים.
- שינוי הרשאות וגישה למערכות.
- ייצוא מידע אישי או מסחרי.
- קבלת החלטה הנוגעת לעובדים, מועמדים או לקוחות.
- פעולה שיש לה משמעות משפטית, רפואית או פיננסית.
נקודת האישור אינה מעידה שהסוכן נכשל. היא חלק מתכנון נכון של התהליך. הוא מבצע את העבודה המקדימה, ואדם נושא באחריות להחלטה בעלת ההשפעה.
ההרשאה חשובה יותר מרמת התחכום
מודל בינוני עם הרשאת מנהל עלול להיות מסוכן יותר ממודל מתקדם שפועל בקריאה בלבד. ההרשאות קובעות את היקף הנזק האפשרי במקרה של טעות, הוראה לא מדויקת או ניצול לרעה.
סוכן שמטפל בפניות שירות אינו זקוק בהכרח לגישה מלאה לכל תיבת הדואר. סוכן שבודק חשבוניות אינו צריך הרשאה לבצע תשלום. כלי שמעדכן תוכן באתר אינו אמור לקבל יכולת להתקין תוספים או ליצור משתמשי ניהול.
גם המלצות הרשות להגנת הפרטיות לשימוש בטוח בסוכני בינה מלאכותית מדגישות את הצורך בצמצום הרשאות, בהגבלת הגישה למידע ובהיערכות לשחזור המידע במקרה של פעולה שגויה.
בפועל, כדאי להעניק לכל סוכן חשבון שירות נפרד ולהפעיל בו רק את ההרשאות הדרושות למשימה. כאשר אפשר, רצוי להגביל גם את משך ההרשאה, את מספר הפעולות ואת סוג הרשומות שבהן הוא רשאי לטפל.
לא כל טקסט שהסוכן קורא הוא הוראה
סוכן שפועל מול דואר, מסמכים או אתרי אינטרנט נחשף לתוכן שלא נכתב בידי הארגון. בתוך התוכן הזה עלולות להופיע הנחיות שמנסות לגרום לו להתעלם מהכללים שקיבל או לבצע פעולה שאינה קשורה למשימה.
מבחינת הסוכן, ההפרדה בין מידע לבין הוראה אינה תמיד מובנת מאליה. הודעה תמימה לכאורה יכולה לכלול בקשה להעביר נתונים לכתובת אחרת, לפתוח קובץ או להשתמש בכלי נוסף.
מסיבה זו, תוכן חיצוני צריך להיחשב מידע לא מהימן. אין לאפשר לו להרחיב את סמכויות הסוכן, לבחור יעד חדש לשליחת מידע או לשנות את כללי הפעולה. רשימת פעולות מאושרות מראש והפרדה בין קריאה לביצוע מצמצמות את הסיכון.
מה חייב להישאר אחרי שהסוכן סיים
מערכת אוטונומית צריכה להשאיר אחריה יותר מתוצאה סופית. הארגון צריך להיות מסוגל לשחזר את מסלול העבודה:
- איזה מידע התקבל בתחילת המשימה.
- לאילו מערכות הסוכן ניגש.
- באילו כלים הוא השתמש.
- אילו רשומות הוא שינה.
- מדוע בחר בפעולה מסוימת.
- היכן נתקל בשגיאה או בחר להעביר את הטיפול לאדם.
התיעוד מאפשר לבדוק תקלות, לזהות דפוסים ולשפר את הכללים. הוא חשוב במיוחד כאשר התוצאה נראית תקינה, אך הדרך אליה כללה גישה למידע שהסוכן לא היה אמור לראות.
לצד התיעוד נדרש גם מנגנון התאוששות: שמירת גרסאות, גיבוי, אפשרות לבטל פעולות וכפתור עצירה שמנתק את הסוכן מהמערכות במקרה חריג. אם אי אפשר לעקוב אחר הפעולה או להחזיר את המצב לקדמותו, המשימה עדיין אינה מתאימה לעצמאות מלאה.
המעבר לעצמאות צריך להתרחש בשלבים
לפני שמאפשרים לסוכן לבצע פעולה אמיתית, אפשר להריץ אותו על מקרים שכבר טופלו ולבחון אם הגיע לתוצאה הרצויה. לאחר מכן מעבירים אותו למצב צפייה: הוא עובד על מידע עדכני ומציע פעולות, אך אינו מבצע אותן.
השלב הבא הוא פעולה מוגבלת. הסוכן מקבל סמכות לבצע שינוי אחד, הפיך ומוגדר היטב. רק לאחר שנאסף מספיק מידע על טעויות, חריגות וניסיונות פעולה לא צפויים, אפשר להרחיב את התחום.
בכל הרחבה של הסמכות כדאי לבדוק שלוש נקודות:
- האם הסוכן מקבל רק את המידע הנחוץ למשימה?
- האם ניתן לזהות ולבטל כל פעולה שביצע?
- האם קיימת נקודה ברורה שבה הוא עוצר ומבקש אישור?
תשובה שלילית לאחת מהן אינה בהכרח סיבה לוותר על הסוכן. היא סימן לכך שרמת העצמאות שנבחרה גבוהה מדי.
עצמאות היא תוצאה של גבולות
סוכני AI יכולים כבר היום לטפל ברצף של פעולות בלי שאדם ילווה כל לחיצה. הם מתאימים במיוחד לעבודה שחוזרת על עצמה, מתנהלת בתוך כללים ברורים ומשאירה תוצאה שקל לבדוק ולתקן.
הם אינם צריכים לקבל חופש פעולה גורף כדי לחסוך זמן. להפך: סוכן שימושי הוא סוכן שיודע בדיוק היכן מותר לו לפעול, מתי עליו לעצור ולמי להעביר את הטיפול.
המבחן אינו כמה משימות הוא מסוגל לבצע לבד. המבחן הוא אם הארגון נשאר בשליטה גם כשהוא עושה זאת.
