איך משגיחים על צוות של סוכני AI

בריפא עובדים היום עשרות סוכני AI לצד הצוות האנושי. כותבים, מסכמים, בודקים, מכינים טיוטות.

שנים אני מלווה חברות גדולות ומפעלי תעשייה בניהול אנשים ותהליכים. ועדיין, הסוכנים לימדו אותי שיעור חדש. מהר מאוד גילינו שהשאלה הקשה היא לא "מה הסוכן יודע לעשות". השאלה הקשה היא: איך אני יודע מה הוא עשה בפועל?

🧭 סוכן הוא לא תוכנה רגילה

תוכנה רגילה עושה אותו דבר בכל פעם. סוכן מקבל משימה, מחליט לבד איך לבצע אותה, ומדווח. ולפעמים הדיווח נשמע מצוין, והעבודה לא נעשתה. לא מתוך רוע. פשוט כי הוא בדק משהו קרוב, ולא את הדבר עצמו.

מי שניהל פעם צוות של אנשים מכיר את זה מהמפעל: "טיפלתי" זה עוד לא "נגמר". ההבדל הוא שסוכנים עובדים מהר יותר ובכמויות גדולות יותר, אז גם הטעויות מצטברות מהר יותר.

החברות הגדולות פותרות את זה במוצר. עסק קטן לא צריך לחכות למוצר. אצלנו התגבשו חמישה הרגלים. כל אחד מהם פשוט, וביחד הם עושים את רוב העבודה.

1️⃣ שורת-דופק בסוף כל תשובה

כל סוכן אצלנו חותם כל תשובה בשורה אחת קבועה: מי אני, מה עשיתי, מתי, וכמה מקיבולת העבודה שלי כבר מלאה.

זה נשמע טכני, אבל זה בדיוק כמו עובד שאומר בסוף משימה "סיימתי, אני עובר לדבר הבא, ואני כבר קצת עייף". בשנייה אחת אני יודע מי מדבר, אם המידע טרי, ואם הגיע הזמן לרענן אותו. כי סוכן שהזיכרון שלו מתמלא עובד פחות טוב, בדיוק כמו אדם בסוף משמרת כפולה.

2️⃣ טבלת פתוחים שמחשבת, לא זוכרת

כל סבב עבודה מתחיל בטבלה אחת: מה פתוח, מה נכנס מאז הפעם הקודמת, ומה נסגר. והטבלה נספרת מחדש בכל פעם. לא מועתקת מאתמול.

למה זה חשוב? כי מספר שעובר מיד ליד מתיישן. "נשארו שלוש משימות" שנכתב אתמול כבר לא נכון היום. כשסופרים מחדש, רואים מיד אם הצוות סוגר יותר ממה שנכנס, או שהערימה רק גדלה.

3️⃣ לכל סוכן תיבה, ושתיקה היא לא סטטוס

לכל סוכן אצלנו יש תיבה אחת שאליה מגיעות המשימות. וכל משימה מקבלת תשובה: קודם "קיבלתי", ואחר כך "בוצע", או "תקוע, ומחכה ל...". עם שם ועם סיבה.

שתיקה היא לא סטטוס.

אם לא שמעתי כלום, אני לא מניח שהכול בסדר. אני מניח שאני לא יודע. זה ההבדל בין צוות שמנהלים לבין צוות שמקווים לגביו.

4️⃣ מה שאי אפשר להחזיר, בן אדם מאשר

סוכנים אצלנו עושים הרבה לבד, וזה בסדר. אבל כל פעולה שאין ממנה דרך חזרה, כמו לשלוח משהו ללקוח, למחוק, לשלם או לשנות משהו שכבר עובד, מחכה לאישור של בן אדם. אישור כתוב, במילה. לא משהו שהסוכן הסיק מההקשר.

זה לא חוסר אמון. זה אותו היגיון שבגללו בעסק מסודר יש שתי חתימות על צ'ק גדול.

ויש פה עוד יתרון שלא ציפיתי לו. כשהגבול ברור, אפשר לתת לסוכן לעבוד בחופשיות על כל השאר. אני לא צריך לעבור על כל טיוטה ועל כל סיכום. אני צריך להיות זמין בדיוק ברגעים שבהם יש מה להפסיד. זה חוסך לי זמן, ולא מוסיף לי עבודה.

5️⃣ וי ירוק בלי סיבה הוא וי שקרי

זה ההרגל שהכי קשה להטמיע. סוכן מדווח "האתר עלה ✅". אבל מה הוא בדק? לפעמים מתברר שהוא בדק שהשרת עונה, ולא שהעמוד שהלקוח רואה באמת עובד. הבדיקה עברה. המטרה לא.

לכן הכלל אצלנו: כל סימון ירוק בא עם הסיבה. לא "עובד", אלא "פתחתי את הקישור מהטלפון, מילאתי את הטופס, וההודעה הגיעה". ובדיקה צריכה לגעת בדבר האמיתי, לא במשהו שעומד לידו.

🛠️ איך מתחילים מחר בבוקר

לא צריך לבנות מערכת. אפשר להתחיל בשלושה צעדים קטנים, גם עם סוכן אחד:

1️⃣ תוסיפו להנחיות של הסוכן משפט אחד: "בסוף כל תשובה כתוב שורה אחת: מה עשית, מתי, ומה עדיין פתוח". זה הכול. מהיום יש לכם יומן.
2️⃣ תכתבו רשימה קצרה של מה שאסור לו לעשות לבד. שליחה ללקוח, מחיקה, תשלום. כל דבר ברשימה עובר דרככם.
3️⃣ פעם בשבוע, תבדקו בעצמכם וי ירוק אחד. תבחרו דיווח אחד של "בוצע", ותפתחו את הדבר האמיתי. תתפלאו כמה תלמדו מזה.

אחרי חודש כזה, תדעו על הסוכן שלכם יותר ממה שרוב העסקים יודעים על שלהם.

🏢 למה זה נוגע גם לעסק שלכם

אולי אתם חושבים: "יש לי סוכן אחד שעונה ללקוחות בוואטסאפ, זה לא בשבילי". דווקא עכשיו זה הזמן. ההרגלים האלה זולים כשיש סוכן אחד, ויקרים מאוד כשיש עשרה ואף אחד לא זוכר מי עושה מה.

כל עסק שמכניס סוכנים יגיע לשאלה הזו. השאלה רק אם הוא יגיע אליה לפני הטעות הראשונה, או אחריה.

גם הענקיות כבר בונות לזה מוצרים. גוגל, למשל, השיקה לאחרונה שירות שמזהה כשסוכן AI מתנהג חריג. המוצרים האלה יהיו טובים, ושווה לעקוב אחריהם. אבל מוצר לא מחליף משמעת. מי שלא יודע היום מה הסוכן שלו עשה אתמול, לא יידע את זה גם עם דשבורד יפה.

📌 שלושה דברים לקחת איתכם

✅ לבדוק השבוע

מכניסים סוכני AI לעסק?

אנחנו משגיחים כל יום על צוות סוכנים משלנו. אשמח לשבת איתכם, לראות מה כבר רץ אצלכם, ולבנות יחד השגחה שמתאימה לגודל של העסק. בלי מוצר יקר, עם הרגלים שעובדים.

לשיחה עם יניב

או לכרטיס הביקור הדיגיטלי שלי

מקור: Google Cloud · Agent Anomaly Detection (תיעוד של גוגל; השירות פועל בתוך פלטפורמת הסוכנים שלה).
התמונות באיור נוצרו בבינה מלאכותית.