הבינה המלאכותית אינה רק משפרת תהליכים, היא משנה את מנגנון קבלת ההחלטות עצמו. הדור החדש של מערכות Agentic AI (סוכני AI) אינו מסתפק בניתוח נתונים או בהפקת תובנות. מערכות אלו מקבלות יעדים, מתכננות את הדרך להשגתם, מפעילות כלים ופועלות בזמן אמת מול לקוחות, שווקים ומערכות ליבה. כאשר שכבת קבלת ההחלטות הופכת בחלקה לאוטונומית, הסיכון משתנה באופיו: מארגון המתמודד עם פוטנציאל לטעויות נקודתיות, לארגון החשוף להתנהגות מערכתית הפועלת במהירות ובהיקף שאינם אנושיים.

הפוטנציאל העסקי משמעותי. סוכנים אוטונומיים מאפשרים שיפור בפריון, קיצור זמני תגובה והפחתת עלויות תפעול. עבור ארגונים פיננסיים, המשמעות היא קבלת החלטות מהירה ומדויקת יותר וזיהוי מוקדם של סיכונים. בעולם של תחרות גלובלית, מחסור בכוח אדם וציפיות גבוהות מצד לקוחות, מדובר במנוע צמיחה מהותי.

אך לצד קפיצת היעילות מתרחש שינוי עמוק בפרופיל הסיכון. הסיכון המרכזי אינו עוד הטעות הבודדת, אלא ההצטברות, ההיקף והמהירות. כאשר מערכת אוטונומית מחוברת למערכות ליבה ומבצעת פעולות רבות ביום, כשל נקודתי עלול להפוך במהירות לאירוע תפעולי, פיננסי או מוניטיני רחב. החלטות סבירות ברמת המיקרו עלולות ליצור חשיפה משמעותית ברמת המאקרו. הסיכון עובר מניהול שגיאות לניהול דינמיקה מערכתית.

מכאן גם הממד המערכתי. ככל שארגונים נשענים על מודלים דומים, מקורות מידע משותפים ותשתיות מרכזיות, עולה הסיכון להתנהגות אחידה ולתגובות דומות למצבי לחץ. בעולם של קבלת החלטות אוטומטית ומהירה, דינמיקה כזו עלולה להעצים תנודתיות ולהפעיל מנגנוני הדבקה בין מוסדות ושווקים. במצבים כאלה, אירוע מקומי עלול להתפתח במהירות לאירוע פיננסי רחב דרך פגיעה באמון ותגובת שוק מואצת. במערכת פיננסית, פגיעה באמון מתורגמת במהירות לעלייה בפרמיית הסיכון ולשינוי בתנאי המימון.

במציאות הזו, האתגר הניהולי אינו רק שליטה בסיכון הקיים, אלא גם ערנות לאפשרות של שינוי במאפייני הסיכון. כאשר המהירות, ההיקף והתלות בתשתיות משותפות גדלים, נקודות מפנה עלולות להופיע במהירות ולעיתים ללא סימנים מוקדמים.

האתגר מתחדד לנוכח מאפיין נוסף של מערכות לומדות באופן שהן משתנות לאורך זמן. עדכון מודלים, שינוי בנתונים או אינטראקציות מצטברות עשויים לשנות את דפוסי הפעולה, ולעיתים באופן שקשה לחזות מראש. הסיכון, אם כן, אינו סטטי אלא דינמי, ולעיתים מתרחב גם ללא החלטה מודעת של ההנהלה.

לכן, אימוץ סוכני AI אינו פרויקט טכנולוגי אלא החלטה ברמת ניהול הסיכונים והמשילות הארגונית. בראש ובראשונה נדרשת הגדרה ברורה של תיאבון הסיכון לאוטונומיה. אוטונומיה אינה מצב בינארי אלא רצף, ומכאן יש להחליט היכן ניתן לאפשר פעולה עצמאית מלאה, היכן נדרש אישור אנושי, והיכן נכון להסתפק בהמלצה בלבד.

ככל שהאוטונומיה מתרחבת, כך האחריות הניהולית גדלה. בתהליכים מהותיים נדרש מנגנון של Human in the Loop או לפחות Human on the Loop. במקביל, מוקד הבקרה עובר משלב ההטמעה לניטור מתמשך בזמן אמת, הכולל מדדי ביצוע וסיכון, מערכות התרעה ויכולת התערבות מהירה. גם יכולת עצירה והתאוששות באמצעות מגבלות פעולה ובלמי חירום היא תנאי לשליטה.

ככל שהשימוש במערכות אוטונומיות מתרחב, מתחדדת גם שאלה רחבה יותר לגבי יכולתם של מנגנוני השוק לייצר משמעת מספקת. כאשר הסיכונים מהירים ומתואמים, תגובת השוק עלולה להגיע באיחור או בעוצמה. במצבים כאלה, עשויה להידרש בחינה של מסגרות אסדרה, חקיקה ואכיפה, במיוחד כאשר ה"יד הנעלמה" מתקשה להתמודד עם דינמיקה של מהירות ופוטנציאל הדבקה.

לצד הסיכונים, חשוב גם לזכור כי אוטונומיה תפעולית היא גם מנוע לצמיחה, ליעילות ולהאצת קבלת החלטות. אולם בעולם שבו חלק ממנגנון קבלת ההחלטות פועל באופן עצמאי, היתרון התחרותי לא יהיה רק במהירות האימוץ, אלא בדגש על איכות השליטה. ארגונים שיידעו לשלב חדשנות עם משמעת ניהולית יוכלו ליהנות משיפור בביצועים ובפריון לצד חוסן ארגוני גבוה יותר. בסופו של דבר, איכות הניהול תבוא לידי ביטוי ביציבות ובפיתוח הפעילות, בתפיסת הסיכון של הארגון ובעלות ההון שבה הוא פועל.

עוד ב-

אסטרטגיית ה"טירוף": איראן מהמרת על כלכלת העולם

לכתבה המלאה

*הכותב, יאיר אבידן, הוא דירקטור ופעיל חברתי. לשעבר המפקח על הבנקים ומנהל סיכונים ראשי בקבוצה בנקאית.