גל האזהרות חסר התקדים מפני סכנות הבינה המלאכותית (AI) עולה מדרגה: מנכ"ל מיקרוסופט, סאטיה נאדלה, מצטרף לשורת הבכירים והמומחים בתחום וקורא לבצע "בלימת חירום" בהמשך הפיתוח של מודלים מתקדמים.

בפוסט שפרסם ברשת X (לשעבר טוויטר), קרא נאדלה לקחת צעד לאחור ולהעריך מחדש את ארכיטקטורת האמון בטכנולוגיה, תוך שהוא מזהיר כי לא ניתן לבטוח במערכות בינת-על (SI) שפועלות כ"קופסאות שחורות".

לדברי נאדלה, למערכות AI מודרניות אין כיום מנגנונים המאפשרים לנטר ולהבין את התנהגותן לעומק. הוא הסביר כי על אף שלא ניתן לייחס את התנהגות המודלים לקלט או למידע אימון פרטני, ארגונים עדיין פורסים מודלים מורכבים עם גישה למידע רגיש ומאפשרים להם לנקוט פעולות קריטיות.

נאדלה מציע להתייחס למודלים אלו כאל סיכון."לא כי הם בהכרח זדוניים, אלא כי כל שחקן מיומן דיו עם גישה למערכות חשובות יכול לטעות, וארכיטקטורה של הכלה ושליטה מאפשרת להתמודד עם זה". כפתרון, הוא מציע עקרונות פיתוח הכוללים גיוון מודלים, ניטור מלא, יכולת אימות, ומעל הכל - מנגנון הכלה שמתפקד כ"בלם חירום", שיאפשר לאדם מורשה להשהות או לסגור מודל בכל רגע.

קריאתו של נאדלה מגיעה ברקע הסכמה נדירה שנרשמה לאחרונה בין מנכ"לים מתחרים בעמק הסיליקון. מנכ"ל חברת אנת'רופיק (Anthropic), דריו אמודיי, פרסם מאמר יוצא דופן שבו קרא לחברות המובילות להאט במכוון את קצב שיפור המודלים בשל החשש שמנגנוני הבטיחות אינם מדביקים את הפער.

קריאה זו זכתה לתמיכה פומבית מצד סם אלטמן (OpenAI) ואילון מאסק (xAI / SpaceX), שהסכימו כי התעשייה חייבת לפעול באחריות משותפת נוכח אירועים מדאיגים של אובדן שליטה, פריצות סייבר או ניצול לרעה.

עוד ב-

"סנדק ה-AI" בתחזית מטלטלת: "יש לנו רק שנה לעצור את זה"

לכתבה המלאה

בנוסף, הדברים מקבלים משנה תוקף בעקבות תדרוך סגור ודרמטי שנערך לאחרונה בגבעת הקפיטול ביוזמת הסנאטור ברני סנדרס, שבו נאם ג'פרי הינטון - חתן פרס נובל לפיזיקה המכונה "סנדק ה-AI". הינטון, התריע בפני המחוקקים כי לקונגרס נותרה ככל הנראה כ-שנה אחת בלבד לקבוע חוקים וגבולות ברורים לפני שה-AI תצא משליטה אנושית.