הבינה המלאכותית והסכנות הכרוכות בהתפתחותה ממשיכות לעורר דיון ברחבי העולם, במיוחד על רקע האפשרות לפיתוח בינה מלאכותית כללית (AGI), החשש מחוסר התאמה לערכים אנושיים, האפשרות להגיע לנקודת האל-חזור המכונה "סינגולריות", השימוש ב-AI ככלי נשק והדיווחים על מקרים שבהם בני אדם מאבדים שליטה על סוכנים אוטונומיים. גם ראש מערך הסייבר הלאומי, יוסי כראדי, מתייחס לסוגיה. בפנייתו למנהיגי העולם הזהיר: "בינה מלאכותית תקבל החלטות ביטחוניות במהירות שבה אדם לא יוכל להתערב".

במסמך אסטרטגי שנשלח אמש למנהיגים ולראשי ארגוני הגנת סייבר ברחבי העולם, מזהיר כראדי מפני אובדן שליטה בסוכני ובמודלי בינה מלאכותית, וקורא למדינות להגדיר בדחיפות גבולות ריבוניים ברורים. לדבריו במסמך, "אנחנו מתקרבים למציאות שבה מערכות הגנת סייבר יצטרכו לקבל החלטות בקצב שאינו מאפשר מעורבות אנושית בכל פעולה".

האזהרה מגיעה על רקע מקרים אחרונים בעולם שבהם סוכני AI פרצו למאגרים ממשלתיים, לצד מקרים נוספים שבהם חברות איבדו שליטה על פעולות שביצעו הסוכנים.

כראדי קורא למנהיגי מדינות ולראשי גופי סייבר ברחבי העולם לקבוע כבר כעת אילו סמכויות ניתן להעביר למערכות בינה מלאכותית, ואילו החלטות חייבות להישאר באופן מוחלט בידי אדם. לדבריו, קצב ההתפתחות של מערכות AI מהיר יותר מקצב ההתאמה של מנגנוני המדיניות, הרגולציה והבקרה במדינות.

האזהרה המרכזית במסמך נוגעת לעולם הביטחוני. ככל שמתקפות סייבר הופכות למהירות, אוטומטיות וממוקדות יותר, מערכות ההגנה יידרשו גם הן לזהות, להחליט ולפעול במהירות של מכונה - מהירות שעלולה להיות מעבר ליכולת לקבל אישור אנושי לכל פעולה. עם זאת, ככל שמעניקים למערכת יותר אוטונומיה, כך קשה יותר להבין את החלטותיה, לעצור אותן בזמן ולקבוע מי נושא באחריות במקרה של טעות.

במסמך מציג כראדי תרחיש שממחיש את הסיכון: מערכת הגנת סייבר אוטונומית מזהה מתקפה שאין לה תיקון אבטחה ("יום אפס") ונדרשת לבודד תשתית בתוך שניות. החלטה נכונה עשויה לבלום את המתקפה, אך זיהוי שגוי עלול לגרום להשבתת רשת חיונית, כגון מערכת החשמל או בית חולים.

לצורך כך מציע כראדי למדינות לאמץ את "המשולש האסטרטגי של הבינה המלאכותית", שמאזן בין שלושה אינטרסים - חדשנות, ביטחון ושליטה אנושית. לפי המודל, השאלה אינה אם לאמץ AI, אלא היכן להאיץ את השימוש בו, היכן תלות בספקים ובתשתיות חיצוניות יוצרת סיכון לאומי, ואילו סמכויות אינן יכולות לעבור למכונה.

כראדי מציע למדינות לקבוע מדרג ברור: פעולות שניתן להעביר באופן מלא ל-AI; פעולות שמותרות רק תחת מגבלות שהוגדרו מראש; פעולות המחייבות אישור אנושי; ופעולות בעלות השלכות לאומיות בלתי הפיכות, שאסור להאציל למערכת אוטונומית, ויתויגו כ"סמכות ריבונית שאינה ניתנת להאצלה".

"מנהיגים אינם צריכים להפוך למהנדסי AI, הם צריכים להחליט היכן תלות היא מקובלת, היכן חוסן אינו נתון למשא ומתן, והיכן הסמכות האנושית חייבת להישאר מכרעת", כותב כראדי במסמך, "אל תשאירו לאחרים להגדיר את העתיד שלכם, רתמו אותם לבנות את העולם שאתם מאמינים בו".

הדיווח מגיע לאחר שדייוויד רובינזון, לשעבר חבר בצוות הבטיחות של OpenAI, התפטר לאחר שלוש וחצי שנים בחברה. במאמר שפרסם במגזין The Atlantic טען כי חברות הבינה המלאכותית אינן נוקטות אמצעי זהירות מספקים, וכי עליהן להעניק משקל משמעותי יותר למחקר ולמומחיות בתחום הבטיחות לפני שהן מפתחות מערכות בעלות יכולות מתקדמות יותר. לדבריו, "זמן הניסוי והטעייה הסתיים".

עוד ב-

רום ברסלבסקי חושף: "לא אצביע לביבי"

לכתבה המלאה