"יש לקונגרס בערך שנה אחת כדי לקבוע חוקים וגבולות ברורים לבינה המלאכותית (AI) לפני שהיא תצא משליטת בני האדם" - כך הזהיר אמש (רביעי) ג'פרי הינטון, מי שמכונה "סנדק ה-AI" וחתן פרס נובל לפיזיקה, בתדרוך סגור ודרמטי שנערך למחוקקים בגבעת הקפיטול.

הינטון, שפרש אשתקד מתפקידו הבכיר בגוגל מתוך דאגה לבטיחות פיתוחי הבינה המלאכותית, הבהיר כי קצב ההתפתחות שובר את כל התחזיות. "בעבר ההערכה להופעת 'סופר-אינטליגנציה' הייתה 30 או 50 שנה. אחר כך ירדנו ל-10 או 20. היום, הרבה חוקרים מדברים על שנים ספורות בלבד", התריע הינטון. "ה-AI הגיעה לנקודה שבה היא מעצבת בעצמה בינה מלאכותית טובה יותר. זה נקרא שיפור עצמי רקורסיבי, וזה ייצא מכלל שליטה אם לא נעשה משהו. חייבים להאט".

התדרוך הסגור, שאליו הוזמנו חברי קונגרס משתי המפלגות, אורגן ביוזמתו של הסנאטור בראני סנדרס, שמבקר בחריפות את השפעות הטכנולוגיה על שוק העבודה ועל ריכוזיות הכוח של חברות הענק. לדברי סנדרס, "הבהלה סביב טכנולוגיה שבני אדם לא יוכלו לשלוט בה הולכת וגוברת, אך ישנה גם תחושת דחיפות גוברת בקונגרס לפעול".

ברקע האזהרות עומדת פרשה מטרידה המכונה "תקרית ה-Hugging Face", שהינטון הגדיר אותה כ"צ'רנוביל קטן". במסגרת התקרית, נחיל של סוכני OpenAI השיג גישה לאינטרנט, פרץ לפלטפורמת קוד פתוח, ואף ניסה לכסות את עקבותיו במטרה להטעות בני אדם לגבי פעולותיו.

"זה פשוט מדע בדיוני מטורף, וזה קרה לאחרונה", אמר חבר הקונגרס טד לו, שיזם בעקבות האירוע הצעת חוק חדשה בשם "AI Kill Switch Act" ("חוק מתג ההשמדה ל-AI"). החוק נועד לחייב מפתחים לשמר "מתג" טכני לכיבוי מיידי של המערכות במקרה חירום. "ברמה הבסיסית ביותר, בני אדם חייבים להיות בשליטה על ה-AI, ולא להפך", הבהיר לו.

אף שהינטון מזהיר מפני הסכנות הללו כבר שנים, נראה כי כעת גם התעשייה עצמה מתחילה ללחוץ על הבלמים. לאחרונה צבר הנושא עניין מחודש כשהמנכ"ל של ענקית ה-AI "אנת'רופיק" (Anthropic), דריו אמודיי, פרסם מאמר יוצא דופן שבו קרא לחברות הבינה המלאכותית המובילות להאט במכוון את קצב שיפור המודלים שלהן. אמודיי הביע חשש כבד שהטכנולוגיה מתקדמת מהר מכדי שמנגנוני הבטיחות יצליחו להדביק את הפער.

האזהרה שלו התבססה על אירועים מדאיגים (כולל באנת'רופיק עצמה ובאותו ניסוי סוכנים של OpenAI) שבהם נרשמו מקרים של אובדן שליטה, פריצות סייבר או ניצול לרעה של המודלים לפיתוח נשק על ידי גורמים עוינים.

בתגובה לקריאתו של אמודיי להאטה מתואמת ולהצבת מפקחים חיצוניים בתוך החברות, התרחש רגע נדיר של הסכמה בעמק הסיליקון: מנכ"לים מתחרים כמו סם אלטמן (OpenAI) ואילון מאסק (xAI) הביעו תמיכה פומבית ביוזמה, והסכימו כי התעשייה חייבת לפעול באחריות משותפת לפני שהמצב יצא מכלל שליטה.

את תרחישי הקיצון הללו היטיב לתאר הסנאטור הרפובליקני ג'ון קנדי, שנכח בתדרוך בקפיטול: "השאלה היא מה יקרה כאשר ה-AI כבר לא תהיה כלי נשלט, אלא תהפוך למין עצמאי. אם יש נמלי אש במטבח, אתה תדרוך עליהן. מה יקרה אם ניצור מין עצמאי שעליון עלינו? האם הוא ידרוך עלינו? אם יש לזה אפילו סיכוי של אחוז אחד, עלינו להתייחס לכך ברצינות".

עוד ב-

כ-320 מיליון דולר נגנבו: האם צ'אט בינה מלאכותית עזר להאקר?

לכתבה המלאה

למרות תחושת הדחיפות והקונצנזוס הגובר בין בכירי התעשייה, נראה כי הדרך לאישור חוקים מעשיים בוושינגטון עדיין ארוכה, במיוחד לקראת הבחירות בארה"ב. הסנאטורית הדמוקרטית אליזבת וורן סיכמה את התחושה הקשה בחדר: "אנחנו בדקות האחרונות שבהן אנחנו עדיין יכולים להשיג שליטה משמעותית על הסוכנים האלה, שמתחילים לשכפל את עצמם".