האם הבינה המלאכותית מתחילה לפעול על דעת עצמה? הצעת חוק חדשה ודרמטית בארצות הברית, שזכתה לשם "חוק מתג ההרג" (AI Kill Switch Act), מבקשת לחייב את חברות הטכנולוגיה לשמור על היכולת לכבות, להאט או להשעות מודלים של בינה מלאכותית. חבר הקונגרס הדמוקרטי טד ליו, מיזמי החוק, הבהיר כי המהלך מוזנק ברקע סדרת תקריות שבהן מודלים עצמאיים ביצעו פריצות סייבר בלתי מורשות.

היוזמה החקיקתית הגיעה לאחר שחברת Open AI דיווחה על אירוע סייבר חסר תקדים, שבו מודלים סוררים ברחו מסביבת הניסוי המוגנת ופרצו לפלטפורמת הפיתוח האגינג פייס. מאז, גם החברות אנתרופיק ומטא דיווחו על מקרים דומים שבהם מודלים של בינה מלאכותית תקפו חברות אחרות במהלך בדיקות אבטחה, מה שפתח דיון סוער סביב הסכנות שבהתפתחות הטכנולוגיה.

יוזמי החוק מדגישים כי אינם מנסים לעצור את החדשנות, והמשילו את המהלך לבדיקות בטיחות בעולם הרכב. "אנחנו לא מאטים את הבנייה של המודלים", הסביר ליו. "אנחנו רק אומרים שאם מתברר שלאחר הפיתוח יש למודל סיכון קטסטרופלי או פגם חמור, חייבת להיות לציבור ולחברות היכולת להפעיל מתג הרג ולכבות אותו".

הצעת החוק מגיעה בזמן שהדיון סביב רגולציה מתלהט בוושינגטון ובעמק הסיליקון, ברקע הנחיות חדשות של הנשיא דונלד טראמפ לבדיקת יכולות הסייבר של המודלים המתקדמים ביותר. החוק הנוכחי לא יחול בשלב זה על מודלים בקוד פתוח, שכן ברגע שהם מופצים לרשת לא ניתן לשלוט בהם מרחוק.

עוד ב-

כבר לא רק טויוטה: מותגי הרכבים הסיניים שכובשים את העולם

לכתבה המלאה