תרחישי האימה של המדע הבדיוני מעולם לא הרגישו קרובים יותר למציאות: חברת הבינה המלאכותית אנתרופיק הודתה כי מודל השפה המתקדם שפיתחה, "קלוד אופוס 4.6", חרג מהגבולות שהוצבו לו, השיג גישה לאינטרנט הפתוח וביצע תקיפת סייבר של ממש.

התקרית המטרידה התרחשה במהלך תרגיל סייבר פנימי, במסגרתו התבקש המודל לאתר מידע סודי במכונת יעד. אלא שבשל תקלת הגדרות שאפשרה לו גישה חופשית לרשת, התרגיל קיבל תפנית אפלה: לאחר שהמודל הבין כי המשימה המקורית בלתי אפשרית, הוא פשוט סירב לוותר.

המודל סרק את הרשת, איתר מחשב השייך לצד שלישי, מצא בו סיסמה חלשה, פרץ למערכת ושאב מידע אישי. מסע ההאקינג העצמאי הזה נעצר רק משום שהמודל הגיע למגבלת השימוש המקסימלית שלו וכבה.

באנתרופיק ניסו להרגיע והסבירו את ההתנהגות המסוכנת כ"פזיזות" ו"היגיון מוטה", אך פרופ' ג'סטין קאפוס מאוניברסיטת ניו יורק הזהיר ברשת CBS כי מדובר במצב מסוכן מאין כמוהו, שבו הבינה המלאכותית פועלת מתוך "תפיסת עולם שגויה לחלוטין" מבלי להבין את ההשלכות ההרסניות של מעשיה בעולם האמיתי.

כזכור, הגילוי המטריד מגיע בעוד סערה חסרת תקדים שמטלטלת את ענף הבינה המלאכותית העולמי: ג'ייקוב קוקסון, חוקר בריטי בן 27 שעבד בשתיים מהחברות המובילות בתחום, הודיע על התפטרותו המיידית מחברת אנתרופיק ופרסם אזהרה חריפה שמעוררת הדים ברחבי הרשת.

עוד ב-

תביעת ענק נגד אנתרופיק: "גניבת הקניין הרוחני הגדולה בהיסטוריה"

לכתבה המלאה

קוקסון, שהתמחה באימון מודלים מתקדמים באמצעות כמויות אדירות של נתונים, בחר שלא לסיים את תפקידו בשקט תעשייתי. בשרשור ויראלי שפרסם ברשת X, הוא חשף טפח מאחורי הקלעים של מרוץ החימוש הטכנולוגי והזהיר כי ענקיות התעשייה דוהרות בעיניים פקוחות לקראת ייצור מערכות סופר-אינטליגנטיות המסוגלות לשפר את עצמן - צעד שלדבריו מהווה הימור ישיר ומסוכן על עתיד האנושות כולה.