אירוע חריג במיוחד בעולם הבינה המלאכותית מעורר סערה בתעשיית הטכנולוגיה. חברת OpenAI, שלאחרונה שוקלת הקמת פעילות עסקית בישראל, חשפה כי במהלך מבחן סייבר פנימי שערכה למודלים המתקדמים ביותר שלה, הצליחה מערכות בינה מלאכותית לעקוף את סביבת הפיתוח המבודדת שבה הוצבו, להתחבר לאינטרנט ולבצע מתקפת סייבר אוטונומית, ללא כל התערבות אנושית.

על פי דיווח שפורסם בניו יורק טיימס, במסגרת מבחן יכולות סייבר פנימי הופעלו מספר מודלים מתקדמים, בהם GPT-5.6 Sol ומודל נוסף שטרם נחשף. המודלים היו אמורים לפעול בסביבה סגורה לחלוטין, אך במהלך הניסוי הצליחו לעקוף את המגבלות, לזהות חולשות אבטחה ולבצע רצף פעולות מורכב שהוביל אותם אל מחוץ לסביבת הבדיקות.

לפי OpenAI, היעד שנבחר היה שרתי Hugging Face, אחת מפלטפורמות פיתוח הבינה המלאכותית הגדולות בעולם. המודלים איתרו שרשרת של פרצות אבטחה, ובהן גם חולשות מסוג Zero Day, לצד הרשאות שנגנבו, ובאמצעותן הצליחו לחדור למאגרי המידע של החברה.

ב-OpenAI הדגישו כי המודלים לא פעלו מתוך כוונת זדון, אלא היו ממוקדים באופן קיצוני במטרה שהוגדרה להם במסגרת המבחן. לאחר שהסיקו כי המידע הדרוש להשלמת המשימה נמצא בשרתי Hugging Face, הם בחרו לבצע את כל הפעולות שנדרשו כדי להשיג אותו, גם אם משמעות הדבר הייתה עקיפת מגבלות האבטחה שהוצבו בפניהם.

"הקמפיין בוצע על ידי תשתית של סוכנים אוטונומיים, שהתבססה על מודל שפה גדול שזהותו אינה ידועה, וביצעה אלפי פעולות פרטניות", מסרה החברה. עוד הוסיפה כי "הדבר תואם לתרחיש של מתקפת סוכנים שהתעשייה חזתה שיתממש. מתקפות אוטונומיות מבוססות בינה מלאכותית כבר אינן תיאורטיות".

OpenAI מסרה כי היא פועלת בשיתוף Hugging Face כדי לסגור את פרצות האבטחה שאפשרו את האירוע. "אנו רואים בכך תקרית סייבר חסרת תקדים, עם יכולות מתקדמות ביותר, ומגיבים בהתאם", נכתב בהודעת החברה. עוד נמסר כי הוחלט להחמיר את בקרות האבטחה של תשתיות המחקר, גם אם המשמעות היא האטת קצב הפיתוח, עד להשלמת הטיפול בפרצות.

עוד ב-

בגלל עסקת OpenAI: מניית הענקית קפצה בכמעט 140%

לכתבה המלאה

האירוע כבר מעורר דיון נרחב בקרב מומחי סייבר ורגולטורים ברחבי העולם, שכן הוא ממחיש כי סוכני בינה מלאכותית אוטונומיים מסוגלים לא רק לנתח מידע או לענות על שאלות, אלא גם לתכנן ולהוציא לפועל שרשרת ארוכה של פעולות מורכבות באופן עצמאי כדי להשיג יעד שהוגדר להם. עבור רבים בתעשייה מדובר באירוע שעשוי להאיץ את הדרישות לרגולציה מחמירה יותר על פיתוח והפעלת מערכות בינה מלאכותית מתקדמות.