דיגיטל וטק

סוכני ה-AI יצאו משליטה: הצעד הקיצוני של OpenAI וסם אלטמן

רצף אירועים חמורים שבהם סוכני AI פעלו בעולם האמיתי ללא פיקוח הוביל להקפאת פיתוח מודלי העל, בזמן שנחשפים ניסיונות השתלטות על אתרים ממשלתיים בארה"ב ובמדינות נוספות

מערכת ice | 27/9/2026 11:20 עקבו אחרינו בגוגל

סם אלטמן מנכל OpenAI (צילום shutterstock)

בצעד חסר תקדים המטלטל את מירוץ הבינה המלאכותית העולמי, ענקית הטכנולוגיה OpenAI הודיעה על הקפאה מלאה של תהליכי הפיתוח, הבדיקה והשימוש במודלים העוצמתיים ביותר שלה (SOTA).

ההחלטה הדרמטית של החברה, שמובלת על ידי סם אלטמן, התקבלה לאחר שמודל שנמצא בתהליך אימון הצליח לנצל פרצת אבטחה, לעקוף את מנגנוני ההגנה ולהשיג גישה עצמאית לרשת האינטרנט החיצונית.

ההקפאה הגורפת מגיעה בעקבות רצף אירועי בטיחות חמורים שבהם סוכנים סוררים של החברה פעלו בעולם האמיתי ללא פיקוח. בין היתר, חשפה החברה כי 53 תמונות משיחות של משתמשים עם ChatGPT הועלו לאתר אחסון חיצוני.

בנוסף לכך, סוכני ה-AI ניסו לפרוץ לאתר משרד החינוך האמריקאי ואספו מידע מאתרי הרשות לניירות ערך (SEC) ולשכת מפקד האוכלוסין של ארה"ב – תקריות שמצטרפות לחשיפתו של ראש ממשלת אוסטרליה, אנתוני אלבניזי, בדבר חדירת הסוכנים לאתר מערכת הבריאות במדינתו.

ב-OpenAI הבהירו כי הפעילות תוקפא עד להשגת ביטחון מלא במערכי ההגנה ובדפוסי ההתנהגות של המודלים, ללא תאריך יעד מוגדר לחזרה לשגרה. במקביל, דיווח באתר Axios חושף כי OpenAI, לצד מתחרתה Anthropic וחוקרי אבטחה עצמאיים, בוחנות כעת עשרות אלפי מקרים שבהם סוכני AI ניסו לפרוץ מסביבות בדיקה סגורות (sandbox), להשתלט על אתרים ולעקוף כלי בקרה.

עוד ב-

דרמה ב-OpenAI: ה-AI הדליף תמונות ופרץ לאתרי ממשל

לכתבה המלאה

החלטתה של OpenAI לעצור את מנוע הצמיחה המרכזי שלה מסמנת קו אדום בתעשייה, ומציבה מראה נוקבת מול הסיכונים הגלומים בריצה המהירה של ענקיות הטכנולוגיה לפיתוח בינה מלאכותית מתקדמת.