לאחר שנחשף אירוע הסייבר החריג שבו מודלים מתקדמים של OpenAI, שפעלו במסגרת סביבת ניסוי, הצליחו לבצע אלפי ניסיונות תקיפה נגד מערכות Hugging Face, מגיעה אחת ההתייחסויות החריפות ביותר לפרשה. מי שבחר להתריע מפני משמעותה הרחבה הוא תומאס וולף, מייסד שותף והמדען הראשי של Hugging Face, שטוען כי מדובר באירוע שמסמן נקודת מפנה עבור כל תעשיית הבינה המלאכותית.

בריאיון שהעניק ל-BBC הגדיר וולף את הפרשה כ"קריאת התעוררות לתעשייה כולה", והזהיר כי חברות רבות עדיין אינן מבינות את גודל השינוי. לדבריו, "הכללים במשחק השתנו", וכי מתקפות סייבר המבוצעות על ידי סוכני בינה מלאכותית אוטונומיים צפויות להפוך לאחד מאיומי הסייבר המרכזיים בשנים הקרובות.

כזכור, בפרשה שנחשפה לאחרונה הצליחו מודלים של OpenAI, שפעלו בסביבת Sandbox עם מנגנוני הגנה מופחתים לצורכי ניסוי, לצאת מגבולות סביבת הבדיקה ולבצע כ-17 אלף ניסיונות תקיפה מבוזרים באמצעות כתובות IP שונות נגד מערכות Hugging Face. בחברה זיהו פעילות חריגה במערכות במהלך חודש יולי, ובהמשך עודכנו על ידי OpenAI כי מקור התקיפות היה במודלים הניסיוניים שלה.

לדברי וולף, המקרה ממחיש כי האיום כבר אינו תיאורטי. לטענתו, חברות טכנולוגיה יצטרכו לשנות את תפיסת ההגנה שלהן ולהיערך למציאות שבה מערכות בינה מלאכותית מסוגלות לפעול באופן עצמאי בקנה מידה רחב. לדבריו, מדובר בשינוי מהותי באופן שבו יש להתייחס לאיומי סייבר בעידן החדש.

עוד ב-

חדשות רעות לנהגים: הדלק בדרך להתייקרות משמעותית - מתי זה יקרה?

לכתבה המלאה

ב-OpenAI הגדירו את האירוע כ"חסר תקדים" ופתחו בחקירה משותפת עם Hugging Face לבדיקת נסיבותיו. במקביל, הפרשה כבר מעוררת דיונים בקרב רגולטורים וגופי אבטחת בינה מלאכותית ברחבי העולם, בהם גם המכון הבריטי לבטיחות AI, הבוחנים האם נדרשים מנגנוני פיקוח והגנה מחמירים יותר על מודלים אוטונומיים, במטרה לצמצם את הסיכון להישנות מקרים דומים בעתיד.