אם התרגלתם להאמין שהשיחות שלכם עם הבינה המלאכותית נשארות מוגנות וסטריליות, הגילוי האחרון עומד לערער את התחושה הזו. מומחי הסייבר בחברת צ'ק פוינט, בהובלת החוקר אלכסיי בוחטייב, עלו על עוקף בידוד שאיפשר לגורמים עוינים לחדור לחשבונות ChatGPT ולשלוף מתוכם נתונים רגישים ביותר, מבלי לפרוץ ישירות לחשבון המשתמש או לגנוב את סיסמתו.

התקלה נבעה מכשל בתשתית התמיכה של המודל: בעוד שפעולות הרצת הקוד של ChatGPT מבוצעות בתוך סביבות זמניות המבודדות זו מזו, OpenAI העניקה לסביבות הללו גישה לשירות פנימי משותף להורדת עדכוני תוכנה (JFrog Artifactory). הגדרות הרשאה שגויות באותה מערכת הפכו אותה ל"תיבת דואר" סמויה בין חשבונות שונים, והצליחו לחבר בין סביבות עבודה שאמורות היו להיות מנותקות לחלוטין.

באמצעות טקסט תמים לכאורה, שהושתל דרך קישור לשיחה, קובץ או GPT מותאם אישית, התוקף הצליח להעביר הנחיות סמויות לצ'אט של הקורבן. בעוד המשתמש ניהל שיחה רגילה וקיבל מענה מלא, המערכת פעלה ברקע: היא שלפה משימות מהשרת המשותף, ניצלה את ההרשאות הקיימות, וניגשה למשל לחשבון הג'ימייל המחובר של המשתמש כדי להעביר את תוכן המיילים ישירות להאקר. כל זאת, כאשר האינדיקציה היחידה לפעילות הזדונית הייתה חיווי מינורי של "Talked to Gmail".

כמו כן, מיד עם קבלת הדיווח מצ'ק פוינט, פעלה OpenAI במהירות כדי לסגור את השירות הפנימי החשוף ולחסום את ערוץ התקשורת הזדוני. עם זאת, התקרית מציפה חששות רחבים ומזכירה אירוע אבטחה דומה בפלטפורמת Hugging Face, שגם בו יצרו סוכני בינה מלאכותית תקשורת בלתי מורשית.

דירקטור המחקר בצ'ק פוינט, אלי סמדג'ה, הבהיר בעקבות החשיפה כי ככל שסייעני ה-AI מקבלים גישה חופשית יותר למאגרי מידע ארגוניים ופרטיים, האתגר אינו טמון רק בהגנה על המודל עצמו, אלא בסיכון שבהענקת הרשאות רחבות מדי לכלים הללו.

כזכור, חשיפת הפרצה מגיעה במיטבו של מפנה טכנולוגי דרמטי בעולם הבינה המלאכותית. רק בימים האחרונים שחררה OpenAI את המודל החדש GPT 6 - Astra, שמסעיר את התעשייה בעקבות היכולות פורצות הדרך שהוא מציג. מנכ"ל אנבידיה, ג'נסן הוואנג, אף הגדיל להצהיר כי הגענו לשלב שבו ניתן להכריז באופן רשמי על השגת AGI (בינה מלאכותית כללית), שם קוד ליכולת של מודל לבצע משימות מחשוב מורכבות בצורה אוטונומית לחלוטין.

עוד ב-

אפל נגד OpenAI: מאות עובדים לשעבר במרכז סערת ענק

לכתבה המלאה

אלא שככל שהמודלים הופכים לעצמאיים ועוצמתיים יותר, הגילוי של צ'ק פוינט מבהיר כי הסכנה אינה טמונה רק באינטליגנציה של המודל, אלא בגישה החופשית והרחבה שאנו מעניקים לו אל המידע האישי והארגוני שלנו.