מחקר חדש שנחשף בארה"ב על ידי חוקרי הסייבר הישראלים דן לסקר, אריאל סימון ונאור חזיז, יוצאי יחידות מודיעין מובחרות בצה"ל, מצביע על שיטת הונאה חדשה שמנצלת את האמון הגובר של הציבור במנועי בינה מלאכותית. לפי המחקר, משתמשים רבים מקבלים את התשובות שמציגים להם מנועי AI כאמת מוגמרת, מבלי לבדוק את המידע במקור נוסף: מצב שעלול לאפשר להאקרים לבצע הונאות כספיות.

המחקר מצביע על כך ש-92% מהמשתמשים אינם מאמתים את התשובות שהם מקבלים ממנועי הבינה המלאכותית. התוקפים מנצלים את ההרגל הזה באמצעות קמפיינים אוטומטיים המבוססים על GEO - Generative Engine Optimization, שיטה שמטרתה להשפיע על המידע שמנועי AI מציגים למשתמשים, בהם ChatGPT, Gemini ו-Google AI Overview.

במקום להפיץ ספאם באופן ישיר, ההאקרים מנסים להחדיר לרשת מידע שנראה אמין. בין היתר, הם שותלים מספרי טלפון הכוללים אימוג'ים ותווים מיוחדים מסוג Unicode. לפי המחקר, מנועי הבינה המלאכותית עלולים לקרוא את המידע הזה ולהציג אותו למשתמשים כמספר טלפון רשמי.

התרחיש פשוט יחסית: צרכן מחפש מידע לגיטימי, למשל את שעות הפעילות של סניף בנק או דרך לביטול טיסה. מנוע ה-AI מציג לו מספר טלפון שנראה רשמי, והצרכן מתקשר אליו. אלא שבצד השני ממתין מוקד שמתחזה למוקד השירות הרשמי. המוקד עשוי להציע לבצע עבור הלקוח פעולות לגיטימיות, אך לגבות עבורן עמלות ומחירים גבוהים במיוחד.

לפי המחקר, המערכת שפיתחו החוקרים איתרה עד כה מתקפות פעילות נגד 374 מותגים בינלאומיים מוכרים. בין החברות שנפגעו נמצאות חברות התעופה דלתא, לופטהנזה, יונייטד, אמירייטס וקטר איירווייז, לצד פלטפורמות תיירות כמו Airbnb ו-TripAdvisor ובנקים כמו Chase, Citi ו-Wells Fargo.

הבעיה אינה מסתיימת בפרסום של מידע מזויף. לפי החוקרים, אלפי פרסומים זדוניים עולים מדי יום לאתרים ממשלתיים, אקדמיים בעלי סיומת .edu ולרשתות חברתיות. גם כאשר תוכן כזה מוסר מהרשת, עותקים שלו עשויים להישאר בארכיונים כמו archive.org ולהמשיך להזין את מנועי הבינה המלאכותית. כך, הסרת התוכן המקורי לא בהכרח פותרת את הבעיה.

הדו"ח מצביע גם על פער באחריות בין החברות שנפגעות לבין ענקיות הטכנולוגיה. החברות המותקפות טוענות כי מאחר שהשרתים הפנימיים שלהן לא נפרצו, אין מדובר באחריותן לטפל במספרים המזויפים שמופיעים ברשת.

גם בגזרת ענקיות הטכנולוגיה, החוקרים מתארים קושי בקבלת אחריות. לדבריהם, גוגל השיבה כי דיסאינפורמציה או מידע מטעה שנוצר באמצעות AI מוגדרים מחוץ לתחום במסגרת תוכנית חשיפת החולשות שלה. ב-OpenAI, לפי הדו"ח, הדיווח נסגר בטענה שלא ניתן לשחזר את הממצאים באופן עקבי משום שתשובות של מודלי שפה עשויות להשתנות מחיפוש לחיפוש. זאת, לטענת החוקרים, אף שהוצגו הוכחות להונאות פעילות.

עוד ב-

חיים לוינסון חושף: המחדל החמור בתאגיד השידור

לכתבה המלאה

דן לסקר, חוקר חולשות סייבר ושותף במחקר, מסביר את הבעיה: "אנשים למדו להיזהר מקישורים חשודים באימייל או בסמס, אבל כשמספר טלפון מוגש להם כעובדה ישירות מתוך מנוע ה-AI וחוזר על עצמו בכמה מקורות, הוא נתפס כאמין לחלוטין. החברות עצמן משקיעות מיליארדים בהגנה על השרתים שלהן מפני פריצות, אך התופעה הזו מוכיחה שזה כבר לא מספיק. כל עוד ענקיות הטכנולוגיה מסרבות להכיר בדיסאינפורמציה של AI כחולשת אבטחה לכל דבר, הצרכנים נשארים נטולי הגנה לחלוטין. זהו הפער המערכתי שאנחנו פועלים לסגור כיום."