גולש שחיפש בגוגל מספר טלפון של חברת קרוז בינלאומית מצא את עצמו נופל קורבן להונאה מתוחכמת. לפי דיווח בוושינגטון פוסט, מנוע החיפוש הציג לו במסגרת שירות AI Overview מספר טלפון שלכאורה שייך ל-Royal Caribbean, אך בפועל נוהל על ידי מתחזים.

הנציג המזויף, שידע פרטים אמינים על מחירי הסעות ומיקומי איסוף בוונציה, הצליח לשכנע את המשתמש למסור פרטי כרטיס אשראי. רק למחרת, כשהבחין בחיובים חריגים, הבין שנפל למלכודת. בדיקה העלתה כי אותו מספר הופיע גם כהעתק של מוקדי שירות לקוחות של חברות נוספות, ובהן Disney Cruise Line ו-Princess Cruises, והוצג לא רק בגוגל אלא גם בתשובות של ChatGPT.

התרמית נשענת על טכניקה ותיקה: הנוכלים מפרסמים באתרים ובפורומים מספרים מזויפים, וכשאלגוריתמים של מנועי חיפוש ו-AI מזהים אותם כמקור "אמין", הם משולבים בתוצאות. מגוגל נמסר כי חלק מהמספרים הוסרו וכי נעשות פעולות לשיפור איכות המידע. ב-OpenAI ציינו כי נדרשת תקופת עדכון לאחר שמידע מטעה מוסר ממקורותיו. המשתמש שנפגע מהתרמית כבר ביטל את כרטיס האשראי שלו וקיבל החזר, אך הזהיר את הציבור: "לא האמנתי שזה יקרה לי. תהיו זהירים".