דיגיטל וטק
בשעת חירום: כך ה-AI הטעה את המשתמשים וכמעט הוביל לאסון?
בזמן שרבים חיפשו מידע על סכנת הצונאמי שאיים על חופי רוסיה, אלפי משתמשים הסתמכו על כלים מבוססי בינה מלאכותית וקיבלו תשובות שגויות. האם גוגל תקח אחריות?
לאחר רעידת האדמה בעוצמה של 8.8 בסמוך לחופי רוסיה בשבוע שעבר, מערכות החיזוי וההתרעות מפני צונאמי פעלו במהירות, אך חלק מהציבור שפנה לכלי בינה מלאכותית קיבל מידע שגוי, כך לפי דיווחים ברשתות החברתיות ובאתר SFGate.
במהלך האירוע, תושבים בהוואי, יפן והחוף המערבי של ארה"ב השתמשו בכלים כמו Google AI Overview כדי להבין אם קיימת סכנת צונאמי. אלא שבמקרים מסוימים, הכלים הציגו מידע שגוי ביחס להתרעות הרשמיות – במיוחד בכל הנוגע למצב בהוואי. הביקורת הופנתה במיוחד לגוגל, לאחר שמשתמשים ניסו לקבל תוצאות מה-AI באמצעות הוספת AI+ למילות החיפוש.
בתגובה לפניות, צ'אטבוט הבינה המלאכותית Grok, של חברת xAI, אף הבהיר ב-X כי "ישפר את הדיוק", אך המקרה מעלה שאלות קריטיות בנוגע לאחריותן של חברות טכנולוגיה כשהציבור מסתמך על תוצאות חיפוש בזמן אמת במצבים רגישים ובעלי פוטנציאל קטלני.
עוד ב-
למרבה המזל, במקרה הנוכחי האיום התפוגג בתוך שעות מבלי שגרם לנזקים כבדים. עם זאת, המקרה מדגיש את הסיכון שבשימוש בכלים AI בעת חירום – במיוחד כאשר הציבור מתבסס עליהם כתחליף למידע רשמי.
הכתבות החמות
תגובות לכתבה(0):
תגובתך התקבלה ותפורסם בכפוף למדיניות המערכת.
תודה.
לתגובה חדשה
תודה.
לתגובה חדשה
תגובתך לא נשלחה בשל בעיית תקשורת, אנא נסה שנית.
חזור לתגובה
חזור לתגובה
