הסתמכות על כלי בינה מלאכותית לצורך קבלת הנחיות טכניות עלולה להפוך לסיכון ממשי, במיוחד בעולם הקריפטו שבו גניבת נכסים דיגיטליים עשויה להיות בלתי הפיכה. מקרה חדש ממחיש כיצד תשובה שנראית אמינה לחלוטין מצ׳אטבוט עלולה להוביל משתמש ישירות למלכודת של תוקפי סייבר.

לפי הדיווח באתר קריפטו ג׳ונגל, יזם ומפתח מוכר בתחום הקריפטו נעזר ב-Claude, מודל הבינה המלאכותית של Anthropic, וקיבל ממנו פקודה וקישור להורדת תוכנה. ההנחיות נראו לגיטימיות, אך בפועל הקישור הוביל לאתר מתחזה שהכיל תוכנה זדונית.

לאחר שהמפתח הפעיל את הפקודה, הרוגלה ניסתה לפעול במחשב ולשאוב מידע שעלול היה לאפשר לתוקפים להשתלט על נכסים דיגיטליים ולגנוב אותם. במקרה הזה, התקיפה לא הסתיימה בגניבה, בעיקר בזכות העובדה שהמפתח זיהה במהירות שמשהו אינו כשורה ופעל מיד.

כדי לצמצם את הסיכון לדליפת מידע, הוא איפס ופרמט את המחשב הנייד לחלוטין. הפעולה המהירה אפשרה לו לקטוע את האירוע לפני שהנזק הפוטנציאלי הפך לאובדן כספי משמעותי.

המקרה מדגיש בעיה רחבה יותר שהולכת ומעסיקה את עולם הטכנולוגיה. כלי AI מסוגלים להפיק קוד, להציע פתרונות ולספק קישורים, אך הם אינם חסינים מפני טעויות, מידע שגוי או הפניה למקורות שאינם בטוחים. כאשר המשתמש מניח שהתשובה נכונה רק משום שניתנה על ידי מערכת מתקדמת, הוא עלול להפוך את הבינה המלאכותית לחוליה נוספת בשרשרת התקיפה.

גם חברות טכנולוגיה ואבטחת מידע, ובהן מיקרוסופט, התריעו על השימוש שעושים גורמים זדוניים באמון הגובר של הציבור במערכות AI. בעולם הקריפטו הסיכון משמעותי במיוחד, משום שנכסים דיגיטליים עלולים לעבור מיד ליד ללא אפשרות פשוטה לביטול עסקה או השבת כספים.

לכן, המסר המרכזי למשתמשים הוא לא להפעיל באופן אוטומטי קוד, להוריד תוכנות או לפתוח קישורים שקיבלו ממודל AI. גם כאשר ההמלצה נראית מקצועית ומדויקת, חשוב לבדוק את מקור הקישור ואת הפקודה באופן עצמאי לפני ביצוע פעולה במחשב.

עוד ב-

אחרי סרטון הצעת הנישואין: כוכבי "האח הגדול" מפרקים את החבילה

לכתבה המלאה

בסופו של דבר, כלל בסיסי באבטחת מידע מקבל כאן חשיבות מחודשת: לא לסמוך באופן אוטומטי, אלא לאמת. בעולם שבו הבינה המלאכותית הופכת לכלי עבודה יומיומי, האחריות לבדוק את המידע לפני שמבצעים אותו נשארת אצל המשתמש.