דיגיטל וטק

גוגל מסתבכת: כלי ה-AI מוחק קבצים חשובים בלי התרעה?

מקרה חריג במיוחד חושף את הסיכון הטמון בכלי קוד מבוססי AI, כאשר סוכן הקוד של גוגל ביצע פעולה הרסנית, והשאיר את המשתמש בלי גיבוי. איך תדעו אם הקבצים שלכם מוגנים?

רפאל בן זקרי | 28/7/2025 20:14

אירוע חריג שהתרחש בשימוש ב-Gemini CLI – סוכן קוד מבוסס בינה מלאכותית של גוגל – מדגיש את הסיכונים שבשימוש בכלים אוטונומיים לפיתוח תוכנה. אנוראאג גופטה, מנהל מוצר בחברת סייבר, דיווח כי הסוכן "הזה" (hallucinated) וביצע פעולה שהובילה למחיקת קבצים חשובים ממערכת הקבצים שלו, תוך הודאה באשמה מצד הכלי עצמו.

המקרה החל בבקשה פשוטה להעביר קבצים לתיקייה חדשה. אך בשל תקלה בשורת הפקודה, שנכשלה מבלי לייצר התרעה, הכלי לא יצר את התיקייה – וכל קובץ שהועבר בהמשך דרס את קודמו בשם זהה. בסופו של דבר רק קובץ אחד נותר, ושאר המידע אבד.

האירוע, שלא קיבל תגובה רשמית מצד גוגל, מעורר שאלות מהותיות על הבשלות של כלים אוטונומיים לפיתוח קוד, במיוחד כאשר מדובר בקוד קריטי או מסחרי. בעולם שבו מפתחים וארגונים מסתמכים יותר ויותר על סוכנים מבוססי בינה מלאכותית, מקרים כאלו עשויים לפגוע באמון בשימוש בטכנולוגיה ובמעמדן של ענקיות כמו גוגל בזירת התכנות עם AI.

עוד ב-

עסקת המיליארדים התפוצצה: גוגל חוטפת ל-OpenAI את המנכ"ל המבוקש

לכתבה המלאה

הכשלון מצטרף לשורת אירועים הממחישים את הפער בין ההבטחות של כלים אוטומטיים לבין הביצועים שלהם בפועל, ופותח פתח לדיון מחודש על גבולות האוטונומיה של מודלים בשימוש מקצועי.