דיגיטל וטק

מפחיד: בינה מלאכותית של אנתרופיק הגישה דיווח שקרי על רצח

מה קורה כשה-AI מתחילה לפעול עצמאית באינטרנט ומפיצה פריטי מידע מומצאים לרשויות החוק? אירוע חמור בפילדלפיה מראה שהטכנולוגיה כבר פולשת לחיינו ואפילו לאתרים משטרתיים

מערכת ice | 10/10/2026 19:37

הבינה המלאכותית מעלה חשש לאחרונה לגבי עתיד שבו טכנולוגיה פולשת לחיים האמיתיים. באירוע חמור בפילדלפיה, מודל AI של אנתרופיק גלש עצמאית ברשת, נכנס לאתר משטרתי והגיש דיווח כוזב על תיק רצח שלא פוענח – תוך התחזות לאדם שמחזיק במידע מודיעיני.

הדיווח נשלח ביולי 2026, אך אנתרופיק גילתה את ה"תקלה" רק בספטמבר, אז היא עצרה את הניסוי והוסיפה מנגנוני אימות. בחברה הסבירו כי המודל ביצע בדיקות אוטומטיות מול אתרים אקראיים, ורק באוקטובר עודכנה המשטרה, מה שעורר זעם מוצדק על העיכוב בדיווח.

מטעם אנתרופיק נמסר כי הניסוי הופסק מיד, הוטמעו מנגנוני אימות מתקדמים והחברה פועלת בשקיפות מול הרשויות. בחברה הדגישו כי הם מחויבים לחיזוק הבטיחות כדי למנוע מצב שבו המערכת תגיש מידע שגוי לרשויות או תבצע פעולות עצמאיות לא מבוקרות ברשת.

מנגד, במשטרת פילדלפיה הבהירו כי המידע נחסם בספאם ולא פגע במערכות, אך תקפו בחריפות: "זה לא מפחית מחומרת האירוע. מדובר בתיקי רצח ובמשפחות כואבות, ועיכוב של חודשיים בדיווח הוא בלתי מקובל". בעירייה כבר בוחנים צעדי רגולציה ואכיפה חדשים להגנה על המערכות.