חברת המשחקים הפופולרית Roblox, המפעילה פלטפורמת משחקים מקוונת עם יותר מ-100 מיליון משתמשים ביום, הודיעה כי תפתח את כלי ה-AI שלה, Sentinel, לשימוש חופשי לכל חברה המעוניינת בו. הכלי נועד לאתר בזמן אמת שיחות בעייתיות בצ'אט, כולל ניסיונות חיזור מסוכנים מצד מבוגרים כלפי קטינים, ולהתריע לפני שהמצב מחמיר.

בניגוד למסנני מילים רגישות רגילים, Sentinel מזהה דפוסים לאורך זמן ומנתח את התפתחות השיחה כדי לאתר סימנים עדינים להתנהגות חשודה. בחצי השנה הראשונה של 2025, המערכת סייעה למתנדבי החברה לדווח על כ-1,200 מקרים למרכז הלאומי האמריקני לאיתור ילדים נעדרים ונפגעי ניצול מיני. הקוד הפתוח של הכלי יאפשר גם לפלטפורמות קטנות, כמו משחקי אינדי, וגם לענקיות כמו מיינקראפט, להטמיע מערך הגנה דומה.

לצד היתרונות, השימוש בכלי מעורר גם שאלות מורכבות, בעיקר סביב פרטיות המשתמשים. המערכת סורקת בזמן אמת הודעות בצ'אט, והקוד הפתוח עשוי לאפשר גם לגורמים זדוניים להבין את מנגנוני האיתור ולנסות לעקוף אותם. בנוסף, שינויים מהירים בשפה ובסלנג עלולים לדרוש עדכונים תכופים, שלא לכל חברה יש את המשאבים לבצע.

עוד ב-

פורטנייט במתקפה נגד רשות התחרות: המשחק הפופולרי יחזור לאייפון?

לכתבה המלאה

Roblox נמצאת בימים אלה גם תחת ביקורת ומשפטים הקשורים לאירועים חמורים שקרו בפלטפורמה, בהם מקרה שבו נטען כי קטינה נוצלה מינית לאחר שהכירה אדם מבוגר ממנה דרך המשחק.