מדדים ומחקרים

הקופסא השחורה: חוקרים ניבוי התאבדויות בקריפטו בעזרת AI

מחקר ישראלי בחן כיצד אלגוריתם יכול לזהות סימני סיכון בשיחות עם מוקד סיוע, עוד לפני שהשיחה מסתיימת. אילו מילים עשויות להדליק נורה אדומה, והאם אפשר לסמוך על מערכת שלא תמיד ניתן להבין את החלטותיה?

עקבו אחרינו בגוגל

יוסף דולגופולסקי | 6/11/2026 7:16

בזמן שאדם פונה בצ'אט למוקד סיוע נפשי, כל הודעה עשויה להכיל מידע חשוב על מצבו. אלא שמי שמקבל את ההודעות הוא לעיתים מתנדב שצריך להבין במהירות את המצוקה, לזהות סימני סכנה ולהחליט כיצד להגיב.

מחקר שפורסם בפברואר 2024 בכתב העת "התנהגות אובדנית והתנהגות מסכנת חיים" בחן כיצד בינה מלאכותית יכולה לסייע במשימה הזאת, באמצעות שילוב של למידת מכונה עם ידע פסיכולוגי. המחקר התבסס על שיחות ממוקד הסיוע המקוון הישראלי סה"ר, שנאספו בין 2017 ל־2021.

החוקרים ניתחו 17,654 שיחות ופיתחו מודל בשם SR-BERT, שנועד לזהות שיחות שבהן הופיעו ביטויים המעידים על מחשבות אובדניות. במקום לחפש רק מילים שליליות, המערכת שילבה מידע על גורמי סיכון פסיכולוגיים עם ניתוח השפה וההקשר של השיחה.

כך, למשל, היא ניסתה לזהות ביטויים המצביעים על חוסר תקווה או על תחושה שאין לאדם למי לפנות. המטרה הייתה לפתוח את מה שמכונה "הקופסה השחורה" של הבינה המלאכותית: להבין לא רק מה המודל חוזה, אלא גם אילו גורמים משפיעים על החלטתו.

הממצא הבולט היה שחוסר תקווה נמצא קשור במיוחד לסיכון אובדני. גם היסטוריה של ניסיונות אובדניים, פגיעה עצמית ותחושת ניתוק מאנשים אחרים נמצאו קשורים לסיכון מוגבר.

החוקרים מצאו כי המודל המשולב זיהה נכון כ־78.3% מהשיחות שסווגו כבעלות סיכון אובדני שיעור גבוה מזה של כמה מודלים אחרים שנבדקו. עם זאת, הדיוק בזיהוי שיחות שסווגו כבעלות סיכון עמד על כ־68.9%. המשמעות היא שהמערכת עשויה להחמיץ חלק מהמקרים, וגם לסמן שיחות שבהן לא זוהה סיכון.

כאן מתגלה המתח המרכזי: מערכת כזאת יכולה להתריע בפני איש צוות ולסייע לו להקדיש תשומת לב נוספת לשיחה, אך אינה יכולה לקבוע לבדה מה מצבו הנפשי של אדם. שפה אנושית מורכבת, ואנשים במצוקה אינם מתבטאים תמיד באותן מילים.

החוקרים עצמם ציינו כי אוצר הביטויים שעליו התבססה המערכת אינו מכסה את כל הדרכים שבהן אנשים מתארים את מצבם. בנוסף, הסיווג המקורי של השיחות נעשה בידי מתנדבים שעברו הכשרה, ולא רק בידי אנשי מקצוע בתחום בריאות הנפש.

עוד ב-

פחות טפסים יותר בינה מלאכותית: כך מעצמת ההייטק נלחמת בבירוקרטיה

לכתבה המלאה

המחקר מציע כיוון מבטיח לשילוב בינה מלאכותית במערכות סיוע, אך אינו מוכיח שהמודל כבר מסוגל למנוע התאבדויות בעולם האמיתי. כדי להשתמש בו באופן אחראי נדרשים מחקרים נוספים רבים, בדיקות בתנאים שונים ופיקוח אנושי. בסופו של דבר, האלגוריתם יכול לזהות דפוסים בטקסט אבל ההקשבה, ההבנה וההתערבות נותרות באחריותם של בני האדם.