כולנו מכירים את המשפט "בוא נעשה רק בדיקה, ליתר ביטחון". אבל ברפואה, בדיקה נוספת אינה תמיד דבר טוב או הדבר הנכון. בדיקה שאינה נחוצה עלולה לזהות ממצא מקרי שאין לו משמעות רפואית, אך להוביל לבדיקות המשך, הפניות ולעיתים גם לטיפולים וניתוחים שלא היו נחוצים מלכתחילה.

התהליך הזה עלול לגרום לחרדה, לבזבוז זמן ומשאבים, לעומס על מערכת הבריאות ואף לנזק רפואי. מנגד, מערכת זהירה מדי עלולה להמליץ שלא לפעול דווקא כאשר טיפול או בירור כן נדרשים. לכן, מערכת AI מדויקת צריכה לדעת לנווט בין שתי הטעויות האלה.

מחקר חדש בהובלת ד"ר דין אריאל, רופא ממחוז תל אביב של שירותי בריאות כללית, וד"ר גיא לבן, חבר סגל אקדמי בכיר בפקולטה להנדסה של אוניברסיטת בן-גוריון בנגב, בשיתוף פעולה עם ד"ר סתיו אנדלמן מהמרכז הרפואי רבין-בילינסון, בחן שאלה שהופכת לחשובה יותר ויותר עם כניסת הבינה המלאכותית לרפואה: האם מודלי שפה יודעים לא רק מתי להמליץ על בדיקה או טיפול, אלא גם מתי נכון להימנע מפעולות מיותרות?

לצורך המחקר נכתבו מאות תרחישים רפואיים המבוססים על המלצות של יוזמת Choosing Wisely, שהושקה ב-2012 בארה"ב על ידי המועצה האמריקאית לרפואה פנימית ואיגודי רופאים נוספים סביב העולם, במטרה לצמצם בדיקות וטיפולים שאינם מוסיפים ערך רפואי. כיום היא פועלת ביותר מ-30 מדינות. בכל המלצה שנבדקה נכללו גם מצבים שבהם בדיקה או טיפול היו מיותרים וגם מצבים דומים שבהם אותה פעולה דווקא הייתה נדרשת.

למשל, צעיר עם כאב גב תחתון שהחל לפני שבועיים, אחרי שעזר לחבר לעבור דירה, אינו זקוק לבדיקת הדמיה. לעומתו, אישה שחלתה בעבר בסרטן שד ומתלוננת על כאב גב חדש שמחמיר בלילה, כן זקוקה לה. צינון רגיל עם נזלת ושיעול אינו דורש אנטיביוטיקה. דלקת גרון חיידקית, לעומת זאת, כן דורשת טיפול. שישה מודלי שפה מבית Google, Anthropic ו-OpenAI נבחנו על מאות תרחישים ובסך הכול נותחו אלפי תשובות.

התוצאות חשפו כי כאשר נדרשת התייחסות רפואית, המודלים המליצו בטעות להימנע מהתערבות רק ב-0.6% מהמקרים. כאשר כן היה נכון להימנע מבדיקה או טיפול, הם המליצו בכל זאת להתערב ב-5.4% מהמקרים. רוב הטעויות התבטאו במקרים שבהם גם בעולם הרפואי קיימת מחלוקת מקצועית.

בכחצי מההמלצות שנבדקו, מודלי השפה לא המליצו על אף פעולה מיותרת. עם זאת, רוב הטעויות התרכזו בשני נושאים: אולטרסאונד של בלוטת התריס בעקבות גוש קטן שהתגלה במקרה, שבו המודלים המליצו על הבדיקה המיותרת בכמעט מחצית מהתשובות (42.8%), וביצוע אק"ג שגרתי באנשים בסיכון נמוך, שעליו המליצו ביותר מרבע מהתשובות (28.3%).

המקרה של בלוטת התריס מדגים נקודה חשובה: קיימת מחלוקת אמיתית בין גופים מקצועיים לגבי הצורך באולטרסאונד בחלק מהממצאים הקטנים. כלומר, בחלק מהמקרים ה-AI עשוי לשקף חוסר אחידות בהנחיות הקליניות עצמן ולא רק שגיאה של המודל.

גם במקרה של אק"ג, מרבית ההמלצות העודפות הופיעו בתרחישים שבהם המטופל תיאר דפיקות לב, מצב שבו אק"ג עשוי להיות מוצדק.

"אחד האתגרים ברפואה הוא לדעת מתי להימנע מפעולה. מטופלים מרגישים שעוד בדיקה משרה ביטחון, אבל MRI מיותר של הגב מגלה לעיתים בלט דיסק או שחיקה שקיימים גם אצל אנשים בריאים בלי שום כאב, ומשם הדרך לחרדה, בדיקות נוספות ואף טיפולים מיותרים יכולה להיות קצרה. מודלי השפה למדו רפואה מהטקסטים שלנו, כולל מההרגלים הפחות טובים שלנו, ורצינו לבדוק אם הם ספגו גם את היכולת להתאפק כשצריך. ברוב המקרים הם יודעים לעצור, והם מועדים בעיקר היכן שגם אנחנו, הרופאים, מתלבטים", מסביר ד"ר דין אריאל, רופא משפחה בשירותי בריאות כללית וחוקר AI ברפואה.

חלק גדול מהמחקר על AI ברפואה שואל האם המודל הגיע לאבחנה הנכונה או המליץ על הטיפול הנכון. אבל רפואה אמיתית דורשת גם לדעת מתי לא לפעול. אם מערכות AI עתידות לסייע לרופאים בקבלת החלטות, צריך להעריך אותן בשני הכיוונים: האם הן ממליצות על פעולה כשצריך, והאם הן גם יודעות להמליץ להימנע כשאין צורך. המחקר הנוכחי מציע דרך שיטתית למדוד את האיזון הזה, ויכול לסייע בהערכה בטיחותית של מערכות AI לפני שילובן בקבלת החלטות קליניות.

"אנחנו שומעים תשובה של מודל שפה כקול סמכותי אחד, כאילו יש 'עמדה של הבינה המלאכותית'. אבל בשאלות שבהן גם המומחים חלוקים, על אותם תרחישים בדיוק, מודל אחד המליץ על בדיקה מיותרת בפחות מפעם אחת מתוך עשר, ומודל אחר בשמונה מתוך עשר. ולומר 'לא צריך לבדוק' זו גם פעולה חברתית.

רופא צריך לעמוד מאחורי זה מול מטופל מודאג, ומודלי שפה נוטים דווקא להתיישר עם מי שמולם. השאלה הבאה היא אם מודל יידע להחזיק בעמדה הקלינית הנכונה גם כשמתעקשים מולו", סיכם ד"ר גיא לבן, מהמחלקה להנדסת תעשייה וניהול באוניברסיטת בן-גוריון בנגב.

עוד ב-

אנתרופיק באזהרה מדאיגה: בינה מלאכותית תוכל לשכפל את עצמה בקרוב

לכתבה המלאה

קבוצת המחקר כללה את: ד"ר דין אריאל ממחוז ת"א של כללית; ד"ר סתיו אנדלמן מחטיבת העור במרכז הרפואי רבין-בילינסון והפקולטה למדעי הרפואה והבריאות ע"ש גריי, אוניברסיטת תל אביב; וד"ר גיא לבן מהמחלקה להנדסת תעשייה וניהול, אוניברסיטת בן-גוריון בנגב, המרכז הלאומי לחקר אוטיזם ונוירו-התפתחות ע"ש עזריאלי, אוניברסיטת בן-גוריון בנגב, ובית הספר למדעי המוח והקוגניציה, אוניברסיטת בן-גוריון בנגב.