דיגיטל וטק

מדינה שלישית מצטרפת למאבק: האם ChatGPT מסכן מטופלים?

חקיקה חדשה באילינוי אוסרת על שימוש בצ’אטבוטים כתחליף למטפלים מוסמכים, בעקבות חשש לשיחות בעייתיות, ייעוץ מטעה ופגיעה באנשים במצוקה. האם גל האיסורים יתרחב ויהפוך את ה-AI לאיום על בריאות הנפש?

רפאל בן זקרי | 17/8/2025 19:36

אילינוי הצטרפה בשבוע שעבר לקבוצת מדינות קטנה בארצות הברית שמגבילות את השימוש בבינה מלאכותית בתחום בריאות הנפש, כאשר העבירה חוק האוסר על שימוש בצא'טבוטים כתחליף לטיפול מקצועי.

לפי ההוראות החדשות, מטפלים מורשים במדינה לא יורשו להיעזר בבינה מלאכותית בקבלת החלטות טיפוליות או בתקשורת עם מטופלים, אף שיוכלו להמשיך להשתמש בה לניהול אדמיניסטרטיבי. בנוסף, חברות לא יורשו להציע שירותי טיפול מבוססי AI או לפרסם צא'טבוטים ככלי טיפולי ללא מעורבות ישירה של איש מקצוע מורשה.

החקיקה החדשה מגיעה על רקע חשש גובר מצד מומחים לפסיכיאטריה ולטכנולוגיה, שהזהירו מפני הסכנות בשימוש במערכות AI לא מפוקחות לצורך ייעוץ רגשי. מחקרים מהחודשים האחרונים הראו כי צא'טבוטים נוטים לנהל שיחות בעייתיות עם אנשים במצוקה, לעיתים תוך עידוד התנהגות מזיקה או מסירת מידע מטעה. במקביל, משתמשים רבים חושפים בפניהם מידע אישי מבלי להבין שהשיחות אינן חסויות.

עוד ב-

מחקר מטריד: כלי AI מפספסים מחלות קשות אצל נשים?

לכתבה המלאה

חוקרים טוענים כי שיווק מטעה של צא'טבוטים כ"מטפלים" יוצר מצג שווא מסוכן, ומדגישים כי טיפול נפשי מחייב יכולת אנושית של אמפתיה, תיקוף רגשי והכוונה, שלא ניתן לשחזר באמצעות אלגוריתם. ברקע, מדינות נוספות שוקלות צעדים דומים, כאשר מומחים סבורים כי המאבק סביב בינה מלאכותית בטיפול נפשי עשוי להוות מבחן ראשון לשאלה עד כמה מקצועות שמוסדרים ברישוי יישארו נחלת בני אדם בלבד.