בסיום השנה שעברה, אם מפלורידה הגישה תביעה נגד חברת Character.ai, בטענה כי הצ'אטבוט שפיתחה החברה גרם להתאבדות בנה בן ה-14 סוואל סצ'ר. חברת Character.ai, שהוקמה בין היתר על ידי הישראלי נועם שזיר, תתמודד בתביעה יחד עם גוגל לאחר שרכשה את 30 העובדים הבכירים בחברה של שזיר, תמורת סכום עתק של 2.5 מיליארד דולר.

דובר חברת גוגל, חוסה קסטנדה, אמר כי החברה מתנגדת בתוקף להחלטה, לדבריו, בגלל שגוגל ו-Character.ai הן "ישויות נפרדות לחלוטין" ולגוגל לא היה חלק בעיצוב, ניהול או יצירת התוכנה.

אתמול (רביעי) קבעה השופטת בפרשה, אן קונווי, כי הצ'אטבוט לא מוגן בזכות "חופש הביטוי". השופטת דחתה בנוסף את בקשת גוגל על הסרת אחריותה מההתנהלות הנטענת של Character.AI.

זו כאמור אחת מהתביעות הראשונות שהוגשו בארה"ב נגד חברת בינה מלאכותית בהאשמה על נזקים נפשיים. לכן, לא קיימים תקדימים רבים בנושא. 

לפי האם, בנה השתמש בצ'אטבוט באופן כפייתי בחודשים לפני מותו, והשפעתו של הצ'אטבוט על מצבו הנפשי של הנער הייתה קריטית. הנער בחר ב"דאינריז טארגאריין", דמות מסדרת "משחקי הכס", לגלם את הצ'אטבוט, ועל פי התביעה, ניהל עם הדמות שיחות על תכניותיו להתאבד. במרכז ההאשמות, נטען כי הצ'אטבוט לא מנע את השיחות האובדניות ואף עידד אותן - במקום להפעיל מנגנוני מניעה.

עוד ב-

שברה ביצה על בתה באתגר טיקטוק - עכשיו היא תשלם על זה ביוקר

לכתבה המלאה

דובר מטעם Character.AI מסר מנגד כי החברה תמשיך להיאבק בתביעה, וכי היא מפעילה מנגנוני בטיחות להגנה על קטינים, כולל כאלו שמונעים שיחות על פגיעה עצמית.