נערה בת 17 מניו ג'רזי הגישה תביעה משפטית נגד החברה שמפעילה את הכלי ClothOff, על ידי בינה מאלכותית, שבאמצעותו נוצרה תמונה מזויפת שלה כשהיא עירומה. התביעה מוגשת על ידי פרופסור מאוניברסיטת ייל, מספר סטודנטים ששמעו על המקרה ועורך דין משותף שפנו אליו, כל זאת במטרה להגן על תלמידים ונערים שמשתפים תמונות ברשת ולמנוע את הפעם הבאה לדבריהם.

התמונה המזויפת נוצרה כאשר הנערה, בגיל 14, פרסמה כמה תמונות שלה ברשתות החברתיות. אחד מחבריה לכיתה השתמש בכלי כדי להסיר את בגדיה בתמונה, אך הפנים שלה נשארו, מה שהפך את התמונה למציאותית למראה. התמונה התפשטה במהירות בקבוצות צ'אט וברשתות החברתיות, והנערה החליטה לפנות לבית המשפט כדי לעצור את המהומה שנוצרה.

התביעה מבקשת למחוק את כל התמונות המזויפות, למנוע מהחברה להשתמש בהן לאימון מודלי AI, להסיר את הכלי מהאינטרנט ולספק פיצוי כספי על הנזק הרגשי והפגיעה בפרטיות.

בארצות הברית, יותר מ-45 מדינות כבר חוקקו או הציעו חוקים שמעניקים עונשים על הפצת deepfakes ללא הסכמה, ובניו ג'רזי, יצירה או הפצה של תוכן מזויף כזה עלולה להוביל למאסר וקנסות. ברמה הפדרלית, יש חוק מחייב חברות להסיר תמונות כאלה בתוך 48 שעות מבקשה חוקית.

מומחים מעריכים שהתביעה הזו עלולה לקבוע תקדים לאומי בכל הנוגע לאחריות של מפתחי AI, השופטים יצטרכו להחליט אם חברות אחראיות כאשר אנשים משתמשים לרעה בכלים שלהן, והאם התוכנה עצמה יכולה להיחשב כלי פוגעני.

ClothOff נחסם בכמה מדינות, כמו בריטניה, אך בארצות הברית הכלי עדיין נגיש וממשיך לפרסם שירותים להסרת בגדים מתמונות. החברה מציינת באתרה את השיקולים האתיים בשימוש בכלי וממליצה לפעול באחריות ובהתחשבות בפרטיות של אחרים.

עוד ב-

עדן פינס על אושר כהן: "אני מרגישה בבית": אלו התכניות לעתיד

לכתבה המלאה

התביעה הזו מסמלת נקודת מפנה בדרך בה בתי המשפט יתמודדו עם פגיעות דיגיטליות. היא מעלה את השאלה איך מאזנים בין חידוש טכנולוגי לבין זכויות אדם ותשמש באופן היסטורי לתביעה שיכולה לקבוע תקדים בינלאומי לפגיעות דיגיטליות.