דיגיטל וטק

טוויטר תחת מתקפה בשל אלגוריתם "גזעני"

משתמשים רבים דיווחו כי טוויטר "מעלימה" תמונות פנים של כהי עור בשורת העדכונים. בצילומים שבהם מופיעים לבנים לצד שחורים, האלגוריתם בוחר להציג רק את הלבנים. טוויטר פתחה בבדיקה
רועי בהריר-פרל | 
ג'ק דורסי (צילום מתוך עמוד הפייסבוק של ג'ק דורסי, pixabay)
האם לבינה המלאכותית של טוויטר יש נטיות גזעניות? בימים האחרונים בודקת הרשת החברתית טענות שהעלו במהלך סוף השבוע האחרון משתמשים רבים, לפיהן תמונות של כהי עור משום מה הוסתרו בתצוגה המקדימה של הציוצים. זאת ועוד: בתמונות שבהן הופיעו יחד אנשים בעלי עור כהה ובהיר, הוסתרו רק פניהם של האחרונים.
טוויטר, עדיין לא גילתה את מקור הבעיה - שעשויה להיות באג או תקלה מובנית במנגנון התצוגה המקדימה - אבל משתמשים ממשיכים לבחון אותה בעזרת תמונות שבהן מופיעים לבנים ושחורים, בעיקר כאלה שהאינטליגנציה המלאכותית של טוויטר עשויה להתקשות לפענחן. למשל, תמונה של ברק אובמה ומייקל ג'קסון, צילומים של איורי קומיקס ופריים מ"משפחת סימפסון", בו מופיעים קארל (השחור) ולני (הלבן), ואילו בתצוגה המקדימה מופיע רק לני. בכלל, התוצאה של הניסיים הללו כמעט תמיד הייתה זהה: הפנים הבהירות יותר נראו בתצוגה המקדימה כרגיל ואילו הפנים הכהות יותר נעלמו.
מנגנון הבינה המלאכותית של טוויטר, המבוסס על רשתות נוירונים לזיהוי פנים, הוטמע ברשת החברתית רק לאחרונה. נכון למצב ההתקדמות הטכנולוגית בתחום כיום, האלגוריתם של מנגנון לזיהוי פנים נחשב לבעייתי באופן כללי ומועד לאינספור טעויות. בטוויטר מודעים לכך שהמנגנון החדש רחוק מלהיות מושלם - בין השאר, נוכח העובדה שהוא מתקשה לפענח תמונות ללא פנים כלל - אולם בחברה טוענים כי בניגוד לטענות, לא בכל המקרים נראית "מחיקה" של הפנים הכהות בתצוגה המקבילה. בכל זאת, כאמור, טוויטר מנסה לאתר עכשיו את מקור הבעיה ותוך כדי זה מעודדת את משתמשיה לבצע עוד ועוד ניסויים על מנת לסייע לה בכך.
תגובות לכתבה(0):

נותרו 55 תווים

נותרו 1000 תווים

הוסף תגובה

תגובתך התקבלה ותפורסם בכפוף למדיניות המערכת.
תודה.
לתגובה חדשה
תגובתך לא נשלחה בשל בעיית תקשורת, אנא נסה שנית.
חזור לתגובה