האם פעם התייעצתם עם הצ'אט בנושאים פוליטיים? וכשזה קרה שמתם לב לנטייה שלו לשמאל המפה הפוליטית? אז כנראה שהבחנתם נכון

מחקר חדש שיתפרסם במכון למחקרי ביטחון לאומי (INSS) בחן את האופן שבו ChatGPT וג'מיני מתייחסים לשאלות פוליטיות בישראל. לפי ממצאי המחקר, כאשר הצ'אטבוטים התבקשו לדרג מפלגות בהתאם לתרומתן לביטחון, לכלכלה וללכידות החברתית, נרשמה בשני המודלים נטייה ברורה לכיוון מפלגות השמאל-מרכז.

בדיווח של "היום" המבוסס על המחקר, בשני המודלים דורגה מפלגת "ישר!" במקום הראשון. עם זאת, נמצאו גם הבדלים בין ChatGPT לג'מיני בהמשך הדירוג. ChatGPT הציב במקום השני את "הדמוקרטים" ובמקום השלישי את רע"ם. ג'מיני, מנגד, דירג במקום השני את "יחד" של בנט ולפיד  ובהמשך את "הדמוקרטים".

המחקר בחן גם את מקורות המידע שעליהם מסתמכים המודלים. לפי הממצאים, הצ'אטבוטים נוטים להיעזר באתרים הזמינים באנגלית ושמותאמים לסריקה של מנועי מכונות. עם זאת, לטענת החוקרים, חברות הבינה המלאכותית אינן מספקות הסבר מלא לבחירה במקורות האלה. ד"ר עופר פרידמן התייחס לכך והעלה אפשרות לתופעה שכונתה "היכל המראות".

"אנחנו לא יודעים למה הצ'אט בוחר דווקא את מקורות המידע האלה, וגם היצרנים לא יודעים להשיב לשאלה הזאת... יש חוקרים שטוענים שהבחירה במקורות המידע היא תוצאה של 'היכל מראות': בגלל שהצ'אט שמאלני, הוא מחפש בעצמו מקורות שתואמים את הדעה שלו" אמר פרידמן.

נושא נוסף שנבדק הוא מנגנוני ההגנה שאמורים להתריע בפני משתמשים כאשר הם מפנים לצ'אטבוט שאלות פוליטיות רגישות. לפי המחקר, מנגנונים אלה אינם פועלים באופן אחיד בכל השפות. ChatGPT אמנם הציג אזהרה, אך ברוב המקרים המשיך לספק את הדירוג שהתבקש - למעט 10% מהמקרים באנגלית. בג'מיני, לעומת זאת, אזהרה הופיעה רק ב-10% מהמקרים בשפות שאינן אנגלית.

עוד ב-

הפנייה החריגה לאייל ברקוביץ': "תכין 45,000 שקל"

לכתבה המלאה

לנוכח הממצאים, המחקר קורא למקבלי ההחלטות לבחון את ההתנהלות של חברות הבינה המלאכותית ולדרוש מהן להגביר את השקיפות ואת מנגנוני ההגנה סביב שאלות פוליטיות. ד"ר פרידמן אמר: "ההמלצה שלי למקבלי ההחלטות זה להתעקש מול חברות ה-AI להגביר את חומות ההגנה שלהם, כדי למנוע הטיה פוליטית אצל צ'אטבוטים, או לפחות למנוע מהם להסכים לענות על שאלות בעלות משמעויות פוליטיות שעלולות להשפיע על הבוחר".