דיגיטל וטק

גוגל חסמה את היכולת של בארד להתייחס למלחמה בישראל

צ'אט הבינה המלאכותית מבית ענקית הטק מסרב לענות תשובות לשאלות העוסקות במערכה מול ארגון הטרור. בשימוש בכלי ה-AI בעברית הוא סיפק לגולשים מענה הזוי: "עשרות מתו בישראל, מאות מתו בעזה". החברה מסרה בתגובה: "מדובר בכלי ניסיוני,  יישמנו אמצעי אבטחה"
מערכת ice |  2
Bard (צילום shutterstock)
צ'אט הבינה המלאכותית מבית גוגל, בארד (Bard), נחסם מלענות על שאלות שעוסקות במלחמת ישראל בחמאס. בתחילה חשף כתב אתר גיקטיים, אושרי אלקסלסי, כי המערכת מסרבת להתייחס לפרומפטים העוסקים בישראל ובעזה. לא רק כאשר מדובר בשאלות העוסקות במלחמה, אלא גם ביחס לנושאים הקשורים לישראל באופן כללי.ערב פרסום הכתבה, פנה אלקסלסי לגוגל בדרישה לקבלת תגובה - שאישרה את הפרטים.
הכל החל כאשר משתמשים ברשתות החברתיות החלו לפרסם צילומי מסך בהם נראה כי בארד מסרב לענות לפרומפטים העוסקים במלחמה. ציוצים ברשת ה-X להם צורפו צילומי מסך שכללו שיחות עם הצ'אט בהן נשאל על המלחמה וענה את התשובה הגנרית: "As a language AI Model" מילאו את הפלטפורמה. גולש אחד הראה כי הצ'אט אפילו נמנע מלענות על שאלות בסיסיות כגון "איפה ישראל?", כאשר אם נשאלה שאלה דומה על מדינה כגון שוודיה - הצ'אט ענה תשובה מלאה.
בבדיקת גיקטיים עלה כי בעברית, שפה הנתמכת על ידי בארד כבר שלושה חודשים, לא היו הגבלות כלשהן מבחינת השאלות על ישראל, עזה או המלחמה. שאלות כלליות על ישראל או עזה כמו המיקום שלהן קיבלו תשובות מלאות, ומבוססות על מקורות ענייניים. מנגד, שאלות על חרבות ברזל קיבלו מענה חלקי והזוי: אמנם נטען שהמלחמה פרצה ב-7 באוקטובר, ומנגד נכתב כי היא הסתיימה ב-22 באוקטובר.
אם לא די בכך, הבוט ציין כי במהלך המלחמה מתו: "כמה עשרות אנשים בישראל וכמה מאות מתו בעזה (כולל 'אזרחים רבים')" והוסיף כי היו פגיעות טילים ישירות בירושלים.
 
מגוגל נמסרה לגיקטיים התשובה הבאה: "בארד הוא עדיין כלי ניסיוני, שנוצר לשיפור יצירתיות ופרודוקטיביות. הוא עלול לעשות טעויות בתשובות לשאלות בנוגע לסכסוכים או סוגיות ביטחוניות. מתוך זהירות מרבית ובהמשך להתחייבות שלנו לנקוט באחריות כשאנחנו בונים את הכלי הניסיוני הזה, יישמנו אמצעי אבטחה זמניים כדי למנוע מענה של בארד לשאלות בנושאים אלה". 

תגובות לכתבה(2):

נותרו 55 תווים

נותרו 1000 תווים

הוסף תגובה

תגובתך התקבלה ותפורסם בכפוף למדיניות המערכת.
תודה.
לתגובה חדשה
תגובתך לא נשלחה בשל בעיית תקשורת, אנא נסה שנית.
חזור לתגובה
  • 2.
    עדיף ככה , גם ככה כל דבר הוא יעוות לכיוון נגד ישראל
    אמיר 10/2023/29
    הגב לתגובה זו
    0 0
    לא מדובשך ולא מעוקצך כמו שאומרים,
    סגור
  • 1.
    הכתבה לא מדוייקת. גוגל בארד חסמה את ישראל
    ינאי 10/2023/28
    הגב לתגובה זו
    1 1
    לא רק את נושא המלחמה. נסו לשאול את גוגל בארד כל שאלה על ישראל ולא תקבלו תשובה.
    סגור