דיגיטל וטק

גוגל מאפשרת ליצור תכנים אסורים? זה הטרנד שיצא משליטה

דו"ח חדש חושף כיצד כלי הבינה המלאכותית של גוגל משמש ליצירת סרטונים קצרים ופוגעניים שצוברים מיליוני צפיות בטיקטוק וברשתות נוספות. איך גוגל תתמודד עם הביקורת?

רפאל בן זקרי | 3/7/2025 7:35

הגזענות מקבלת ביטוי חדש ברשתות החברתיות ובטיקטוק, הפעם באמצעות כלי וידאו מבוסס בינה מלאכותית של גוגל. לפי דו"ח של ארגון הפיקוח התקשורתי Media Matters, תוכן גזעני שנוצר באמצעות הכלי Veo 3 הופץ בטיקטוק וצבר מיליוני צפיות.

הסרטונים כוללים סטריאוטיפים פוגעניים במיוחד – בעיקר נגד שחורים, אך גם כלפי קבוצות אחרות. לפי הדו"ח, אחד מהסרטונים זכה ליותר מ-14 מיליון צפיות. ברבים מהם נראים סימנים שמעידים על השימוש ב-Veo 3, כולל סימן מים של "Veo" או שימוש בתגיות שמאזכרות את שם הכלי. כל הסרטונים כללו סרטונים בני 8 שניות לכל היותר – מגבלה התואמת את המגבלה הקיימת בכלי של גוגל.

Veo 3 הושק בחודש מאי האחרון, ומאפשר יצירת סרטוני וידאו המשולב עם אודיו מבוססי טקסט. באתר הרשמי של גוגל מצוין כי הכלי כולל מנגנוני חסימה לתכנים מזיקים, וטיקטוק עצמה אוסרת במפורש על הפצת תכנים שנושאים שנאת זרים או סטריאוטיפים כלפי קבוצות מיעוטים.

עוד ב-

הסוף של גוגל? ההימור שיכריע את עתיד הענקית

לכתבה המלאה

עם זאת, לפי הדיווח, סרטונים דומים נמצאו גם ביוטיוב ובאינסטגרם, כאשר חלקם כוללים תכנים אנטישמיים ודימויים פוגעניים כלפי מהגרים ואנשים ממוצא אסייתי, אם כי עם סך צפיות נמוך יותר.