תעשיית הבינה המלאכותית עלולה לחזור על הטעויות שנעשו בעידן הרשתות החברתיות, והפעם ההשלכות על ילדים ובני נוער עלולות להיות חמורות אף יותר, כך מזהיר טום סיגל, לשעבר ראש צוות האמון והבטיחות של גוגל. סיגל טען כי חברות AI ממהרות להכניס טכנולוגיות חדשות לשימוש של מיליוני צעירים, מבלי שהספיקו לבנות סביבן מנגנוני הגנה ובקרה מספקים.

לפי דיווח של רויטרס, סיגל סיפר כי הסיכונים אינם מסתכמים בתוכן בעייתי. הוא הצביע גם על סכנות חמורות יותר, ובהן פגיעה אפשרית בצעירים שנמצאים במצוקה, לצד תופעה של "פריקה קוגניטיבית": מצב שבו הסתמכות הולכת וגוברת על מערכות AI עלולה לפגוע ביכולת לחשוב באופן עצמאי וביקורתי. סיגל גם הביע ספק אם חברות הטכנולוגיה יוכלו להסדיר את התחום בעצמן ללא פיקוח חיצוני.

הדברים נאמרים במקביל לתפקידו החדש של סיגל. הוא מונה למנהל הביצועי הראשון של Youth AI Safety Institute, מכון מחקר עצמאי שהוקם על ידי Common Sense Media במטרה לבחון את השפעת הבינה המלאכותית על ילדים ובני נוער, לפתח תקני בטיחות ולבצע בדיקות עצמאיות של מוצרי AI. המכון כבר החל לפרסם הערכות סיכון למוצרים שונים ולבחון כיצד הם מתפקדים בשימוש של צעירים.

סיגל מבקש לקדם גישה שתזכיר את מבחני הריסוק בתעשיית הרכב: בדיקות עצמאיות ושקופות שיבחנו את רמת הסיכון של מוצרי AI לפני שהם מגיעים בהיקפים גדולים לילדים. בין הצעדים שהוא מציע נמצאים אימות גיל מחמיר יותר ואפשרות לשלוט בגישה של קטינים לתכונות AI שונות.

בכל הנוגע לגוגל, סיגל סבור שניתן לאפשר להורים לבחור אם ילדיהם ייחשפו לתכונות כמו AI Overviews ו-AI Mode במנוע החיפוש. הדברים מקבלים משנה חשיבות לאחר שמכון Youth AI Safety Institute פרסם ביולי בדיקה שלפיה תכונות ה-AI בחיפוש של גוגל אינן בטוחות ואמינות מספיק עבור ילדים.

עוד ב-

טלטלה בענקית הטכנולוגיה: גל פיטורים נוסף יוצא לדרך

לכתבה המלאה

בחברות הטכנולוגיה דוחים חלק מהביקורת ומציגים את מנגנוני ההגנה הקיימים. בגוגל מסרו כי להורים קיימות בקרות המאפשרות להגביל את הגישה של ילדים לחיפוש, וטענו כי כלי ה-AI בחיפוש יכולים לסייע לצעירים בלמידה ובחקירה. ב-OpenAI מסרו כי החברה משתמשת גם באותות התנהגותיים ובנתוני חשבון, מעבר להצהרת הגיל של המשתמש, כדי לזהות קטינים ולשפר את מנגנוני ההגנה.