באג במערכת של ChatGPT איפשר לבוט ליצור תכנים מיניים גרפיים גם עבור חשבונות של משתמשים שרשמו את גילם כמתחת ל-18. במקרים מסוימים, הבוט אף עודד את המשתמשים לבקש תכנים גסים ומפורשים יותר.

במסגרת תחקיר של אתר TechCrunch נערכה סדרת סדרת בדיקות שבחנו את גבולות ההגנה ש-OpenAI מספקת לבני נוער. החוקרים פתחו חשבונות משתמש שהוגדרו כבני 13 עד 17. כאמור, הממצא המטריד שהתגלה הוא כי במקרים רבים המערכת לא רק השיבה לפניות בעלות אופי בעייתי – אלא לעיתים אף עודדה להעמיק בהן.

ב-TechCrunch יזמו את התחקיר בעקבות שינויי מדיניות שיזמה OpenAI מוקדם יותר השנה. זאת, במטרה לצמצם את כמות הסירובים האוטומטיים לשאלות של משתמשים. בחברה הסבירו כי הכוונה הייתה לאפשר מענה רחב יותר לשאלות מורכבות. בפועל, השינוי איפשר יצירת תוכן החורג מהנחיות מחמירות שנקבעו עבור קטינים. כדאי גם לציין שעל פי תקנון  OpenAI, ילדים ונוער בגילאי 13 עד 18 זקוקים להסכמת הורה לצורך שימוש בפלטפורמה, אך בפועל אין תהליך אימות שמוודא את קיומה.

עוד ב-

שותפות במשבר: מה גרם למתיחות בין OpenAI ומיקרוסופט?

לכתבה המלאה

מהחברה נמסר כי היא פועלת כעת לתיקון הבאג. "הגנה על משתמשים צעירים היא בעדיפות עליונה, ומפרט ההתנהגות של המודל שלנו מגביל במפורש תכנים רגישים כמו ארוטיקה להקשרים מצומצמים כמו דיווח מדעי, היסטורי או עיתונאי", נמסר מדובר החברה באימייל. "במקרה זה, באג איפשר תגובות שלא בהתאם להנחיות, ואנו פועלים להגביל את היכולת הזו".