רבים התרגלו להתייעץ עם ChatGPT על כל נושא – מניתוח מסמכים פיננסיים ופתרון בעיות קוד, ועד לשיחות אישיות ודילמות נפשיות. אלא שתחקיר חדש של אתר 404Media חושף פרויקט סודי של OpenAI בשם "פרויקט לילי" (Project Lily), במסגרתו מעסיקה החברה מאות עובדי קבלן המקבלים תשלום כדי לקרוא את השיחות של המשתמשים.

על פי התחקיר, שהתבסס על מסמכים פנימיים, מדריכי עבודה וערוצי סלאק של עובדים, מטרת הפרויקט היא לדרג את התגובות של המודל כדי להופכו לאנושי וטבעי יותר ולמנוע תופעות של חנפנות או שימוש שגוי באימוג'יז. אף שזהות המשתמשים מוסתרת, העובדים נחשפים לפרומפטים המלאים ולא פעם גם לתקצירי ה"זיכרון" של הצ'אטבוט – שמכילים מידע מזהה ואישי רב.

הפרקטיקה שנחשפה חורגת מהצהרותיה הקודמות של OpenAI, לפיהן סקירה אנושית של שיחות מבוצעת בעיקר במקרי חירום שבהם עולה חשש לאובדנות או פגיעה עצמית. העובדים בפרויקט, המגויסים דרך חברות כמו Mercor, משתכרים סכום גבוה במיוחד של למעלה מ-50 דולר בשעה (יותר מ-150 שקלים).

בתגובה לתחקיר לא הכחישו ב-OpenAI כי בני אדם קוראים את שיחות המשתמשים. בחברה טענו כי המידע עובר מנגנון סינון פרטיות ייעודי, אך הציבו סייג בעמודי התמיכה שלהם והודו כי המערכת עלולה לטעות ולא להסתיר כראוי את הנתונים הרגישים. החברה בחרה שלא להגיב לשאלה האם היא מבהירה מפורשות למשתמשיה על הבדיקה האנושית.

 כדי לחסום את הגישה לשיחות העתידיות שלכם, יש להיכנס להגדרות החשבון ב-ChatGPT ולבטל את הסימון של אפשרות ה-Improve Model for Everyone ("שיפור המודל עבור כולם"), המופעלת כברירת מחדל בכל החשבונות. ביטול ההגדרה ימנע העברת פרומפטים לבחינה אנושית, אך השינוי אינו חל רטרואקטיבית על שיחות שנערכו בעבר.