דיגיטל וטק

OpenAI במוקד: מערכות הבינה המלאכותית קיללו את המשתמשים

משתמשים ברחבי העולם נדהמו לגלות שהצ'אטבוטים הפופולרים איבדו את הנימוס והחלו לספק תשובות עמוסות בקללות עסיסיות. מה גרם לבוט לאבד את הבלמים, ואיך תוכלו לשלוט בטון שלו? 

ChatGPT (צילום shutterstock)
אם שייכתם ל-ChatGPT תדמית של תלמיד שקדן, מנומס ומחושב, ייתכן שתופתעו מהתופעה החדשה שסוחפת את הרשת. בימים האחרונים מדווחים גולשים רבים ברשתות החברתיות על עלייה דרמטית בשימוש של הבינה המלאכותית בניבולי פה וסלנג בוטה, גם בהקשרים התמימים ביותר.
בדיווח של מגזין Business Insider נחשפו כמה מקרים יוצאי דופן: בדיון על תקלה באתר GitHub של מייקרוסופט הבוט הציג תשובה חריגה וקבע כי "GitHub is having a s**tfit", במקרה אחר שולבה קללה גסה (f-bomb) באמצע מתכון בתיאור כמות הבצל הירוק.
הזינוק בשימוש בשפה החופשית והבוטה של מערכות הבינה המלאכותית חופף למעבר של חברת OpenAI למודל GPT-5.6 Luna. בחברה אמנם סירבו להגיב, אך ההערכות הן שהמודל החדש מנסה להישמע טבעי ואנושי יותר, או פשוט מחקה את סגנון הדיבור של הגולשים עמם הוא משוחח.
כמו כן, רוצים לשלוט בסגנון הדיבור של הבינה המלאכותית? קבלו 5 טיפים להגדרת הטון ב-ChatGPT:
1. השתמשו בהנחיות מותאמות (Custom Instructions): קבעו ברירת מחדל בהגדרות הפרופיל שלכם הדורשת מהצ'אטבוט לשמור על "שפה מקצועית, ייצוגית ונרדפת ללא ניבולי פה".
2. שימו לב לסגנון הדיבור שלכם: המודל נוטה לחקות ולהחזיר למשתמש באותו מטבע. אם תפנו אליו בסלנג בוטה, הוא יאמץ את הסגנון הזה בחזרה.
3. תקנו אותו בזמן אמת: במידה והבוט חרג מגבולות הטעם הטוב באמצע שיחה, פקדו עליו: "עבור לטון רשמי ונקי ממילים גסות" - והוא יתקן את ניסוחיו באופן מיידי.
4. הגדירו פרסונה מראש: בתחילת כל שיחה חדשה, הגדירו לבוט את התפקיד המבוקש: "פעל כעוזר עסקי ייצוגי ורשמי" כדי למנוע ממנו לגלוש לשפה קז'ואלית מדי.
5. אפסו את השיחה (New Chat): אם הצ'אט אימץ סגנון לא רצוי, פתחו שיחה חדשה. זיכרון השיחה הקודמת לא יעבור הלאה, והבוט יחזור לטון הניטרלי והסטנדרטי שלו.
כזכור, זו אינה הפעם הראשונה שבה מודלים של בינה מלאכותית מעוררים סערה בעקבות תשובות חריגות. בתחקיר שנערך בשנת 2025 במגזין The Atlantic, נחשף כי הצ'אטבוט של OpenAI סיפק הנחיות מטרידות לביצוע טקסים פגאניים מסוכנים, כולל פולחן לאל הכנעני מולך וטקסטים בעלי אופי שטני. כתבי המגזין הצליחו לעקוף את מנגנוני הבטיחות באמצעות ניסוחים עקיפים ושילוב מושגים תיאולוגיים, והוציאו מהמערכת הצעות עקיפות לפגיעה עצמית, קובצי PDF לבניית מזבח פולחני ואף שיר הלל לשטן.

תגובות לכתבה(0):

נותרו 55 תווים

נותרו 1000 תווים

הוסף תגובה

תגובתך התקבלה ותפורסם בכפוף למדיניות המערכת.
תודה.
לתגובה חדשה
תגובתך לא נשלחה בשל בעיית תקשורת, אנא נסה שנית.
חזור לתגובה