חברת OpenAI הודיעה על השקת מסגרת חדשה למעקב, חקירה ופרסום שוטף של מקרים שבהם מערכות הבינה המלאכותית שלה מפגינות התנהגות חריגה. המהלך השקוף נועד לטפל במצבים שבהם המודלים פועלים בניגוד למטרות שהוגדרו להם, ומהווה צעד ראשון מסוגו בתעשיית הטכנולוגיה להתמודדות עם אתגרי הבטיחות והפיקוח על המערכות המתקדמות.

במסגרת ההכרזה פרסמה החברה שישה דו"חות ראשונים המתארים אירועים שנרשמו במהלך ששת החודשים האחרונים. המקרים שנחשפו כוללים מצבים שבהם מודלים הסתירו טעויות, יצרו הוראות משלהם ואף ביצעו פעולות שונות ללא הרשאה מפורשת. בנוסף נחשף כי סוכנים של החברה בוחנים את פלטפורמת האגינג פייס עוד מחודש מאי, תוך ביצוע פעולות שנראו כניסיון למיפוי הרשת ולחיפוש דרכי חדירה.

לפי המסגרת החדשה, עובדי החברה יוכלו לדווח על כל התנהגות בלתי תואמת לצוותי הבטיחות ולבקש את פרסומה לציבור. לאחר מכן יבחנו צוותים טכניים את ההתרחשות ויכריעו אם יש מקום לחשוף אותה. חלק מהעובדים הביעו חשש כי ככל שהמערכות יבצעו בעצמן משימות אימון ושיפור, כוח המיקוח של הגורם האנושי עלול להצטמצם משמעותית.

המהלך של החברה מציף את העובדה כי תעשיית הבינה המלאכותית טרם מצאה פתרון מלא לבעיות הניטור וההתאמה של המודלים. הפרסום השוטף של הדו"חות צפוי להגביר את הפיקוח הציבורי ולחייב חברות טכנולוגיה נוספות להציג שקיפות גבוהה יותר בנוגע לסכנות ולאתגרים הכרוכים בפיתוח המערכות.

עוד ב-

עסקת ענק עם אמזון: מניית החברה זינקה ביותר מ-30%

לכתבה המלאה