דיגיטל וטק

בדרך לבינה מלאכותית אנושית: OpenAI מקימה ועדת בטיחות חדשה

OpenAI מכריזה על ועדה חדשה בהובלת המנכ"ל סאם אלטמן וראשי החברה, שתתמקד בנושאי בטיחות קריטיים. ההכרזה מגיעה לאחר פירוק ועדה קודמת ובמקביל לאימון המודל החלוצי הבא של החברה, המכוון לבינה מלאכותית בעלת תבונה אנושית.

רפאל בן זקרי | 28/5/2024 18:52

מובילת הבינה המלאכותית OpenAI, מי שאחראית לפיתוח ChatGPT, הודיעה היום (שלישי) על הקמת ועדה חדשה לבטיחות ואבטחה בהובלת בכירים בחברה. הוועדה תהיה אחראית על מתן המלצות לדירקטוריון של OpenAI בנושאי בטיחות קריטיים.

בראש הוועדה יעמוד מנכ"ל החברה, סאם אלטמן, ויכללו בה גם ברט טיילור, אדם ד'אנג'לו וניקול סליגמן, כולם חברי מועצת המנהלים של OpenAI. ההכרזה על הוועדה החדשה מגיעה לאחר פירוק ועדה דומה מוקדם יותר החודש, שכללה את הבכירים איליה סוצקבר ויאן לייקה, שכבר עזבו את החברה.

ההכרזה מגיעה במקביל לדיווח על תחילת האימון של "המודל החלוצי הבא" של החברה, שמצופה להביא יכולות חדשה בדרך ל-AGI, כלומר בינה מלאכותית בעלת תבונה אנושית.

יאן לייקה, שהיה אחראי על בטיחות המוצרים ב-OpenAI, כתב מוקדם יותר החודש כי "תרבות הבטיחות והתהליכים של OpenAI נדחקו לשוליים לטובת מוצרים נוצצים". בתגובה לעזיבתו, הביע המנכ"ל אלטמן את צערו.

מוקדם יותר החודש הכריזה OpenAI על המודל החדש שלה, GPT-4o, שיכלול עוזרת אישית עם יכולות שיחה אנושיות, ושיגיע לכלל המשתמשים ללא עלות, בהדרגה.

עוד ב-

סקרלט ג'והנסון תובעת את OpenAI? גנבו לי את הקול

לכתבה המלאה

נושא הבטיחות של בינה מלאכותית נמצא במוקד העניינים ככל שהמודלים הגדולים שעליהם מבוססים צ'אטים כמו ChatGPT הופכים למתקדמים יותר. רק השבוע מדען הבינה המלאכותית הראשי במטא לעג לאילון מאסק על הבהלה שהוא זורע בציבור לגבי היכולת של בינה מלאכותית להשתלט על העולם.