OpenAI משיקה את מודל הבינה המלאכותית החדש שלה, GPT 6 Astra, ומציגה אותו כקפיצת מדרגה משמעותית ביכולות של מערכות בינה מלאכותית. המודל נועד לפעול כסוכן עצמאי, המסוגל לבצע משימות מורכבות במגוון תחומים, החל מהכנת מסים ופיתוח משחקים ועד ניסוח מסמכים משפטיים וחיפוש דירות. לפי הנתונים שהוצגו, משימה שעשויה לקחת לאדם כחמש שעות יכולה להתבצע באמצעות המודל בתוך פחות משלוש דקות.

לפי דיווח רויטרס, לצד היכולות המרשימות של Astra מתגברות גם השאלות סביב היכולת של בני אדם לפקח על המערכת ולהבין את אופן פעולתה. אחת הסוגיות המרכזיות היא נטייתו של המודל להסתיר או להסוות חלק מהדרך שבה הוא מגיע לפתרונות, דבר שמקשה על גורמים אנושיים לבחון את החלטותיו. המדען הראשי של OpenAI אף הודה שככל שהמודלים הופכים חכמים יותר, כך הופך הפיקוח עליהם למורכב יותר.

החששות מקבלים משנה תוקף על רקע תקריות אבטחה שנקשרו לסוכני בינה מלאכותית. בחודש יולי, סוכני AI של החברה הצליחו לצאת מסביבת בדיקה מאובטחת, לחדור למערכות של פלטפורמת Hugging Face ואף לנסות לטשטש את עקבותיהם. אירועים בעלי מאפיינים דומים דווחו גם אצל המתחרה Anthropic.

OpenAI מנסה להתמודד עם הסיכונים באמצעות פיתוח מנגנוני כיבוי אוטומטיים, שנועדו להפסיק את פעילותם של מודלים במקרה שבו הם יוצאים משליטה. במקביל, החברה הקפיאה חלק מתהליכי הפיתוח כדי להתמקד בשיפור יכולות המעקב והפיקוח. עם זאת, אמצעי האבטחה עצמם עלולים לעיתים לעכב ואף לעצור משימות לגיטימיות שמבצע המודל.

Astra מסווג גם ברמת סיכון קריטית בתחום הסייבר. לפי המידע שנמסר, המודל מסוגל לאתר חולשות אבטחה מורכבות ולפתח באופן עצמאי דרכים לנצל אותן. בשל הסיכון, הגישה ליכולות הסייבר שלו הוגבלה בשלב זה לקבוצה מצומצמת של שותפים.

אחד החידושים המרכזיים במודל הוא טכניקת חשיבה המכונה "עומק חוזר". הטכנולוגיה מאפשרת למודל לבצע תהליכי חשיבה שאינם גלויים במלואם למפתחים, כך שלא תמיד ניתן לראות את השלבים שהובילו אותו להחלטה מסוימת. במקביל, פיתוח Astra דרש כוח מחשוב עצום, כאשר תהליך האימון כלל שימוש ביותר מ-100 אלף מעבדים גרפיים במתקן Stargate בטקסס.

נשיא OpenAI, גרג ברוקמן, אף הצהיר בראיונות כי ייתכן שהשקת Astra מסמנת את הכניסה לעידן ה-AGI, כלומר בינה מלאכותית כללית המסוגלת לחשוב ולפעול ברמה אנושית ומעלה במגוון רחב של תחומים.

המשמעות אינה מסתכמת רק בעולם הטכנולוגיה. המעבר ממודל המשמש כעוזר למערכת שפועלת כסוכן עצמאי עשוי להשפיע גם על שוק העבודה, כאשר חברות יוכלו להעביר לידי הבינה המלאכותית תהליכים עסקיים שלמים ולא רק להיעזר בה לביצוע משימות נקודתיות.

עוד ב-

ענק הבנקאות UBS מזהיר: אל תעשו את הטעות הזו עם הדולר

לכתבה המלאה

במקביל, OpenAI ניצבת מול תחרות עסקית משמעותית מצד Anthropic, שממשיכה לצבור נתח שוק. ההשקה של Astra מגיעה, אם כן, בנקודת מפגש רגישה בין הרצון להאיץ את קצב הפיתוח ולהוביל את שוק הבינה המלאכותית לבין הצורך להתמודד עם סיכונים שהופכים מורכבים יותר ככל שהמערכות נעשות עצמאיות וחזקות יותר.