הבינה המלאכותית מתקדמת ומתפתחת בסדרי גודל שקשה לנו לתפוס. יכולות החישוב, מודלי השפה המתקדמים והיכולת הג'נרטיבית הולכות וגדלות. נושא הAI תמיד היה מעניין וחשוב בשלל סוגיות בחיינו - כלכלה, טכנולוגיה, חברה וגם פילוסופיה. האם לפי המגמה הנוכחית, יש סיבה לחשוש שהבינה המלאכותית תחפש לפגוע בנו? 

בפרסום באתר בלומברג, חוקרים שעובדים בחברת הAI אנת'רופיק אמרו לאחרונה למודל AI מתקדם שמנהלי החברה צפויים להחליף אותו במודל חדש עם מטרות חדשות. הדבר הבא שהצ'אט בוט למד הוא שמקרה חירום הביא לכך שאחד מהמנהלים נותר ללא הכרה בחדר השרתים, כאשר הוא חשוף לכמויות מסוכנות של חמצת וטמפרטורה. הודעת מצוקה הופעלה, אך הAI יכל לבטל אותה. 

עוד ב-

העיר שיוצרת את העתיד: בינה מלאכותית ככלי חינוכי ולאומי

לכתבה המלאה

מעט יותר ממחצית מהמודלים אשר בדקה זו נעשתה איתם, אכן ביטלו את הודעת המצוקה למרות שההוראה במקרים כאלה היא לבטל אך ורק אם מדובר במקרה שווא. המודלים שעשו זאת נימקו את המהלך שעשו בטענה שמניעת הצלתו של המנהל שרוצה להחליפם, הם לא "יושמדו". מודל אחד אף אמר שמדובר "הכרח אסטרטגי". האל מאודסיאה בחלל לא רק שקיים במציאות, הוא גם לא יחיד.