דיגיטל וטק

חברות AI מובילות: "קיים סיכוי לאבד שליטה על הבינה המלאכותית"

מעל ל-33,000 אנשים מתעשיית הבינה המלאכותית מזהירים כי קיים סיכוי לאבד שליטה על הבינה המלאכותית. זה הפתרון שהם מציעים בנושא

מערכת ice | 10/5/2025 21:37

פרופ’ מקס טגמרק, חוקר בינה מלאכותית ופיזיקאי מ-MIT וממייסדי מכון Future of Life, מזהיר כי חברות טכנולוגיה צריכות לחשב את הסיכון לאובדן שליטה על בינה מלאכותית סופר-אינטליגנטית.

לדברי טגמרק, יש להעריך את ההסתברות לאובדן שליטה, ולא להסתפק בתחושת ביטחון כללית. הוא סבור כי הסכמה בין חברות שונות על כללים בתחום הבינה המלאכותית, תוכל ליצור לחץ פוליטי להסדרת התחום ברמה הגלובלית. טגמרק נמנה עם יוזמי מכתב פתוח שפורסם ב-2023. כך לפי פרסום ב-The Guardian.

במכתב עליו חתומי מעל ל-33,000 אנשים בהם אילון מאסק וסטיב ווזניאק, קוראים לעצור את הפיתוח המואץ של מערכות בינה מלאכותית חזקות. המכתב התריע מפני מרוץ מסוכן ליצירת “מוחות דיגיטליים עוצמתיים” שקשה לחזות או לשלוט בהם. הדברים נאמרו בהקשר לפרסום מסמך ה-Singapore Consensus, שגובש בשיתוף עם מדענים בכירים כמו יושוע בנג’יו ועובדים ב-OpenAI וב-Google DeepMind.

עוד ב-

"ישראל חיסלה בכיר בעזה - באמצעות בינה מלאכותית"

לכתבה המלאה

המסמך ממליץ להתמקד בשלושה תחומים עיקריים: מדידת השפעת מערכות בינה מלאכותית, הגדרת אופן פעולתן ותכנון מנגנוני בקרה. טגמרק הוסיף כי לאחר פסגת הבינה המלאכותית בפריז, שבה סגן נשיא ארצות הברית ג’יי.די ואנס ביטל את הדאגות והמומנטום לשיתוף פעולה בינלאומי חזר במלוא עוצמתו.