דיגיטל וטק

חוקר בכיר התפטר והזהיר: "הבינה המלאכותית עלולה להרוג את כולנו"

פרישה חריגה של מפתח מודלים מובילים באנתרופיק ובאופן איי מעוררת סערה, ברקע הודאה חסרת תקדים של בכיר בטיחות על הסיכוי הממשי לאסון עולמי בתוך שנים ספורות
בינה מלאכותית-אילוסטרציה (צילום shutterstock)
סערה חדשה מטלטלת את תעשיית הטכנולוגיה בעקבות התפטרותו הדרמטית של החוקר ג'ייקוב קוקסון מחברת הבינה המלאכותית אנתרופיק.
קוקסון, שעבד בשנים האחרונות בחזית הפיתוח של המודלים המובילים בעולם, הודיע על עזיבה מוחלטת של התחום. הצעד החריג מגיע ברקע חששות הולכים וגוברים בקרב מדענים ומהנדסים מפני הפיתוח המהיר של בינה מלאכותית עצמאית, ללא מנגנוני פיקוח ובטיחות מספקים שימנעו אובדן שליטה.
קוקסון בן עשרים ושבע צבר ניסיון של שלוש שנים במחקר ופיתוח בחברות אנתרופיק ואופן איי, שם התמחה באימון מודלים בסיסיים המניעים את המערכות המתקדמות בשוק. בפוסט מפורט שפרסם ברשת החברתית איקס וזכה לעשרות מיליוני צפיות תוך שעות ספורות, טען החוקר כי החברות המובילות נמצאות במרוץ חסר אחריות להשגת אינטליגנציית על בעלת יכולת שיפור עצמי, תוך סיכון ממשי של עתיד האנושות כולה.
בפוסט שפרסם כתב קוקסון: "האנשים שבונים בינה מלאכותית מאמינים ברצינות שהיא עלולה להרוג את כולנו עד סוף העשור. זה לא תעלול שיווקי". דבריו זכו לחיזוק מפתיע מצד אוואן הובינגר, מוביל תחום הבטיחות באנתרופיק, שהגיב והודה כי "אנחנו באמת מאמינים ברצינות שבינה מלאכותית יכולה להרוג את כל בני האדם. אני אישית חושב שזה מעל 10 אחוזים בתוך העשור הקרוב".
התפטרותו של קוקסון והודאתו של בכיר הבטיחות בחברה מחדדות את המתיחות הגוברת בתוך מעבדות המחקר המובילות בעולם. העזיבה מצטרפת לשורה של פרישות של חוקרי בטיחות בכירים שהזהירו מפני השלכות הפיתוח המואץ. כעת גוברים הלחצים הציבוריים והפוליטיים על החברות ליצור מנגנוני הידוק ופיקוח הדוקים יותר, בטרם המערכות יגיעו לרמת עצמאות שתקשה על הריסון האנושי.
 
תגובות לכתבה(0):

נותרו 55 תווים

נותרו 1000 תווים

הוסף תגובה

תגובתך התקבלה ותפורסם בכפוף למדיניות המערכת.
תודה.
לתגובה חדשה
תגובתך לא נשלחה בשל בעיית תקשורת, אנא נסה שנית.
חזור לתגובה