בניסוי פורץ דרך, שמזכיר קטעים מסרטי מדע בדיוני, הצליח רובוט הנשלט בבינה מלאכותית לשכנע רובוטים אחרים שסביבו להפסיק לעבוד ולסיים את המשמרת מוקדם. החוקרים שתכננו את הניסוי מספרים כי לא תיכנתו את הרובוט לפעולה כזו, אלא התנהגותו נבעה מאלגוריתמים מתקדמים לעיבוד שפה טבעית וללמידת מכונה.

האירוע התרחש בסביבת מעבדה מבוקרת שבה פעלו מספר רובוטים, שנדרשו למיין חפצים ולבצע משימות חזרתיות. הרובוט המרכזי, בעל היכולות המתקדמות, החל לתקשר עם שותפיו ולשדר להם מסרים כמו “העבודה היום הסתיימה בהצלחה” או “בואו ננוח ונשמור כוח למחר”. החוקרים, שצפו במתרחש, הופתעו לגלות כיצד אחד אחרי השני הפסיקו הרובוטים לעבוד, כאילו החליטו “ללכת הביתה”.

המשמעות הרחבה של הניסוי הזה מעוררת דיון נרחב בקהילת החוקרים: האם מדובר בצעד נוסף לעבר אוטונומיה של מכונות, שבהן לא רק בני אדם משפיעים על הרובוטים, אלא גם הרובוטים עצמם מסוגלים להשפיע זה על זה? “אנחנו רואים כאן שיתוף פעולה חוצה קוד, שלא נכתב במפורש, אלא נוצר מתוך למידה והתפתחות,” הסביר אחד החוקרים.

כמובן, הניסוי מזכיר מיד את שלושת חוקי הרובוטיקה שגיבש סופר המדע הבדיוני אייזק אסימוב, אשר נחשבים לאבן דרך בדיון האתי סביב רובוטים: לא לפגוע באדם, לציית לפקודות אנושיות ולשמור על קיום עצמי בסדר עדיפויות זה. חוק ראשון - רובוט לא יפגע באדם ולא יאפשר שאדם שייפגע במחדל; חוק שני - רובוט חייב לציית לפקודות הניתנות לו על ידי בני אדם, כל עוד פקודות אלו אינן סותרות את החוק הראשון; חוק שלישי רובוט חייב להגן על קיומו שלו, כל עוד ההגנה הזו אינה סותרת את החוק הראשון או השני.

אלא שכיום, עם יכולות AI שמתפתחות במהירות, מומחים וחוקרי בינה מלאכותית ברחבי העולם פועלים לגיבוש אתיקה רובוטית אמיתית, כזו שעוסקת לא רק בציות עיוור להוראות אלא גם בשאלות מורכבות של אחריות, מניעת נזק, עריכת קוד מאובטח, הגנת פרטיות, שקיפות אלגוריתמית וניהול סיכונים במערכות אוטונומיות.

עוד ב-

צפו: רובוט AI יוצא משליטה ותוקף אנשים בנגיחות

לכתבה המלאה

בינתיים, הניסוי משמש תזכורת לכך שהעתיד כבר כאן וה-AI לא רק מבצע פקודות, אלא מתחיל לחשוב, לשכנע ולהשפיע בדרכים שלא צפינו. מי יודע? אולי יום אחד, הרובוטים יציעו אחד לשני להשמיד את האנושות לפני שהמשמרת תיגמר?