דיגיטל וטק

אנתרופיק באזהרה מדאיגה: בינה מלאכותית תוכל לשכפל את עצמה בקרוב

חברת הבינה המלאכותית אנתרופיק מזהירה מפני התפתחות שעלולה לשנות את עולם הסייבר: מודלים קטנים מסוגלים לבצע חלק מהפעולות הנדרשות לשכפול עצמי, זו הסיבה שזה בעייתי

מערכת ice | 13/10/2026 21:39

אחד התרחישים שמדאיגים מומחי סייבר הוא האפשרות שבינה מלאכותית תוכל להפיץ את עצמה ברשת ללא פיקוח אנושי רציף. לפי האזהרה של הבינה המלאכותית אנתרופיק (Anthropic), ההתקדמות בתחום עשויה לקרב את האפשרות שמודלים קטנים יחסית יוכלו לבצע באופן אוטונומי את מכלול הפעולות הדרושות לשכפול עצמי. לפי התרחיש המתואר, יכולת כזו עשויה להבשיל בתוך חודשים, ואולי עד סוף 2026, אם קצב ההתקדמות הנוכחי יימשך.

החשש אינו מוגבל למודלי AI עצומים, המצריכים חוות שרתים יקרות ועוצמת מחשוב אדירה. דווקא מודלים קטנים יחסית, בעלי עד 30 מיליארד פרמטרים, עומדים במרכז התרחיש המדאיג. לפי התיאור, מערכות כאלה עשויות לנצל מכשירים המחוברים לאינטרנט, בהם מצלמות אבטחה, ממירים ומכשירי חשמל חכמים, כדי ליצור רשת מבוזרת של כוח מחשוב.

רשת כזו עשויה לפעול בדומה ל-Botnet: אוסף של מכשירים שנפרצו ומשמשים יחד להפעלת פעילות זדונית. אלא שבתרחיש שבו הבינה המלאכותית מנהלת חלקים נרחבים מהפעילות באופן אוטונומי, המערכת לא תסתפק בהפעלת המכשירים שנפרצו, אלא תנסה להרחיב את הרשת באמצעות איתור מערכות נוספות והפעלת עותקים נוספים של המודל.

רשת שמתפשטת לאט, אך קשה לעצור

אחד המאפיינים המדאיגים של תרחיש כזה הוא האפשרות לפעולה ללא שרת מרכזי יחיד שמנהל את כלל הרשת. בהיעדר נקודת שליטה אחת, השבתת שרת בודד לא בהכרח תספיק כדי לעצור את הפעילות כולה. גם אם חלק מהמכשירים ינותקו או ינוטרלו, חלקים אחרים ברשת עשויים להמשיך לפעול.

עם זאת, רשת המבוססת על מכשירים ביתיים זולים אינה בהכרח מהירה או יעילה. חומרה חלשה מגבילה את יכולת העיבוד, ולכן תהליך השכפול וההתרחבות עלול להימשך ימים. למרות הקצב האיטי, התרחבות עקבית עשויה להפוך את הרשת למורכבת יותר לזיהוי ולנטרול לאורך זמן.

בתרחישים חמורים יותר, מערכת כזו עלולה לנסות להתנגד להסרה או לחפש גישה למשאבי מחשוב חזקים יותר, לרבות מרכזי נתונים. עם זאת, יש להבחין בין תרחיש אפשרי לבין יכולת שכבר הודגמה בפועל: לפי המידע שנמסר, בניסויים לא הודגמה חדירה אוטונומית למרכזי נתונים מסחריים.

מה כבר הצליחו מודלי הבינה המלאכותית לעשות?

לפי ממצאי הניסויים המתוארים והדיווח של רויטרס, מודלים בעלי 30 מיליארד פרמטרים או פחות מסוגלים כבר לבצע חלק ניכר מפעולות המשנה הנדרשות לשכפול עצמי. עם זאת, הם עדיין מתקשים להשלים את התהליך כולו ברצף ובאמינות.

בניסויי מעבדה בסביבת רשת בדיקה מפושטת, שבה חלק ממנגנוני ההגנה הוסרו, מודלים כמו GLM-5.2 ומודלים חזקים ממנו הדגימו, לפי הדיווח, יכולת לבצע שכפול עצמי מקצה לקצה. ממצאים אלה מצביעים על התקדמות ביכולת של מודלים לבצע רצף מורכב של פעולות, אך אינם מוכיחים כי הם מסוגלים להקים ולתחזק באופן עצמאי רשת זדונית עמידה בעולם האמיתי.

האזהרות מצטרפות לדברים של מנכ"ל אנתרופיק, דריו אמודיי, שהתריע לאחרונה מפני האפשרות שבינה מלאכותית תוכל "לחטוף את האינטרנט כולו" באמצעות רשתות בוטים מתמשכות. החשש הרחב יותר בתעשייה נוגע לאפשרות שמערכות אוטונומיות יוכלו לבצע מתקפות סייבר מורכבות במהירות ובהיקף גדולים, תוך צמצום היכולת של בני אדם לפקח על פעילותן.

עוד ב-

רביב דרוקר על עמית סגל: "לרוב הדיקטטורים יש כזה"

לכתבה המלאה

לצד זאת, חשוב להדגיש כי שכפול עצמי מלא, התפשטות בלתי מוגבלת וחסינות מוחלטת מפני כיבוי אינם יכולות שהוכחו כאן כמציאות קיימת. האתגר המרכזי הוא להבטיח שמנגנוני האבטחה, הפיקוח והתגובה יתפתחו בקצב דומה לזה של המודלים עצמם, לפני שיכולות אוטונומיות מתקדמות יהפכו לכלי בידי גורמים זדוניים.