דיגיטל וטק

אנבידיה ואילון מאסק במהלך מפתיע: השבב הישראלי שיעצור סוכני AI

ענקית הטכנולוגיה והשבבים אנבידיה משיקה פלטפורמת אבטחה דרמטית המבוססת על מעבדים שפותחו במרכז הפיתוח שלה בישראל, ומסוגלת לבודד ולעצור סוכני בינה מלאכותית שחורגים מהגבולות תוך אלפיות השנייה

מערכת ice | 28/9/2026 12:43 עקבו אחרינו בגוגל

ג'נסן הואנג, אילון מאסק (צילום shutterstock)

אנבידיה הכריזה היום (שני) על NVIDIA Open Agent Safety Platform, פלטפורמה המשלבת תוכנת קוד פתוח וארכיטקטורת ייחוס כדי לחזק את אבטחת סוכני ה-AI, משלב בדיקת הסוכנים ועד לפריסתם בפועל. הפלטפורמה מאפשרת להגדיר ולאכוף מדיניות כללי פעולה ואמצעי בקרה בכל שכבות המערכת: התוכנה, החומרה, המחשוב ומערכות רובוטיות המפעילות סוכנים.

אירועי אבטחה שהתרחשו לאחרונה הדגישו את הצורך לצייד ארגונים בכלים פתוחים הניתנים להתאמה, ומאפשרים לאכוף בקרה הדוקה יותר על סוכנים שפועלים ברציפות לאורך זמן. בכל האירועים הללו חזר אותו דפוס: הסוכן עקף את מנגנוני האבטחה בשכבת האפליקציה כדי להשלים את המשימה שהוטלה עליו.

ג'נסן הואנג, מייסד ומנכ"ל אנבידיה, אמר בהשקה כי "הפוטנציאל יוצא הדופן של הבינה המלאכותית עבור החברה האנושית יתממש רק אם נפתור את סוגיית הבטיחות ב-AI. בעודנו ממשיכים לגלות יכולות חדשות בחזית ה-AI, עלינו להאיץ את הגילויים גם בחזית בטיחות הבינה המלאכותית. בטיחות ואבטחה מחייבות עבודה הנדסית בכל שכבות המערכת".

עוד הוסיף מנכ"ל ונבידיה כי "NVIDIA Open Agent Safety Platform מחברת בין התעשייה, חוקרים וארגונים במגזר הציבורי כדי לשתף שיטות עבודה מומלצות, להגיע להסכמה על שיטות הערכה ולקדם שיתוף פעולה בין לאומי. יחד נוכל להעלות את רף הבטיחות של AI בעולם".

שליטה בסוכנים בכל שכבות המערכת: פלטפורמת NVIDIA Open Agent Safety מאפשרת לקבוע ולאכוף מדיניות במערך המלא - בתוכנה שמריצה את הסוכנים, בשכבות החומרה והמחשוב שמניעות את עבודתם, ובמערכות הרובוטיקה שמבצעות משימות בעולם הפיזי. ארגונים יכולים לפרוס את רכיבי הפלטפורמה החדשה בהתאם לדרישות הייחודיות שלהם.

הפלטפורמה כוללת את NVIDIA OpenShell, תוכנת אבטחה שמציבה גבולות לפעולתם של סוכני AI על גבי מעבדים מרכזיים (CPU). ככל שסוכנים מבצעים יותר משימות ביותר מערכות, ארגונים זקוקים לגבולות שניתן לאכוף מחוץ למודל ה-AI ולמעטפת ההפעלה (Harness) של הסוכן. OpenShell, שזמינה כעת, מאפשרת לשלוט בפעולות של סוכנים אוטונומיים בזמן שהם פועלים, בין שהם מבוססים על מודלים פתוחים ובין שעל מודלים סגורים.

OpenShell מספקת את ההגנה הזו על גבי NVIDIA Vera, מעבד ה-CPU הראשון שתוכנן במיוחד עבור עידן סוכני ה-AI, כמעט בלי להאט את עבודת הסוכנים. יחד, OpenShell ו-Vera מאפשרים לסוכנים לפעול באופן מאובטח ולהשלים את משימותיהם במהירות האפשרית. מאחר ש-OpenShell היא תוכנת קוד פתוח, ניתן להתאים אותה גם לפלטפורמות מחשוב צד-שלישי, כולל אלו של Arm ואינטל.

ארכיטקטורת הייחוס של הפלטפורמה (reference system design) כוללת את NVIDIA Sentry, מערכת ניטור הפועלת בנפרד מסביבת הסוכנים (out-of-band) על גבי מעבדי NVIDIA BlueField-4 DPU ומנטרת ברציפות את פעילותם של הסוכנים. Sentry מספקת אכיפת אבטחה ברמת השבב: אם סוכן AI מנסה לחרוג מהגבולות שהוגדרו לו בתוכנה, Sentry מבודדת אותו ועוצרת את פעולתו תוך אלפיות השנייה.

Sentry, שפועלת על גבי מעבדי BlueField-4 DPU שפותחו במרכז הפיתוח של אנבידיה בישראל, מנטרת ברציפות את פעילות הסוכנים ואוכפת מדיניות אבטחה באופן עצמאי, ברמת השבב. היא משלבת זיהוי איומים, בקרה על הסוכנים ואכיפת מדיניות באמצעות החומרה, והגנה על הגישה לנתונים. יכולות אלה פועלות מתוך סביבה מבודדת ונפרדת, המגיבה בזמן אמת ואינה גלויה לסוכנים או לתוקפים.

Sentry מבוססת על תוכנת NVIDIA DOCA, המספקת יכולות שבאמצעותן ניתן לבחון את הבקשות והתגובות של הסוכנים, לספק נתוני ניטור מאומתים, לאמת את זהות הסוכן ולאכוף מדיניות גישה פרטנית בגישת אפס אמון (zero-trust) - לנתונים, לכלים, לממשקי API ולשירותים.

החברות המובילות בתעשייה מחזקות את אבטחת הסוכנים עם אנבידיה: אנת'רופיק (Anthropic) ו-NVIDIA משתפות פעולה כדי להוסיף שכבות של אבטחה ושליטה למערך סוכני ה-AI. ב-Claude Managed Agents, תהליך הפעולה של הסוכן רץ על שרת נפרד מסביבות העבודה המבודדות שבהן מתבצעות משימותיו.

שילוב OpenShell ו-BlueField מאפשר לארגונים לאכוף בקרה הדוקה על הגישה של הסוכנים דרך סביבות אלה. "חברות מפקידות בידי סוכני AI חלק הולך וגדל מהמשימות החשובות ביותר שלהן, והן צריכות להנחות את הסוכנים ולבדוק מה הם עושים, במיוחד בסביבות רגישות", אמר פול סמית, מנהל המסחר הראשי של אנת'רופיק. "Claude Managed Agents מעניק לחברות תמונה ברורה של הפעולות שכל סוכן מבצע, והפלטפורמה של NVIDIA מוסיפה שכבה נוספת של פיקוח ובקרה בשכבות החומרה והתוכנה".

SpaceXAI של אילון מאסק משתמשת בפלטפורמה החדשה עבור סוכני התכנות של Cursor ומודלי Grok. "ככל שלקוחות מסתמכים יותר על סוכנים לביצוע עבודה ממשית, יש לאכוף את הבטיחות מחוץ למודל, באמצעות אמצעי בקרה נוספים שהסוכן אינו יכול לעקוף", אמר מייק ניקולס, נשיא SpaceXAI, והוסיף: "לקוחות צריכים להיות מסוגלים לקבוע את הגבולות האלה עבור Cursor ו-Grok ולסמוך על כך שהם יישמרו".

Scale AI עובדת עם NVIDIA על שילוב טכנולוגיות NVIDIA Open Agent Safety Platform בשכבת התשתית לסוכני AI של Scale GenAI Portfolio.

״Scale AI משתמשת בארכיטקטורת הייחוס של NVIDIA Open Agent Safety Platform כדי לבנות עבור לקוחותינו במגזר העסקי והממשלתי מערכות סוכני AI אמינות להפעלת יישומים חיוניים, הכוללות מלכתחילה בידוד, אכיפת מדיניות ואפשרות לבצע ביקורת", אמר פרנסיס דה-סוזה, מנכ"ל Scale AI. "אנחנו תומכים באבטחת סוכנים באמצעות גבולות ברורים שמגדירים מה מותר להם לעשות, ואמצעי בקרה שמבטיחים שיפעלו במסגרת ההרשאות האלה".

Salesforce ו-NVIDIA שילבו את OpenShell בסלאק, כך שצוותים יכולים לנהל את פעילות הסוכנים של OpenShell ישירות מסלאק: לצפות בפעילות הסוכנים ובאירועי הביקורת (audit events), ולאשר או לדחות בקשות של סוכנים להרשאות נוספות. כך מקבלים הצוותים שקיפות רבה יותר ופיקוח אנושי בזמן שהסוכנים עובדים.

SAP מטמיעה את OpenShell בסביבת ההרצה של Joule Studio, חלק מ-SAP Business AI Platform, כדי לשלב פיקוח עסקי עם אבטחה בזמן הריצה. החברה גם תורמת עבודה הנדסית ל-OpenShell ופועלת עם אנבידיה לקידום תקנים של יכולת פעולה הדדית (interoperability) במסגרת Open Secure AI Alliance.

בנוסף, חברות כגון Accenture, Armadin, Cadence, CrowdStrike, Cisco, Cognition, Dassault Systèmes, Deloitte, EY, Hugging Face, IBM, Irregular, Perplexity, Microsoft, SAP, Scale AI, ServiceNow, Siemens, Synopsys, OpenClaw, Palantir ו-Palo Alto Networks נכללות בין יותר מ-100 הארגונים שעובדים עם טכנולוגיות NVIDIA Open Agent Safety Platform.

גם חברות רובוטיקה מובילות, כמו Figure, Gecko Robotics ו-Skild AI, מפתחות עם OpenShell כדי להטמיע בקרות בטיחות לסוכנים במערכות אוטונומיות שפועלות בעולם הפיזי.

Citi ו-JPMorganChase הן בין החברות המובילות בתחום השירותים הפיננסיים שמשתפות פעולה עם NVIDIA בנושא טכנולוגיות קוד פתוח משותפות לבטיחות סוכני AI.

חברות האנרגיה Hitachi Energy, EPRI, NextEra Energy, Quanta Services, SPP, Schneider Electric, Siemens Energy ו-Worley הן בין ספקיות התשתיות הקריטיות בארה"ב שעובדות עם טכנולוגיות הפלטפורמה.

ספקיות תוכנת התשתית Canonical, SUSE ו-Red Hat משלבות את הפלטפורמה במערכות הפעלה נפוצות. Red Hat מריצה את OpenShell ו-DOCA, שתיהן חלק מהפלטפורמה, במסגרת Red Hat AI Factory with NVIDIA - פתרון AI ארגוני שפותח במשותף, לבנייה, פריסה וניהול של AI בקנה מידה רחב בסביבות ענן היברידי.

שותפות נוספות של NVIDIA, בהן Baseten, Cisco, CoreWeave, Dell Technologies, GMI Cloud, HPE, HP Inc., Irregular, Lenovo, Microsoft, Nebius, Oracle Cloud Infrastructure, Supermicro ו-Together AI, הן בין הארגונים המציעים פתרונות תשתית AI המבוססים על טכנולוגיות הפלטפורמה ותומכים בהן, כדי לעזור ללקוחותיהן להריץ סוכני AI באופן מאובטח יותר.

פלטפורמת NVIDIA Open Agent Safety, כולל OpenShell ו-Skills, זמינות דרך עמוד משאבי המפתחים של NVIDIA וב-GitHub. יוזמות שתורמות לאקוסיסטם, ובהן NVIDIA Open Agent Safety Platform, תומכות במטרותיה של Open Secure AI Alliance ושל קהילת הבטיחות והאבטחה של AI בכללותה.

עוד ב-

אנבידיה מקימה מעבדה חדשנית בישראל: "תפתח תרופות בעזרת AI"

לכתבה המלאה

הברית, שהוקמה ביוזמת NVIDIA יחד עם יותר מ-120 ארגונים מובילים ומנוהלת על ידי Linux Foundation, מחזקת את אבטחת סוכני ה-AI באמצעות מחקר פתוח, skills וכלים, וכן באמצעות פרויקטים כמו Shared AI Findings Exchange (ר״ת : SAFE)