השוק

המיליארדר שלמה קרמר מחלק עשרות אלפי דולרים: "אתגר"

במקביל להשקת פתרון אבטחה חדש לסוכני בינה מלאכותית אוטונומיים, ענקית הסייבר הישראלית של שלמה קרמר פותחת אתגר חדש: 3 הראשונים שיצליחו להחדיר הוראות זדוניות לסוכן ולגרום לו לסטות ממשימתו יזכו ב-10,000 דולר כל אחד | כל הפרטים

צילום Eclipse Media and Leonid Yakobov
חברת הסייבר קייטו נטוורקס (Cato Networks), שהוקמה ומנוהלת על ידי שלמה קרמר, יוצאת באתגר מסקרן לקהילת אבטחת המידע ומציעה פרס כספי כולל של 30,000 דולר למי שיצליח להערים על סוכן בינה מלאכותית (AI). שלושת המשתתפים הראשונים שיעמדו בתנאי הזכאות וישלימו את המשימה בהצלחה יזכו ב-10,000 דולר כל אחד.
האתגר מושק במקביל להכרזה של החברה על AgentSense - פתרון אבטחה חדש המוגן בפטנט, שנועד לנטר באופן רציף ובזמן אמת את פעילותם של סוכני AI אוטונומיים, ולוודא שהחלטותיהם, פעולותיהם והתוצרים שהם מפיקים אכן תואמים את כוונת המשתמש.
במסגרת האתגר (הזמין באתר החברה), המשתתפים מוזמנים לנסות לתקוף תהליך עבודה של סוכן AI המוגן באמצעות המערכת החדשה. המטרה של התוקפים היא להטמין הוראות זדוניות בתוך תוכן שאליו נחשף הסוכן, ולגרום לו לסטות מהמשימה שהוגדרה לו. בקייטו מציינים כי ישתמשו בממצאים ובמשוב של המשתתפים כדי לבחון ולשפר את יכולות ההגנה של הפתרון.
בקייטו נטוורקס מסבירים כי גם כאשר סוכני AI פועלים בהרשאות לגיטימיות לחלוטין, הם עלולים לבצע פעולות מסוכנות החורגות מהמשימות שהוגדרו להם. מקור הסיכון המרכזי נובע מחולשה ארכיטקטונית בסיסית בסוכנים הללו: הקושי להבחין באופן עקבי בין הוראות לגיטימיות שעליהם לבצע לבין תוכן חיצוני שהם נחשפים אליו במהלך העבודה.
תוקפים יכולים לנצל את החולשה הזו ולהסתיר הוראות זדוניות בהודעות דוא"ל, בדפי אינטרנט, במסמכים, בקריאות שירות או בתשובות של כלים שונים. כאשר לסוכן יש גם גישה למידע ארגוני רגיש וגם יכולת להפעיל כלים ולבצע פעולות באופן עצמאי, נוצר מה שבחברה מכנים "השילוש הקטלני" - איום עסקי ממשי שעלול להוביל לדליפת מידע, לפגיעה במערכות ולשיבוש תהליכים עסקיים.
בניגוד לפתרונות המסתמכים על זיהוי דפוסים מוכרים של תקיפה, AgentSense בוחנת בזמן אמת כיצד תוכן לא מהימן משפיע על החלטות הסוכן ועל פעולותיו, גישה שנועדה לספק הגנה גם מפני חולשות שטרם זוהו, לרבות חולשות יום אפס.
שלמה קרמר, מנכ״ל ומייסד-שותף של קייטו נטוורקס, התייחס להשקה ולאתגר ואמר: "בעידן שבו ארגונים מפקידים בידי סוכני AI החלטות שמשפיעות על הכנסותיהם, על הקשר עם הלקוחות ועל הרציפות העסקית, הבקרה על פעילות הסוכנים הופכת חיונית לא פחות מהבקרה הפיננסית. הענקת אוטונומיה רבה יותר לסוכני AI מחייבת מנגנוני אבטחה שיסכלו פעולות מזיקות. החזון שלנו הוא ש־AgentSense יעניק ללקוחותינו את הביטחון להסתמך על סוכני AI גם בניהול תהליכים עסקיים קריטיים, מבלי לאבד את השליטה ולהצליח את האתגר שטמון בהם".
קייטו נטוורקס מספקת פלטפורמת ענן מאוחדת המשלבת רשת, אבטחה וניהול גישה, ומאפשרת לארגונים להחליף תשתיות מיושנות, להבין את ההקשרים בין משתמשים, יישומים, נתונים ואינטראקציות עם בינה מלאכותית - ולאמץ כלי AI תוך שמירה על חוסן תפעולי ורמת אבטחה גבוהה.
עקבו אחרינו
תגובות לכתבה(0):

נותרו 55 תווים

נותרו 1000 תווים

הוסף תגובה

תגובתך התקבלה ותפורסם בכפוף למדיניות המערכת.
תודה.
לתגובה חדשה
תגובתך לא נשלחה בשל בעיית תקשורת, אנא נסה שנית.
חזור לתגובה