השלב הבא באבולוציית הבינה המלאכותית מביא עמו סכנה ברורה: סוכני ה-AI מקבלים גישה לכיס שלנו. אם עד כה הטכנולוגיה שימשה בעיקר ליצירת תוכן, כעת היכולת לבצע עסקאות, לאשר תשלומים ולנהל ארנקים אוטונומיים, מציפה חששות כבדים לגבי אובדן שליטה פיננסית. לאחרונה הציגו חברות כמו Cloudflare תשתיות לארנקים מתוכנתים שיוציאו כספים בשם המשתמש.

חרף מנגנוני הגנה, הסכנות ברורות: מאי הבנות של המודל שיגרמו לרכישות שגויות ועד לפריצות סייבר. דניאל שניידר, מנכ"ל AnyBiz, הזהיר: "ברגע שנותנים לסוכן AI זהות, הרשאות ויכולת לבצע פעולות בעלות משמעות כספית, הוא פועל בשם העסק. מכאן מתחילות שאלות של אמון, והצורך להגדיר מתי נדרשת התערבות אנושית".

דניאל שניידר, צילום: יח"צ AnyBiz

החששות מקבלים משנה תוקף לאור הצהרות בכירי התעשייה. כזכור, השבוע עורר מנכ"ל OpenAI, סם אלטמן, סערה כשאמר בריאיון ל-POLITICO כי "העולם צריך לקבל את זה שיקרו כמה דברים רעים לטובת היתרונות" בנוגע לבינה מלאכותית. אלטמן טען כי יתרונות ה-AI מצדיקים ספיגת סיכונים וקרא להשאיר את המודלים נגישים ללא הגבלות מיותרות.

עוד ב-

13 מיליון דולר בקריפטו: כך תפסה רשות המסים את מעלים המס

לכתבה המלאה

אמירות אלו נשמעות מדאיגות במיוחד כשהטכנולוגיה נכנסת לתחום הפיננסי. בניגוד לאלטמן, בחברת אנת'רופיק מזהירים ממודלים שיפתחו "שימור עצמי" ודורשים רגולציה. במציאות שבה ה-AI מקבל ארנק משלו, נראה כי הפתרון היחיד כדי להימנע מאסון כלכלי הוא היערכות מוקדמת והצבת גבולות טכנולוגיים מחמירים.