דיגיטל וטק

בינה מלאכותית זה יקר? פתרון ישראלי יחסוך לכם עד 90% מהעלויות

ניוריאליטי משיקה פלטפורמת הסקה שמגבירה את הביצועים ומפחיתה דרמטית את העלויות הגבוהות של יישומי AI. המערכת החדשנית עוקפת צווארי בקבוק בדאטה סנטרים שמבוססים על מעבדי CPU ומעלה פי 10 את הביצועים, לצד הפחתה משמעותית בהוצאות. המנכ"ל משה תנך: "הגדרנו מחדש את התחום וקבענו את הסטנדרט לעתיד"

מערכת ice | 12/11/2023 20:57 1

הצוות המוביל של ניוריאליטי (משמאל לימין): יוסי קסוס, משה תנך, ליאור חרמוש, צביקה שמואלי (צילום יוסי זליגר)

חברת הסטארט אפ ניוריאליטי (NeuReality) תציג בשבוע הבא בכנס SC23 בדנוור (ארה"ב) את פלטפורמת ההסקה NR1™, הדור הבא של פתרון ההסקה (inference) לבינה מלאכותית. הפתרון מספק מענה לאתגרים של דאטה סנטרים גדולים המבוססים על מעבדי CPU וסובלים מחוסר יעילות ועלויות גבוהות.

שרתי הבינה המלאכותית הייחודיים של ניוריאליטי מאפשרים רמת ביצועים גבוהה פי 10 וחיסכון של עד ל-90% עבור תשתיות AI. במקביל להשקת המוצרים ניוריאליטי חושפת גם שורה של שותפים עסקיים ולקוחות. המוצרים החדשים מבוססים על ארכיטקטורת ה AI-centric והם שרתי ה-AI הראשונים שתוכננו במיוחד לתהליך ההסקה (Inference), ומאופיינים ביכולות הסקלביליות הגבוהות שלהם ובעלויות משתלמות ביותר.

הסקה בבינה מלאכותית נותרת נקודה עיוורת בתעשייה של ימינו, לדברי משה תנך, מייסד משותף ומנכ"ל NeuReality. "צ'אט GPT הוא כמובן דוגמא חדשה ופופולרית, אבל בינה מלאכותית יוצרת (generative AI) נמצאת בחיתוליה. כבר היום, עסקים שהטמיעו יכולות AI מתקשים להגדיל את כמות השימוש שלהם ולעמוד בעלויות הגבוהות של יישומי AI יומיומיים – החל ממערכות לזיהוי קול ומנועי המלצות ועד למערכות ראייה ממוחשבת וניהול סיכונים", אמר תנך.

"בינה מלאכותית יוצרת (Generative AI) מגדילה את הבעיה אפילו יותר וכדי שחברות תוכלנה להטמיע את הטכנולוגיה החדישה הזו חובה לשנות את קבועי המחיר והסקלביליות של המערכות הקיימות. בהשתמש בטכנולוגיה הייחודית שפיתחנו, הלקוחות ירוויחו באופן מיידי בעלויות ובקלות ההתקנה וההטמעה של שימושי ה-AI אותם הם מתכוונים להטמיע".

ניוריאליטי זיהתה את בעיית ה"הסקה" של הבינה המלאכותית כבר בשנת 2019. כיום המיקוד שלה הפך להיות אחת הבעיות הגדולות ביותר בתחום ה-AI: הפיכת תהליך ההסקה לתהליך בר קיימא מבחינה כלכלית וגם סקלבילית מספיק בכדי לתמוך בביקוש של הצרכנים והארגונים עם ההאצה ביישומי בינה מלאכותית.

התחום הזה צפוי לצמוח מאוד מעבר לשימוש הנרחב היום וגם מנכ"ל אנבידיה טען לפני כמה חודשים שעבור כל דולר שמושקע באימון של מודל AI כיום, עסקים יוציאו 8 דולרים על הרצת המודלים האלה, לדברי תנך: "עלויות האנרגיה והעלויות הכספיות האסטרונומיות האלה רק יגדלו ככל שתוכנות, יישומים ו-pipelines יתפתחו בשנים הבאות על גבי מודלי AI מתוחכמים יותר".

מערכת ה-NR1 שהיא תשתית ייעודית להרצת AI. תאפשר לדאטה סנטרים של העתיד, להשיג שיפור של פי 10 בביצועים שלהם בכדי להעצים את ענפי הפיננסים, הבריאות, הממשל והעסקים הקטנים ולסייע להם ליצור חוויות לקוח טובות יותר עם מרכיב גדול יותר של בינה מלאכותית במוצריהם.

Affordable AI! Democratizing AI across governments, industries, and businesses big and small with your choice of #DLA. Find out what makes #GenAI #LLMs so expensive and what we've done about it. Product ships next month. @Arm @Lenovo @Supermicro_SMCI @Qualcomm @IBMResearch @AMD https://t.co/bT8EGCNhgf
— NeuReality (@NeuReality_AI) November 10, 2023

מהלך זה יוכל לסייע לחברות ליצור הכנסות גבוהות יותר בשורה העליונה תוך הפחתה בעלויות של השורה התחתונה בשיעור של עד 90% ומעבר לכך יאפשר לשווקים נוספים ושימושים נוספים להטמיע יכולות AI בשל חסם נמוך יותר כספית ושימושית. ניוריאליטי תדגים בשבוע הבא גם את הערכה לפיתוח תוכנה ואת ה-APIs שלה שמביאים איתם בשורה של קלות פריסה וחסכון משמעותי בעלויות.

שני מוצרי חומרה יוצגו: שרת הסקה מלא - NR1-S™ בארכיטקטורת AI-centric וכרטיס הסקה בודד המתחבר לשרתי CPU-centric רגילים - NR1-M™. לצד ספקי מאיצי למידה עמוקה (DLAs – Deep Learning Accelerators). ניוריאליטי גם תציג הדגמה חיה של התכנה והמערכת כולה יחד עם שותפויות עם ספקי מאיצי דיפ לרנינג, OEM-ים, וספקי מערכת.

פלטפורמת ההסקה שפיתחה ניוריאליטי (צילום: NeuReality)

הטכנולוגיה הייחודית של ניוריאליטי מוגנת באמצעות 14 פטנטים ומבוססת על מספר מכלולים ייחודיים שמספקים את היתרון התחרותי כמו: NR1 AI-Hypervisor™ - מאיץ תהליכי ביצוע וחיבוריות בין מעבדים שונים; מנוע רשת מדגם NR1 AI-over-Fabric™ ורכיב ייחודי ראשון בקטגוריה של NAPU (Network Addressable Processing Unit) הנקרא NR1.

עוד ב-

בינה מלאכותית בשירות הסייבר: קומוולט בדרך לשבור את השוק

לכתבה המלאה

ניוריאליטי תוציא את המוצרים לשוק בסוף 2023 בליווי שותפים בתחומי התוכנה, ה-OEM, הסמיקונדטורים, ה-DLAs ואספקת שירותי ענן, לצד חברות לפתרונות IT ארגוניים דוגמת Arm, AMD, Cirrascale, IBM, Lenovo, Qualcomm, Supermicro ועוד. משה תנך מסכם: "יחד עם שותפינו, הגדרנו מחדש את תחום ההסקה ובתהליך זה קבענו את הסטנדרט לעתיד הבינה המלאכותית. עתיד עם עלויות משתלמות יותר, עם מודעות לפליטות פחמן ועם ביצועים גבוהים".