צ'ק פוינט ואנבידיה (צילום באדיבות אנבידיה ישראל, shutterstock, Magma Images)
ענקית האוטומציה הארגונית ServiceNow, מאגר הקוד הפתוח של קהילת מפתחי הבינה המלאכותית Hugging Face וחברת אנבידיה הכריזו היום על StarCoder2 - משפחה חדשה של מודלי שפה גדולים (LLMs) בגישה פתוחה וללא עלות (open access), המיועדים לשמש עבור כתיבת קוד, ומציבים רף חדש של ביצועים, שקיפות ותמורה לעלות.
StarCoder2 פותח בשיתוף עם קהילת BigCode, המנוהלת על ידי ServiceNow, ו-Hugging Face והוא מאומן על 619 שפות תכנות וניתן להמשיך ולאמן אותו לצורך עבודה עם יישומים ארגוניים לביצוע משימות ייחודיות כגון יצירת קוד מקור, שיפור ויצירת תהליכי עבודה, סיכום טקסט ועוד. הפיצ'רים של StarCoder2, בהם השלמת הקוד, סיכום הקוד, איחזור קטעי קוד ועוד, מאפשרים למפתחים להאיץ חדשנות ולשפר תהליכי עבודה.
StarCoder2 מציע מודלים בשלושה גדלים: מודל שאומן על 3 מיליארד פרמטרים שהוכשר על ידי ServiceNow; מודל שאומן על 7 מיליארד פרמטרים שהוכשר על ידי Hugging Face, ומודל שאומן על 15 מיליארד פרמטרים שנבנה על ידי אנבידיה בהתבסס על פלטפורמת NVIDIA NeMo ותשתית המחשוב המואץ של אנבידיה. הגרסאות הקטנות יותר מספקות ביצועים רבי עוצמה תוך חיסכון בעלויות מחשוב, שכן מספר פרמטרים נמוך יותר דורש עוצמת מחשוב נמוכה יותר בשלב ההסקה (inference). ביצועי המודל שאומן על 3 מיליארד פרמטרים תואמים את הביצועים של מודל StarCoder המקורי, שאומן על 15 מיליארד פרמטרים.
