● דגמי Granite 3.0 8B ו-2B החדשים שהושקו לאחרונה משוחררים תחת רישיון Apache 2.0 המתירני והפגינו ביצועים חזקים במבחני אמת מידה אקדמיים וארגוניים רבים, המסוגלים לעלות או להתאים מודלים בקנה מידה דומה.

● דגם Granite Guardian 3.0 שהושק לאחרונה מספק את פונקציית מעקה הבטיחות המקיפה ביותר של IBM לקידום בינה מלאכותית בטוחה ומהימנה.

● דגמי תערובת המומחים של Granite 3.0 שהושקו לאחרונה מאפשרים הסקה יעילה ביותר והשהייה נמוכה, המתאימים לפריסות מבוססות CPU ומחשוב קצה.

● דגם סדרת הזמן החדש של גרניט משיג ביצועים מתקדמים בחיזוי אפס יריות/זריקות מעטות, ועובר על דגמים שגדולים פי עשרה.

● IBM השיקה את הדור הבא של Watsonx Code Assistant מבוסס גרניט לקידוד כללי; כלים חדשים לבנייה ופריסה של יישומי בינה מלאכותית וסוכנים מוצגים לראשונה ב-watsonx.ai.

● הוכרז שגרניט יהפוך למודל ברירת המחדל של Consulting Advantage, פלטפורמת אספקה ​​מונעת בינה מלאכותית המשמשת את 160,000 היועצים של יבמ כדי לספק פתרונות חדשים ללקוחות מהר יותר.

בכנס TechXchange השנתי של יבמ שהתקיים ב-21 באוקטובר, שעון ארה"ב, הודיעה יבמ על השקת משפחת דגמי הבינה המלאכותית המתקדמת ביותר שלה עד כה - גרניט 3.0. מודל שפת הדגל של גרניט מהדור השלישי של יבמ יכול להתעלות או להתאים את המודלים של ספקי דגמים מובילים דומים במבחני מידה אקדמיים ותעשייתיים רבים, תוך הפגנת ביצועים רבי עוצמה, שקיפות ואבטחה.

בהתאם למחויבות החברה לבינה מלאכותית בקוד פתוח, דגמי גרניט משוחררים תחת רישיון Apache 2.0 המתירני. עם השילוב הייחודי שלהם של ביצועים, גמישות ואוטונומיה, הם יכולים לשרת לקוחות ארגוניים וכל הקהילה.

סדרת Granite 3.0 משפחתית של IBM כוללת:

● דגמי כללי/שפה: Granite 3.0 8B Instruct, Granite 3.0 2B Instruct, Granite 3.0 8B Base, Granite 3.0 2B Base

● דגמי מעקה ואבטחה: Granite Guardian 3.0 8B, Granite Guardian 3.0 2B

● דגמי תערובת של מומחים: גרניט 3.0 3B-A800M Instruct, גרניט 3.0 1B-A400M Instruct, בסיס גרניט 3.0 3B-A800M, בסיס גרניט 3.0 1B-A400M

DELETE THIS גרנית מודלים של שפות 3.0 8B ו-2B מתוכננים כמודלים של "הכוח העיקרי" עבור AI ברמת הארגון, המסוגלים לספק ביצועים חזקים במשימות כגון יצירת אחזור משופרת (RAG), סיווג, סיכום, מיצוי ישויות ושימוש בכלים. מודלים קומפקטיים ורב-תכליתיים אלה נועדו להיות מכוונים עם נתונים ארגוניים ומשולבים בצורה חלקה בסביבות עסקיות או זרימות עבודה שונות.

מודלים רבים של שפה גדולה (LLMs) מאומנים על נתונים זמינים לציבור, בעוד שהרוב המכריע של הנתונים הארגוניים נותר ללא שימוש. על ידי שילוב של מודלים קטנים של גרניט עם נתונים ארגוניים, במיוחד באמצעות טכנולוגיית היישור המהפכנית InstructLab שהושקה על ידי IBM ו-RedHat במאי, IBM מאמינה שארגונים יכולים להשיג ביצועים ספציפיים למשימה בהשוואה לדגמים גדולים רק בחלק מהעלות (בהתבסס על התוצאות שנצפו). טווח עלויות נמוך פי 3 עד 23 מדגמים חדישים גדולים במספר הוכחות מוקדמות).

השחרור של Granite 3.0 מאשר מחדש את המחויבות של IBM לבניית שקיפות, בטיחות ואמון במוצרי AI. הדוח הטכני של Granite 3.0 ומדריך השימוש האחראי מספקים תיאור של מערכי הנתונים המשמשים להכשרת מודלים אלה, מפרטים את שלבי הסינון, הניקוי והעיבוד המיושמים, ומדגימים באופן מקיף את תוצאות הביצועים של המודלים במבחני אמת מידה אקדמיים וארגוניים גדולים.

באופן מכריע, IBM מספקת שיפוי קניין רוחני עבור כל דגמי הגרניט ב-watsonx.ai, במטרה להגביר את האמון של לקוחות ארגוניים בשילוב נתונים ארגוניים במודלים.

מעלים את הרף: מבחני מדד גרניט 3.0

דגמי שפת Granite 3.0 מציגים גם תוצאות טובות בביצועים גולמיים.

במבחני ההשוואה האקדמיים הסטנדרטיים שהוגדרו על ידי ה-Leaderboard של Hugging Face OpenLLM, הביצועים הכוללים של מודל Granite 3.0 8B Instruct מובילים בממוצע את הביצועים העדכניים ביותר של דגמי קוד פתוח בגודל דומה מבית Meta ומיסטראל. במבחן ה-AttaQ האבטחה המתקדם של IBM, מודל Granite 3.0 8B Instruct מוביל את הדגמים של Meta ומיסטראל בכל ממדי האבטחה הנמדדים.

במשימות ליבה ארגוניות כמו דור משופר של אחזור (RAG), שימוש בכלים ואבטחת סייבר, הביצועים הממוצעים של מודל Granite 3.0 8B Instruct טובים יותר מאלו של מודלים בקוד פתוח בקנה מידה דומה מ-Mistral ומטה.

דגמי Granite 3.0 מאומנים על למעלה מ-12 טריליון אסימונים מ-12 שפות טבעיות שונות ו-116 שפות תכנות שונות, תוך שימוש בשיטת אימון חדשנית דו-שלבית הממנפת אלפי תוצאות ניסוי שמטרתן לייעל את איכות הנתונים, בחירת הנתונים ופרמטרי הדרכה. עד סוף השנה הנוכחית, דגמי השפה 3.0 8B ו-2B צפויים לתמוך בחלון הקשר מורחב של 128K וביכולות הבנת מסמכים רב-מודאליים
.

יבמ הוכיחה את האיזון המושלם בין ביצועים לבין עלות מסקנת על ידי מתן דגמים מוסדיים של מומחה גרניט (MoE), Granite 3.0 1B-A400M ו- Granite 3.0 3B-A800M. ניתן להשתמש בדגמים הקטנים והקלים הללו עבור יישומים עם אחזור נמוך ופריסות מבוססות CPU.

יבמ הודיעה גם על גרסה מעודכנת של דגם סדרת הזמן Granite המאומן מראש שלה, כשהגרסה המוקדמת יותר שוחררה בתחילת השנה. הדגמים החדשים הללו מאומנים על פי שלושה יותר נתונים ומתפקדים היטב בכל שלושת מבחני הבנצ'מרק העיקריים של סדרות הזמן, ועוברים על הביצועים של דגמים מחברות כמו גוגל ועליבאבא שגדולים פי עשרה. המודלים המעודכנים מספקים גם גמישות רבה יותר במודלים ותמיכה במשתנים חיצוניים ובתחזיות מתגלגלות.

Granite Guardian 3.0: פותח עידן חדש של AI אחראי

כחלק ממהדורה זו, IBM השיקה גם סדרת דגמי Granite Guardian חדשה המאפשרת למפתחי אפליקציות ליישם מעקות בטיחות על ידי בדיקת הנחיות משתמשים ותגובות LLM כדי לזהות סיכונים שונים. דגמי Granite Guardian 3.0, 8B ו-2B מציעים את פונקציות זיהוי הסיכונים והמפגעים המקיפות ביותר בשוק כיום.

בנוסף לממדים של סיכון כמו הטיה חברתית, שנאה, רעילות, חילול השם, אלימות ופריצות לכלא, מודלים אלה מספקים גם סדרה של בדיקות ייחודיות לדור משופר של אחזור (RAG), כגון עובדות, רלוונטיות להקשר ורלוונטיות תשובות. בבדיקות מקיפות מול 19 מדדי בטיחות ו-RAG, לדגם Granite Guardian 3.0 8B יש דיוק כללי גבוה יותר בזיהוי סיכונים בממוצע מכל שלושת הדורות של דגמי ה-Llama Guard של Meta. הביצועים הכוללים שלו בזיהוי הזיות דומים גם לדגמי זיהוי הזיות מיוחדים WeCheck ו-MiniCheck.

למרות שדגמי Granite Guardian נגזרים מדגמי שפת גרניט המקבילים, ניתן להשתמש בהם עם כל מודל AI פתוח או קנייני כדי ליישם אמצעי בטיחות.

זמינות של דגמי גרניט 3.0

ניתן להוריד את כל חבילת הדגמים Granite 3.0 ודגמי סדרות הזמן המעודכנות תחת רישיון Apache 2.0 המתיר ב- HuggingFace. גרסאות ההוראות של דגמי השפה החדשים של Granite 3.0 8B ו-2B ושל דגמי Granite Guardian 3.0 8B ו-2B זמינים כעת לשימוש מסחרי בפלטפורמת watsonx של IBM. חלק מדגמי Granite 3.0 יסופקו גם כשירותי מיקרו של NVIDIA NIM ובאמצעות שילוב Vertex AI Model Garden של Google Cloud עם HuggingFace.

כדי לספק למפתחים אפשרויות מרובות וקלות שימוש ולתמוך בפריסות מקומיות וקצה, מבחר דגמי Granite 3.0 זמין גם ב-Ollama וב-Replicate. הדור האחרון של דגמי Granite מרחיב את הקטלוג העוצמתי של IBM של מערכות LLM בקוד פתוח. IBM משתפת פעולה עם שותפים במערכת האקולוגית כמו AWS, Docker, Domo, Qualcomm Technologies, Inc. (דרך Qualcomm? AI Hub), Salesforce ו-SAP כדי לשלב דגמי Granite מרובים במוצרים של שותפים אלה או להציע דגמי Granite בפלטפורמות שלהם, ובכך לספק אפשרויות בחירה גדולות יותר לארגונים גלובליים.

מעוזרים לסוכנים: מימוש העתיד של AI ברמת הארגון

יבמ מקדמת בינה מלאכותית ברמה הארגונית באמצעות סדרה של טכנולוגיות, מדגמים ועוזרים ועד לכלים הדרושים לכוונון ופריסה של בינה מלאכותית עבור הנתונים והשימושים הייחודיים של החברה. IBM גם סוללת את הדרך לסוכני AI עתידיים שיכולים להיות מכוונים בעצמם, רפלקטיביים ולבצע משימות מורכבות בסביבה עסקית דינמית.

יבמ מפתחת ללא הרף את פורטפוליו הטכנולוגיות העוזרות בינה מלאכותית שלה, מ-watsonx Orchestrate שעוזרת לחברות לבנות עוזרות משלהן דרך כלים דלי קוד ואוטומציה, ועד לעוזרים שונים שנבנו מראש למשימות ותחומים ספציפיים כמו שירות לקוחות, משאבי אנוש, מכירות, ושיווק. ארגונים ברחבי העולם כבר השתמשו ב-watsonx Assistant כדי לעזור להם לבנות עוזרי בינה מלאכותית למשימות כמו מענה על שאלות יומיות מלקוחות או עובדים, מודרניזציה של מיינפריים ויישומי IT מדור קודם, עזרה לסטודנטים לחקור מסלולי קריירה פוטנציאליים או מתן תמיכה במשכנתאות דיגיטליות לרוכשי בתים.

יבמ הודיעה גם על השחרור הקרוב של הדור הבא של watsonx Code Assistant, המופעל על ידי דגמי קוד Granite ויכול לספק סיוע כללי בקידוד לשפות כמו C, C++, Go, Java ו-Python, כמו גם יכולות מודרניזציה מתקדמות של יישומים. עבור יישומי Java ברמת הארגון. כעת ניתן לגשת ליכולות הקוד של Granite גם דרך הרחבה IBM Granite.Code Visual Studio Code.

יבמ גם מתכננת לשחרר כלים חדשים שיעזרו למפתחים לבנות, להתאים אישית ולפרוס בינה מלאכותית בצורה יעילה יותר באמצעות watsonx.ai, כולל מסגרות סוכנים, אינטגרציות עם סביבות קיימות ואוטומציה בקוד נמוך עבור מקרי שימוש נפוצים כגון RAG וסוכנים.

IBM מתמקדת בפיתוח טכנולוגיות סוכני בינה מלאכותית עם אוטונומיה גבוהה יותר, יכולות חשיבה מורכבות ויכולות פתרון בעיות רב-שלביות. הגרסה הראשונית של מודל Granite 3.0 8B תומכת בפונקציות מרכזיות של סוכנים כגון חשיבה מתקדמת ותבניות צ'אט מובנות מאוד וסגנונות הנחיות ליישום זרימות עבודה של שימוש בכלים. IBM גם מתכננת להציג יכולות צ'אט חדשות של סוכני בינה מלאכותית ב-IBM watsonx Orchestrate, תוך מינוף יכולות סוכנים לתיאום עוזרי בינה מלאכותית, כישורים ואוטומציה כדי לעזור למשתמשים לשפר את הפרודוקטיביות הכוללת של הצוות [viii]. IBM מתכננת להמשיך לבנות יכולות סוכנים לתוך סל המוצרים שלה בשנת 2025, כולל סוכנים מוכנים מראש עבור תחומים ספציפיים ומקרי שימוש.

הרחבת פלטפורמת המסירה מונעת בינה מלאכותית כדי לשפר את יועצי IBM עם בינה מלאכותית

יבמ הודיעה גם על הרחבה משמעותית של פלטפורמת המסירה מונעת הבינה המלאכותית שלה, IBM Consulting Advantage. פלטפורמה מרובת דגמים זו מכילה סוכני בינה מלאכותית, יישומים ושיטות (כגון מסגרות לשימוש חוזר), המעצימה 160,000 יועצי IBM לספק ערך ללקוחות מהר יותר וטוב יותר בעלות נמוכה יותר.

כחלק מההרחבה, מודל השפה Granite 3.0 יהפוך למודל ברירת המחדל של Consulting Advantage. עם הביצועים והיעילות של גרניט, יבמ ייעוץ יוכל לעזור למקסם את ההחזר על ההשקעה בפרוייקטים של בינה מלאכותית עבור לקוחות יבמ.

חלק מרכזי נוסף בהרחבה הוא הצגת יתרון IBM Consulting Advantage לטרנספורמציה וניהול בענן ו-IBM Consulting Advantage לפעילות עסקית. כל אחד מהם כולל סוכני, יישומים ושיטות בינה מלאכותית ספציפיים לתחום המשלבים את שיטות העבודה המומלצות של יבמ, המאפשרות ליועצי יבמ לעזור ללקוחות להאיץ משימות ענן ושינוי בינה מלאכותית (כגון מודרניזציה של קוד והנדסת איכות) או ליישם טרנספורמציות ופעולות על פני תחומים (כגון פיננסים). , משאבי אנוש ורכש).

אודות IBM

IBM היא מובילה עולמית בענן היברידי, בינה מלאכותית ושירותים ארגוניים, ועוזרת ללקוחות ביותר מ-175 מדינות ואזורים לקבל תובנות עסקיות מהנתונים שלהם, לפשט תהליכים עסקיים, להפחית עלויות ולהשיג יתרון תחרותי בתעשייה. יותר מ-4,000 גופים ממשלתיים וארגוניים במגזרי תשתית קריטיים כמו שירותים פיננסיים, טלקומוניקציה ושירותי בריאות מסתמכים על פלטפורמת הענן ההיברידית של IBM ו-Red Hat OpenShift כדי להשיג טרנספורמציה דיגיטלית במהירות, ביעילות ובבטחה. החידושים פורצי הדרך של IBM בבינה מלאכותית, מחשוב קוונטי, פתרונות ענן בתעשייה ושירותים ארגוניים מספקים ללקוחותינו אפשרויות פתוחות וגמישות. המחויבות ארוכת הטווח ליושרה תאגידית, ממשל שקוף, אחריות חברתית, תרבות מכילה ורוח שירות היא אבן היסוד של הפיתוח העסקי של IBM.