● Недавно выпущенные модели Granite 3.0 8B и 2B выпускаются под разрешительной лицензией Apache 2.0 и продемонстрировали высокую производительность во многих академических и корпоративных тестах производительности, превосходя или сравнявшись с моделями аналогичного масштаба.

● Недавно выпущенная модель Granite Guardian 3.0 обеспечивает наиболее полную функцию защиты от IBM для продвижения безопасного и надежного искусственного интеллекта.

● Недавно выпущенные экспертные модели Granite 3.0, объединяющие экспертов, обеспечивают чрезвычайно эффективный вывод и низкую задержку, подходящую для развертываний на базе ЦП и периферийных вычислений.

● Совершенно новая модель временных рядов Granite демонстрирует высочайшую производительность в прогнозировании с нулевым/нескольким результатом, превосходя модели, которые в десять раз больше.

● IBM выпустила следующее поколение watsonx Code Assistant на базе Granite для общего программирования; в watsonx.ai впервые представлены новые инструменты для создания и развертывания приложений и агентов ИИ.

● Объявлено, что Granite станет моделью по умолчанию для Consulting Advantage — платформы предоставления услуг на базе искусственного интеллекта, которую используют 160,000 XNUMX консультантов IBM для более оперативного предоставления клиентам новых решений.

На ежегодной конференции IBM TechXchange, состоявшейся 21 октября по американскому времени, IBM объявила о запуске своего самого передового на сегодняшний день семейства моделей ИИ — Granite 3.0. Флагманская языковая модель IBM Granite третьего поколения может превзойти или сравняться с моделями ведущих поставщиков аналогичных моделей во многих академических и отраслевых тестах, демонстрируя высокую производительность, прозрачность и безопасность.

В соответствии с обязательством компании по открытому исходному коду ИИ, модели Granite выпускаются под разрешительной лицензией Apache 2.0. Благодаря уникальному сочетанию производительности, гибкости и автономности они могут обслуживать корпоративных клиентов и все сообщество.

Семейство IBM Granite 3.0 включает в себя:

● Общие/Языковые модели: Granite 3.0 8B Instruct, Granite 3.0 2B Instruct, Granite 3.0 8B Base, Granite 3.0 2B Base

● Модели ограждений и безопасности: Granite Guardian 3.0 8B, Granite Guardian 3.0 2B

● Экспертная смесь экспертных моделей: Granite 3.0 3B-A800M Instruct, Granite 3.0 1B-A400M Instruct, Granite 3.0 3B-A800M Base, Granite 3.0 1B-A400M Base

Новый гранит 3.0 8B и 2B языковые модели разработаны как модели "главной силы" для ИИ корпоративного уровня, способные обеспечить высокую производительность в таких задачах, как генерация с улучшенным поиском (RAG), классификация, резюмирование, извлечение сущностей и использование инструментов. Эти компактные и универсальные модели предназначены для тонкой настройки с корпоративными данными и бесшовной интеграции в различные бизнес-среды или рабочие процессы.

Многие крупные языковые модели (LLM) обучаются на общедоступных данных, в то время как подавляющее большинство корпоративных данных остаются неиспользованными. Объединяя небольшие модели Granite с корпоративными данными, особенно с использованием революционной технологии выравнивания InstructLab, запущенной IBM и RedHat в мае, IBM считает, что предприятия могут достичь производительности для конкретных задач, сопоставимой с крупными моделями, всего за часть затрат (на основе наблюдаемого диапазона затрат от 3 до 23 раз ниже, чем у крупных передовых моделей в нескольких ранних проверках концепций).

Выпуск Granite 3.0 подтверждает приверженность IBM к обеспечению прозрачности, безопасности и доверия к продуктам ИИ. Технический отчет Granite 3.0 и руководство по ответственному использованию содержат описание наборов данных, используемых для обучения этих моделей, подробно описывают применяемые этапы фильтрации, очистки и обработки, а также всесторонне демонстрируют результаты производительности моделей в основных академических и корпоративных тестах производительности.

Важно отметить, что IBM предоставляет компенсацию за нарушение прав интеллектуальной собственности для всех моделей Granite на watsonx.ai, стремясь повысить уверенность корпоративных клиентов в интеграции корпоративных данных в модели.

Поднимая планку: тесты производительности Granite 3.0

Языковые модели Granite 3.0 также показывают хорошие результаты по чистой производительности.

В стандартных академических тестах производительности, определенных в таблице лидеров OpenLLM Hugging Face, общая производительность модели Granite 3.0 8B Instruct в среднем превосходит самые современные показатели производительности моделей с открытым исходным кодом аналогичного размера от Meta и Mistral. В расширенном тесте производительности безопасности AttaQ от IBM модель Granite 3.0 8B Instruct превосходит модели Meta и Mistral по всем измеренным параметрам безопасности.

В основных корпоративных задачах, таких как генерация данных с улучшенным поиском (RAG), использование инструментов и кибербезопасность, средняя производительность модели Granite 3.0 8B Instruct лучше, чем у моделей с открытым исходным кодом аналогичного масштаба от Mistral и Meta.

Модели Granite 3.0 обучаются на более чем 12 триллионах токенов из 12 различных естественных языков и 116 различных языков программирования, используя новый двухэтапный метод обучения, который использует тысячи экспериментальных результатов, направленных на оптимизацию качества данных, выбора данных и параметров обучения. К концу этого года ожидается, что языковые модели 3.0 8B и 2B будут поддерживать расширенное контекстное окно 128K и возможности понимания мультимодальных документов
.

IBM продемонстрировала идеальный баланс производительности и стоимости вывода, предоставив свои институциональные модели Granite expert mixed-of-experts (MoE), Granite 3.0 1B-A400M и Granite 3.0 3B-A800M. Эти меньшие и легкие модели можно использовать для приложений с низкой задержкой и развертываний на базе ЦП.

IBM также анонсировала обновленную версию своей предварительно обученной модели временных рядов Granite, более ранняя версия была выпущена ранее в этом году. Эти новые модели обучаются на в три раза большем количестве данных и хорошо работают во всех трех основных тестах временных рядов, превосходя производительность моделей от таких компаний, как Google и Alibaba, которые в десять раз больше. Обновленные модели также обеспечивают большую гибкость моделирования и поддержку внешних переменных и скользящих прогнозов.

Granite Guardian 3.0: открытие новой эры ответственного ИИ

В рамках этого выпуска IBM также выпустила новую серию моделей Granite Guardian, которая позволяет разработчикам приложений внедрять защитные ограждения, проверяя подсказки пользователя и ответы LLM для обнаружения различных рисков. Модели Granite Guardian 3.0, 8B и 2B предлагают самые комплексные функции обнаружения рисков и опасностей на рынке сегодня.

В дополнение к измерениям опасности, таким как социальная предвзятость, ненависть, токсичность, богохульство, насилие и побег из тюрьмы, эти модели также предоставляют ряд уникальных проверок, специфичных для поколения с улучшенным поиском (RAG), таких как фактичность, релевантность контекста и релевантность ответа. В ходе обширного тестирования по 19 тестам безопасности и RAG модель Granite Guardian 3.0 8B показала в среднем более высокую точность обнаружения опасности, чем все три поколения моделей Meta's Llama Guard. Ее общая производительность при обнаружении галлюцинаций также сопоставима со специализированными моделями обнаружения галлюцинаций WeCheck и MiniCheck.

Хотя модели Granite Guardian являются производными от соответствующих моделей языка Granite, их можно использовать с любой открытой или фирменной моделью ИИ для реализации мер безопасности.

Наличие моделей Granite 3.0

Весь набор моделей Granite 3.0 и обновленные модели временных рядов можно загрузить по разрешительной лицензии Apache 2.0 на HuggingFace. Варианты инструкций новых языковых моделей Granite 3.0 8B и 2B и моделей Granite Guardian 3.0 8B и 2B теперь доступны для коммерческого использования на платформе IBM watsonx. Некоторые модели Granite 3.0 также будут предоставлены в виде микросервисов NVIDIA NIM и через интеграцию Vertex AI Model Garden от Google Cloud с HuggingFace.

Чтобы предоставить разработчикам разнообразные возможности и простоту использования, а также поддержку локальных и периферийных развертываний, ряд моделей Granite 3.0 также доступен на платформах Ollama и Replicate. Последнее поколение моделей Granite расширяет мощный каталог программ LLM с открытым исходным кодом IBM. IBM сотрудничает с такими партнерами по экосистеме, как AWS, Docker, Domo, Qualcomm Technologies, Inc. (через Qualcomm™ AI Hub), Salesforce и SAP, для интеграции различных моделей Granite в продукты этих партнеров или предоставления моделей Granite на их платформах, предоставляя более широкий выбор для глобальных предприятий.

От помощников к агентам: реализация будущего искусственного интеллекта корпоративного уровня

IBM продвигает ИИ корпоративного уровня с помощью ряда технологий: от моделей и помощников до инструментов, необходимых для настройки и развертывания ИИ для уникальных данных и вариантов использования компании. IBM также прокладывает путь для будущих агентов ИИ, которые могут быть самоуправляемыми, рефлексивными и выполнять сложные задачи в динамической бизнес-среде.

IBM постоянно развивает свой портфель технологий помощников на основе ИИ, от watsonx Orchestrate, который помогает компаниям создавать собственных помощников с помощью инструментов с низким кодом и автоматизации, до различных готовых помощников для определенных задач и областей, таких как обслуживание клиентов, человеческие ресурсы, продажи и маркетинг. Организации по всему миру уже использовали watsonx Assistant для создания помощников на основе ИИ для таких задач, как ответы на ежедневные вопросы клиентов или сотрудников, модернизация мэйнфреймов и устаревших ИТ-приложений, помощь студентам в изучении потенциальных карьерных путей или предоставление цифровой ипотечной поддержки покупателям жилья.

IBM также объявила о предстоящем выпуске следующего поколения watsonx Code Assistant, который работает на основе моделей кода Granite и может обеспечить общую помощь в кодировании для таких языков, как C, C++, Go, Java и Python, а также расширенные возможности модернизации приложений для Java-приложений корпоративного уровня. Возможности кода Granite теперь также доступны через расширение IBM Granite.Code Visual Studio Code.

IBM также планирует выпустить новые инструменты, которые помогут разработчикам более эффективно создавать, настраивать и развертывать ИИ с помощью watsonx.ai, включая фреймворки агентов, интеграцию с существующими средами и автоматизацию с минимальным кодированием для распространенных вариантов использования, таких как RAG и агенты.

IBM сосредоточена на разработке технологий агентов ИИ с более высокой автономностью, сложными возможностями рассуждения и многошаговыми возможностями решения проблем. Первоначальная версия модели Granite 3.0 8B поддерживает ключевые функции агентов, такие как расширенные рассуждения и высокоструктурированные шаблоны чата и стили подсказок для внедрения рабочих процессов использования инструментов. IBM также планирует внедрить новые возможности чата агентов ИИ в IBM watsonx Orchestrate, используя возможности агентов для координации помощников ИИ, навыков и автоматизации, чтобы помочь пользователям повысить общую производительность команды [viii]. IBM планирует продолжить встраивать возможности агентов в свой портфель продуктов в 2025 году, включая готовые агенты для определенных доменов и вариантов использования.

Расширение платформы предоставления услуг на основе ИИ для улучшения работы консультантов IBM с помощью ИИ

IBM также объявила о значительном расширении своей платформы доставки на основе ИИ, IBM Consulting Advantage. Эта многомодельная платформа содержит агенты ИИ, приложения и методы (например, повторно используемые фреймворки), что позволяет 160,000 XNUMX консультантов IBM предоставлять клиентам ценность быстрее и лучше при меньших затратах.

В рамках расширения языковая модель Granite 3.0 станет моделью по умолчанию для Consulting Advantage. Благодаря производительности и эффективности Granite, IBM Consulting сможет помочь максимизировать отдачу от инвестиций в проекты генеративного ИИ для клиентов IBM.

Еще одной ключевой частью расширения является введение IBM Consulting Advantage for Cloud Transformation and Management и IBM Consulting Advantage for Business Operations. Каждый из них включает в себя доменно-специфические агенты ИИ, приложения и методы, которые включают в себя лучшие практики IBM, позволяя консультантам IBM помогать клиентам ускорять задачи облачной и ИИ-трансформации (такие как модернизация кода и проектирование качества) или внедрять преобразования и операции в разных областях (таких как финансы, человеческие ресурсы и закупки).

О IBM

IBM — мировой лидер в области гибридного облака, искусственного интеллекта и корпоративных услуг, помогающий клиентам в более чем 175 странах и регионах получать бизнес-информацию из своих данных, упрощать бизнес-процессы, сокращать расходы и получать конкурентное преимущество в отрасли. Более 4,000 государственных и корпоративных организаций в таких критически важных секторах инфраструктуры, как финансовые услуги, телекоммуникации и здравоохранение, полагаются на гибридную облачную платформу IBM и Red Hat OpenShift для быстрого, эффективного и безопасного достижения цифровой трансформации. Прорывные инновации IBM в области искусственного интеллекта, квантовых вычислений, отраслевых облачных решений и корпоративных услуг предоставляют нашим клиентам открытый и гибкий выбор. Долгосрочная приверженность корпоративной целостности, прозрачному управлению, социальной ответственности, инклюзивной культуре и духу обслуживания является краеугольным камнем развития бизнеса IBM.