● Los nuevos modelos Granite 3.0 8B y 2B se lanzan bajo la licencia permisiva Apache 2.0 y han demostrado un sólido desempeño en muchas pruebas comparativas académicas y empresariales, capaces de superar o igualar modelos de escala similar.

● El modelo Granite Guardian 3.0 recientemente lanzado proporciona la función de protección más completa de IBM para promover una inteligencia artificial segura y confiable.

● Los modelos de mezcla de expertos Granite 3.0 recientemente lanzados permiten una inferencia extremadamente eficiente y una baja latencia, adecuada para implementaciones basadas en CPU y computación de borde.

● El nuevo modelo de series temporales Granite logra un rendimiento de última generación en predicción de cero disparos/pocos disparos, superando modelos diez veces más grandes.

● IBM ha lanzado la próxima generación de watsonx Code Assistant basado en Granite para codificación general; en watsonx.ai se presentan nuevas herramientas para crear e implementar aplicaciones y agentes de IA.

● Se anuncia que Granite se convertirá en el modelo predeterminado para Consulting Advantage, una plataforma de entrega impulsada por IA utilizada por los 160,000 consultores de IBM para brindar nuevas soluciones a los clientes más rápidamente.

En la conferencia anual TechXchange de IBM, celebrada el 21 de octubre (hora de EE. UU.), IBM anunció el lanzamiento de su familia de modelos de IA más avanzada hasta la fecha: Granite 3.0. El modelo de lenguaje insignia Granite de tercera generación de IBM puede superar o igualar los modelos de proveedores de modelos líderes similares en muchas pruebas de referencia académicas y de la industria, lo que demuestra un rendimiento, una transparencia y una seguridad potentes.

En línea con el compromiso de la empresa con la IA de código abierto, los modelos Granite se lanzan bajo la licencia permisiva Apache 2.0. Con su combinación única de rendimiento, flexibilidad y autonomía, pueden servir a los clientes empresariales y a toda la comunidad.

La serie de la familia Granite 3.0 de IBM incluye:

● Modelos generales/de idioma: Granite 3.0 8B Instruct, Granite 3.0 2B Instruct, Granite 3.0 8B Base, Granite 3.0 2B Base

● Modelos de barandillas y seguridad: Granite Guardian 3.0 8B, Granite Guardian 3.0 2B

● Modelos de mezcla de expertos para expertos: Granite 3.0 3B-A800M Instruct, Granite 3.0 1B-A400M Instruct, Granite 3.0 3B-A800M Base, Granite 3.0 1B-A400M Base

El nuevo edificio corporativo de Granito Los modelos de lenguaje 3.0 8B y 2B están diseñados como los modelos de "fuerza principal" para la IA de nivel empresarial, capaces de proporcionar un sólido desempeño en tareas como generación mejorada por recuperación (RAG), clasificación, resumen, extracción de entidades y uso de herramientas. Estos modelos compactos y versátiles están pensados ​​para ajustarse con precisión a los datos empresariales e integrarse sin problemas en diversos entornos o flujos de trabajo comerciales.

Muchos modelos de lenguaje de gran tamaño (LLM) se entrenan con datos disponibles públicamente, mientras que la gran mayoría de los datos empresariales permanecen sin utilizar. Al combinar pequeños modelos de Granite con datos empresariales, especialmente mediante el uso de la revolucionaria tecnología de alineación InstructLab lanzada por IBM y RedHat en mayo, IBM cree que las empresas pueden lograr un rendimiento específico de tareas comparable al de los modelos de gran tamaño a solo una fracción del costo (según el rango de costo observado de 3 a 23 veces menor que el de los modelos de vanguardia de gran tamaño en varias pruebas de concepto tempranas).

El lanzamiento de Granite 3.0 reafirma el compromiso de IBM de generar transparencia, seguridad y confianza en los productos de IA. El informe técnico y la guía de uso responsable de Granite 3.0 proporcionan una descripción de los conjuntos de datos utilizados para entrenar estos modelos, detallan los pasos de filtrado, limpieza y procesamiento aplicados y demuestran de manera integral los resultados de rendimiento de los modelos en importantes pruebas comparativas académicas y empresariales.

Fundamentalmente, IBM proporciona indemnización por propiedad intelectual para todos los modelos Granite en watsonx.ai, con el objetivo de mejorar la confianza de los clientes empresariales en la integración de datos empresariales en los modelos.

Subiendo el listón: pruebas comparativas de Granite 3.0

Los modelos de lenguaje Granite 3.0 también muestran buenos resultados en rendimiento bruto.

En las pruebas de referencia académicas estándar definidas por la tabla de clasificación OpenLLM de Hugging Face, el rendimiento general del modelo Granite 3.0 8B Instruct supera en promedio el rendimiento de vanguardia de los modelos de código abierto de tamaño similar de Meta y Mistral. En la prueba de referencia de seguridad avanzada AttaQ de IBM, el modelo Granite 3.0 8B Instruct supera a los modelos de Meta y Mistral en todas las dimensiones de seguridad medidas.

En tareas empresariales centrales, como la generación de recuperación mejorada (RAG), el uso de herramientas y la ciberseguridad, el rendimiento promedio del modelo Granite 3.0 8B Instruct es mejor que el de los modelos de código abierto de escala similar de Mistral y Meta.

Los modelos Granite 3.0 se entrenan con más de 12 billones de tokens de 12 lenguajes naturales diferentes y 116 lenguajes de programación diferentes, utilizando un novedoso método de entrenamiento en dos etapas que aprovecha miles de resultados experimentales destinados a optimizar la calidad de los datos, la selección de datos y los parámetros de entrenamiento. Para fines de este año, se espera que los modelos de lenguaje 3.0 8B y 2B admitan una ventana de contexto ampliada de 128K y capacidades de comprensión de documentos multimodales.
.

IBM ha demostrado el equilibrio perfecto entre rendimiento y costo de inferencia al ofrecer sus modelos institucionales de combinación de expertos (MoE) Granite 3.0 1B-A400M y Granite 3.0 3B-A800M. Estos modelos más pequeños y livianos se pueden utilizar para aplicaciones de baja latencia e implementaciones basadas en CPU.

IBM también anunció una versión actualizada de su modelo de series temporales Granite preentrenado, cuya versión anterior se lanzó a principios de este año. Estos nuevos modelos se entrenan con tres veces más datos y tienen un buen desempeño en las tres principales pruebas de referencia de series temporales, superando el desempeño de modelos de empresas como Google y Alibaba que son diez veces más grandes. Los modelos actualizados también brindan mayor flexibilidad de modelado y soporte para variables externas y predicciones continuas.

Granite Guardian 3.0: el comienzo de una nueva era de inteligencia artificial responsable

Como parte de este lanzamiento, IBM también lanzó una nueva serie de modelos Granite Guardian que permite a los desarrolladores de aplicaciones implementar medidas de seguridad verificando las indicaciones del usuario y las respuestas de LLM para detectar diversos riesgos. Los modelos Granite Guardian 3.0, 8B y 2B ofrecen las funciones de detección de riesgos y peligros más completas del mercado actual.

Además de las dimensiones de riesgo, como el sesgo social, el odio, la toxicidad, la blasfemia, la violencia y las fugas de la cárcel, estos modelos también proporcionan una serie de comprobaciones específicas de generación mejorada por recuperación (RAG), como la veracidad, la relevancia del contexto y la relevancia de las respuestas. En pruebas exhaustivas con 19 puntos de referencia de seguridad y RAG, el modelo Granite Guardian 3.0 8B tiene una precisión general más alta en la detección de peligros en promedio que las tres generaciones de modelos Llama Guard de Meta. Su rendimiento general en la detección de alucinaciones también es comparable a los modelos especializados de detección de alucinaciones WeCheck y MiniCheck.

Aunque los modelos Granite Guardian se derivan de los modelos de lenguaje Granite correspondientes, se pueden utilizar con cualquier modelo de IA abierto o propietario para implementar medidas de seguridad.

Disponibilidad de los modelos Granite 3.0

El conjunto completo de modelos Granite 3.0 y los modelos de series temporales actualizados se pueden descargar bajo la licencia permisiva Apache 2.0 en HuggingFace. Las variantes de instrucciones de los nuevos modelos de lenguaje Granite 3.0 8B y 2B y los modelos Granite Guardian 3.0 8B y 2B ya están disponibles para uso comercial en la plataforma watsonx de IBM. Algunos modelos Granite 3.0 también se proporcionarán como microservicios NVIDIA NIM y a través de la integración de Vertex AI Model Garden de Google Cloud con HuggingFace.

Para ofrecer a los desarrolladores múltiples opciones y facilidad de uso, así como compatibilidad con implementaciones locales y en el borde, también hay disponible una selección de modelos Granite 3.0 en Ollama y Replicate. La última generación de modelos Granite amplía el potente catálogo de LLM de código abierto de IBM. IBM colabora con socios del ecosistema como AWS, Docker, Domo, Qualcomm Technologies, Inc. (a través de su Qualcomm® AI Hub), Salesforce y SAP para integrar múltiples modelos Granite en los productos de estos socios u ofrecerlos en sus plataformas, ofreciendo así una mayor variedad de opciones para las empresas globales.

De asistentes a agentes: haciendo realidad el futuro de la IA a nivel empresarial

IBM está impulsando la IA a nivel empresarial a través de una serie de tecnologías, desde modelos y asistentes hasta las herramientas necesarias para ajustar e implementar la IA para los datos y casos de uso exclusivos de una empresa. IBM también está allanando el camino para futuros agentes de IA que puedan ser autodirigidos, reflexivos y realizar tareas complejas en un entorno empresarial dinámico.

IBM está continuamente desarrollando su cartera de tecnologías de asistentes de IA, desde Watsonx Orchestrate, que ayuda a las empresas a crear sus propios asistentes a través de herramientas de bajo código y automatización, hasta varios asistentes prediseñados para tareas y dominios específicos, como atención al cliente, recursos humanos, ventas y marketing. Organizaciones de todo el mundo ya han utilizado Watsonx Assistant para ayudarlas a crear asistentes de IA para tareas como responder preguntas diarias de clientes o empleados, modernizar mainframes y aplicaciones de TI heredadas, ayudar a los estudiantes a explorar posibles trayectorias profesionales o brindar asistencia hipotecaria digital para compradores de viviendas.

IBM también anunció el próximo lanzamiento de la próxima generación de Watsonx Code Assistant, que funciona con modelos de código de Granite y puede proporcionar asistencia general de codificación para lenguajes como C, C++, Go, Java y Python, así como capacidades avanzadas de modernización de aplicaciones para aplicaciones Java de nivel empresarial. Ahora también se puede acceder a las capacidades de código de Granite a través de la extensión IBM Granite.Code Visual Studio Code.

IBM también planea lanzar nuevas herramientas para ayudar a los desarrolladores a construir, personalizar e implementar IA de manera más eficiente utilizando watsonx.ai, incluidos marcos de agentes, integraciones con entornos existentes y automatización de bajo código para casos de uso comunes como RAG y agentes.

IBM se centra en el desarrollo de tecnologías de agentes de IA con mayor autonomía, capacidades de razonamiento complejo y capacidades de resolución de problemas en varios pasos. La versión inicial del modelo Granite 3.0 8B admite funciones clave de los agentes, como razonamiento avanzado y plantillas de chat altamente estructuradas y estilos de indicaciones para implementar flujos de trabajo de uso de herramientas. IBM también planea introducir nuevas capacidades de chat de agentes de IA en IBM Watsonx Orchestrate, aprovechando las capacidades de los agentes para coordinar asistentes de IA, habilidades y automatización para ayudar a los usuarios a mejorar la productividad general del equipo [viii]. IBM planea seguir incorporando capacidades de agentes a su cartera de productos en 2025, incluidos agentes prediseñados para dominios y casos de uso específicos.

Ampliación de la plataforma de entrega impulsada por IA para mejorar los consultores de IBM con IA

IBM también anunció una importante expansión de su plataforma de entrega impulsada por IA, IBM Consulting Advantage. Esta plataforma multimodelo contiene agentes, aplicaciones y métodos de IA (como marcos reutilizables), lo que permite a 160,000 consultores de IBM brindar valor a los clientes de manera más rápida y mejor a un menor costo.

Como parte de la expansión, el modelo de lenguaje Granite 3.0 se convertirá en el modelo predeterminado para Consulting Advantage. Con el rendimiento y la eficiencia de Granite, IBM Consulting podrá ayudar a maximizar el retorno de la inversión en proyectos de IA generativa para los clientes de IBM.

Otra parte clave de la expansión es la introducción de IBM Consulting Advantage for Cloud Transformation and Management e IBM Consulting Advantage for Business Operations. Cada una incluye agentes, aplicaciones y métodos de IA específicos de cada dominio que incorporan las mejores prácticas de IBM, lo que permite a los consultores de IBM ayudar a los clientes a acelerar las tareas de transformación de la nube y la IA (como la modernización de códigos y la ingeniería de calidad) o implementar transformaciones y operaciones en todos los dominios (como finanzas, recursos humanos y adquisiciones).

Acerca de IBM

IBM es líder mundial en servicios empresariales, inteligencia artificial y nube híbrida, y ayuda a clientes en más de 175 países y regiones a obtener información empresarial a partir de sus datos, simplificar procesos empresariales, reducir costos y obtener una ventaja competitiva en la industria. Más de 4,000 entidades gubernamentales y empresariales en sectores de infraestructura crítica como servicios financieros, telecomunicaciones y atención médica confían en la plataforma de nube híbrida de IBM y Red Hat OpenShift para lograr una transformación digital de manera rápida, eficiente y segura. Las innovaciones revolucionarias de IBM en inteligencia artificial, computación cuántica, soluciones de nube industrial y servicios empresariales brindan a nuestros clientes opciones abiertas y flexibles. El compromiso a largo plazo con la integridad corporativa, la gobernanza transparente, la responsabilidad social, la cultura inclusiva y el espíritu de servicio es la piedra angular del desarrollo comercial de IBM.