● Os modelos Granite 3.0 8B e 2B recém-lançados são lançados sob a licença Apache 2.0 e demonstraram forte desempenho em muitos testes de benchmark acadêmicos e empresariais, capazes de superar ou igualar modelos de escala semelhante.

● O recém-lançado modelo Granite Guardian 3.0 oferece a função de proteção mais abrangente da IBM para promover inteligência artificial segura e confiável.

● Os modelos de mistura de especialistas Granite 3.0 recém-lançados permitem inferência extremamente eficiente e baixa latência, adequados para implantações baseadas em CPU e computação de ponta.

● O novíssimo modelo de séries temporais Granite alcança desempenho de última geração em previsão de zero disparos/poucos disparos, superando modelos dez vezes maiores.

● A IBM lançou a próxima geração do watsonx Code Assistant baseado em Granite para codificação geral; novas ferramentas para criar e implementar aplicativos e agentes de IA são lançadas no watsonx.ai.

● Foi anunciado que o Granite se tornará o modelo padrão do Consulting Advantage, uma plataforma de entrega orientada por IA usada pelos 160,000 consultores da IBM para fornecer novas soluções aos clientes com mais rapidez.

Na conferência anual TechXchange da IBM, realizada em 21 de outubro, horário dos EUA, a IBM anunciou o lançamento de sua família de modelos de IA mais avançada até o momento - Granite 3.0. O modelo de linguagem carro-chefe Granite de terceira geração da IBM pode superar ou igualar os modelos de provedores de modelos líderes semelhantes em muitos testes de benchmark acadêmicos e do setor, demonstrando desempenho poderoso, transparência e segurança.

Em linha com o compromisso da empresa com a IA de código aberto, os modelos Granite são lançados sob a licença permissiva Apache 2.0. Com sua combinação única de desempenho, flexibilidade e autonomia, eles podem atender clientes corporativos e toda a comunidade.

A série da família Granite 3.0 da IBM inclui:

● Modelos gerais/idiomas: Granite 3.0 8B Instruct, Granite 3.0 2B Instruct, Granite 3.0 8B Base, Granite 3.0 2B Base

● Modelos de guarda-corpo e segurança: Granite Guardian 3.0 8B, Granite Guardian 3.0 2B

● Modelos de mistura de especialistas: Granite 3.0 3B-A800M Instruct, Granite 3.0 1B-A400M Instruct, Granite 3.0 3B-A800M Base, Granite 3.0 1B-A400M Base

O novo Granito 3.0 Os modelos de linguagem 8B e 2B são projetados como os modelos de "força principal" para IA de nível empresarial, capazes de fornecer forte desempenho em tarefas como geração aprimorada de recuperação (RAG), classificação, sumarização, extração de entidade e uso de ferramentas. Esses modelos compactos e versáteis devem ser ajustados com dados empresariais e perfeitamente integrados a vários ambientes de negócios ou fluxos de trabalho.

Muitos modelos de linguagem grandes (LLMs) são treinados em dados disponíveis publicamente, enquanto a grande maioria dos dados corporativos permanece sem uso. Ao combinar pequenos modelos Granite com dados corporativos, especialmente usando a revolucionária tecnologia de alinhamento InstructLab lançada pela IBM e RedHat em maio, a IBM acredita que as empresas podem atingir desempenho específico de tarefa comparável a grandes modelos por apenas uma fração do custo (com base na faixa de custo observada de 3 a 23 vezes menor do que grandes modelos de ponta em várias provas de conceito iniciais).

O lançamento do Granite 3.0 reafirma o compromisso da IBM em construir transparência, segurança e confiança em produtos de IA. O relatório técnico e o guia de uso responsável do Granite 3.0 fornecem uma descrição dos conjuntos de dados usados ​​para treinar esses modelos, detalham as etapas de filtragem, limpeza e processamento aplicadas e demonstram de forma abrangente os resultados de desempenho dos modelos nos principais testes de benchmark acadêmicos e empresariais.

Fundamentalmente, a IBM fornece indenização de propriedade intelectual para todos os modelos Granite no watsonx.ai, com o objetivo de aumentar a confiança dos clientes empresariais na integração de dados empresariais aos modelos.

Elevando a fasquia: testes de benchmark do Granite 3.0

Os modelos de linguagem do Granite 3.0 também mostram bons resultados em desempenho bruto.

Nos testes de benchmark acadêmico padrão definidos pelo quadro de líderes OpenLLM da Hugging Face, o desempenho geral do modelo Granite 3.0 8B Instruct, em média, lidera o desempenho de última geração de modelos de código aberto de tamanho similar da Meta e da Mistral. No teste de benchmark de segurança avançado AttaQ da IBM, o modelo Granite 3.0 8B Instruct lidera os modelos da Meta e da Mistral em todas as dimensões de segurança medidas.

Em tarefas empresariais essenciais, como geração aprimorada de recuperação (RAG), uso de ferramentas e segurança cibernética, o desempenho médio do modelo Granite 3.0 8B Instruct é melhor do que o de modelos de código aberto de escala semelhante da Mistral e da Meta.

Os modelos Granite 3.0 são treinados em mais de 12 trilhões de tokens de 12 diferentes linguagens naturais e 116 diferentes linguagens de programação, usando um novo método de treinamento de dois estágios que alavanca milhares de resultados experimentais visando otimizar a qualidade dos dados, seleção de dados e parâmetros de treinamento. Até o final deste ano, espera-se que os modelos de linguagem 3.0 8B e 2B suportem uma janela de contexto expandida de 128K e recursos de compreensão de documentos multimodais
.

A IBM demonstrou o equilíbrio perfeito entre desempenho e custo de inferência ao fornecer seus modelos institucionais Granite Expert Mix-of-Experts (MoE), Granite 3.0 1B-A400M e Granite 3.0 3B-A800M. Esses modelos menores e leves podem ser usados ​​para aplicativos de baixa latência e implantações baseadas em CPU.

A IBM também anunciou uma versão atualizada do seu modelo de série temporal Granite pré-treinado, com a versão anterior lançada no início deste ano. Esses novos modelos são treinados em três vezes mais dados e têm bom desempenho em todos os três principais testes de benchmark de série temporal, superando o desempenho de modelos de empresas como Google e Alibaba, que são dez vezes maiores. Os modelos atualizados também fornecem maior flexibilidade de modelagem e suporte para variáveis ​​externas e previsões contínuas.

Granite Guardian 3.0: Inaugurando uma nova era de IA responsável

Como parte deste lançamento, a IBM também lançou uma nova série de modelos Granite Guardian que permite que desenvolvedores de aplicativos implementem proteções de segurança verificando prompts de usuário e respostas LLM para detectar vários riscos. Os modelos Granite Guardian 3.0, 8B e 2B oferecem as funções de detecção de risco e perigo mais abrangentes do mercado atualmente.

Além das dimensões de risco, como preconceito social, ódio, toxicidade, blasfêmia, violência e fugas de presos, esses modelos também fornecem uma série de verificações específicas de geração aprimorada de recuperação (RAG) exclusivas, como factualidade, relevância do contexto e relevância da resposta. Em testes extensivos contra 19 benchmarks de segurança e RAG, o modelo Granite Guardian 3.0 8B tem precisão geral mais alta na detecção de risco, em média, do que todas as três gerações de modelos Llama Guard da Meta. Seu desempenho geral na detecção de alucinações também é comparável aos modelos especializados de detecção de alucinações WeCheck e MiniCheck.

Embora os modelos do Granite Guardian sejam derivados dos modelos de linguagem Granite correspondentes, eles podem ser usados ​​com qualquer modelo de IA aberto ou proprietário para implementar salvaguardas de segurança.

Disponibilidade dos modelos Granite 3.0

O conjunto completo de modelos Granite 3.0 e os modelos de séries temporais atualizados podem ser baixados sob a licença permissiva Apache 2.0 no HuggingFace. As variantes de instrução dos novos modelos de linguagem Granite 3.0 8B e 2B e os modelos Granite Guardian 3.0 8B e 2B agora estão disponíveis para uso comercial na plataforma watsonx da IBM. Alguns modelos Granite 3.0 também serão fornecidos como microsserviços NVIDIA NIM e por meio da integração do Vertex AI Model Garden do Google Cloud com o HuggingFace.

Para oferecer aos desenvolvedores múltiplas opções e facilidade de uso, além de oferecer suporte a implantações locais e de ponta, uma seleção de modelos Granite 3.0 também está disponível no Ollama e no Replicate. A última geração de modelos Granite expande o poderoso catálogo de LLMs de código aberto da IBM. A IBM faz parcerias com parceiros do ecossistema como AWS, Docker, Domo, Qualcomm Technologies, Inc. (por meio de seu Qualcomm® AI Hub), Salesforce e SAP para integrar múltiplos modelos Granite aos produtos desses parceiros ou oferecer modelos Granite em suas plataformas, proporcionando mais opções para empresas globais.

De assistentes a agentes: concretizando o futuro da IA ​​de nível empresarial

A IBM está avançando a IA de nível empresarial por meio de uma série de tecnologias, de modelos e assistentes às ferramentas necessárias para ajustar e implementar a IA para dados e casos de uso exclusivos de uma empresa. A IBM também está abrindo caminho para futuros agentes de IA que podem ser autodirigidos, reflexivos e executar tarefas complexas em um ambiente de negócios dinâmico.

A IBM está continuamente evoluindo seu portfólio de tecnologias de assistentes de IA, desde o watsonx Orchestrate, que ajuda as empresas a construir seus próprios assistentes por meio de ferramentas de baixo código e automação, até vários assistentes pré-construídos para tarefas e domínios específicos, como atendimento ao cliente, recursos humanos, vendas e marketing. Organizações ao redor do mundo já usaram o watsonx Assistant para ajudá-las a construir assistentes de IA para tarefas como responder a perguntas diárias de clientes ou funcionários, modernizar mainframes e aplicativos de TI legados, ajudar os alunos a explorar possíveis caminhos de carreira ou fornecer suporte digital de hipoteca para compradores de imóveis.

A IBM também anunciou o próximo lançamento da próxima geração do watsonx Code Assistant, que é alimentado por modelos de código Granite e pode fornecer assistência geral de codificação para linguagens como C, C++, Go, Java e Python, bem como recursos avançados de modernização de aplicativos para aplicativos Java de nível empresarial. Os recursos de código do Granite agora também podem ser acessados ​​por meio da extensão IBM Granite.Code Visual Studio Code.

A IBM também planeja lançar novas ferramentas para ajudar os desenvolvedores a criar, personalizar e implantar IA de forma mais eficiente usando o watsonx.ai, incluindo estruturas de agentes, integrações com ambientes existentes e automação de baixo código para casos de uso comuns, como RAG e agentes.

A IBM está focada no desenvolvimento de tecnologias de agentes de IA com maior autonomia, capacidades de raciocínio complexas e habilidades de resolução de problemas em várias etapas. A versão inicial do modelo Granite 3.0 8B oferece suporte a funções-chave de agentes, como raciocínio avançado e modelos de bate-papo altamente estruturados e estilos de prompt para implementar fluxos de trabalho de uso de ferramentas. A IBM também planeja introduzir novas capacidades de bate-papo de agentes de IA no IBM watsonx Orchestrate, aproveitando as capacidades de agentes para coordenar assistentes de IA, habilidades e automação para ajudar os usuários a melhorar a produtividade geral da equipe [viii]. A IBM planeja continuar a desenvolver capacidades de agentes em seu portfólio de produtos em 2025, incluindo agentes pré-construídos para domínios e casos de uso específicos.

Expandindo a plataforma de entrega orientada por IA para aprimorar os consultores da IBM com IA

A IBM também anunciou uma expansão significativa de sua plataforma de entrega orientada por IA, IBM Consulting Advantage. Esta plataforma multimodelo contém agentes, aplicativos e métodos de IA (como frameworks reutilizáveis), capacitando 160,000 consultores da IBM a fornecer valor aos clientes de forma mais rápida e melhor a um custo menor.

Como parte da expansão, o modelo de linguagem Granite 3.0 se tornará o modelo padrão para Consulting Advantage. Com o desempenho e a eficiência do Granite, a IBM Consulting poderá ajudar a maximizar o retorno sobre o investimento em projetos de IA generativa para clientes IBM.

Outra parte fundamental da expansão é a introdução do IBM Consulting Advantage for Cloud Transformation and Management e do IBM Consulting Advantage for Business Operations. Cada um inclui agentes de IA específicos de domínio, aplicativos e métodos que incorporam as melhores práticas da IBM, permitindo que os consultores da IBM ajudem os clientes a acelerar tarefas de transformação de nuvem e IA (como modernização de código e engenharia de qualidade) ou implementar transformações e operações em domínios (como finanças, recursos humanos e compras).

Sobre a IBM

A IBM é líder global em nuvem híbrida, inteligência artificial e serviços empresariais, ajudando clientes em mais de 175 países e regiões a obter insights de negócios a partir de seus dados, simplificar processos de negócios, reduzir custos e obter uma vantagem competitiva no setor. Mais de 4,000 entidades governamentais e empresariais em setores de infraestrutura crítica, como serviços financeiros, telecomunicações e assistência médica, contam com a plataforma de nuvem híbrida da IBM e o Red Hat OpenShift para atingir a transformação digital de forma rápida, eficiente e segura. As inovações revolucionárias da IBM em inteligência artificial, computação quântica, soluções de nuvem do setor e serviços empresariais fornecem aos nossos clientes escolhas abertas e flexíveis. O compromisso de longo prazo com a integridade corporativa, governança transparente, responsabilidade social, cultura inclusiva e espírito de serviço é a pedra angular do desenvolvimento de negócios da IBM.