● I nuovi modelli Granite 3.0 8B e 2B sono rilasciati con la licenza permissiva Apache 2.0 e hanno dimostrato ottime prestazioni in numerosi test di benchmark accademici e aziendali, superando o eguagliando modelli di scala simile.

● Il modello Granite Guardian 3.0 appena lanciato fornisce la funzione di protezione più completa di IBM per promuovere un'intelligenza artificiale sicura e affidabile.

● I nuovi modelli di esperti combinati Granite 3.0 consentono un'inferenza estremamente efficiente e una bassa latenza, adatti per distribuzioni basate su CPU ed edge computing.

● Il nuovissimo modello di serie temporali Granite raggiunge prestazioni all'avanguardia nella previsione zero-shot/few-shot, superando modelli dieci volte più grandi.

● IBM ha lanciato la nuova generazione di watsonx Code Assistant basato su Granite per la codifica generale; nuovi strumenti per la creazione e la distribuzione di applicazioni e agenti di intelligenza artificiale sono stati introdotti in watsonx.ai.

● È stato annunciato che Granite diventerà il modello predefinito per Consulting Advantage, una piattaforma di distribuzione basata sull'intelligenza artificiale utilizzata dai 160,000 consulenti IBM per fornire più rapidamente nuove soluzioni ai clienti.

Alla conferenza annuale TechXchange di IBM tenutasi il 21 ottobre, ora degli Stati Uniti, IBM ha annunciato il lancio della sua famiglia di modelli di intelligenza artificiale più avanzata fino ad oggi: Granite 3.0. Il modello di linguaggio di punta Granite di terza generazione di IBM può superare o eguagliare i modelli di fornitori di modelli leader simili in molti test di benchmark accademici e di settore, dimostrando prestazioni potenti, trasparenza e sicurezza.

In linea con l'impegno dell'azienda verso l'intelligenza artificiale open source, i modelli Granite vengono rilasciati con la licenza permissiva Apache 2.0. Con la loro combinazione unica di prestazioni, flessibilità e autonomia, possono servire i clienti aziendali e l'intera comunità.

La serie della famiglia Granite 3.0 di IBM comprende:

● Modelli generali/linguistici: Granite 3.0 8B Instruct, Granite 3.0 2B Instruct, Granite 3.0 8B Base, Granite 3.0 2B Base

● Modelli di guardrail e sicurezza: Granite Guardian 3.0 8B, Granite Guardian 3.0 2B

● Modelli di esperti con mix di esperti: Granite 3.0 3B-A800M Instruct, Granite 3.0 1B-A400M Instruct, Granite 3.0 3B-A800M Base, Granite 3.0 1B-A400M Base

La nuova granito I modelli linguistici 3.0 8B e 2B sono progettati come modelli di "forza principale" per l'intelligenza artificiale a livello aziendale, in grado di fornire prestazioni elevate in attività quali generazione migliorata del recupero (RAG), classificazione, riepilogo, estrazione di entità e utilizzo di strumenti. Questi modelli compatti e versatili sono pensati per essere ottimizzati con i dati aziendali e integrati senza soluzione di continuità in vari ambienti aziendali o flussi di lavoro.

Molti modelli linguistici di grandi dimensioni (LLM) vengono addestrati su dati disponibili al pubblico, mentre la stragrande maggioranza dei dati aziendali rimane inutilizzata. Combinando piccoli modelli Granite con dati aziendali, in particolare utilizzando la rivoluzionaria tecnologia di allineamento InstructLab lanciata da IBM e RedHat a maggio, IBM ritiene che le aziende possano ottenere prestazioni specifiche per attività paragonabili a modelli di grandi dimensioni a una frazione del costo (in base all'intervallo di costo osservato da 3 a 23 volte inferiore rispetto ai grandi modelli all'avanguardia in diverse prime proof-of-concept).

Il rilascio di Granite 3.0 riafferma l'impegno di IBM nel creare trasparenza, sicurezza e fiducia nei prodotti AI. Il report tecnico e la guida all'uso responsabile di Granite 3.0 forniscono una descrizione dei set di dati utilizzati per addestrare questi modelli, dettagliano i passaggi di filtraggio, pulizia ed elaborazione applicati e dimostrano in modo completo i risultati delle prestazioni dei modelli nei principali test di benchmark accademici e aziendali.

Fondamentale è che IBM fornisca un indennizzo della proprietà intellettuale per tutti i modelli Granite su watsonx.ai, con l'obiettivo di aumentare la fiducia dei clienti aziendali nell'integrazione dei dati aziendali nei modelli.

Alzare l'asticella: test di benchmark di Granite 3.0

Anche i modelli linguistici Granite 3.0 mostrano buoni risultati in termini di prestazioni grezze.

Nei test di benchmark accademici standard definiti dalla classifica OpenLLM di Hugging Face, le prestazioni complessive del modello Granite 3.0 8B Instruct superano in media le prestazioni all'avanguardia di modelli open source di dimensioni simili di Meta e Mistral. Nel test di benchmark di sicurezza avanzato AttaQ di IBM, il modello Granite 3.0 8B Instruct supera i modelli di Meta e Mistral in tutte le dimensioni di sicurezza misurate.

Nelle attività aziendali principali, come la generazione avanzata di dati (RAG), l'utilizzo di strumenti e la sicurezza informatica, le prestazioni medie del modello Granite 3.0 8B Instruct sono migliori di quelle dei modelli open source di scala simile di Mistral e Meta.

I modelli Granite 3.0 sono addestrati su oltre 12 trilioni di token da 12 diversi linguaggi naturali e 116 diversi linguaggi di programmazione, utilizzando un nuovo metodo di addestramento in due fasi che sfrutta migliaia di risultati sperimentali volti a ottimizzare la qualità dei dati, la selezione dei dati e i parametri di addestramento. Entro la fine di quest'anno, si prevede che i modelli linguistici 3.0 8B e 2B supporteranno una finestra di contesto estesa da 128K e capacità di comprensione dei documenti multimodali
.

IBM ha dimostrato il perfetto equilibrio tra prestazioni e costi di inferenza fornendo i suoi modelli istituzionali Granite expert mixture-of-experts (MoE), Granite 3.0 1B-A400M e Granite 3.0 3B-A800M. Questi modelli più piccoli e leggeri possono essere utilizzati per applicazioni a bassa latenza e distribuzioni basate su CPU.

IBM ha anche annunciato una versione aggiornata del suo modello di serie temporali Granite pre-addestrato, con la versione precedente rilasciata all'inizio di quest'anno. Questi nuovi modelli sono addestrati su tre volte più dati e hanno buone prestazioni in tutti e tre i principali test di benchmark delle serie temporali, superando le prestazioni dei modelli di aziende come Google e Alibaba che sono dieci volte più grandi. I modelli aggiornati forniscono anche una maggiore flessibilità di modellazione e supporto per variabili esterne e previsioni continue.

Granite Guardian 3.0: l'inizio di una nuova era di intelligenza artificiale responsabile

Come parte di questa release, IBM ha anche lanciato una nuova serie di modelli Granite Guardian che consente agli sviluppatori di applicazioni di implementare guardrail di sicurezza controllando i prompt utente e le risposte LLM per rilevare vari rischi. I modelli Granite Guardian 3.0, 8B e 2B offrono le funzioni di rilevamento dei rischi e dei pericoli più complete sul mercato oggi.

Oltre alle dimensioni del pericolo come pregiudizio sociale, odio, tossicità, blasfemia, violenza ed evasioni, questi modelli forniscono anche una serie di controlli specifici della generazione migliorata dal recupero (RAG) come fattualità, pertinenza del contesto e pertinenza della risposta. In test approfonditi rispetto a 19 benchmark di sicurezza e RAG, il modello Granite Guardian 3.0 8B ha una precisione complessiva maggiore nel rilevamento del pericolo in media rispetto a tutte e tre le generazioni di modelli Llama Guard di Meta. Le sue prestazioni complessive nel rilevamento delle allucinazioni sono anche paragonabili ai modelli specializzati di rilevamento delle allucinazioni WeCheck e MiniCheck.

Sebbene i modelli Granite Guardian derivino dai corrispondenti modelli linguistici Granite, possono essere utilizzati con qualsiasi modello di intelligenza artificiale aperto o proprietario per implementare misure di sicurezza.

Disponibilità dei modelli Granite 3.0

L'intera suite di modelli Granite 3.0 e i modelli di serie temporali aggiornati possono essere scaricati con la licenza permissiva Apache 2.0 su HuggingFace. Le varianti di istruzione dei nuovi modelli di linguaggio Granite 3.0 8B e 2B e dei modelli Granite Guardian 3.0 8B e 2B sono ora disponibili per uso commerciale sulla piattaforma watsonx di IBM. Alcuni modelli Granite 3.0 saranno inoltre forniti come microservizi NVIDIA NIM e tramite l'integrazione di Vertex AI Model Garden di Google Cloud con HuggingFace.

Per offrire agli sviluppatori molteplici opzioni e facilità d'uso e supportare implementazioni locali ed edge, su Ollama e Replicate è disponibile anche una selezione di modelli Granite 3.0. L'ultima generazione di modelli Granite amplia il potente catalogo IBM di LLM open source. IBM collabora con partner dell'ecosistema come AWS, Docker, Domo, Qualcomm Technologies, Inc. (tramite il suo Qualcomm AI Hub), Salesforce e SAP per integrare più modelli Granite nei prodotti di questi partner o offrirli sulle loro piattaforme, offrendo una scelta più ampia alle aziende globali.

Da assistenti ad agenti: realizzare il futuro dell'intelligenza artificiale a livello aziendale

IBM sta facendo progredire l'AI a livello aziendale attraverso una serie di tecnologie, dai modelli e assistenti agli strumenti necessari per mettere a punto e distribuire l'AI per i dati e i casi d'uso unici di un'azienda. IBM sta anche aprendo la strada a futuri agenti AI che possono essere autodiretti, riflessivi ed eseguire attività complesse in un ambiente aziendale dinamico.

IBM sta evolvendo costantemente il suo portafoglio di tecnologie di assistenza AI, da watsonx Orchestrate che aiuta le aziende a creare i propri assistenti tramite strumenti low-code e automazione, a vari assistenti predefiniti per attività e domini specifici come servizio clienti, risorse umane, vendite e marketing. Le organizzazioni di tutto il mondo hanno già utilizzato watsonx Assistant per aiutarle a creare assistenti AI per attività come rispondere alle domande quotidiane di clienti o dipendenti, modernizzare mainframe e applicazioni IT legacy, aiutare gli studenti a esplorare potenziali percorsi di carriera o fornire supporto per mutui digitali per gli acquirenti di case.

IBM ha inoltre annunciato l'imminente rilascio della prossima generazione di watsonx Code Assistant, che è basato sui modelli di codice Granite e può fornire assistenza di codifica generale per linguaggi quali C, C++, Go, Java e Python, nonché funzionalità avanzate di modernizzazione delle applicazioni per applicazioni Java di livello aziendale. Le funzionalità di codice di Granite sono ora accessibili anche tramite l'estensione IBM Granite.Code Visual Studio Code.

IBM prevede inoltre di rilasciare nuovi strumenti per aiutare gli sviluppatori a creare, personalizzare e distribuire l'intelligenza artificiale in modo più efficiente utilizzando watsonx.ai, tra cui framework di agenti, integrazioni con ambienti esistenti e automazione low-code per casi d'uso comuni come RAG e agenti.

IBM si concentra sullo sviluppo di tecnologie di agenti AI con maggiore autonomia, capacità di ragionamento complesse e capacità di risoluzione dei problemi in più fasi. La versione iniziale del modello Granite 3.0 8B supporta funzioni chiave degli agenti come ragionamento avanzato e modelli di chat altamente strutturati e stili di prompt per l'implementazione di flussi di lavoro di utilizzo degli strumenti. IBM prevede inoltre di introdurre nuove capacità di chat degli agenti AI in IBM watsonx Orchestrate, sfruttando le capacità degli agenti per coordinare assistenti AI, competenze e automazione per aiutare gli utenti a migliorare la produttività complessiva del team [viii]. IBM prevede di continuare a sviluppare capacità di agenti nel suo portafoglio prodotti nel 2025, inclusi agenti predefiniti per domini e casi d'uso specifici.

Espansione della piattaforma di distribuzione basata sull'intelligenza artificiale per potenziare i consulenti IBM con l'intelligenza artificiale

IBM ha inoltre annunciato un'importante espansione della sua piattaforma di distribuzione basata sull'intelligenza artificiale, IBM Consulting Advantage. Questa piattaforma multi-modello contiene agenti, applicazioni e metodi di intelligenza artificiale (come framework riutilizzabili), consentendo a 160,000 consulenti IBM di fornire valore ai clienti in modo più rapido e migliore a costi inferiori.

Come parte dell'espansione, il modello linguistico Granite 3.0 diventerà il modello predefinito per Consulting Advantage. Con le prestazioni e l'efficienza di Granite, IBM Consulting sarà in grado di aiutare a massimizzare il ritorno sull'investimento nei progetti di intelligenza artificiale generativa per i clienti IBM.

Un'altra parte fondamentale dell'espansione è l'introduzione di IBM Consulting Advantage for Cloud Transformation and Management e IBM Consulting Advantage for Business Operations. Ognuno include agenti AI, applicazioni e metodi specifici per dominio che incorporano le best practice di IBM, consentendo ai consulenti IBM di aiutare i clienti ad accelerare le attività di trasformazione cloud e AI (come la modernizzazione del codice e l'ingegneria della qualità) o di implementare trasformazioni e operazioni in tutti i domini (come finanza, risorse umane e approvvigionamento).

Informazioni su IBM

IBM è leader mondiale nel cloud ibrido, nell'intelligenza artificiale e nei servizi aziendali, aiutando i clienti in oltre 175 paesi e regioni a ottenere informazioni aziendali dai loro dati, semplificare i processi aziendali, ridurre i costi e ottenere un vantaggio competitivo nel settore. Oltre 4,000 enti governativi e aziendali in settori infrastrutturali critici come servizi finanziari, telecomunicazioni e assistenza sanitaria si affidano alla piattaforma cloud ibrida di IBM e a Red Hat OpenShift per ottenere una trasformazione digitale in modo rapido, efficiente e sicuro. Le innovazioni rivoluzionarie di IBM nell'intelligenza artificiale, nel calcolo quantistico, nelle soluzioni cloud di settore e nei servizi aziendali offrono ai nostri clienti scelte aperte e flessibili. L'impegno a lungo termine per l'integrità aziendale, la governance trasparente, la responsabilità sociale, la cultura inclusiva e lo spirito di servizio sono la pietra angolare dello sviluppo aziendale di IBM.