● De onlangs gelanceerde Granite 3.0 8B- en 2B-modellen worden uitgebracht onder de toegestane Apache 2.0-licentie en hebben in veel academische en zakelijke benchmarktests sterke prestaties laten zien. Ze zijn in staat om modellen van vergelijkbare omvang te overtreffen of te evenaren.

● Het onlangs gelanceerde Granite Guardian 3.0-model biedt IBM's meest uitgebreide guardrail-functie om veilige en betrouwbare kunstmatige intelligentie te bevorderen.

● De onlangs gelanceerde Granite 3.0 expert-mix van experts-modellen maken uiterst efficiënte inferentie en lage latentie mogelijk, geschikt voor CPU-gebaseerde implementaties en edge computing.

● Het gloednieuwe Granite-tijdreeksmodel levert toonaangevende prestaties bij zero-shot/few-shot-voorspellingen en overtreft daarmee modellen die tien keer groter zijn.

● IBM heeft de volgende generatie van Granite-gebaseerde watsonx Code Assistant gelanceerd voor algemene codering; nieuwe tools voor het bouwen en implementeren van AI-applicaties en -agents worden geïntroduceerd in watsonx.ai.

● Er wordt aangekondigd dat Granite het standaardmodel wordt voor Consulting Advantage, een op AI gebaseerd leveringsplatform dat door de 160,000 consultants van IBM wordt gebruikt om klanten sneller van nieuwe oplossingen te voorzien.

Tijdens IBM's jaarlijkse TechXchange-conferentie op 21 oktober (Amerikaanse tijd) kondigde IBM de lancering aan van zijn meest geavanceerde AI-modelfamilie tot nu toe: Granite 3.0. Het vlaggenschip van IBM, het Granite-taalmodel van de derde generatie, kan de modellen van vergelijkbare toonaangevende modelleveranciers in veel academische en industriële benchmarktests overtreffen of evenaren, en toont krachtige prestaties, transparantie en beveiliging.

In lijn met de toewijding van het bedrijf aan open source AI, worden Granite-modellen vrijgegeven onder de permissieve Apache 2.0-licentie. Met hun unieke combinatie van prestaties, flexibiliteit en autonomie kunnen ze zakelijke klanten en de hele community bedienen.

De Granite 3.0-serie van IBM omvat:

● Algemene/Taalmodellen: Granite 3.0 8B Instruct, Granite 3.0 2B Instruct, Granite 3.0 8B Base, Granite 3.0 2B Base

● Leuning- en beveiligingsmodellen: Granite Guardian 3.0 8B, Granite Guardian 3.0 2B

● Expert mix-of-experts modellen: Graniet 3.0 3B-A800M Instruct, Graniet 3.0 1B-A400M Instruct, Graniet 3.0 3B-A800M Basis, Graniet 3.0 1B-A400M Basis

De nieuwe Graniet 3.0 8B en 2B taalmodellen zijn ontworpen als de "main force" modellen voor AI op ondernemingsniveau, die in staat zijn om sterke prestaties te leveren in taken zoals retrieval-enhanced generation (RAG), classificatie, samenvatting, entiteitsextractie en toolgebruik. Deze compacte en veelzijdige modellen zijn bedoeld om te worden afgestemd op ondernemingsgegevens en naadloos te worden geïntegreerd in verschillende bedrijfsomgevingen of workflows.

Veel grote taalmodellen (LLM's) worden getraind op openbaar beschikbare data, terwijl de overgrote meerderheid van de bedrijfsdata ongebruikt blijft. Door kleine Granite-modellen te combineren met bedrijfsdata, met name met behulp van de revolutionaire uitlijningstechnologie InstructLab die in mei door IBM en RedHat werd gelanceerd, gelooft IBM dat bedrijven taakspecifieke prestaties kunnen bereiken die vergelijkbaar zijn met grote modellen, voor slechts een fractie van de kosten (gebaseerd op het waargenomen kostenbereik van 3 tot 23 keer lager dan grote cutting-edge modellen in verschillende vroege proof-of-concepts).

De release van Granite 3.0 bevestigt IBM's toewijding aan het bouwen van transparantie, veiligheid en vertrouwen in AI-producten. Het technische rapport en de gids voor verantwoord gebruik van Granite 3.0 bieden een beschrijving van de datasets die zijn gebruikt om deze modellen te trainen, beschrijven de toegepaste filter-, reinigings- en verwerkingsstappen en demonstreren uitgebreid de prestatieresultaten van de modellen in belangrijke academische en zakelijke benchmarktests.

Belangrijk is dat IBM voor alle Granite-modellen op watsonx.ai een vrijwaring van intellectueel eigendom biedt. Daarmee wil IBM het vertrouwen van zakelijke klanten in de integratie van bedrijfsgegevens in de modellen vergroten.

De lat hoger leggen: Granite 3.0 benchmarktests

De Granite 3.0-taalmodellen laten ook goede resultaten zien wat betreft de pure prestaties.

In de standaard academische benchmarktests gedefinieerd door Hugging Face's OpenLLM leaderboard, leidt de algehele prestatie van het Granite 3.0 8B Instruct-model gemiddeld de state-of-the-art prestatie van vergelijkbare open source-modellen van Meta en Mistral. In IBM's geavanceerde AttaQ-beveiligingsbenchmarktest leidt het Granite 3.0 8B Instruct-model de modellen van Meta en Mistral in alle gemeten beveiligingsdimensies.

Bij kerntaken van ondernemingen, zoals retrieval-enhanced generation (RAG), toolgebruik en cyberbeveiliging, zijn de gemiddelde prestaties van het Granite 3.0 8B Instruct-model beter dan die van open source-modellen van vergelijkbare omvang van Mistral en Meta.

De Granite 3.0-modellen worden getraind op meer dan 12 biljoen tokens uit 12 verschillende natuurlijke talen en 116 verschillende programmeertalen, met behulp van een nieuwe tweefasen-trainingsmethode die duizenden experimentele resultaten benut die gericht zijn op het optimaliseren van de datakwaliteit, dataselectie en trainingsparameters. Tegen het einde van dit jaar wordt verwacht dat de 3.0 8B- en 2B-taalmodellen een uitgebreid 128K-contextvenster en multimodale documentbegripsmogelijkheden ondersteunen
.

IBM heeft de perfecte balans tussen prestaties en inferentiekosten aangetoond door zijn Granite expert mixture-of-experts (MoE) institutionele modellen te leveren, Granite 3.0 1B-A400M en Granite 3.0 3B-A800M. Deze kleinere en lichtgewicht modellen kunnen worden gebruikt voor toepassingen met lage latentie en CPU-gebaseerde implementaties.

IBM kondigde ook een bijgewerkte versie aan van zijn vooraf getrainde Granite time series-model, waarbij de eerdere versie eerder dit jaar werd uitgebracht. Deze nieuwe modellen zijn getraind op drie keer meer data en presteren goed in alle drie de grote time series benchmark-tests, waarbij ze de prestaties van modellen van bedrijven als Google en Alibaba overtreffen die tien keer groter zijn. De bijgewerkte modellen bieden ook meer modelleringsflexibiliteit en ondersteuning voor externe variabelen en doorlopende voorspellingen.

Granite Guardian 3.0: een nieuw tijdperk van verantwoorde AI inluiden

Als onderdeel van deze release lanceerde IBM ook een nieuwe Granite Guardian-modelserie waarmee applicatieontwikkelaars veiligheidsvoorzieningen kunnen implementeren door gebruikersprompts en LLM-reacties te controleren om verschillende risico's te detecteren. De Granite Guardian 3.0-, 8B- en 2B-modellen bieden de meest uitgebreide functies voor risico- en gevarendetectie die momenteel op de markt zijn.

Naast gevarendimensies zoals sociale vooringenomenheid, haat, toxiciteit, godslastering, geweld en jailbreaks, bieden deze modellen ook een reeks unieke retrieval-enhanced generation (RAG)-specifieke controles zoals feitelijkheid, contextrelevantie en antwoordrelevantie. In uitgebreide tests tegen 19 veiligheids- en RAG-benchmarks heeft het Granite Guardian 3.0 8B-model gemiddeld een hogere nauwkeurigheid in gevarendetectie dan alle drie generaties van Meta's Llama Guard-modellen. De algehele prestatie in hallucinatiedetectie is ook vergelijkbaar met de gespecialiseerde hallucinatiedetectiemodellen WeCheck en MiniCheck.

Hoewel de Granite Guardian-modellen zijn afgeleid van de overeenkomstige Granite-taalmodellen, kunnen ze met elk open of gepatenteerd AI-model worden gebruikt om veiligheidsmaatregelen te implementeren.

Beschikbaarheid van Granite 3.0-modellen

De volledige Granite 3.0-modelsuite en bijgewerkte tijdreeksmodellen kunnen worden gedownload onder de permissieve Apache 2.0-licentie op HuggingFace. De instructievarianten van de nieuwe Granite 3.0 8B- en 2B-taalmodellen en de Granite Guardian 3.0 8B- en 2B-modellen zijn nu beschikbaar voor commercieel gebruik op het watsonx-platform van IBM. Sommige Granite 3.0-modellen worden ook geleverd als NVIDIA NIM-microservices en via de Vertex AI Model Garden-integratie van Google Cloud met HuggingFace.

Om ontwikkelaars meerdere opties en gebruiksgemak te bieden en lokale en edge-implementaties te ondersteunen, is er ook een selectie Granite 3.0-modellen beschikbaar op Ollama en Replicate. De nieuwste generatie Granite-modellen breidt IBM's krachtige catalogus met open source LLM's uit. IBM werkt samen met ecosysteempartners zoals AWS, Docker, Domo, Qualcomm Technologies, Inc. (via de Qualcomm® AI Hub), Salesforce en SAP om meerdere Granite-modellen in de producten van deze partners te integreren of Granite-modellen op hun platforms aan te bieden, waardoor wereldwijde ondernemingen meer keuze hebben.

Van assistenten tot agenten: de toekomst van AI op ondernemingsniveau realiseren

IBM brengt AI op ondernemingsniveau vooruit via een reeks technologieën, van modellen en assistenten tot de tools die nodig zijn om AI af te stemmen en te implementeren voor de unieke gegevens en use cases van een bedrijf. IBM baant ook de weg voor toekomstige AI-agenten die zelfsturend, reflectief kunnen zijn en complexe taken kunnen uitvoeren in een dynamische zakelijke omgeving.

IBM ontwikkelt voortdurend zijn portfolio van AI-assistenttechnologieën, van watsonx Orchestrate dat bedrijven helpt hun eigen assistenten te bouwen via low-code tools en automatisering, tot verschillende vooraf gebouwde assistenten voor specifieke taken en domeinen zoals klantenservice, human resources, sales en marketing. Organisaties over de hele wereld hebben watsonx Assistant al gebruikt om hen te helpen AI-assistenten te bouwen voor taken zoals het beantwoorden van dagelijkse vragen van klanten of werknemers, het moderniseren van mainframes en oudere IT-applicaties, het helpen van studenten bij het verkennen van mogelijke carrièrepaden of het bieden van digitale hypotheekondersteuning voor huizenkopers.

IBM kondigde ook de aankomende release aan van de volgende generatie van watsonx Code Assistant, die wordt aangestuurd door Granite-codemodellen en algemene coderingsassistentie kan bieden voor talen zoals C, C++, Go, Java en Python, evenals geavanceerde applicatiemoderniseringsmogelijkheden voor Java-applicaties op bedrijfsniveau. De codemogelijkheden van Granite zijn nu ook toegankelijk via de IBM Granite.Code Visual Studio Code-extensie.

IBM is ook van plan om nieuwe tools uit te brengen waarmee ontwikkelaars AI efficiënter kunnen bouwen, aanpassen en implementeren met behulp van watsonx.ai, waaronder agentframeworks, integraties met bestaande omgevingen en low-code automatisering voor veelvoorkomende use cases zoals RAG en agents.

IBM richt zich op het ontwikkelen van AI-agenttechnologieën met een hogere autonomie, complexe redeneermogelijkheden en probleemoplossende vaardigheden in meerdere stappen. De eerste versie van het Granite 3.0 8B-model ondersteunt belangrijke agentfuncties zoals geavanceerd redeneren en zeer gestructureerde chatsjablonen en promptstijlen voor het implementeren van workflows voor toolgebruik. IBM is ook van plan om nieuwe AI-agentchatmogelijkheden te introduceren in IBM watsonx Orchestrate, waarbij agentmogelijkheden worden benut om AI-assistenten, vaardigheden en automatisering te coördineren om gebruikers te helpen de algehele teamproductiviteit te verbeteren [viii]. IBM is van plan om in 2025 agentmogelijkheden in zijn productportfolio te blijven bouwen, inclusief vooraf gebouwde agents voor specifieke domeinen en use cases.

Uitbreiding van het AI-gestuurde leveringsplatform om IBM-consultants te verbeteren met AI

IBM kondigde ook een aanzienlijke uitbreiding aan van zijn AI-gestuurde leveringsplatform, IBM Consulting Advantage. Dit multi-modelplatform bevat AI-agenten, applicaties en methoden (zoals herbruikbare frameworks), waardoor 160,000 IBM-consultants sneller en beter waarde kunnen bieden aan klanten tegen lagere kosten.

Als onderdeel van de uitbreiding wordt het Granite 3.0-taalmodel het standaardmodel voor Consulting Advantage. Met de prestaties en efficiëntie van Granite kan IBM Consulting het rendement op investeringen in generatieve AI-projecten voor IBM-klanten maximaliseren.

Een ander belangrijk onderdeel van de uitbreiding is de introductie van IBM Consulting Advantage for Cloud Transformation and Management en IBM Consulting Advantage for Business Operations. Elk omvat domeinspecifieke AI-agenten, applicaties en methoden die de best practices van IBM integreren, waardoor IBM-consultants klanten kunnen helpen bij het versnellen van cloud- en AI-transformatietaken (zoals codemodernisering en kwaliteitsengineering) of het implementeren van transformaties en operaties in verschillende domeinen (zoals financiën, human resources en inkoop).

Over IBM

IBM is een wereldleider in hybride cloud, kunstmatige intelligentie en enterprise services, en helpt klanten in meer dan 175 landen en regio's om zakelijke inzichten uit hun data te halen, bedrijfsprocessen te vereenvoudigen, kosten te verlagen en een concurrentievoordeel in de industrie te behalen. Meer dan 4,000 overheids- en ondernemingsentiteiten in kritieke infrastructuursectoren zoals financiële dienstverlening, telecommunicatie en gezondheidszorg vertrouwen op IBM's hybride cloudplatform en Red Hat OpenShift om digitale transformatie snel, efficiënt en veilig te bereiken. IBM's baanbrekende innovaties in kunstmatige intelligentie, quantum computing, industriële cloudoplossingen en enterprise services bieden onze klanten open en flexibele keuzes. De langetermijnverbintenis tot bedrijfsintegriteit, transparant bestuur, maatschappelijke verantwoordelijkheid, inclusieve cultuur en servicegerichtheid is de hoeksteen van IBM's bedrijfsontwikkeling.