● Die neu eingeführten Modelle Granite 3.0 8B und 2B werden unter der freizügigen Apache 2.0-Lizenz veröffentlicht und haben in zahlreichen akademischen und Unternehmens-Benchmark-Tests eine starke Leistung bewiesen, wobei sie in der Lage sind, Modelle ähnlicher Größenordnung zu übertreffen oder ihnen ebenbürtig zu sein.

● Das neu eingeführte Modell Granite Guardian 3.0 bietet die umfassendste Leitplankenfunktion von IBM zur Förderung sicherer und vertrauenswürdiger künstlicher Intelligenz.

● Die neu eingeführten Granite 3.0-Expertenmodelle mit einer Mischung aus Experten ermöglichen äußerst effiziente Inferenz und geringe Latenzzeiten und eignen sich für CPU-basierte Bereitstellungen und Edge-Computing.

● Das brandneue Granite-Zeitreihenmodell erreicht eine hochmoderne Leistung bei der Zero-Shot/Few-Shot-Vorhersage und übertrifft zehnmal größere Modelle.

● IBM hat die nächste Generation des Granite-basierten watsonx Code Assistant für allgemeines Coding auf den Markt gebracht; in watsonx.ai werden neue Tools zum Erstellen und Bereitstellen von KI-Anwendungen und -Agenten vorgestellt.

● Es wird angekündigt, dass Granite das Standardmodell für Consulting Advantage wird, eine KI-gesteuerte Bereitstellungsplattform, die von den 160,000 Beratern von IBM verwendet wird, um Kunden schneller neue Lösungen bereitzustellen.

Auf der jährlichen TechXchange-Konferenz von IBM, die am 21. Oktober US-Zeit stattfand, kündigte IBM die Einführung seiner bislang fortschrittlichsten KI-Modellfamilie an – Granite 3.0. Das Flaggschiff-Sprachmodell Granite der dritten Generation von IBM kann die Modelle ähnlicher führender Modellanbieter in vielen akademischen und industriellen Benchmarktests übertreffen oder ihnen ebenbürtig sein und weist dabei starke Leistung, Transparenz und Sicherheit auf.

Im Einklang mit dem Engagement des Unternehmens für Open-Source-KI werden Granite-Modelle unter der freizügigen Apache 2.0-Lizenz veröffentlicht. Mit ihrer einzigartigen Kombination aus Leistung, Flexibilität und Autonomie können sie Unternehmenskunden und der gesamten Community dienen.

Die Granite 3.0-Produktreihe von IBM umfasst:

● Allgemeines/Sprachmodelle: Granite 3.0 8B Instruct, Granite 3.0 2B Instruct, Granite 3.0 8B Base, Granite 3.0 2B Base

● Geländer- und Sicherheitsmodelle: Granite Guardian 3.0 8B, Granite Guardian 3.0 2B

● Expertenmodelle, Mischung aus Experten: Granite 3.0 3B-A800M Instruct, Granite 3.0 1B-A400M Instruct, Granite 3.0 3B-A800M Base, Granite 3.0 1B-A400M Base

The new Granit Die Sprachmodelle 3.0 8B und 2B sind als „Hauptkraft“-Modelle für KI auf Unternehmensebene konzipiert und bieten eine starke Leistung bei Aufgaben wie Retrieval-Enhanced Generation (RAG), Klassifizierung, Zusammenfassung, Entitätsextraktion und Toolnutzung. Diese kompakten und vielseitigen Modelle sollen mit Unternehmensdaten optimiert und nahtlos in verschiedene Geschäftsumgebungen oder Arbeitsabläufe integriert werden.

Viele große Sprachmodelle (LLMs) werden mit öffentlich verfügbaren Daten trainiert, während der Großteil der Unternehmensdaten ungenutzt bleibt. Durch die Kombination kleiner Granite-Modelle mit Unternehmensdaten, insbesondere durch die Verwendung der revolutionären Ausrichtungstechnologie InstructLab, die im Mai von IBM und RedHat eingeführt wurde, ist IBM davon überzeugt, dass Unternehmen eine aufgabenspezifische Leistung erzielen können, die mit großen Modellen vergleichbar ist, und das zu einem Bruchteil der Kosten (basierend auf den beobachteten Kosten von 3 bis 23 Mal niedriger als bei großen Spitzenmodellen in mehreren frühen Proof-of-Concepts).

Die Veröffentlichung von Granite 3.0 bekräftigt IBMs Engagement für Transparenz, Sicherheit und Vertrauen in KI-Produkte. Der technische Bericht und der Leitfaden zur verantwortungsvollen Nutzung von Granite 3.0 enthalten eine Beschreibung der Datensätze, die zum Trainieren dieser Modelle verwendet werden, erläutern detailliert die angewandten Filter-, Bereinigungs- und Verarbeitungsschritte und demonstrieren umfassend die Leistungsergebnisse der Modelle in wichtigen akademischen und Unternehmens-Benchmarktests.

Entscheidend ist, dass IBM für alle Granite-Modelle auf watsonx.ai eine Haftungsfreistellung für geistiges Eigentum bietet, um das Vertrauen der Unternehmenskunden in die Integration von Unternehmensdaten in die Modelle zu stärken.

Die Messlatte höher legen: Granite 3.0 Benchmarktests

Auch hinsichtlich der Rohleistung zeigen die Sprachmodelle von Granite 3.0 gute Ergebnisse.

In den standardmäßigen akademischen Benchmarktests, die durch die OpenLLM-Bestenliste von Hugging Face definiert werden, übertrifft die Gesamtleistung des Granite 3.0 8B Instruct-Modells im Durchschnitt die Leistung der modernsten Open-Source-Modelle ähnlicher Größe von Meta und Mistral. Im erweiterten AttaQ-Sicherheitsbenchmarktest von IBM übertrifft das Granite 3.0 8B Instruct-Modell die Modelle von Meta und Mistral in allen gemessenen Sicherheitsdimensionen.

Bei zentralen Unternehmensaufgaben wie Retrieval-Enhanced Generation (RAG), Tool-Nutzung und Cybersicherheit ist die durchschnittliche Leistung des Granite 3.0 8B Instruct-Modells besser als die von Open-Source-Modellen ähnlicher Größenordnung von Mistral und Meta.

Die Granite 3.0-Modelle werden mit über 12 Billionen Token aus 12 verschiedenen natürlichen Sprachen und 116 verschiedenen Programmiersprachen trainiert. Dabei kommt eine neuartige zweistufige Trainingsmethode zum Einsatz, die Tausende experimenteller Ergebnisse nutzt, um Datenqualität, Datenauswahl und Trainingsparameter zu optimieren. Bis Ende dieses Jahres werden die 3.0 8B- und 2B-Sprachmodelle voraussichtlich ein erweitertes 128K-Kontextfenster und multimodale Dokumentverständnisfunktionen unterstützen.
.

IBM hat mit seinen institutionellen Granite Expert Mixture-of-Experts (MoE)-Modellen Granite 3.0 1B-A400M und Granite 3.0 3B-A800M das perfekte Gleichgewicht zwischen Leistung und Inferenzkosten demonstriert. Diese kleineren und leichteren Modelle können für Anwendungen mit geringer Latenz und CPU-basierte Bereitstellungen verwendet werden.

IBM hat außerdem eine aktualisierte Version seines vorab trainierten Granite-Zeitreihenmodells angekündigt, dessen Vorgängerversion Anfang des Jahres veröffentlicht wurde. Diese neuen Modelle werden mit dreimal mehr Daten trainiert und schneiden in allen drei wichtigen Zeitreihen-Benchmark-Tests gut ab. Sie übertreffen damit die Leistung von Modellen von Unternehmen wie Google und Alibaba, die zehnmal größer sind. Die aktualisierten Modelle bieten außerdem mehr Modellierungsflexibilität und Unterstützung für externe Variablen und rollierende Vorhersagen.

Granite Guardian 3.0: Beginn einer neuen Ära verantwortungsvoller KI

Im Rahmen dieser Veröffentlichung hat IBM auch eine neue Granite Guardian-Modellreihe auf den Markt gebracht, die es Anwendungsentwicklern ermöglicht, Sicherheitsvorkehrungen zu implementieren, indem sie Benutzeraufforderungen und LLM-Reaktionen überprüfen, um verschiedene Risiken zu erkennen. Die Modelle Granite Guardian 3.0, 8B und 2B bieten die umfassendsten Risiko- und Gefahrenerkennungsfunktionen, die derzeit auf dem Markt erhältlich sind.

Zusätzlich zu Gefahrendimensionen wie sozialer Voreingenommenheit, Hass, Toxizität, Gotteslästerung, Gewalt und Jailbreaks bieten diese Modelle auch eine Reihe einzigartiger, auf Retrieval-Enhanced Generation (RAG) basierender Prüfungen wie Faktizität, Kontextrelevanz und Antwortrelevanz. In umfangreichen Tests anhand von 19 Sicherheits- und RAG-Benchmarks weist das Modell Granite Guardian 3.0 8B im Durchschnitt eine insgesamt höhere Genauigkeit bei der Gefahrenerkennung auf als alle drei Generationen der Llama Guard-Modelle von Meta. Seine Gesamtleistung bei der Halluzinationserkennung ist auch mit den spezialisierten Halluzinationserkennungsmodellen WeCheck und MiniCheck vergleichbar.

Obwohl die Granite Guardian-Modelle von den entsprechenden Granite-Sprachmodellen abgeleitet sind, können sie mit jedem offenen oder proprietären KI-Modell verwendet werden, um Sicherheitsvorkehrungen zu implementieren.

Verfügbarkeit der Granite 3.0-Modelle

Die gesamte Granite 3.0-Modellsuite und aktualisierte Zeitreihenmodelle können unter der freizügigen Apache 2.0-Lizenz auf HuggingFace heruntergeladen werden. Die Befehlsvarianten der neuen Granite 3.0 8B- und 2B-Sprachmodelle und der Granite Guardian 3.0 8B- und 2B-Modelle sind jetzt für die kommerzielle Nutzung auf der Watsonx-Plattform von IBM verfügbar. Einige Granite 3.0-Modelle werden auch als NVIDIA NIM-Mikroservices und über die Vertex AI Model Garden-Integration von Google Cloud mit HuggingFace bereitgestellt.

Um Entwicklern vielfältige Optionen und Benutzerfreundlichkeit zu bieten und lokale sowie Edge-Bereitstellungen zu unterstützen, ist eine Auswahl von Granite 3.0-Modellen auch auf Ollama und Replicate verfügbar. Die neueste Generation von Granite-Modellen erweitert IBMs leistungsstarken Katalog an Open-Source-LLMs. IBM arbeitet mit Ökosystempartnern wie AWS, Docker, Domo, Qualcomm Technologies, Inc. (über den Qualcomm? AI Hub), Salesforce und SAP zusammen, um mehrere Granite-Modelle in die Produkte dieser Partner zu integrieren oder Granite-Modelle auf ihren Plattformen anzubieten und so globalen Unternehmen eine größere Auswahl zu bieten.

Vom Assistenten zum Agenten: Die Zukunft der KI auf Unternehmensebene

IBM treibt die KI auf Unternehmensebene durch eine Reihe von Technologien voran, von Modellen und Assistenten bis hin zu den Tools, die zum Optimieren und Bereitstellen der KI für die individuellen Daten und Anwendungsfälle eines Unternehmens erforderlich sind. IBM ebnet auch den Weg für zukünftige KI-Agenten, die selbstgesteuert und reflektierend sein und komplexe Aufgaben in einer dynamischen Geschäftsumgebung ausführen können.

IBM entwickelt sein Portfolio an KI-Assistententechnologien kontinuierlich weiter, von watsonx Orchestrate, das Unternehmen dabei hilft, mithilfe von Low-Code-Tools und Automatisierung eigene Assistenten zu erstellen, bis hin zu verschiedenen vorgefertigten Assistenten für bestimmte Aufgaben und Bereiche wie Kundenservice, Personalwesen, Vertrieb und Marketing. Organisationen auf der ganzen Welt haben watsonx Assistant bereits verwendet, um KI-Assistenten für Aufgaben wie die Beantwortung täglicher Fragen von Kunden oder Mitarbeitern, die Modernisierung von Mainframes und älteren IT-Anwendungen, die Unterstützung von Studenten bei der Erkundung potenzieller Karrierewege oder die Bereitstellung digitaler Hypothekenunterstützung für Eigenheimkäufer zu erstellen.

IBM kündigte außerdem die bevorstehende Veröffentlichung der nächsten Generation des Watsonx Code Assistant an, der auf Granite-Codemodellen basiert und allgemeine Programmierunterstützung für Sprachen wie C, C++, Go, Java und Python sowie erweiterte Anwendungsmodernisierungsfunktionen für Java-Anwendungen auf Unternehmensebene bietet. Auf die Codefunktionen von Granite kann jetzt auch über die IBM Granite.Code Visual Studio Code-Erweiterung zugegriffen werden.

IBM plant außerdem die Veröffentlichung neuer Tools, die Entwicklern dabei helfen sollen, KI mit watsonx.ai effizienter zu erstellen, anzupassen und bereitzustellen. Dazu gehören Agenten-Frameworks, Integrationen in vorhandene Umgebungen und Low-Code-Automatisierung für gängige Anwendungsfälle wie RAG und Agenten.

IBM konzentriert sich auf die Entwicklung von KI-Agententechnologien mit höherer Autonomie, komplexen Denkfähigkeiten und mehrstufigen Problemlösungsfähigkeiten. Die erste Version des Granite 3.0 8B-Modells unterstützt wichtige Agentenfunktionen wie erweitertes Denken und hochstrukturierte Chat-Vorlagen und Eingabeaufforderungsstile zur Implementierung von Workflows zur Tool-Nutzung. IBM plant außerdem, neue KI-Agenten-Chatfunktionen in IBM Watsonx Orchestrate einzuführen und dabei Agentenfunktionen zu nutzen, um KI-Assistenten, Fähigkeiten und Automatisierung zu koordinieren und Benutzern zu helfen, die Gesamtproduktivität des Teams zu verbessern [viii]. IBM plant, im Jahr 2025 weitere Agentenfunktionen in sein Produktportfolio einzubauen, darunter vorgefertigte Agenten für bestimmte Domänen und Anwendungsfälle.

Erweiterung der KI-gesteuerten Bereitstellungsplattform zur Verbesserung der IBM-Berater durch KI

IBM kündigte außerdem eine bedeutende Erweiterung seiner KI-gesteuerten Bereitstellungsplattform IBM Consulting Advantage an. Diese Multimodell-Plattform enthält KI-Agenten, Anwendungen und Methoden (wie wiederverwendbare Frameworks) und ermöglicht es 160,000 IBM-Beratern, den Kunden schneller und besser zu geringeren Kosten einen Mehrwert zu bieten.

Im Rahmen der Erweiterung wird das Sprachmodell Granite 3.0 zum Standardmodell für Consulting Advantage. Mit der Leistung und Effizienz von Granite kann IBM Consulting dazu beitragen, den Return on Investment in generativen KI-Projekten für IBM-Kunden zu maximieren.

Ein weiterer wichtiger Teil der Erweiterung ist die Einführung von IBM Consulting Advantage for Cloud Transformation and Management und IBM Consulting Advantage for Business Operations. Jedes dieser Produkte umfasst domänenspezifische KI-Agenten, Anwendungen und Methoden, die die Best Practices von IBM einbeziehen. So können IBM-Berater Kunden dabei unterstützen, Cloud- und KI-Transformationsaufgaben (wie Codemodernisierung und Qualitätstechnik) zu beschleunigen oder Transformationen und Vorgänge domänenübergreifend (wie Finanzen, Personalwesen und Beschaffung) umzusetzen.

Über IBM

IBM ist ein weltweit führender Anbieter von Hybrid Cloud, künstlicher Intelligenz und Unternehmensdiensten und hilft Kunden in mehr als 175 Ländern und Regionen, aus ihren Daten geschäftliche Erkenntnisse zu gewinnen, Geschäftsprozesse zu vereinfachen, Kosten zu senken und einen Wettbewerbsvorteil in der Branche zu erlangen. Mehr als 4,000 Regierungs- und Unternehmensstellen in kritischen Infrastruktursektoren wie Finanzdienstleistungen, Telekommunikation und Gesundheitswesen verlassen sich auf die Hybrid Cloud-Plattform von IBM und Red Hat OpenShift, um die digitale Transformation schnell, effizient und sicher durchzuführen. Die bahnbrechenden Innovationen von IBM in den Bereichen künstliche Intelligenz, Quantencomputing, Branchen-Cloud-Lösungen und Unternehmensdienste bieten unseren Kunden offene und flexible Auswahlmöglichkeiten. Das langfristige Engagement für Unternehmensintegrität, transparente Unternehmensführung, soziale Verantwortung, integrative Kultur und Servicegeist ist der Eckpfeiler der Geschäftsentwicklung von IBM.