● Nowo wprowadzone na rynek modele Granite 3.0 8B i 2B są dostępne na licencji Apache 2.0 i wykazały się wysoką wydajnością w wielu testach porównawczych przeprowadzonych w środowisku akademickim i przedsiębiorstwach, przewyższając lub dorównując modelom o podobnej skali.

● Nowo wprowadzony na rynek model Granite Guardian 3.0 oferuje najbardziej wszechstronną funkcję ochronną firmy IBM, promującą bezpieczeństwo i niezawodność sztucznej inteligencji.

● Nowo wprowadzone eksperckie modele łączące w sobie wiedzę ekspercką Granite 3.0 umożliwiają niezwykle wydajne wnioskowanie i niskie opóźnienia, co sprawdza się w przypadku wdrożeń opartych na procesorach i przetwarzania brzegowego.

● Zupełnie nowy model szeregów czasowych Granite osiąga najnowocześniejszą wydajność w zakresie predykcji z zerową lub niewielką liczbą zdarzeń, przewyższając modele dziesięć razy większe.

● Firma IBM wprowadziła na rynek nową generację opartego na platformie Granite rozwiązania watsonx Code Assistant przeznaczonego do ogólnego kodowania; w watsonx.ai zadebiutowały nowe narzędzia do tworzenia i wdrażania aplikacji i agentów AI.

● Ogłoszono, że Granite stanie się domyślnym modelem dla Consulting Advantage, platformy dostawczej opartej na sztucznej inteligencji, z której korzysta 160,000 XNUMX konsultantów IBM, aby szybciej dostarczać klientom nowe rozwiązania.

Podczas corocznej konferencji TechXchange firmy IBM, która odbyła się 21 października czasu amerykańskiego, firma IBM ogłosiła wprowadzenie na rynek swojej najbardziej zaawansowanej jak dotąd rodziny modeli sztucznej inteligencji — Granite 3.0. Flagowy model języka Granite trzeciej generacji firmy IBM może prześcignąć lub dorównać modelom podobnych wiodących dostawców modeli w wielu testach porównawczych przeprowadzanych w środowisku akademickim i branżowym, wykazując się wysoką wydajnością, przejrzystością i bezpieczeństwem.

Zgodnie z zobowiązaniem firmy do otwartego kodu źródłowego AI, modele Granite są udostępniane na licencji Apache 2.0. Dzięki unikalnemu połączeniu wydajności, elastyczności i autonomii mogą służyć klientom korporacyjnym i całej społeczności.

Seria produktów Granite 3.0 firmy IBM obejmuje:

● Modele ogólne/językowe: Granite 3.0 8B Instruct, Granite 3.0 2B Instruct, Granite 3.0 8B Base, Granite 3.0 2B Base

● Modele barier ochronnych i zabezpieczeń: Granite Guardian 3.0 8B, Granite Guardian 3.0 2B

● Eksperckie modele mieszane ekspertów: Granite 3.0 3B-A800M Instruct, Granite 3.0 1B-A400M Instruct, Granite 3.0 3B-A800M Base, Granite 3.0 1B-A400M Base

Nowa Granit Modele języka 3.0 8B i 2B są zaprojektowane jako modele „głównej siły” dla AI na poziomie przedsiębiorstwa, zdolne do zapewnienia wysokiej wydajności w zadaniach takich jak generowanie z ulepszonym pobieraniem (RAG), klasyfikacja, podsumowanie, ekstrakcja encji i korzystanie z narzędzi. Te kompaktowe i wszechstronne modele mają być dostrojone do danych przedsiębiorstwa i bezproblemowo integrowane z różnymi środowiskami biznesowymi lub przepływami pracy.

Wiele dużych modeli językowych (LLM) jest trenowanych na publicznie dostępnych danych, podczas gdy zdecydowana większość danych przedsiębiorstwa pozostaje niewykorzystana. Łącząc małe modele Granite z danymi przedsiębiorstwa, zwłaszcza przy użyciu rewolucyjnej technologii dopasowania InstructLab uruchomionej przez IBM i RedHat w maju, IBM uważa, że ​​przedsiębiorstwa mogą osiągnąć wydajność specyficzną dla zadań porównywalną z dużymi modelami przy zaledwie ułamku kosztów (na podstawie zaobserwowanego zakresu kosztów od 3 do 23 razy niższych niż duże, najnowocześniejsze modele w kilku wczesnych dowodach koncepcji).

Wydanie Granite 3.0 potwierdza zaangażowanie IBM w budowanie przejrzystości, bezpieczeństwa i zaufania do produktów AI. Raport techniczny Granite 3.0 i przewodnik odpowiedzialnego użytkowania zawierają opis zestawów danych użytych do trenowania tych modeli, szczegółowo opisują zastosowane kroki filtrowania, czyszczenia i przetwarzania oraz kompleksowo demonstrują wyniki wydajności modeli w głównych testach porównawczych akademickich i korporacyjnych.

Co najważniejsze, IBM zapewnia ochronę własności intelektualnej dla wszystkich modeli Granite na platformie watsonx.ai, co ma na celu zwiększenie zaufania klientów korporacyjnych do integrowania danych korporacyjnych z modelami.

Podnoszenie poprzeczki: testy porównawcze Granite 3.0

Modele językowe Granite 3.0 również wykazują dobre wyniki w testach wydajności.

W standardowych akademickich testach porównawczych zdefiniowanych przez tabelę liderów OpenLLM Hugging Face, ogólna wydajność modelu Granite 3.0 8B Instruct średnio wyprzedza najnowocześniejsze modele open source o podobnej wielkości od Meta i Mistral. W zaawansowanym teście porównawczym bezpieczeństwa AttaQ IBM, model Granite 3.0 8B Instruct wyprzedza modele Meta i Mistral we wszystkich mierzonych wymiarach bezpieczeństwa.

W przypadku podstawowych zadań przedsiębiorstwa, takich jak generowanie danych z rozszerzonym wyszukiwaniem (RAG), korzystanie z narzędzi i cyberbezpieczeństwo, średnia wydajność modelu Granite 3.0 8B Instruct jest lepsza niż w przypadku modeli open source o podobnej skali od Mistral i Meta.

Modele Granite 3.0 są trenowane na ponad 12 bilionach tokenów z 12 różnych języków naturalnych i 116 różnych języków programowania, przy użyciu nowatorskiej dwuetapowej metody treningu, która wykorzystuje tysiące wyników eksperymentalnych mających na celu optymalizację jakości danych, wyboru danych i parametrów treningu. Oczekuje się, że do końca tego roku modele języka 3.0 8B i 2B będą obsługiwać rozszerzone okno kontekstowe 128K i możliwości rozumienia dokumentów multimodalnych
.

Firma IBM wykazała idealną równowagę wydajności i kosztów wnioskowania, dostarczając swoje modele instytucjonalne Granite Expert Mixed-of-Experts (MoE), Granite 3.0 1B-A400M i Granite 3.0 3B-A800M. Te mniejsze i lekkie modele można stosować w aplikacjach o niskim opóźnieniu i wdrożeniach opartych na procesorze.

IBM ogłosiło również zaktualizowaną wersję swojego wstępnie wytrenowanego modelu szeregów czasowych Granite, a wcześniejsza wersja została wydana wcześniej w tym roku. Te nowe modele są trenowane na trzykrotnie większej ilości danych i dobrze wypadają we wszystkich trzech głównych testach porównawczych szeregów czasowych, przewyższając wydajność modeli firm takich jak Google i Alibaba, które są dziesięć razy większe. Zaktualizowane modele zapewniają również większą elastyczność modelowania i obsługę zmiennych zewnętrznych i prognoz toczących się.

Granite Guardian 3.0: Rozpoczynamy nową erę odpowiedzialnej sztucznej inteligencji

W ramach tego wydania IBM wprowadził również nową serię modeli Granite Guardian, która umożliwia programistom aplikacji wdrażanie zabezpieczeń poprzez sprawdzanie komunikatów użytkownika i odpowiedzi LLM w celu wykrywania różnych zagrożeń. Modele Granite Guardian 3.0, 8B i 2B oferują najbardziej kompleksowe funkcje wykrywania ryzyka i zagrożeń na dzisiejszym rynku.

Oprócz wymiarów zagrożenia, takich jak uprzedzenia społeczne, nienawiść, toksyczność, bluźnierstwo, przemoc i jailbreaki, te modele zapewniają również szereg unikalnych kontroli specyficznych dla generacji wzmocnionej wyszukiwaniem (RAG), takich jak faktyczność, trafność kontekstu i trafność odpowiedzi. W obszernych testach 19 punktów odniesienia bezpieczeństwa i RAG, model Granite Guardian 3.0 8B ma ogólnie wyższą dokładność wykrywania zagrożeń średnio niż wszystkie trzy generacje modeli Llama Guard firmy Meta. Jego ogólna wydajność w wykrywaniu halucynacji jest również porównywalna ze specjalistycznymi modelami wykrywania halucynacji WeCheck i MiniCheck.

Chociaż modele Granite Guardian wywodzą się z odpowiadających im modeli języka Granite, można je stosować z dowolnym otwartym lub zastrzeżonym modelem sztucznej inteligencji w celu wdrażania zabezpieczeń.

Dostępność modeli Granite 3.0

Cały pakiet modeli Granite 3.0 i zaktualizowane modele szeregów czasowych można pobrać na podstawie licencji Apache 2.0 na HuggingFace. Warianty instrukcji nowych modeli językowych Granite 3.0 8B i 2B oraz modeli Granite Guardian 3.0 8B i 2B są teraz dostępne do użytku komercyjnego na platformie IBM WatsonX. Niektóre modele Granite 3.0 będą również dostarczane jako mikrousługi NVIDIA NIM i poprzez integrację Vertex AI Model Garden z HuggingFace w Google Cloud.

Aby zapewnić programistom wiele opcji i łatwość obsługi oraz wspierać wdrożenia lokalne i brzegowe, w platformach Ollama i Replicate dostępny jest również wybór modeli Granite 3.0. Najnowsza generacja modeli Granite rozszerza bogaty katalog rozwiązań LLM typu open source firmy IBM. IBM współpracuje z partnerami ekosystemowymi, takimi jak AWS, Docker, Domo, Qualcomm Technologies, Inc. (za pośrednictwem Qualcomm? AI Hub), Salesforce i SAP, aby integrować wiele modeli Granite z produktami tych partnerów lub oferować je na swoich platformach, zapewniając globalnym przedsiębiorstwom większy wybór.

Od asystentów do agentów: realizacja przyszłości sztucznej inteligencji na poziomie przedsiębiorstwa

IBM rozwija AI na poziomie przedsiębiorstwa za pomocą szeregu technologii, od modeli i asystentów po narzędzia potrzebne do dostrajania i wdrażania AI dla unikalnych danych i przypadków użycia firmy. IBM toruje również drogę przyszłym agentom AI, którzy mogą być samosterujący, refleksyjni i wykonywać złożone zadania w dynamicznym środowisku biznesowym.

IBM nieustannie rozwija swoje portfolio technologii asystentów AI, od watsonx Orchestrate, który pomaga firmom budować własnych asystentów za pomocą narzędzi low-code i automatyzacji, po różnych gotowych asystentów do określonych zadań i domen, takich jak obsługa klienta, zasoby ludzkie, sprzedaż i marketing. Organizacje na całym świecie już używają watsonx Assistant, aby pomóc im budować asystentów AI do zadań, takich jak odpowiadanie na codzienne pytania klientów lub pracowników, modernizacja komputerów mainframe i starszych aplikacji IT, pomaganie studentom w eksplorowaniu potencjalnych ścieżek kariery lub zapewnianie cyfrowego wsparcia hipotecznego dla nabywców domów.

Firma IBM ogłosiła również nadchodzące wydanie kolejnej generacji watsonx Code Assistant, która jest oparta na modelach kodu Granite i może zapewnić ogólną pomoc w kodowaniu dla języków takich jak C, C++, Go, Java i Python, a także zaawansowane możliwości modernizacji aplikacji dla aplikacji Java na poziomie przedsiębiorstwa. Możliwości kodowania Granite są teraz dostępne również za pośrednictwem rozszerzenia IBM Granite.Code Visual Studio Code.

Firma IBM planuje również udostępnić nowe narzędzia, które pomogą programistom wydajniej tworzyć, dostosowywać i wdrażać sztuczną inteligencję przy użyciu platformy watsonx.ai. Obejmują one m.in. struktury agentów, integracje z istniejącymi środowiskami oraz automatyzację z niskim kodem dla typowych przypadków użycia, takich jak RAG i agenci.

IBM koncentruje się na rozwijaniu technologii agentów AI z większą autonomią, złożonymi możliwościami rozumowania i zdolnościami rozwiązywania problemów w wielu krokach. Początkowa wersja modelu Granite 3.0 8B obsługuje kluczowe funkcje agentów, takie jak zaawansowane rozumowanie i wysoce ustrukturyzowane szablony czatu oraz style komunikatów do wdrażania przepływów pracy związanych z wykorzystaniem narzędzi. IBM planuje również wprowadzić nowe możliwości czatu agenta AI w IBM watsonx Orchestrate, wykorzystując możliwości agenta do koordynowania asystentów AI, umiejętności i automatyzacji, aby pomóc użytkownikom poprawić ogólną produktywność zespołu [viii]. IBM planuje kontynuować budowanie możliwości agentów w swoim portfolio produktów w 2025 r., w tym wstępnie zbudowanych agentów dla określonych domen i przypadków użycia.

Rozszerzenie platformy dostaw opartej na sztucznej inteligencji w celu ulepszenia pracy konsultantów IBM dzięki sztucznej inteligencji

IBM ogłosiło również znaczną ekspansję swojej platformy dostaw opartej na sztucznej inteligencji, IBM Consulting Advantage. Ta wielomodelowa platforma zawiera agentów, aplikacje i metody AI (takie jak wielokrotnego użytku struktury), umożliwiając 160,000 XNUMX konsultantów IBM szybsze i lepsze dostarczanie wartości klientom przy niższych kosztach.

W ramach rozszerzenia model języka Granite 3.0 stanie się domyślnym modelem dla Consulting Advantage. Dzięki wydajności i efektywności Granite, IBM Consulting będzie w stanie pomóc zmaksymalizować zwrot z inwestycji w generatywne projekty AI dla klientów IBM.

Inną kluczową częścią ekspansji jest wprowadzenie IBM Consulting Advantage for Cloud Transformation and Management oraz IBM Consulting Advantage for Business Operations. Każdy z nich obejmuje agentów, aplikacje i metody AI specyficzne dla domeny, które zawierają najlepsze praktyki IBM, umożliwiając konsultantom IBM pomaganie klientom w przyspieszaniu zadań transformacji chmury i AI (takich jak modernizacja kodu i inżynieria jakości) lub wdrażaniu transformacji i operacji w różnych domenach (takich jak finanse, zasoby ludzkie i zaopatrzenie).

O IBM

IBM jest światowym liderem w dziedzinie hybrydowej chmury, sztucznej inteligencji i usług korporacyjnych, pomagając klientom w ponad 175 krajach i regionach uzyskać wgląd w biznes z ich danych, uprościć procesy biznesowe, obniżyć koszty i uzyskać przewagę konkurencyjną w branży. Ponad 4,000 podmiotów rządowych i przedsiębiorstw w sektorach infrastruktury krytycznej, takich jak usługi finansowe, telekomunikacja i opieka zdrowotna, polega na hybrydowej platformie chmurowej IBM i Red Hat OpenShift, aby osiągnąć transformację cyfrową szybko, wydajnie i bezpiecznie. Przełomowe innowacje IBM w dziedzinie sztucznej inteligencji, obliczeń kwantowych, rozwiązań chmurowych dla przemysłu i usług korporacyjnych zapewniają naszym klientom otwarte i elastyczne wybory. Długoterminowe zaangażowanie w integralność korporacyjną, przejrzyste zarządzanie, odpowiedzialność społeczną, kulturę inkluzywną i ducha usług jest kamieniem węgielnym rozwoju biznesowego IBM.