● 새롭게 출시된 Granite 3.0 8B와 2B 모델은 관대한 Apache 2.0 라이선스에 따라 출시되었으며, 많은 학술 및 기업 벤치마크 테스트에서 강력한 성능을 입증했으며, 비슷한 규모의 모델을 능가하거나 맞먹는 성능을 보였습니다.

● 새롭게 출시된 Granite Guardian 3.0 모델은 안전하고 신뢰할 수 있는 인공지능을 촉진하기 위한 IBM의 가장 포괄적인 가드레일 기능을 제공합니다.

● 새롭게 출시된 Granite 3.0 전문가 혼합 모델은 매우 효율적인 추론과 낮은 지연 시간을 지원하며, CPU 기반 배포와 엣지 컴퓨팅에 적합합니다.

● 완전히 새로워진 Granite 시계열 모델은 제로샷/소수샷 예측에서 최첨단 성능을 달성하여 10배 더 큰 모델보다 뛰어납니다.

● IBM은 일반 코딩을 위한 차세대 Granite 기반 Watsonx Code Assistant를 출시했습니다. AI 애플리케이션과 에이전트를 빌드하고 배포하기 위한 새로운 도구가 Watsonx.ai에서 처음 선보입니다.

● Granite가 IBM의 160,000만 명의 컨설턴트가 고객에게 새로운 솔루션을 더 빠르게 제공하기 위해 사용하는 AI 기반 제공 플랫폼인 Consulting Advantage의 기본 모델이 될 것이라고 발표되었습니다.

IBM은 21월 3.0일 미국 시간으로 개최된 IBM의 연례 TechXchange 컨퍼런스에서 지금까지 가장 진보된 AI 모델 제품군인 Granite XNUMX을 출시한다고 발표했습니다. IBM의 XNUMX세대 Granite 플래그십 언어 모델은 많은 학계 및 산업 벤치마크 테스트에서 유사한 선도적 모델 공급업체의 모델을 능가하거나 맞먹을 수 있으며, 강력한 성능, 투명성 및 보안을 입증합니다.

오픈 소스 AI에 대한 회사의 약속에 따라 Granite 모델은 관대한 Apache 2.0 라이선스에 따라 출시됩니다. 성능, 유연성 및 자율성의 고유한 조합으로 기업 고객과 전체 커뮤니티에 서비스를 제공할 수 있습니다.

IBM의 Granite 3.0 제품군 시리즈에는 다음이 포함됩니다.

● 일반/언어 모델: Granite 3.0 8B Instruct, Granite 3.0 2B Instruct, Granite 3.0 8B Base, Granite 3.0 2B Base

● 가드레일 및 보안 모델: Granite Guardian 3.0 8B, Granite Guardian 3.0 2B

● 전문가 혼합 모델: Granite 3.0 3B-A800M Instruct, Granite 3.0 1B-A400M Instruct, Granite 3.0 3B-A800M Base, Granite 3.0 1B-A400M Base

새로운 화강암 3.0 8B 및 2B 언어 모델은 엔터프라이즈 수준 AI의 "주력" 모델로 설계되었으며, 검색 강화 생성(RAG), 분류, 요약, 엔터티 추출 및 도구 사용과 같은 작업에서 강력한 성능을 제공할 수 있습니다. 이러한 컴팩트하고 다재다능한 모델은 엔터프라이즈 데이터로 미세 조정되고 다양한 비즈니스 환경 또는 워크플로에 원활하게 통합되도록 설계되었습니다.

많은 대규모 언어 모델(LLM)은 공개적으로 사용 가능한 데이터에서 학습되지만, 대부분의 엔터프라이즈 데이터는 사용되지 않은 채로 남아 있습니다. IBM과 RedHat이 3월에 출시한 혁신적인 정렬 기술 InstructLab을 특히 사용하여 소규모 Granite 모델을 엔터프라이즈 데이터와 결합함으로써, IBM은 엔터프라이즈가 대규모 모델과 비슷한 작업별 성능을 비용의 일부에 불과한 비용으로 달성할 수 있다고 믿습니다(몇몇 초기 개념 증명에서 관찰된 대규모 첨단 모델보다 23~XNUMX배 낮은 비용 범위에 근거).

Granite 3.0의 출시는 AI 제품에 대한 투명성, 안전성 및 신뢰를 구축하려는 IBM의 의지를 재확인합니다. Granite 3.0 기술 보고서와 책임 있는 사용 가이드는 이러한 모델을 훈련하는 데 사용된 데이터 세트에 대한 설명을 제공하고, 적용된 필터링, 정리 및 처리 단계를 자세히 설명하며, 주요 학술 및 기업 벤치마크 테스트에서 모델의 성능 결과를 종합적으로 보여줍니다.

가장 중요한 점은 IBM이 watsonx.ai의 모든 Granite 모델에 대해 지적 재산권 보상을 제공함으로써 기업 고객이 기업 데이터를 모델에 통합하는 데 대한 확신을 높이는 것을 목표로 한다는 것입니다.

기준을 높이다: Granite 3.0 벤치마크 테스트

Granite 3.0 언어 모델은 원시 성능에서도 좋은 결과를 보여줍니다.

Hugging Face의 OpenLLM 리더보드에서 정의한 표준 학술 벤치마크 테스트에서 Granite 3.0 8B Instruct 모델의 전반적인 성능은 평균적으로 Meta와 Mistral의 비슷한 크기의 오픈소스 모델의 최첨단 성능을 앞지릅니다. IBM의 고급 AttaQ 보안 벤치마크 테스트에서 Granite 3.0 8B Instruct 모델은 모든 측정된 보안 차원에서 Meta와 Mistral의 모델을 앞지릅니다.

검색 향상 생성(RAG), 도구 사용, 사이버 보안과 같은 핵심 엔터프라이즈 작업에서 Granite 3.0 8B Instruct 모델의 평균 성능은 비슷한 규모의 Mistral 및 Meta의 오픈소스 모델보다 우수합니다.

Granite 3.0 모델은 12개의 다른 자연어와 12개의 다른 프로그래밍 언어에서 116조 개가 넘는 토큰으로 학습되었으며, 데이터 품질, 데이터 선택 및 학습 매개변수를 최적화하는 것을 목표로 하는 수천 개의 실험 결과를 활용하는 새로운 3.0단계 학습 방법을 사용합니다. 올해 말까지 8 2B 및 128B 언어 모델은 확장된 XNUMXK 컨텍스트 창과 멀티모달 문서 이해 기능을 지원할 것으로 예상됩니다.
.

IBM은 Granite 전문가 혼합 전문가(MoE) 기관 모델인 Granite 3.0 1B-A400M과 Granite 3.0 3B-A800M을 제공함으로써 성능과 추론 비용의 완벽한 균형을 입증했습니다. 이러한 작고 가벼운 모델은 저지연 애플리케이션과 CPU 기반 배포에 사용할 수 있습니다.

IBM은 또한 사전 훈련된 Granite 시계열 모델의 업데이트된 버전을 발표했으며, 이전 버전은 올해 초에 출시되었습니다. 이러한 새로운 모델은 3배 더 많은 데이터로 훈련되었으며, 3가지 주요 시계열 벤치마크 테스트에서 모두 좋은 성과를 거두었으며, Google 및 Alibaba와 같이 10배 더 큰 회사의 모델 성능을 능가했습니다. 업데이트된 모델은 또한 더 큰 모델링 유연성과 외부 변수 및 롤링 예측 지원을 제공합니다.

Granite Guardian 3.0: 책임 있는 AI의 새로운 시대를 열다

이 릴리스의 일부로 IBM은 또한 애플리케이션 개발자가 사용자 프롬프트와 LLM 응답을 확인하여 다양한 위험을 감지함으로써 안전 가드레일을 구현할 수 있는 새로운 Granite Guardian 모델 시리즈를 출시했습니다. Granite Guardian 3.0, 8B 및 2B 모델은 오늘날 시장에서 가장 포괄적인 위험 및 위험 감지 기능을 제공합니다.

사회적 편견, 증오, 독성, 신성모독, 폭력, 탈옥과 같은 위험 차원 외에도 이러한 모델은 사실성, 맥락 관련성, 답변 관련성과 같은 일련의 고유한 검색 향상 생성(RAG) 특정 검사를 제공합니다. 19개의 안전 및 RAG 벤치마크에 대한 광범위한 테스트에서 Granite Guardian 3.0 8B 모델은 Meta의 Llama Guard 모델의 세 세대보다 평균적으로 위험 탐지에서 전반적으로 더 높은 정확도를 보였습니다. 환각 탐지에서의 전반적인 성능은 특수 환각 탐지 모델인 WeCheck 및 MiniCheck와도 비슷합니다.

Granite Guardian 모델은 해당 Granite 언어 모델에서 파생되었지만, 보안 보호 장치를 구현하기 위해 모든 개방형 또는 독점형 AI 모델과 함께 사용할 수 있습니다.

Granite 3.0 모델의 가용성

Granite 3.0 모델 모음 전체와 업데이트된 시계열 모델은 HuggingFace에서 허용적인 Apache 2.0 라이선스에 따라 다운로드할 수 있습니다. 새로운 Granite 3.0 8B 및 2B 언어 모델과 Granite Guardian 3.0 8B 및 2B 모델의 명령어 변형은 이제 IBM의 watsonx 플랫폼에서 상업적으로 사용할 수 있습니다. 일부 Granite 3.0 모델은 NVIDIA NIM 마이크로서비스로 제공되고 Google Cloud의 Vertex AI Model Garden과 HuggingFace를 통합하여 제공됩니다.

개발자에게 다양한 옵션과 사용 편의성을 제공하고 로컬 및 에지 배포를 지원하기 위해 Ollama와 Replicate에서도 Granite 3.0 모델을 사용할 수 있습니다. 최신 Granite 모델은 IBM의 강력한 오픈 소스 LLM 카탈로그를 확장합니다. IBM은 AWS, Docker, Domo, Qualcomm Technologies, Inc.(Qualcomm® AI Hub를 통해), Salesforce, SAP와 같은 생태계 파트너와 협력하여 여러 Granite 모델을 이러한 파트너 제품에 통합하거나 파트너 플랫폼에서 Granite 모델을 제공함으로써 글로벌 기업에 더 넓은 선택지를 제공합니다.

보조원에서 에이전트로: 엔터프라이즈급 AI의 미래 실현

IBM은 모델과 어시스턴트부터 회사의 고유한 데이터와 사용 사례에 맞게 AI를 조정하고 배포하는 데 필요한 도구에 이르기까지 다양한 기술을 통해 엔터프라이즈 수준의 AI를 발전시키고 있습니다. IBM은 또한 역동적인 비즈니스 환경에서 스스로 지시하고, 성찰하며, 복잡한 작업을 수행할 수 있는 미래의 AI 에이전트를 위한 길을 개척하고 있습니다.

IBM은 로우코드 도구와 자동화를 통해 회사가 자체 어시스턴트를 구축하는 데 도움이 되는 watsonx Orchestrate부터 고객 서비스, 인사, 영업 및 마케팅과 같은 특정 작업 및 도메인을 위한 다양한 사전 구축 어시스턴트에 이르기까지 AI 어시스턴트 기술 포트폴리오를 지속적으로 발전시키고 있습니다. 전 세계 조직은 이미 watsonx Assistant를 사용하여 고객이나 직원의 일상적인 질문에 답하고, 메인프레임과 레거시 IT 애플리케이션을 현대화하고, 학생들이 잠재적인 경력 경로를 탐색하도록 돕거나, 주택 구매자에게 디지털 모기지 지원을 제공하는 등의 작업을 위한 AI 어시스턴트를 구축했습니다.

IBM은 또한 Granite 코드 모델을 기반으로 하고 C, C++, Go, Java, Python과 같은 언어에 대한 일반적인 코딩 지원과 엔터프라이즈급 Java 애플리케이션에 대한 고급 애플리케이션 현대화 기능을 제공할 수 있는 차세대 watsonx Code Assistant의 출시를 발표했습니다. Granite의 코드 기능은 이제 IBM Granite.Code Visual Studio Code 확장을 통해서도 액세스할 수 있습니다.

IBM은 또한 watsonx.ai를 사용하여 개발자가 AI를 보다 효율적으로 빌드, 사용자 정의 및 배포할 수 있도록 돕는 새로운 도구를 출시할 계획입니다. 여기에는 에이전트 프레임워크, 기존 환경과의 통합, RAG 및 에이전트와 같은 일반적인 사용 사례를 위한 로우코드 자동화가 포함됩니다.

IBM은 더 높은 자율성, 복잡한 추론 기능, 다단계 문제 해결 능력을 갖춘 AI 에이전트 기술 개발에 집중하고 있습니다. Granite 3.0 8B 모델의 초기 버전은 고급 추론 및 고도로 구조화된 채팅 템플릿, 도구 사용 워크플로 구현을 위한 프롬프트 스타일과 같은 주요 에이전트 기능을 지원합니다. IBM은 또한 IBM watsonx Orchestrate에 새로운 AI 에이전트 채팅 기능을 도입하여 에이전트 기능을 활용하여 AI 어시스턴트, 기술, 자동화를 조정하여 사용자가 전체 팀 생산성을 개선하도록 도울 계획입니다[viii]. IBM은 2025년에 특정 도메인 및 사용 사례에 대한 사전 구축된 에이전트를 포함하여 제품 포트폴리오에 에이전트 기능을 계속 구축할 계획입니다.

IBM 컨설턴트의 AI 역량 강화를 위해 AI 기반 제공 플랫폼 확장

IBM은 또한 AI 기반 제공 플랫폼인 IBM Consulting Advantage의 상당한 확장을 발표했습니다. 이 다중 모델 플랫폼에는 AI 에이전트, 애플리케이션 및 방법(예: 재사용 가능한 프레임워크)이 포함되어 160,000명의 IBM 컨설턴트가 더 낮은 비용으로 더 빠르고 더 나은 가치를 고객에게 제공할 수 있도록 지원합니다.

확장의 일환으로 Granite 3.0 언어 모델이 Consulting Advantage의 기본 모델이 됩니다. Granite의 성능과 효율성을 통해 IBM Consulting은 IBM 고객을 위한 생성 AI 프로젝트에 대한 투자 수익률을 극대화하는 데 도움을 줄 수 있습니다.

확장의 또 다른 핵심 부분은 IBM Consulting Advantage for Cloud Transformation and Management와 IBM Consulting Advantage for Business Operations의 도입입니다. 각각에는 IBM의 모범 사례를 통합한 도메인별 AI 에이전트, 애플리케이션 및 방법이 포함되어 있어 IBM 컨설턴트가 고객이 클라우드 및 AI 변환 작업(예: 코드 현대화 및 품질 엔지니어링)을 가속화하거나 도메인(예: 재무, 인사 및 조달) 간에 변환 및 운영을 구현하도록 도울 수 있습니다.

IBM 소개

IBM은 하이브리드 클라우드, 인공지능 및 엔터프라이즈 서비스 분야의 글로벌 리더로, 175개 이상의 국가와 지역의 고객이 데이터에서 비즈니스 통찰력을 얻고, 비즈니스 프로세스를 간소화하고, 비용을 절감하고, 업계에서 경쟁 우위를 확보할 수 있도록 지원합니다. 금융 서비스, 통신, 의료와 같은 중요 인프라 부문의 4,000개 이상의 정부 및 기업 기관이 IBM의 하이브리드 클라우드 플랫폼과 Red Hat OpenShift를 사용하여 빠르고 효율적이며 안전하게 디지털 혁신을 달성합니다. IBM의 인공지능, 양자 컴퓨팅, 산업 클라우드 솔루션 및 엔터프라이즈 서비스 분야의 획기적인 혁신은 고객에게 개방적이고 유연한 선택권을 제공합니다. 기업의 성실성, 투명한 거버넌스, 사회적 책임, 포용적인 문화 및 서비스 정신에 대한 장기적인 헌신은 IBM의 사업 개발의 ​​초석입니다.