● 新推出的Granite 3.0 8B和2B模型是在Apache 2.0許可下發布的，在多項學術和企業基準測試中表現出了強勁的性能，能夠超越或匹配類似規模的模型。

● 新推出的Granite Guardian 3.0模型提供了IBM最全面的護欄功能，促進安全可信的人工智慧。

● 新推出的Granite 3.0專家混合模型可實現極其高效的推理和低延遲，適用於基於CPU的部署和邊緣運算。

● 全新的 Granite 時間序列模型在零樣本/少樣本預測方面實現了最先進的性能，超越了十倍大的模型。

● IBM 推出了下一代基於 Granite 的 watsonx Code Assistant，用於通用編碼；用於建置和部署 AI 應用程式和代理程式的新工具在 watsonx.ai 中首次亮相。

● 宣布 Granite 將成為 Consulting Advantage 的預設模型，Consulting Advantage 是一個人工智慧驅動的交付平台，IBM 的 160,000 名顧問使用該平台更快地為客戶提供新的解決方案。

在美國時間21月3.0日舉行的IBM年度TechXchange大會上，IBM宣布推出迄今最先進的AI模型家族－Granite XNUMX。 IBM第三代Granite旗艦語言模型在多項學術和行業基準測試中均能超越或媲美同類領先模型提供商的模型，展現出強大的性能、透明度和安全性。

根據該公司對開源 AI 的承諾，Granite 模型是在寬鬆的 Apache 2.0 授權下發布的。憑藉其性能、靈活性和自主性的獨特組合，它們可以為企業客戶和整個社區提供服務。

IBM 的 Granite 3.0 系列包括：

● 通用/語言模型：Granite 3.0 8B Instruct、Granite 3.0 2B Instruct、Granite 3.0 8B Base、Granite 3.0 2B Base

● 護欄及安全型號：Granite Guardian 3.0 8B、Granite Guardian 3.0 2B

● 專家混合型號：Granite 3.0 3B-A800M Instruct、Granite 3.0 1B-A400M Instruct、Granite 3.0 3B-A800M Base、Granite 3.0 1B-A400M Base

新的 花崗岩 3.0 8B和2B語言模型被設計為企業級人工智慧的「主力」模型，能夠在檢索增強生成（RAG）、分類、摘要、實體提取和工具使用等任務中提供強大的效能。這些緊湊且多功能的模型旨在根據企業數據進行微調，並無縫整合到各種業務環境或工作流程中。

許多大型語言模型 (LLM) 都是根據公開資料進行訓練的，而絕大多數企業資料仍未使用。透過將小型Granite 模式與企業資料結合，特別是使用IBM 和RedHat 在3 月推出的革命性對齊技術InstructLab，IBM 相信企業只需花費一小部分成本即可實現與大型模式相當的特定任務效能（基於觀察到的結果）在幾個早期概念驗證中，成本範圍比大型尖端模型低 23 至 XNUMX 倍）。

Granite 3.0 的發布重申了 IBM 對建構 AI 產品透明度、安全性和信任的承諾。 Granite 3.0技術報告和負責任的使用指南提供了用於訓練這些模型的資料集的描述，詳細介紹了所應用的過濾、清理和處理步驟，並全面展示了模型在主要學術和企業基準測試中的性能結果。

至關重要的是，IBM 為 watsonx.ai 上的所有 Granite 模型提供智慧財產權保障，旨在增強企業客戶將企業資料整合到模型中的信心。

提高標準：Granite 3.0 基準測試

Granite 3.0 語言模型在原始效能方面也顯示出良好的結果。

在 Hugging Face 的 OpenLLM 排行榜定義的標準學術基準測試中，Granite 3.0 8B Instruct 模型的整體性能平均領先於 Meta 和 Mistral 的類似規模開源模型的最先進性能。在 IBM 的高級 AttaQ 安全基準測試中，Granite 3.0 8B Instruct 模型在所有測量的安全維度上均領先 Meta 和 Mistral 的模型。

在檢索增強生成（RAG）、工具使用和網路安全等核心企業任務中，Granite 3.0 8B Instruct 模型的平均效能優於 Mistral 和 Meta 類似規模的開源模型。

Granite 3.0 模型使用來自12 種不同自然語言和12 種不同程式語言的超過116 兆個標記進行訓練，採用新穎的兩階段訓練方法，利用數千個實驗結果，旨在優化資料品質、資料選擇和訓練參數。到今年年底，3.0 8B和2B語言模型預計將支援擴展的128K上下文視窗和多模態文件理解能力
.

IBM 透過提供 Granite 專家混合專家 (MoE) 機構模型 Granite 3.0 1B-A400M 和 Granite 3.0 3B-A800M，展示了性能和推理成本的完美平衡。這些更小、更輕的模型可用於低延遲應用程式和基於 CPU 的部署。

IBM 也宣布了其預訓練 Granite 時間序列模型的更新版本，早期版本於今年稍早發布。這些新模型接受了三倍多的資料訓練，並在所有三個主要時間序列基準測試中表現良好，超過了谷歌和阿里巴巴等公司十倍大的模型的性能。更新後的模型還提供了更大的建模靈活性以及對外部變數和滾動預測的支援。

Granite Guardian 3.0：開啟負責任的人工智慧新時代

作為此版本的一部分，IBM 還推出了新的 Granite Guardian 模型系列，允許應用程式開發人員透過檢查使用者提示和 LLM 回應來實現安全護欄，以檢測各種風險。 Granite Guardian 3.0、8B 和 2B 型號提供當今市場上最全面的風險和危險檢測功能。

除了社會偏見、仇恨、毒性、褻瀆、暴力和越獄等危險維度外，這些模型還提供了一系列獨特的檢索增強生成 (RAG) 特定檢查，例如事實性、上下文相關性和答案相關性。在針對 19 項安全性和 RAG 基準的廣泛測試中，Granite Guardian 3.0 8B 模型的危險檢測總體準確度平均高於 Meta 的所有三代 Llama Guard 模型。其在幻覺檢測方面的整體性能也可與專門的幻覺檢測模型WeCheck和MiniCheck相媲美。

儘管Granite Guardian模型源自於相應的Granite語言模型，但它們可以與任何開放或專有的AI模型一起使用以實現安全保障。

Granite 3.0 型號的可用性

整個 Granite 3.0 模型套件和更新的時間序列模型可以在 HuggingFace 上的 Apache 2.0 許可下下載。新的 Granite 3.0 8B 和 2B 語言模型以及 Granite Guardian 3.0 8B 和 2B 模型的指令變體現在 IBM 的 watsonx 平台上用於商業用途。一些 Granite 3.0 型號也將作為 NVIDIA NIM 微服務提供，並透過 Google Cloud 的 Vertex AI Model Garden 與 HuggingFace 整合提供。

為了給開發人員多種選擇和易用性，並支援本地和邊緣部署，Ollama 和 Replicate 上也提供了一系列 Granite 3.0 模型。最新一代 Granite 模型擴展了 IBM 強大的開源 LLM 產品目錄。 IBM 與 AWS、Docker、Domo、Qualcomm Technologies, Inc.（透過其 Qualcomm? AI Hub）、Salesforce 和 SAP 等生態系統合作夥伴合作，將多種 Granite 模型整合到這些合作夥伴的產品中，或在其平台上提供 Granite 模型，從而為全球企業提供更多選擇。

從助理到座席：實現企業級AI的未來

IBM 正在透過一系列技術推進企業級 AI，從模型和助手到針對公司獨特資料和用例調整和部署 AI 所需的工具。 IBM 也為未來的人工智慧代理商鋪平了道路，這些代理商可以在動態業務環境中自我指導、反思並執行複雜的任務。

IBM 不斷發展其 AI 助理技術組合，從幫助公司透過低程式碼工具和自動化建立自己的助理的 watsonx Orchestrate，到針對特定任務和領域（例如客戶服務、人力資源、銷售、和行銷。世界各地的組織已經使用watsonx Assistant 來幫助他們建立AI 助理來執行諸如回答客戶或員工的日常問題、實現大型主機和遺留IT 應用程式的現代化、幫助學生探索潛在的職業道路或為購房者提供數位抵押貸款支援等任務。

IBM也宣布即將發布下一代watsonx Code Assistant，該助手由Granite程式碼模型提供支持，可為C、C++、Go、Java和Python等語言提供通用編碼幫助，以及高級應用程式現代化功能適用於企業級Java 應用程式.現在也可以透過 IBM Granite.Code Visual Studio Code 擴充功能來存取 Granite 的程式碼功能。

IBM 還計劃發布新工具，幫助開發人員使用 watsonx.ai 更有效率地建置、自訂和部署 AI，包括代理框架、與現有環境的整合以及針對 RAG 和代理程式等常見用例的低程式碼自動化。

IBM專注於開發具有更高自主性、複雜推理能力和多步驟解決問題能力的AI代理技術。 Granite 3.0 8B模型的初始版本支援關鍵代理功能，例如高級推理和高度結構化的聊天範本以及用於實施工具使用工作流程的提示樣式。 IBM 還計劃在 IBM watsonx Orchestrate 中引入新的 AI 代理程式聊天功能，利用代理功能來協調 AI 助理、技能和自動化，以幫助用戶提高整體團隊生產力 [viii]。 IBM 計劃在 2025 年繼續將代理功能建置到其產品組合中，包括針對特定領域和用例的預先建置代理程式。

擴展人工智慧驅動的交付平台，以增強 IBM 顧問的人工智慧能力

IBM 也宣布大幅擴展其人工智慧驅動的交付平台 IBM Consulting Advantage。這個多模型平台包含 AI 代理、應用程式和方法（例如可重複使用框架），使 160,000 名 IBM 顧問能夠以更低的成本更快、更好地為客戶提供價值。

作為擴充的一部分，Granite 3.0 語言模型將成為 Consulting Advantage 的預設模型。憑藉 Granite 的性能和效率，IBM Consulting 將能夠幫助 IBM 客戶最大限度地提高生成式 AI 專案的投資回報。

擴充的另一個關鍵部分是引進 IBM Consulting Advantage for Cloud Transformation and Management 和 IBM Consulting Advantage for Business Operations。每個都包含特定領域的AI 代理、應用程式和方法，這些代理程式、應用程式和方法融入了IBM 的最佳實踐，使IBM 顧問能夠幫助客戶加速雲端和AI 轉型任務（例如程式碼現代化和品質工程）或實施跨領域（例如金融）的轉型和營運。

關於IBM

IBM 是混合雲、人工智慧和企業服務的全球領導者，幫助超過 175 個國家和地區的客戶從數據中獲取業務洞察、簡化業務流程、降低成本並獲得行業競爭優勢。金融服務、電信和醫療保健等關鍵基礎設施領域的 4,000 多家政府和企業實體依靠 IBM 混合雲平台和紅帽 OpenShift 快速、有效率、安全地實現數位轉型。 IBM在人工智慧、量子運算、產業雲端解決方案、企業服務等方面的突破性創新為我們的客戶提供了開放且靈活的選擇。對企業誠信、透明治理、社會責任、包容性文化和服務精神的長期承諾是IBM業務發展的基石。