● Các mô hình Granite 3.0 8B và 2B mới ra mắt được phát hành theo giấy phép Apache 2.0 cho phép và đã chứng minh hiệu suất mạnh mẽ trong nhiều bài kiểm tra chuẩn mực học thuật và doanh nghiệp, có khả năng vượt trội hoặc ngang bằng với các mô hình có quy mô tương tự.

● Mô hình Granite Guardian 3.0 mới ra mắt cung cấp chức năng bảo vệ toàn diện nhất của IBM nhằm thúc đẩy trí tuệ nhân tạo an toàn và đáng tin cậy.

● Các mô hình hỗn hợp chuyên gia Granite 3.0 mới ra mắt cho phép suy luận cực kỳ hiệu quả và độ trễ thấp, phù hợp với triển khai dựa trên CPU và điện toán biên.

● Mô hình chuỗi thời gian Granite hoàn toàn mới đạt hiệu suất tiên tiến nhất trong dự đoán không có/vài lần dự đoán, vượt trội hơn các mô hình lớn hơn gấp mười lần.

● IBM đã ra mắt thế hệ tiếp theo của Watsonx Code Assistant dựa trên Granite dành cho mã hóa chung; các công cụ mới để xây dựng và triển khai các ứng dụng và tác nhân AI đã được ra mắt trong watsonx.ai.

● Có thông báo rằng Granite sẽ trở thành mô hình mặc định cho Consulting Advantage, một nền tảng cung cấp dịch vụ do AI điều khiển được 160,000 chuyên gia tư vấn của IBM sử dụng để cung cấp các giải pháp mới cho khách hàng nhanh hơn.

Tại hội nghị thường niên TechXchange của IBM được tổ chức vào ngày 21 tháng 3.0 theo giờ Hoa Kỳ, IBM đã công bố ra mắt dòng mô hình AI tiên tiến nhất cho đến nay - Granite XNUMX. Mô hình ngôn ngữ chủ lực Granite thế hệ thứ ba của IBM có thể vượt trội hoặc ngang bằng với các mô hình của các nhà cung cấp mô hình hàng đầu tương tự trong nhiều bài kiểm tra chuẩn mực của ngành và học thuật, chứng minh hiệu suất, tính minh bạch và bảo mật mạnh mẽ.

Phù hợp với cam kết của công ty về AI nguồn mở, các mô hình Granite được phát hành theo giấy phép Apache 2.0 cho phép. Với sự kết hợp độc đáo giữa hiệu suất, tính linh hoạt và tính tự chủ, chúng có thể phục vụ khách hàng doanh nghiệp và toàn bộ cộng đồng.

Dòng sản phẩm Granite 3.0 của IBM bao gồm:

● Mô hình chung/Ngôn ngữ: Granite 3.0 8B Instruct, Granite 3.0 2B Instruct, Granite 3.0 8B Base, Granite 3.0 2B Base

● Các mẫu lan can và an ninh: Granite Guardian 3.0 8B, Granite Guardian 3.0 2B

● Các mô hình hỗn hợp chuyên gia của các chuyên gia: Granite 3.0 3B-A800M Instruct, Granite 3.0 1B-A400M Instruct, Granite 3.0 3B-A800M Base, Granite 3.0 1B-A400M Base

Mới Granite 3.0 Các mô hình ngôn ngữ 8B và 2B được thiết kế như các mô hình "lực lượng chính" cho AI cấp doanh nghiệp, có khả năng cung cấp hiệu suất mạnh mẽ trong các tác vụ như tạo tăng cường truy xuất (RAG), phân loại, tóm tắt, trích xuất thực thể và sử dụng công cụ. Các mô hình nhỏ gọn và linh hoạt này được thiết kế để tinh chỉnh với dữ liệu doanh nghiệp và tích hợp liền mạch vào nhiều môi trường kinh doanh hoặc quy trình công việc khác nhau.

Nhiều mô hình ngôn ngữ lớn (LLM) được đào tạo trên dữ liệu công khai, trong khi phần lớn dữ liệu doanh nghiệp vẫn chưa được sử dụng. Bằng cách kết hợp các mô hình Granite nhỏ với dữ liệu doanh nghiệp, đặc biệt là sử dụng công nghệ căn chỉnh mang tính cách mạng InstructLab do IBM và RedHat ra mắt vào tháng 3, IBM tin rằng các doanh nghiệp có thể đạt được hiệu suất theo tác vụ cụ thể tương đương với các mô hình lớn chỉ với một phần nhỏ chi phí (dựa trên phạm vi chi phí quan sát được thấp hơn từ 23 đến XNUMX lần so với các mô hình tiên tiến lớn trong một số bằng chứng khái niệm ban đầu).

Việc phát hành Granite 3.0 khẳng định lại cam kết của IBM trong việc xây dựng tính minh bạch, an toàn và tin cậy trong các sản phẩm AI. Báo cáo kỹ thuật và hướng dẫn sử dụng có trách nhiệm của Granite 3.0 cung cấp mô tả về các tập dữ liệu được sử dụng để đào tạo các mô hình này, trình bày chi tiết các bước lọc, làm sạch và xử lý được áp dụng, đồng thời chứng minh toàn diện kết quả hiệu suất của các mô hình trong các bài kiểm tra chuẩn mực học thuật và doanh nghiệp lớn.

Điều quan trọng là IBM cung cấp chế độ bồi thường sở hữu trí tuệ cho tất cả các mô hình Granite trên watsonx.ai, nhằm mục đích nâng cao sự tin tưởng của khách hàng doanh nghiệp trong việc tích hợp dữ liệu doanh nghiệp vào các mô hình.

Nâng cao tiêu chuẩn: Kiểm tra chuẩn Granite 3.0

Các mô hình ngôn ngữ Granite 3.0 cũng cho thấy kết quả tốt về hiệu suất thô.

Trong các bài kiểm tra chuẩn mực học thuật được xác định bởi bảng xếp hạng OpenLLM của Hugging Face, hiệu suất chung của mô hình Granite 3.0 8B Instruct trung bình dẫn đầu hiệu suất tiên tiến của các mô hình nguồn mở có kích thước tương tự từ Meta và Mistral. Trong bài kiểm tra chuẩn mực bảo mật AttaQ tiên tiến của IBM, mô hình Granite 3.0 8B Instruct dẫn đầu các mô hình của Meta và Mistral trong tất cả các chiều bảo mật được đo lường.

Trong các tác vụ cốt lõi của doanh nghiệp như tạo dữ liệu tăng cường truy xuất (RAG), sử dụng công cụ và an ninh mạng, hiệu suất trung bình của mô hình Granite 3.0 8B Instruct tốt hơn so với các mô hình nguồn mở có quy mô tương tự từ Mistral và Meta.

Các mô hình Granite 3.0 được đào tạo trên hơn 12 nghìn tỷ mã thông báo từ 12 ngôn ngữ tự nhiên khác nhau và 116 ngôn ngữ lập trình khác nhau, sử dụng phương pháp đào tạo hai giai đoạn mới tận dụng hàng nghìn kết quả thử nghiệm nhằm tối ưu hóa chất lượng dữ liệu, lựa chọn dữ liệu và các tham số đào tạo. Vào cuối năm nay, các mô hình ngôn ngữ 3.0 8B và 2B dự kiến ​​sẽ hỗ trợ cửa sổ ngữ cảnh mở rộng 128K và khả năng hiểu tài liệu đa phương thức
.

IBM đã chứng minh được sự cân bằng hoàn hảo giữa hiệu suất và chi phí suy luận bằng cách cung cấp các mô hình tổ chức hỗn hợp chuyên gia (MoE) Granite expert, Granite 3.0 1B-A400M và Granite 3.0 3B-A800M. Các mô hình nhỏ hơn và nhẹ hơn này có thể được sử dụng cho các ứng dụng có độ trễ thấp và triển khai dựa trên CPU.

IBM cũng đã công bố phiên bản cập nhật của mô hình chuỗi thời gian Granite được đào tạo trước của mình, với phiên bản trước đó được phát hành vào đầu năm nay. Các mô hình mới này được đào tạo trên dữ liệu nhiều hơn gấp ba lần và hoạt động tốt trong cả ba bài kiểm tra chuẩn chuỗi thời gian chính, vượt qua hiệu suất của các mô hình từ các công ty như Google và Alibaba lớn hơn gấp mười lần. Các mô hình được cập nhật cũng cung cấp tính linh hoạt mô hình hóa lớn hơn và hỗ trợ cho các biến bên ngoài và dự đoán lăn.

Granite Guardian 3.0: Mở ra kỷ nguyên mới của AI có trách nhiệm

Là một phần của bản phát hành này, IBM cũng đã ra mắt một loạt mô hình Granite Guardian mới cho phép các nhà phát triển ứng dụng triển khai các biện pháp bảo vệ an toàn bằng cách kiểm tra lời nhắc của người dùng và phản hồi của LLM để phát hiện nhiều rủi ro khác nhau. Các mô hình Granite Guardian 3.0, 8B và 2B cung cấp các chức năng phát hiện rủi ro và nguy hiểm toàn diện nhất trên thị trường hiện nay.

Ngoài các chiều nguy hiểm như định kiến ​​xã hội, thù hận, độc hại, báng bổ, bạo lực và vượt ngục, các mô hình này cũng cung cấp một loạt các kiểm tra đặc thù của thế hệ tăng cường truy xuất (RAG) như tính thực tế, tính liên quan của ngữ cảnh và tính liên quan của câu trả lời. Trong quá trình thử nghiệm mở rộng so với 19 chuẩn mực về an toàn và RAG, mô hình Granite Guardian 3.0 8B có độ chính xác tổng thể cao hơn trong việc phát hiện nguy hiểm trung bình so với cả ba thế hệ mô hình Llama Guard của Meta. Hiệu suất tổng thể của nó trong việc phát hiện ảo giác cũng tương đương với các mô hình phát hiện ảo giác chuyên dụng WeCheck và MiniCheck.

Mặc dù các mô hình Granite Guardian có nguồn gốc từ các mô hình ngôn ngữ Granite tương ứng, chúng có thể được sử dụng với bất kỳ mô hình AI mở hoặc độc quyền nào để triển khai các biện pháp bảo vệ an toàn.

Sự sẵn có của các mô hình Granite 3.0

Toàn bộ bộ mô hình Granite 3.0 và các mô hình chuỗi thời gian được cập nhật có thể được tải xuống theo giấy phép Apache 2.0 cho phép trên HuggingFace. Các biến thể hướng dẫn của các mô hình ngôn ngữ Granite 3.0 8B và 2B mới và các mô hình Granite Guardian 3.0 8B và 2B hiện có sẵn để sử dụng thương mại trên nền tảng watsonx của IBM. Một số mô hình Granite 3.0 cũng sẽ được cung cấp dưới dạng các dịch vụ vi mô NVIDIA NIM và thông qua tích hợp Vertex AI Model Garden của Google Cloud với HuggingFace.

Để cung cấp cho các nhà phát triển nhiều lựa chọn, dễ sử dụng và hỗ trợ triển khai cục bộ và biên, một số mô hình Granite 3.0 cũng có sẵn trên Ollama và Replicate. Thế hệ mô hình Granite mới nhất mở rộng danh mục các LLM nguồn mở mạnh mẽ của IBM. IBM hợp tác với các đối tác hệ sinh thái như AWS, Docker, Domo, Qualcomm Technologies, Inc. (thông qua Qualcomm AI Hub), Salesforce và SAP để tích hợp nhiều mô hình Granite vào sản phẩm của các đối tác này hoặc cung cấp các mô hình Granite trên nền tảng của họ, mang đến nhiều lựa chọn hơn cho các doanh nghiệp toàn cầu.

Từ trợ lý đến đại lý: Hiện thực hóa tương lai của AI cấp doanh nghiệp

IBM đang thúc đẩy AI cấp doanh nghiệp thông qua một loạt các công nghệ, từ các mô hình và trợ lý đến các công cụ cần thiết để điều chỉnh và triển khai AI cho dữ liệu và trường hợp sử dụng độc đáo của công ty. IBM cũng đang mở đường cho các tác nhân AI trong tương lai có thể tự định hướng, phản xạ và thực hiện các nhiệm vụ phức tạp trong môi trường kinh doanh năng động.

IBM liên tục phát triển danh mục công nghệ trợ lý AI của mình, từ watsonx Orchestrate giúp các công ty xây dựng trợ lý của riêng mình thông qua các công cụ mã thấp và tự động hóa, đến nhiều trợ lý được xây dựng sẵn cho các nhiệm vụ và lĩnh vực cụ thể như dịch vụ khách hàng, nguồn nhân lực, bán hàng và tiếp thị. Các tổ chức trên khắp thế giới đã sử dụng watsonx Assistant để giúp họ xây dựng trợ lý AI cho các nhiệm vụ như trả lời các câu hỏi hàng ngày từ khách hàng hoặc nhân viên, hiện đại hóa máy chủ lớn và các ứng dụng CNTT cũ, giúp sinh viên khám phá các con đường sự nghiệp tiềm năng hoặc cung cấp hỗ trợ thế chấp kỹ thuật số cho người mua nhà.

IBM cũng đã công bố bản phát hành sắp tới của thế hệ tiếp theo của Watsonx Code Assistant, được hỗ trợ bởi các mô hình mã Granite và có thể cung cấp hỗ trợ mã hóa chung cho các ngôn ngữ như C, C++, Go, Java và Python, cũng như khả năng hiện đại hóa ứng dụng tiên tiến cho các ứng dụng Java cấp doanh nghiệp. Khả năng mã của Granite hiện cũng có thể được truy cập thông qua tiện ích mở rộng IBM Granite.Code Visual Studio Code.

IBM cũng có kế hoạch phát hành các công cụ mới để giúp các nhà phát triển xây dựng, tùy chỉnh và triển khai AI hiệu quả hơn bằng watsonx.ai, bao gồm các khuôn khổ tác nhân, tích hợp với các môi trường hiện có và tự động hóa mã thấp cho các trường hợp sử dụng phổ biến như RAG và tác nhân.

IBM tập trung vào việc phát triển các công nghệ tác nhân AI có tính tự chủ cao hơn, khả năng suy luận phức tạp và khả năng giải quyết vấn đề nhiều bước. Phiên bản đầu tiên của mô hình Granite 3.0 8B hỗ trợ các chức năng chính của tác nhân như suy luận nâng cao và các mẫu trò chuyện có cấu trúc cao cùng các kiểu nhắc nhở để triển khai quy trình sử dụng công cụ. IBM cũng có kế hoạch giới thiệu các khả năng trò chuyện của tác nhân AI mới trong IBM watsonx Orchestrate, tận dụng các khả năng của tác nhân để phối hợp các trợ lý AI, kỹ năng và tự động hóa nhằm giúp người dùng cải thiện năng suất chung của nhóm [viii]. IBM có kế hoạch tiếp tục xây dựng các khả năng của tác nhân vào danh mục sản phẩm của mình vào năm 2025, bao gồm các tác nhân được xây dựng sẵn cho các miền và trường hợp sử dụng cụ thể.

Mở rộng nền tảng phân phối do AI thúc đẩy để nâng cao năng lực của các chuyên gia tư vấn IBM bằng AI

IBM cũng đã công bố một sự mở rộng đáng kể cho nền tảng phân phối do AI điều khiển, IBM Consulting Advantage. Nền tảng đa mô hình này chứa các tác nhân, ứng dụng và phương pháp AI (như các khuôn khổ có thể tái sử dụng), trao quyền cho 160,000 chuyên gia tư vấn của IBM cung cấp giá trị cho khách hàng nhanh hơn và tốt hơn với chi phí thấp hơn.

Là một phần của quá trình mở rộng, mô hình ngôn ngữ Granite 3.0 sẽ trở thành mô hình mặc định cho Consulting Advantage. Với hiệu suất và hiệu quả của Granite, IBM Consulting sẽ có thể giúp tối đa hóa lợi tức đầu tư vào các dự án AI tạo ra cho khách hàng của IBM.

Một phần quan trọng khác của quá trình mở rộng này là việc giới thiệu IBM Consulting Advantage for Cloud Transformation and Management và IBM Consulting Advantage for Business Operations. Mỗi giải pháp bao gồm các tác nhân, ứng dụng và phương pháp AI dành riêng cho từng miền, kết hợp các phương pháp hay nhất của IBM, cho phép các chuyên gia tư vấn của IBM giúp khách hàng đẩy nhanh các tác vụ chuyển đổi đám mây và AI (như hiện đại hóa mã và kỹ thuật chất lượng) hoặc triển khai các chuyển đổi và hoạt động trên nhiều miền (như tài chính, nguồn nhân lực và mua sắm).

Về IBM

IBM là công ty hàng đầu thế giới về đám mây lai, trí tuệ nhân tạo và dịch vụ doanh nghiệp, giúp khách hàng tại hơn 175 quốc gia và khu vực có được thông tin chi tiết về doanh nghiệp từ dữ liệu của họ, đơn giản hóa quy trình kinh doanh, giảm chi phí và giành được lợi thế cạnh tranh trong ngành. Hơn 4,000 tổ chức chính phủ và doanh nghiệp trong các lĩnh vực cơ sở hạ tầng quan trọng như dịch vụ tài chính, viễn thông và chăm sóc sức khỏe dựa vào nền tảng đám mây lai của IBM và Red Hat OpenShift để đạt được chuyển đổi số nhanh chóng, hiệu quả và an toàn. Những đổi mới đột phá của IBM trong trí tuệ nhân tạo, điện toán lượng tử, giải pháp đám mây công nghiệp và dịch vụ doanh nghiệp cung cấp cho khách hàng của chúng tôi những lựa chọn cởi mở và linh hoạt. Cam kết lâu dài về tính toàn vẹn của công ty, quản trị minh bạch, trách nhiệm xã hội, văn hóa hòa nhập và tinh thần phục vụ là nền tảng cho sự phát triển kinh doanh của IBM.