● Model Granite 3.0 8B dan 2B yang baru dilancarkan dikeluarkan di bawah lesen Apache 2.0 yang permisif dan telah menunjukkan prestasi kukuh dalam banyak ujian penanda aras akademik dan perusahaan, yang mampu mengatasi atau memadankan model skala yang serupa.

● Model Granite Guardian 3.0 yang baru dilancarkan menyediakan fungsi pagar IBM yang paling komprehensif untuk mempromosikan kecerdasan buatan yang selamat dan boleh dipercayai.

● Model campuran pakar pakar Granite 3.0 yang baru dilancarkan membolehkan inferens yang sangat cekap dan kependaman rendah, sesuai untuk penggunaan berasaskan CPU dan pengkomputeran tepi.

● Model siri masa Granit yang serba baharu mencapai prestasi terkini dalam ramalan sifar pukulan/beberapa pukulan, mengatasi model yang sepuluh kali lebih besar.

● IBM telah melancarkan generasi seterusnya Pembantu Kod watsonx berasaskan Granit untuk pengekodan am; alatan baharu untuk membina dan menggunakan aplikasi dan ejen AI diperkenalkan di watsonx.ai.

● Diumumkan bahawa Granite akan menjadi model lalai untuk Consulting Advantage, platform penghantaran dipacu AI yang digunakan oleh 160,000 perunding IBM untuk menyediakan penyelesaian baharu kepada pelanggan dengan lebih pantas.

Pada persidangan tahunan TechXchange IBM yang diadakan pada 21 Oktober, waktu AS, IBM mengumumkan pelancaran keluarga model AI yang paling maju setakat ini - Granite 3.0. Model bahasa utama Granite generasi ketiga IBM boleh mengatasi atau memadankan model pembekal model terkemuka yang serupa dalam banyak ujian penanda aras akademik dan industri, yang menunjukkan prestasi, ketelusan dan keselamatan yang berkuasa.

Selaras dengan komitmen syarikat terhadap sumber terbuka AI, model Granite dikeluarkan di bawah lesen Apache 2.0 yang permisif. Dengan gabungan unik prestasi, fleksibiliti dan autonomi mereka, mereka boleh memberi perkhidmatan kepada pelanggan perusahaan dan seluruh komuniti.

Siri keluarga Granite 3.0 IBM termasuk:

● Model Umum/Bahasa: Granit 3.0 8B Instruct, Granite 3.0 2B Instruct, Granite 3.0 8B Base, Granite 3.0 2B Base

● Pengawal dan model keselamatan: Granite Guardian 3.0 8B, Granite Guardian 3.0 2B

● Model campuran pakar pakar: Granit 3.0 3B-A800M Instruct, Granite 3.0 1B-A400M Instruct, Granite 3.0 3B-A800M Base, Granite 3.0 1B-A400M Base

Baru Granite 3.0 Model bahasa 8B dan 2B direka sebagai model "kuasa utama" untuk AI peringkat perusahaan, yang mampu memberikan prestasi yang kukuh dalam tugas seperti penjanaan dipertingkatkan semula (RAG), klasifikasi, ringkasan, pengekstrakan entiti dan penggunaan alat. Model padat dan serba boleh ini bertujuan untuk diperhalusi dengan data perusahaan dan disepadukan dengan lancar ke dalam pelbagai persekitaran perniagaan atau aliran kerja.

Banyak model bahasa besar (LLM) dilatih pada data yang tersedia secara umum, manakala sebahagian besar data perusahaan kekal tidak digunakan. Dengan menggabungkan model Granit kecil dengan data perusahaan, terutamanya menggunakan teknologi penjajaran revolusioner InstructLab yang dilancarkan oleh IBM dan RedHat pada bulan Mei, IBM percaya bahawa perusahaan boleh mencapai prestasi khusus tugas yang setanding dengan model besar pada hanya sebahagian kecil daripada kos (berdasarkan pemerhatian julat kos 3 hingga 23 kali lebih rendah daripada model termaju besar dalam beberapa bukti konsep awal).

Pengeluaran Granite 3.0 mengesahkan komitmen IBM untuk membina ketelusan, keselamatan dan kepercayaan dalam produk AI. Laporan teknikal Granite 3.0 dan panduan penggunaan yang bertanggungjawab memberikan penerangan tentang set data yang digunakan untuk melatih model ini, memperincikan langkah penapisan, pembersihan dan pemprosesan yang digunakan, dan secara komprehensif menunjukkan hasil prestasi model dalam ujian penanda aras akademik dan perusahaan utama.

Yang penting, IBM menyediakan ganti rugi harta intelek untuk semua model Granit di watsonx.ai, bertujuan untuk meningkatkan keyakinan pelanggan perusahaan dalam menyepadukan data perusahaan ke dalam model.

Menaikkan bar: Ujian penanda aras Granit 3.0

Model bahasa Granite 3.0 juga menunjukkan hasil yang baik dalam prestasi mentah.

Dalam ujian penanda aras akademik standard yang ditakrifkan oleh papan pendahulu OpenLLM Hugging Face, prestasi keseluruhan model Granite 3.0 8B Instruct secara purata mendahului prestasi terkini bagi model sumber terbuka bersaiz serupa daripada Meta dan Mistral. Dalam ujian penanda aras keselamatan AttaQ lanjutan IBM, model Granite 3.0 8B Instruct mengetuai model Meta dan Mistral dalam semua dimensi keselamatan yang diukur.

Dalam tugasan perusahaan teras seperti penjanaan dipertingkatkan semula (RAG), penggunaan alat dan keselamatan siber, prestasi purata model Arahan Granite 3.0 8B adalah lebih baik daripada model sumber terbuka berskala serupa daripada Mistral dan Meta.

Model Granite 3.0 dilatih menggunakan lebih 12 trilion token daripada 12 bahasa semula jadi yang berbeza dan 116 bahasa pengaturcaraan yang berbeza, menggunakan kaedah latihan dua peringkat baharu yang memanfaatkan beribu-ribu keputusan percubaan yang bertujuan untuk mengoptimumkan kualiti data, pemilihan data dan parameter latihan. Menjelang akhir tahun ini, model bahasa 3.0 8B dan 2B dijangka menyokong tetingkap konteks 128K yang diperluaskan dan keupayaan pemahaman dokumen pelbagai mod
.

IBM telah menunjukkan keseimbangan sempurna antara prestasi dan kos inferens dengan menyediakan model institusi campuran pakar (MoE) pakar Granit, Granit 3.0 1B-A400M dan Granit 3.0 3B-A800M. Model yang lebih kecil dan ringan ini boleh digunakan untuk aplikasi kependaman rendah dan penggunaan berasaskan CPU.

IBM juga mengumumkan versi terkini model siri masa Granite pra-latihannya, dengan versi awal dikeluarkan awal tahun ini. Model baharu ini dilatih pada tiga kali lebih banyak data dan berprestasi baik dalam ketiga-tiga ujian penanda aras siri masa utama, mengatasi prestasi model daripada syarikat seperti Google dan Alibaba yang sepuluh kali lebih besar. Model yang dikemas kini juga menyediakan fleksibiliti pemodelan yang lebih besar dan sokongan untuk pembolehubah luaran dan ramalan bergulir.

Penjaga Granit 3.0: Membuka era baharu AI yang bertanggungjawab

Sebagai sebahagian daripada keluaran ini, IBM turut melancarkan siri model Granite Guardian baharu yang membolehkan pembangun aplikasi melaksanakan pagar keselamatan dengan menyemak gesaan pengguna dan respons LLM untuk mengesan pelbagai risiko. Model Granite Guardian 3.0, 8B, dan 2B menawarkan fungsi pengesanan risiko dan bahaya yang paling komprehensif di pasaran hari ini.

Selain dimensi bahaya seperti berat sebelah sosial, kebencian, ketoksikan, fitnah, keganasan dan pemecahan penjara, model ini juga menyediakan satu siri pemeriksaan khusus penjanaan dipertingkatkan semula (RAG) yang unik seperti fakta, kaitan konteks dan kaitan jawapan. Dalam ujian meluas terhadap 19 tanda aras keselamatan dan RAG, model Granite Guardian 3.0 8B mempunyai ketepatan keseluruhan yang lebih tinggi dalam pengesanan bahaya secara purata daripada ketiga-tiga generasi model Llama Guard Meta. Prestasi keseluruhannya dalam pengesanan halusinasi juga setanding dengan model pengesanan halusinasi khusus WeCheck dan MiniCheck.

Walaupun model Granite Guardian berasal daripada model bahasa Granit yang sepadan, model ini boleh digunakan dengan mana-mana model AI terbuka atau proprietari untuk melaksanakan perlindungan keselamatan.

Ketersediaan model Granite 3.0

Keseluruhan suite model Granite 3.0 dan model siri masa yang dikemas kini boleh dimuat turun di bawah lesen Apache 2.0 permisif pada HuggingFace. Varian arahan model bahasa Granite 3.0 8B dan 2B baharu serta model Granite Guardian 3.0 8B dan 2B kini tersedia untuk kegunaan komersil pada platform watsonx IBM. Beberapa model Granite 3.0 juga akan disediakan sebagai perkhidmatan mikro NVIDIA NIM dan melalui integrasi Taman Model AI Vertex Google Cloud dengan HuggingFace.

Untuk menyediakan pembangun dengan pelbagai pilihan dan kemudahan penggunaan serta menyokong penggunaan tempatan dan pinggir, pilihan model Granite 3.0 juga tersedia di Ollama dan Replicate. Generasi terbaru model Granit mengembangkan katalog berkuasa IBM bagi LLM sumber terbuka. IBM bekerjasama dengan rakan kongsi ekosistem seperti AWS, Docker, Domo, Qualcomm Technologies, Inc. (melalui Qualcomm? AI Hub), Salesforce dan SAP untuk menyepadukan berbilang model Granit ke dalam produk rakan kongsi ini atau menawarkan model Granit pada platform mereka, memberikan pilihan yang lebih baik untuk perusahaan global.

Daripada pembantu kepada ejen: Merealisasikan masa depan AI peringkat perusahaan

IBM sedang memajukan AI peringkat perusahaan melalui satu siri teknologi, daripada model dan pembantu kepada alatan yang diperlukan untuk menala dan menggunakan AI untuk data unik dan kes penggunaan syarikat. IBM juga membuka jalan untuk ejen AI masa depan yang boleh mengarahkan diri, reflektif dan melaksanakan tugas yang kompleks dalam persekitaran perniagaan yang dinamik.

IBM terus mengembangkan portfolio teknologi pembantu AInya, daripada watsonx Orchestrate yang membantu syarikat membina pembantu mereka sendiri melalui alat dan automasi kod rendah, kepada pelbagai pembantu pra-bina untuk tugas dan domain tertentu seperti perkhidmatan pelanggan, sumber manusia, jualan, dan pemasaran. Organisasi di seluruh dunia telah pun menggunakan watsonx Assistant untuk membantu mereka membina pembantu AI untuk tugasan seperti menjawab soalan harian daripada pelanggan atau pekerja, memodenkan kerangka utama dan aplikasi IT warisan, membantu pelajar meneroka laluan kerjaya yang berpotensi, atau menyediakan sokongan gadai janji digital untuk pembeli rumah.

IBM juga mengumumkan keluaran akan datang bagi generasi seterusnya Pembantu Kod watsonx, yang dikuasakan oleh model kod Granit dan boleh memberikan bantuan pengekodan umum untuk bahasa seperti C, C++, Go, Java dan Python, serta keupayaan pemodenan aplikasi lanjutan untuk aplikasi Java peringkat perusahaan. Keupayaan kod Granite kini juga boleh diakses melalui sambungan Kod Visual Studio IBM Granite.Code.

IBM juga merancang untuk mengeluarkan alatan baharu untuk membantu pembangun membina, menyesuaikan dan menggunakan AI dengan lebih cekap menggunakan watsonx.ai, termasuk rangka kerja ejen, penyepaduan dengan persekitaran sedia ada dan automasi kod rendah untuk kes penggunaan biasa seperti RAG dan ejen.

IBM menumpukan pada membangunkan teknologi ejen AI dengan autonomi yang lebih tinggi, keupayaan penaakulan yang kompleks dan kebolehan menyelesaikan masalah berbilang langkah. Versi awal model Granite 3.0 8B menyokong fungsi ejen utama seperti penaakulan lanjutan dan templat sembang berstruktur tinggi serta gaya segera untuk melaksanakan aliran kerja penggunaan alat. IBM juga merancang untuk memperkenalkan keupayaan sembang ejen AI baharu dalam IBM watsonx Orchestrate, memanfaatkan keupayaan ejen untuk menyelaraskan pembantu AI, kemahiran dan automasi untuk membantu pengguna meningkatkan produktiviti pasukan keseluruhan [viii]. IBM merancang untuk terus membina keupayaan ejen ke dalam portfolio produknya pada 2025, termasuk ejen pra-bina untuk domain dan kes penggunaan tertentu.

Memperluas platform penghantaran dipacu AI untuk meningkatkan perunding IBM dengan AI

IBM juga mengumumkan pengembangan ketara platform penghantaran dipacu AInya, IBM Consulting Advantage. Platform berbilang model ini mengandungi ejen AI, aplikasi dan kaedah (seperti rangka kerja boleh guna semula), memperkasakan 160,000 perunding IBM untuk memberikan nilai kepada pelanggan dengan lebih pantas dan lebih baik pada kos yang lebih rendah.

Sebagai sebahagian daripada pengembangan, model bahasa Granite 3.0 akan menjadi model lalai untuk Kelebihan Perundingan. Dengan prestasi dan kecekapan Granite, IBM Consulting akan dapat membantu memaksimumkan pulangan pelaburan dalam projek AI generatif untuk pelanggan IBM.

Satu lagi bahagian penting pengembangan ialah pengenalan IBM Consulting Advantage for Cloud Transformation and Management dan IBM Consulting Advantage for Business Operations. Setiap satu termasuk ejen AI khusus domain, aplikasi dan kaedah yang menggabungkan amalan terbaik IBM, membolehkan perunding IBM membantu pelanggan mempercepatkan tugasan transformasi awan dan AI (seperti pemodenan kod dan kejuruteraan kualiti) atau melaksanakan transformasi dan operasi merentas domain (seperti kewangan , sumber manusia, dan perolehan).

Mengenai IBM

IBM ialah peneraju global dalam perkhidmatan awan hibrid, kecerdasan buatan dan perusahaan, membantu pelanggan di lebih 175 negara dan wilayah memperoleh cerapan perniagaan daripada data mereka, memudahkan proses perniagaan, mengurangkan kos dan memperoleh kelebihan daya saing dalam industri. Lebih daripada 4,000 entiti kerajaan dan perusahaan dalam sektor infrastruktur kritikal seperti perkhidmatan kewangan, telekomunikasi dan penjagaan kesihatan bergantung pada platform awan hibrid IBM dan Red Hat OpenShift untuk mencapai transformasi digital dengan cepat, cekap dan selamat. Inovasi terobosan IBM dalam kecerdasan buatan, pengkomputeran kuantum, penyelesaian awan industri dan perkhidmatan perusahaan menyediakan pelanggan kami dengan pilihan terbuka dan fleksibel. Komitmen jangka panjang terhadap integriti korporat, tadbir urus yang telus, tanggungjawab sosial, budaya inklusif dan semangat perkhidmatan adalah asas pembangunan perniagaan IBM.