● Model Granite 3.0 8B dan 2B yang baru diluncurkan dirilis di bawah lisensi Apache 2.0 yang permisif dan telah menunjukkan kinerja yang kuat dalam banyak uji tolok ukur akademis dan perusahaan, yang mampu melampaui atau menyamai model dengan skala yang sama.

● Model Granite Guardian 3.0 yang baru diluncurkan menyediakan fungsi pembatas IBM yang paling komprehensif untuk mendorong kecerdasan buatan yang aman dan dapat dipercaya.

● Model campuran pakar Granite 3.0 yang baru diluncurkan memungkinkan inferensi yang sangat efisien dan latensi rendah, cocok untuk penerapan berbasis CPU dan komputasi tepi.

● Model deret waktu Granite yang baru mencapai kinerja canggih dalam prediksi nol-tembakan/sedikit-tembakan, melampaui model yang sepuluh kali lebih besar.

● IBM telah meluncurkan Watsonx Code Assistant generasi berikutnya berbasis Granite untuk pengkodean umum; alat baru untuk membangun dan menyebarkan aplikasi dan agen AI diperkenalkan pertama kali di watsonx.ai.

● Diumumkan bahwa Granite akan menjadi model default untuk Consulting Advantage, platform pengiriman berbasis AI yang digunakan oleh 160,000 konsultan IBM untuk menyediakan solusi baru kepada pelanggan dengan lebih cepat.

Pada konferensi tahunan TechXchange IBM yang diselenggarakan pada tanggal 21 Oktober waktu AS, IBM mengumumkan peluncuran keluarga model AI tercanggihnya hingga saat ini - Granite 3.0. Model bahasa andalan Granite generasi ketiga IBM dapat melampaui atau menyamai model penyedia model terkemuka serupa dalam banyak uji tolok ukur akademis dan industri, yang menunjukkan kinerja, transparansi, dan keamanan yang kuat.

Sejalan dengan komitmen perusahaan terhadap AI sumber terbuka, model Granite dirilis di bawah lisensi Apache 2.0 yang permisif. Dengan kombinasi unik antara kinerja, fleksibilitas, dan otonomi, model ini dapat melayani pelanggan perusahaan dan seluruh komunitas.

Seri keluarga Granite 3.0 IBM meliputi:

● Model Umum/Bahasa: Granite 3.0 8B Instruct, Granite 3.0 2B Instruct, Granite 3.0 8B Base, Granite 3.0 2B Base

● Model pagar pembatas dan keamanan: Granite Guardian 3.0 8B, Granite Guardian 3.0 2B

● Model campuran pakar: Granite 3.0 3B-A800M Instruct, Granite 3.0 1B-A400M Instruct, Granite 3.0 3B-A800M Base, Granite 3.0 1B-A400M Base

Baru Granit Model bahasa 3.0 8B dan 2B dirancang sebagai model "kekuatan utama" untuk AI tingkat perusahaan, yang mampu memberikan kinerja yang kuat dalam tugas-tugas seperti perolehan kembali yang ditingkatkan (RAG), klasifikasi, peringkasan, ekstraksi entitas, dan penggunaan alat. Model-model yang ringkas dan serbaguna ini dimaksudkan untuk disesuaikan dengan data perusahaan dan diintegrasikan dengan mulus ke dalam berbagai lingkungan bisnis atau alur kerja.

Banyak model bahasa besar (LLM) dilatih pada data yang tersedia untuk umum, sementara sebagian besar data perusahaan tetap tidak digunakan. Dengan menggabungkan model Granite kecil dengan data perusahaan, khususnya menggunakan teknologi penyelarasan revolusioner InstructLab yang diluncurkan oleh IBM dan RedHat pada bulan Mei, IBM yakin bahwa perusahaan dapat mencapai kinerja khusus tugas yang sebanding dengan model besar hanya dengan sebagian kecil biaya (berdasarkan kisaran biaya yang diamati sebesar 3 hingga 23 kali lebih rendah daripada model canggih besar dalam beberapa bukti konsep awal).

Peluncuran Granite 3.0 menegaskan kembali komitmen IBM untuk membangun transparansi, keamanan, dan kepercayaan dalam produk AI. Laporan teknis Granite 3.0 dan panduan penggunaan yang bertanggung jawab memberikan deskripsi kumpulan data yang digunakan untuk melatih model ini, merinci langkah-langkah penyaringan, pembersihan, dan pemrosesan yang diterapkan, dan secara komprehensif menunjukkan hasil kinerja model dalam uji tolok ukur akademis dan perusahaan utama.

Yang terpenting, IBM menyediakan ganti rugi kekayaan intelektual untuk semua model Granite di watsonx.ai, yang bertujuan untuk meningkatkan kepercayaan pelanggan perusahaan dalam mengintegrasikan data perusahaan ke dalam model.

Meningkatkan standar: Uji benchmark Granite 3.0

Model bahasa Granite 3.0 juga menunjukkan hasil yang baik dalam kinerja mentah.

Dalam uji tolok ukur akademis standar yang ditetapkan oleh papan peringkat OpenLLM milik Hugging Face, kinerja keseluruhan model Granite 3.0 8B Instruct secara rata-rata mengungguli kinerja terkini model sumber terbuka berukuran serupa dari Meta dan Mistral. Dalam uji tolok ukur keamanan AttaQ canggih milik IBM, model Granite 3.0 8B Instruct mengungguli model Meta dan Mistral dalam semua dimensi keamanan yang diukur.

Dalam tugas-tugas inti perusahaan seperti pembangkitan data yang ditingkatkan (RAG), penggunaan alat, dan keamanan siber, kinerja rata-rata model Granite 3.0 8B Instruct lebih baik daripada model sumber terbuka dengan skala serupa dari Mistral dan Meta.

Model Granite 3.0 dilatih pada lebih dari 12 triliun token dari 12 bahasa alami dan 116 bahasa pemrograman yang berbeda, menggunakan metode pelatihan dua tahap baru yang memanfaatkan ribuan hasil eksperimen yang bertujuan untuk mengoptimalkan kualitas data, pemilihan data, dan parameter pelatihan. Pada akhir tahun ini, model bahasa 3.0 8B dan 2B diharapkan mendukung jendela konteks 128K yang diperluas dan kemampuan pemahaman dokumen multimodal.
.

IBM telah menunjukkan keseimbangan sempurna antara kinerja dan biaya inferensi dengan menyediakan model institusional campuran pakar (MoE) Granite, Granite 3.0 1B-A400M dan Granite 3.0 3B-A800M. Model yang lebih kecil dan ringan ini dapat digunakan untuk aplikasi latensi rendah dan penerapan berbasis CPU.

IBM juga mengumumkan versi terbaru dari model deret waktu Granite yang telah dilatih sebelumnya, dengan versi sebelumnya dirilis awal tahun ini. Model-model baru ini dilatih pada data tiga kali lebih banyak dan berkinerja baik dalam ketiga uji tolok ukur deret waktu utama, melampaui kinerja model dari perusahaan-perusahaan seperti Google dan Alibaba yang sepuluh kali lebih besar. Model-model yang diperbarui juga memberikan fleksibilitas pemodelan yang lebih besar dan dukungan untuk variabel eksternal dan prediksi bergulir.

Granite Guardian 3.0: Mengawali era baru AI yang bertanggung jawab

Sebagai bagian dari rilis ini, IBM juga meluncurkan seri model Granite Guardian baru yang memungkinkan pengembang aplikasi menerapkan pembatas keselamatan dengan memeriksa perintah pengguna dan respons LLM untuk mendeteksi berbagai risiko. Model Granite Guardian 3.0, 8B, dan 2B menawarkan fungsi deteksi risiko dan bahaya terlengkap di pasaran saat ini.

Selain dimensi bahaya seperti bias sosial, kebencian, toksisitas, penistaan ​​agama, kekerasan, dan pembobolan penjara, model-model ini juga menyediakan serangkaian pemeriksaan khusus yang ditingkatkan dengan pengambilan kembali (RAG) seperti faktualitas, relevansi konteks, dan relevansi jawaban. Dalam pengujian ekstensif terhadap 19 tolok ukur keamanan dan RAG, model Granite Guardian 3.0 8B memiliki akurasi yang lebih tinggi secara keseluruhan dalam pendeteksian bahaya secara rata-rata daripada ketiga generasi model Llama Guard dari Meta. Kinerja keseluruhannya dalam pendeteksian halusinasi juga sebanding dengan model pendeteksian halusinasi khusus WeCheck dan MiniCheck.

Meskipun model Granite Guardian berasal dari model bahasa Granite yang sesuai, model tersebut dapat digunakan dengan model AI terbuka atau hak milik apa pun untuk menerapkan perlindungan keamanan.

Ketersediaan model Granite 3.0

Seluruh rangkaian model Granite 3.0 dan model deret waktu yang diperbarui dapat diunduh di bawah lisensi Apache 2.0 yang permisif di HuggingFace. Varian instruksi dari model bahasa Granite 3.0 8B dan 2B yang baru dan model Granite Guardian 3.0 8B dan 2B kini tersedia untuk penggunaan komersial pada platform Watsonx IBM. Beberapa model Granite 3.0 juga akan disediakan sebagai layanan mikro NVIDIA NIM dan melalui integrasi Vertex AI Model Garden milik Google Cloud dengan HuggingFace.

Untuk memberikan beragam opsi dan kemudahan penggunaan bagi para pengembang, serta mendukung penerapan lokal dan edge, sejumlah model Granite 3.0 juga tersedia di Ollama dan Replicate. Generasi terbaru model Granite ini memperluas katalog LLM sumber terbuka IBM yang lengkap. IBM bermitra dengan mitra ekosistem seperti AWS, Docker, Domo, Qualcomm Technologies, Inc. (melalui Qualcomm AI Hub-nya), Salesforce, dan SAP untuk mengintegrasikan berbagai model Granite ke dalam produk mitra ini atau menawarkan model Granite di platform mereka, sehingga memberikan pilihan yang lebih luas bagi perusahaan global.

Dari asisten hingga agen: Mewujudkan masa depan AI tingkat perusahaan

IBM mengembangkan AI tingkat perusahaan melalui serangkaian teknologi, mulai dari model dan asisten hingga alat yang dibutuhkan untuk menyetel dan menerapkan AI untuk data dan kasus penggunaan unik perusahaan. IBM juga membuka jalan bagi agen AI masa depan yang dapat mengarahkan diri sendiri, reflektif, dan melakukan tugas-tugas kompleks dalam lingkungan bisnis yang dinamis.

IBM terus mengembangkan portofolio teknologi asisten AI-nya, dari Watsonx Orchestrate yang membantu perusahaan membangun asisten mereka sendiri melalui alat-alat berkode rendah dan otomatisasi, hingga berbagai asisten siap pakai untuk tugas dan domain tertentu seperti layanan pelanggan, sumber daya manusia, penjualan, dan pemasaran. Organisasi di seluruh dunia telah menggunakan Watsonx Assistant untuk membantu mereka membangun asisten AI untuk tugas-tugas seperti menjawab pertanyaan harian dari pelanggan atau karyawan, memodernisasi mainframe dan aplikasi TI lama, membantu siswa mengeksplorasi jalur karier potensial, atau menyediakan dukungan hipotek digital untuk pembeli rumah.

IBM juga mengumumkan peluncuran Watsonx Code Assistant generasi berikutnya, yang didukung oleh model kode Granite dan dapat memberikan bantuan pengodean umum untuk bahasa seperti C, C++, Go, Java, dan Python, serta kemampuan modernisasi aplikasi tingkat lanjut untuk aplikasi Java tingkat perusahaan. Kemampuan kode Granite kini juga dapat diakses melalui ekstensi IBM Granite.Code Visual Studio Code.

IBM juga berencana untuk merilis peralatan baru untuk membantu pengembang membangun, menyesuaikan, dan menyebarkan AI secara lebih efisien menggunakan watsonx.ai, termasuk kerangka kerja agen, integrasi dengan lingkungan yang ada, dan otomatisasi kode rendah untuk kasus penggunaan umum seperti RAG dan agen.

IBM berfokus pada pengembangan teknologi agen AI dengan otonomi yang lebih tinggi, kemampuan penalaran yang kompleks, dan kemampuan pemecahan masalah multi-langkah. Versi awal model Granite 3.0 8B mendukung fungsi agen utama seperti penalaran tingkat lanjut dan templat obrolan yang sangat terstruktur serta gaya perintah untuk menerapkan alur kerja penggunaan alat. IBM juga berencana untuk memperkenalkan kemampuan obrolan agen AI baru di IBM Watsonx Orchestrate, memanfaatkan kemampuan agen untuk mengoordinasikan asisten AI, keterampilan, dan otomatisasi untuk membantu pengguna meningkatkan produktivitas tim secara keseluruhan [viii]. IBM berencana untuk terus membangun kemampuan agen ke dalam portofolio produknya pada tahun 2025, termasuk agen yang telah dibuat sebelumnya untuk domain dan kasus penggunaan tertentu.

Memperluas platform pengiriman berbasis AI untuk meningkatkan konsultan IBM dengan AI

IBM juga mengumumkan perluasan signifikan platform pengiriman berbasis AI, IBM Consulting Advantage. Platform multimodel ini berisi agen, aplikasi, dan metode AI (seperti kerangka kerja yang dapat digunakan kembali), yang memberdayakan 160,000 konsultan IBM untuk memberikan nilai kepada pelanggan dengan lebih cepat dan lebih baik dengan biaya yang lebih rendah.

Sebagai bagian dari perluasan tersebut, model bahasa Granite 3.0 akan menjadi model default untuk Consulting Advantage. Dengan kinerja dan efisiensi Granite, IBM Consulting akan dapat membantu memaksimalkan laba atas investasi dalam proyek AI generatif bagi pelanggan IBM.

Bagian penting lain dari perluasan ini adalah pengenalan IBM Consulting Advantage untuk Transformasi dan Manajemen Cloud dan IBM Consulting Advantage untuk Operasi Bisnis. Masing-masing mencakup agen, aplikasi, dan metode AI khusus domain yang menggabungkan praktik terbaik IBM, yang memungkinkan konsultan IBM membantu pelanggan mempercepat tugas transformasi cloud dan AI (seperti modernisasi kode dan rekayasa kualitas) atau menerapkan transformasi dan operasi lintas domain (seperti keuangan, sumber daya manusia, dan pengadaan).

Tentang IBM

IBM adalah pemimpin global dalam cloud hybrid, kecerdasan buatan, dan layanan perusahaan, membantu pelanggan di lebih dari 175 negara dan wilayah memperoleh wawasan bisnis dari data mereka, menyederhanakan proses bisnis, mengurangi biaya, dan memperoleh keunggulan kompetitif dalam industri. Lebih dari 4,000 entitas pemerintah dan perusahaan di sektor infrastruktur penting seperti layanan keuangan, telekomunikasi, dan perawatan kesehatan mengandalkan platform cloud hybrid IBM dan Red Hat OpenShift untuk mencapai transformasi digital dengan cepat, efisien, dan aman. Inovasi terobosan IBM dalam kecerdasan buatan, komputasi kuantum, solusi cloud industri, dan layanan perusahaan memberi pelanggan kami pilihan yang terbuka dan fleksibel. Komitmen jangka panjang terhadap integritas perusahaan, tata kelola yang transparan, tanggung jawab sosial, budaya inklusif, dan semangat layanan adalah landasan pengembangan bisnis IBM.