Haberler
Haberler
IBM, Granite 3.0'ı piyasaya sürüyor: İşletmeler için özel olarak tasarlanmış yüksek performanslı yapay zeka modelleri
2024-10-25 901

● Yeni piyasaya sürülen Granite 3.0 8B ve 2B modelleri, izin verici Apache 2.0 lisansı altında yayınlanmış olup, birçok akademik ve kurumsal kıyaslama testinde güçlü performans göstererek benzer ölçekteki modelleri geride bırakma veya onlarla eşleşme kapasitesine sahiptir.

● Yeni piyasaya sürülen Granite Guardian 3.0 modeli, güvenli ve güvenilir yapay zekayı desteklemek için IBM'in en kapsamlı güvenlik işlevini sağlıyor.

● Yeni piyasaya sürülen Granite 3.0 uzman-uzman karışımı modelleri, CPU tabanlı dağıtımlar ve uç bilişim için uygun, son derece verimli çıkarımlar ve düşük gecikme süreleri sağlıyor.

● Yepyeni Granite zaman serisi modeli, sıfır atış/birkaç atış tahmininde en son teknoloji performansına ulaşarak, on kat daha büyük modelleri geride bırakıyor.

● IBM, genel kodlama için Granite tabanlı yeni nesil watsonx Code Assistant'ı piyasaya sürdü; yapay zeka uygulamaları ve ajanları oluşturmak ve dağıtmak için yeni araçlar watsonx.ai'da ilk kez tanıtıldı.

● IBM'in 160,000 bin danışmanının müşterilerine daha hızlı yeni çözümler sunmak için kullandığı yapay zeka destekli bir teslimat platformu olan Consulting Advantage için Granite'in varsayılan model olacağı duyuruldu.

 

IBM, ABD saatiyle 21 Ekim'de düzenlenen yıllık TechXchange konferansında bugüne kadarki en gelişmiş yapay zeka modeli ailesi olan Granite 3.0'ı duyurdu. IBM'in üçüncü nesil Granite amiral gemisi dil modeli, birçok akademik ve endüstri kıyaslama testinde benzer önde gelen model sağlayıcılarının modellerini geride bırakabilir veya onlarla eşleşebilir; güçlü performans, şeffaflık ve güvenlik sergileyebilir.

Şirketin açık kaynaklı AI'ya olan bağlılığı doğrultusunda, Granite modelleri izin verici Apache 2.0 lisansı altında yayınlanmaktadır. Performans, esneklik ve özerkliğin benzersiz birleşimiyle kurumsal müşterilere ve tüm topluluğa hizmet verebilirler.

IBM'in Granite 3.0 ailesi serisi şunları içerir:

● Genel/Dil modelleri: Granite 3.0 8B Instruct, Granite 3.0 2B Instruct, Granite 3.0 8B Base, Granite 3.0 2B Base

● Korkuluk ve güvenlik modelleri: Granite Guardian 3.0 8B, Granite Guardian 3.0 2B

● Uzmanların uzman karışımı modelleri: Granit 3.0 3B-A800M Talimat, Granit 3.0 1B-A400M Talimat, Granit 3.0 3B-A800M Taban, Granit 3.0 1B-A400M Taban


Yeni Granit 3.0 8B ve 2B dil modelleri, kurumsal düzeydeki AI için "ana güç" modelleri olarak tasarlanmıştır ve geri alma ile geliştirilmiş üretim (RAG), sınıflandırma, özetleme, varlık çıkarma ve araç kullanımı gibi görevlerde güçlü performans sağlayabilir. Bu kompakt ve çok yönlü modellerin kurumsal verilerle ince ayarlanması ve çeşitli iş ortamlarına veya iş akışlarına sorunsuz bir şekilde entegre edilmesi amaçlanmıştır.

Birçok büyük dil modeli (LLM) herkese açık veriler üzerinde eğitilirken, kurumsal verilerin büyük çoğunluğu kullanılmadan kalır. IBM, özellikle Mayıs ayında IBM ve RedHat tarafından başlatılan devrim niteliğindeki hizalama teknolojisi InstructLab'ı kullanarak, küçük Granite modellerini kurumsal verilerle birleştirerek, kuruluşların büyük modellerle karşılaştırılabilir göreve özgü performansı, maliyetin yalnızca bir kısmına (birkaç erken kavram kanıtında büyük son teknoloji modellerden 3 ila 23 kat daha düşük gözlemlenen maliyet aralığına dayanarak) elde edebileceğine inanmaktadır.

Granite 3.0'ın yayınlanması, IBM'in AI ürünlerinde şeffaflık, güvenlik ve güven oluşturma konusundaki kararlılığını yeniden teyit ediyor. Granite 3.0 teknik raporu ve sorumlu kullanım kılavuzu, bu modelleri eğitmek için kullanılan veri kümelerinin bir açıklamasını sunar, uygulanan filtreleme, temizleme ve işleme adımlarını ayrıntılı olarak açıklar ve modellerin performans sonuçlarını büyük akademik ve kurumsal kıyaslama testlerinde kapsamlı bir şekilde gösterir.

IBM, watsonx.ai üzerindeki tüm Granite modelleri için fikri mülkiyet tazminatı sağlayarak, kurumsal müşterilerin kurumsal verileri modellere entegre etme konusundaki güvenini artırmayı hedefliyor.

Çıtayı yükseltmek: Granite 3.0 kıyaslama testleri


Granite 3.0 dil modelleri ham performansta da iyi sonuçlar gösteriyor.

Hugging Face'in OpenLLM liderlik tablosu tarafından tanımlanan standart akademik kıyaslama testlerinde, Granite 3.0 8B Instruct modelinin genel performansı, ortalama olarak Meta ve Mistral'ın benzer büyüklükteki açık kaynaklı modellerinin en son teknoloji performansından öndedir. IBM'in gelişmiş AttaQ güvenlik kıyaslama testinde, Granite 3.0 8B Instruct modeli, ölçülen tüm güvenlik boyutlarında Meta ve Mistral'ın modellerine öncülük etmektedir.

Alma destekli üretim (RAG), araç kullanımı ve siber güvenlik gibi temel kurumsal görevlerde Granite 3.0 8B Instruct modelinin ortalama performansı, Mistral ve Meta'nın benzer ölçekteki açık kaynaklı modellerinden daha iyidir.

Granite 3.0 modelleri, veri kalitesini, veri seçimini ve eğitim parametrelerini optimize etmeyi amaçlayan binlerce deneysel sonuçtan yararlanan yeni bir iki aşamalı eğitim yöntemi kullanılarak 12 farklı doğal dilden ve 12 farklı programlama dilinden 116 trilyondan fazla belirteç üzerinde eğitilmiştir. Bu yılın sonuna kadar, 3.0 8B ve 2B dil modellerinin genişletilmiş 128K bağlam penceresini ve çok modlu belge anlama yeteneklerini desteklemesi bekleniyor
.

IBM, Granite uzman karışımı-uzmanlar (MoE) kurumsal modelleri Granite 3.0 1B-A400M ve Granite 3.0 3B-A800M'yi sağlayarak performans ve çıkarım maliyetinin mükemmel dengesini göstermiştir. Bu daha küçük ve hafif modeller düşük gecikmeli uygulamalar ve CPU tabanlı dağıtımlar için kullanılabilir.

IBM ayrıca, bu yılın başlarında yayınlanan önceki sürümle birlikte önceden eğitilmiş Granite zaman serisi modelinin güncellenmiş bir sürümünü duyurdu. Bu yeni modeller üç kat daha fazla veri üzerinde eğitildi ve üç büyük zaman serisi kıyaslama testinde iyi performans göstererek Google ve Alibaba gibi on kat daha büyük şirketlerin modellerinin performansını geride bıraktı. Güncellenen modeller ayrıca daha fazla modelleme esnekliği ve harici değişkenler ve yuvarlanan tahminler için destek sağlıyor.

Granite Guardian 3.0: Sorumlu yapay zekanın yeni bir dönemini başlatıyor

IBM, bu sürümün bir parçası olarak, uygulama geliştiricilerinin çeşitli riskleri tespit etmek için kullanıcı istemlerini ve LLM yanıtlarını kontrol ederek güvenlik bariyerleri uygulamasına olanak tanıyan yeni bir Granite Guardian model serisi de piyasaya sürdü. Granite Guardian 3.0, 8B ve 2B modelleri, günümüz pazarındaki en kapsamlı risk ve tehlike tespit işlevlerini sunmaktadır.

Sosyal önyargı, nefret, zehirlilik, küfür, şiddet ve hapishaneden kaçış gibi tehlike boyutlarına ek olarak, bu modeller ayrıca gerçekliğe uygunluk, bağlam alaka düzeyi ve yanıt alaka düzeyi gibi bir dizi benzersiz geri alma-geliştirilmiş nesil (RAG)-özgü kontroller de sağlar. 19 güvenlik ve RAG kıyaslamasına karşı yapılan kapsamlı testlerde, Granite Guardian 3.0 8B modeli, Meta'nın Llama Guard modellerinin üç neslinin hepsinden ortalama olarak tehlike tespitinde genel olarak daha yüksek bir doğruluğa sahiptir. Halüsinasyon tespitindeki genel performansı da özel halüsinasyon tespit modelleri WeCheck ve MiniCheck ile karşılaştırılabilir.

Granite Guardian modelleri, ilgili Granite dil modellerinden türetilmiş olsa da, güvenlik önlemlerini uygulamak için herhangi bir açık veya tescilli AI modeliyle birlikte kullanılabilir.

Granit 3.0 modellerinin mevcudiyeti

Tüm Granite 3.0 model takımı ve güncellenmiş zaman serisi modelleri, HuggingFace'de izin verici Apache 2.0 lisansı altında indirilebilir. Yeni Granite 3.0 8B ve 2B dil modellerinin ve Granite Guardian 3.0 8B ve 2B modellerinin talimat varyantları artık IBM'in watsonx platformunda ticari kullanım için mevcuttur. Bazı Granite 3.0 modelleri ayrıca NVIDIA NIM mikro hizmetleri olarak ve Google Cloud'un Vertex AI Model Garden'ın HuggingFace ile entegrasyonu aracılığıyla sağlanacaktır.

Geliştiricilere birden fazla seçenek ve kullanım kolaylığı sağlamak ve yerel ve uç dağıtımları desteklemek için, Ollama ve Replicate'te çeşitli Granite 3.0 modelleri de mevcuttur. En yeni nesil Granite modelleri, IBM'in güçlü açık kaynaklı LLM programları kataloğunu genişletmektedir. IBM, AWS, Docker, Domo, Qualcomm Technologies, Inc. (Qualcomm AI Hub aracılığıyla), Salesforce ve SAP gibi ekosistem ortaklarıyla iş birliği yaparak birden fazla Granite modelini bu ortakların ürünlerine entegre etmekte veya platformlarında Granite modelleri sunarak küresel işletmelere daha fazla seçenek sunmaktadır.

Asistanlardan temsilcilere: Kurumsal düzeyde yapay zekanın geleceğini gerçekleştirmek

IBM, modeller ve asistanlardan, bir şirketin benzersiz verileri ve kullanım durumları için AI'yı ayarlamak ve dağıtmak için gereken araçlara kadar bir dizi teknoloji aracılığıyla kurumsal düzeyde AI'yı ilerletiyor. IBM ayrıca, dinamik bir iş ortamında kendi kendini yönlendirebilen, yansıtabilen ve karmaşık görevleri gerçekleştirebilen gelecekteki AI aracıları için de yol açıyor.

IBM, şirketlerin düşük kodlu araçlar ve otomasyon aracılığıyla kendi asistanlarını oluşturmalarına yardımcı olan watsonx Orchestrate'ten, müşteri hizmetleri, insan kaynakları, satış ve pazarlama gibi belirli görevler ve alanlar için çeşitli önceden oluşturulmuş asistanlara kadar AI asistan teknolojileri portföyünü sürekli olarak geliştiriyor. Dünyanın dört bir yanındaki kuruluşlar, müşterilerden veya çalışanlardan gelen günlük soruları yanıtlama, ana bilgisayarları ve eski BT uygulamalarını modernize etme, öğrencilerin potansiyel kariyer yollarını keşfetmelerine yardımcı olma veya ev alıcıları için dijital ipotek desteği sağlama gibi görevler için AI asistanları oluşturmalarına yardımcı olması için watsonx Assistant'ı kullandı.

IBM ayrıca, Granite kod modelleri tarafından desteklenen ve C, C++, Go, Java ve Python gibi diller için genel kodlama yardımı ve kurumsal düzeydeki Java uygulamaları için gelişmiş uygulama modernizasyon yetenekleri sağlayabilen yeni nesil watsonx Code Assistant'ın yaklaşan sürümünü duyurdu. Granite'in kod yeteneklerine artık IBM Granite.Code Visual Studio Code uzantısı aracılığıyla da erişilebilir.

IBM ayrıca, watsonx.ai kullanarak geliştiricilerin yapay zekayı daha verimli bir şekilde oluşturmasına, özelleştirmesine ve dağıtmasına yardımcı olacak yeni araçlar yayınlamayı planlıyor. Bunlar arasında aracı çerçeveleri, mevcut ortamlarla entegrasyonlar ve RAG ve aracılar gibi yaygın kullanım durumları için düşük kodlu otomasyon yer alıyor.

IBM, daha yüksek özerkliğe, karmaşık muhakeme yeteneklerine ve çok adımlı problem çözme yeteneklerine sahip AI aracı teknolojileri geliştirmeye odaklanmıştır. Granite 3.0 8B modelinin ilk sürümü, gelişmiş muhakeme ve araç kullanım iş akışlarını uygulamak için oldukça yapılandırılmış sohbet şablonları ve istem stilleri gibi temel aracı işlevlerini destekler. IBM ayrıca, kullanıcıların genel ekip üretkenliğini iyileştirmelerine yardımcı olmak için AI asistanlarını, becerilerini ve otomasyonunu koordine etmek üzere aracı yeteneklerinden yararlanarak IBM watsonx Orchestrate'te yeni AI aracı sohbet yetenekleri sunmayı planlamaktadır [viii]. IBM, belirli alanlar ve kullanım durumları için önceden oluşturulmuş aracılar dahil olmak üzere 2025 yılında ürün portföyüne aracı yetenekleri eklemeye devam etmeyi planlamaktadır.

IBM danışmanlarını AI ile geliştirmek için AI destekli teslimat platformunun genişletilmesi

IBM ayrıca AI odaklı teslimat platformu IBM Consulting Advantage'ın önemli ölçüde genişletildiğini duyurdu. Bu çoklu model platform, AI aracıları, uygulamaları ve yöntemleri (yeniden kullanılabilir çerçeveler gibi) içererek 160,000 IBM danışmanının müşterilere daha düşük maliyetle daha hızlı ve daha iyi değer sağlamasını sağlıyor.

Genişlemenin bir parçası olarak Granite 3.0 dil modeli Consulting Advantage için varsayılan model haline gelecektir. Granite'in performansı ve verimliliğiyle IBM Consulting, IBM müşterileri için üretken AI projelerinde yatırım getirisini en üst düzeye çıkarmaya yardımcı olabilecektir.

Genişlemenin bir diğer önemli parçası da IBM Consulting Advantage for Cloud Transformation and Management ve IBM Consulting Advantage for Business Operations'ın tanıtımıdır. Her biri, IBM'in en iyi uygulamalarını içeren alan-özel AI aracıları, uygulamaları ve yöntemlerini içerir ve IBM danışmanlarının müşterilerin bulut ve AI dönüşüm görevlerini (kod modernizasyonu ve kalite mühendisliği gibi) hızlandırmasına veya alanlar genelinde dönüşümleri ve operasyonları (finans, insan kaynakları ve tedarik gibi) uygulamasına yardımcı olmasını sağlar.

IBM hakkında

IBM, hibrit bulut, yapay zeka ve kurumsal hizmetler alanında küresel bir liderdir ve 175'ten fazla ülke ve bölgedeki müşterilerinin verilerinden iş içgörüleri elde etmelerine, iş süreçlerini basitleştirmelerine, maliyetleri düşürmelerine ve sektörde rekabet avantajı elde etmelerine yardımcı olur. Finansal hizmetler, telekomünikasyon ve sağlık hizmetleri gibi kritik altyapı sektörlerindeki 4,000'den fazla hükümet ve kurumsal kuruluş, dijital dönüşümü hızlı, verimli ve güvenli bir şekilde gerçekleştirmek için IBM'in hibrit bulut platformuna ve Red Hat OpenShift'e güveniyor. IBM'in yapay zeka, kuantum bilişim, endüstri bulut çözümleri ve kurumsal hizmetler alanındaki çığır açan yenilikleri, müşterilerimize açık ve esnek seçenekler sunar. Kurumsal bütünlüğe, şeffaf yönetişime, sosyal sorumluluğa, kapsayıcı kültüre ve hizmet ruhuna olan uzun vadeli bağlılık, IBM'in iş geliştirmesinin temel taşıdır.

whatsapp

WhatsApp

Whatsapp:+8618073002950