Reuters yakın zamanda OpenAI'nin kendi geliştirdiği çipleri düşündüğünü bildirdi. Rapora göre OpenAI, geçen yıldan bu yana yapay zeka modelleri için eğitim yongası sıkıntısına (özellikle Nvidia GPU'larının azlığına) aktif olarak çözüm arıyor. Şu anda OpenAI, AI çiplerine yönelik gelecekteki talepleri karşılamak için aktif olarak kendi geliştirdiği çiplere hazırlanıyor. Aslında, çok da uzun zaman önce, OpenAI'nin CEO'su Sam Altman, Nvidia GPU eksikliklerinin OpenAI ve tüm AI endüstrisi üzerindeki önemli etkisini kamuoyuna açıklamıştı. Buna ek olarak OpenAI, bu yıldan itibaren donanımla ilgili alanlardaki yetenekleri işe alıyor ve yazılım-donanım ortak tasarımıyla ilgili çeşitli pozisyonların resmi web sitesinde reklamı yapılıyor. Üstelik bu yılın Eylül ayında OpenAI, yapay zeka derleyicileri alanında ünlü bir uzman olan Andrew Tulloch'u da işe aldı ve bu da kendi geliştirdikleri çiplere yatırım yaptıklarını daha da gösterdi. OpenAI yetkilileri bu konu hakkında yorum yapmayı reddetti ancak sonuç vermesi halinde OpenAI, kendi çiplerini geliştirmede Google, Amazon, Microsoft ve Tesla gibi Silikon Vadisi teknoloji devlerinin saflarına katılacak.

OpenAI neden kendi çiplerini geliştirmek istiyor?

Daha önce de belirtildiği gibi OpenAI'nin kendi çiplerini geliştirmesinin ana nedeni GPU eksikliğidir. Daha spesifik olarak, hem Nvidia GPU'ları satın almanın hem de GPU tabanlı bulut hizmetlerini kullanmanın fiyatları, özellikle OpenAI'nin gelecekteki model eğitimi için gerekli bilgi işlem gücündeki katlanarak artan artış göz önüne alındığında çok yüksek.

OpenAI birkaç yıldır üretken yapay zekaya stratejik olarak yatırım yapıyor. Geçen yıl GPT-3'ün ve yılın ikinci yarısında ChatGPT'nin piyasaya sürülmesiyle birlikte, bu büyük ölçekli üretken dil modellerinin yetenekleri son birkaç yılda önemli ölçüde gelişti ve insanlarla anlamlı konuşmalar yapabilecekleri bir aşamaya ulaştı. . Sonuç olarak OpenAI, yapay zeka alanında lider olarak ortaya çıktı ve üretken yapay zeka, önümüzdeki yıllarda insan toplumunu şekillendirmesi beklenen en etkili teknolojilerden biri haline geldi. Reuters'e göre OpenAI geçen yıl 28 milyon dolar gelir elde etti ancak esas olarak bilgi işlem gücüyle ilgili harcamalar nedeniyle toplamda 540 milyon dolar zarara uğradı. 540 milyon dolarlık bu devasa kaybın 2022 yılında, üretken yapay zekadaki yükselişin hemen öncesinde meydana geldiğini belirtmekte fayda var.

İleriye bakıldığında, bilgi işlem gücüne ilişkin harcamaların katlanarak artması bekleniyor. Bunun başlıca nedeni:

• Büyük ölçekli modellerdeki rekabet daha da yoğunlaşıyor ve model evrimi hızlanıyor, bu da hızla artan bilgi işlem gücü gerektiriyor. OpenAI'nin yanı sıra Google gibi teknoloji devleri de kendi büyük ölçekli modellerini öne çıkarıyor ve bu da model evriminin hızını önemli ölçüde artırıyor. Yeni nesil modellerin her çeyrek ila yarım yılda bir güncellenmesi gerekeceği ve en ileri modeller için gereken bilgi işlem gücünün her yıl birkaç kat artacağı tahmin ediliyor.

• Büyük ölçekli modeller daha geniş bir senaryo yelpazesinde uygulanmaktadır. Şu anda Microsoft ve Google, arama ve kod yazma alanlarında büyük ölçekli modelleri kullanmaya başladı bile. Gelecekte büyük ölçekli modeller için otomatik görev işleme, çok modlu Soru-Cevap vb. dahil olmak üzere daha fazla uygulamanın olması bekleniyor. Bunlar, farklı modellerin sayısını büyük ölçüde artıracak ve aynı zamanda model dağıtımı için gereken toplam bilgi işlem gücünü de önemli ölçüde artıracak. .

Amerikalı finans şirketi Bernstein'ın analizine göre, ChatGPT trafiği Google aramasının onda birine ulaşırsa (ki bu da OpenAI'nin gelecekteki önemli hedeflerinden biri), OpenAI'nin yıllık GPU giderleri 16 milyar doları bulacak. Bu tür harcamalar, OpenAI'nin daha fazla ölçeklendirilmesinde potansiyel olarak önemli bir darboğaz haline gelebilir.

Peki OpenAI kendi çiplerini geliştirirse ne kadar maliyetten tasarruf edebilir? Şu anda sekiz adet Nvidia H100 GPU'ya sahip bir sunucunun satın alma maliyeti yaklaşık 300,000 ABD Doları olup, bu sunucuyu üç yıl boyunca kullanmanın bulut hizmet sağlayıcılarından alınan prim dahil toplam maliyeti 1 milyon ABD Doları civarındadır (bu, AWS tarafından belirtilen resmi fiyattır). , diğer bulut hizmeti sağlayıcılarının fiyatlarının da aynı aralıkta olması bekleniyor). OpenAI, kendi geliştirdiği çiplerle böyle bir sekiz GPU'lu sunucunun maliyetini 100,000 doların altına düşürebilirse, bu onların masraflarını önemli ölçüde azaltacaktır. Öte yandan, eğer kendi geliştirdiğimiz çipler başarılı olursa, büyük ölçekli dağıtım durumunda tek bir hızlandırıcı kartın maliyetini 10,000 doların altına çekmek oldukça umut verici. Başka bir deyişle, sekiz GPU'lu bir sunucunun maliyetini 100,000 doların altında tutmak ulaşılamayacak bir hedef değil.

Devam edecek...