26 Haziran'da, yeni ortaya çıkan Amerikan çip girişimi Etched'in Sohu adlı ilk yapay zeka çipini piyasaya sürdüğü bildirildi. Bu çip, büyük ölçekli modelleri çalıştırırken endüstri devi NVIDIA H100'ü 20 kata kadar geride bırakarak şaşırtıcı bir performans sergiliyor. Sohu, bu yılın Mart ayında piyasaya sürülen en iyi çip B200 ile karşılaştırıldığında bile 10 kattan fazla üstün performans gösteriyor.

Sohu çipinin en büyük atılımı, Transformer mimarisini çipin kendisine doğrudan entegre etmesinde yatıyor. Etched CEO'su Uberti'ye göre Sohu, TSMC'nin gelişmiş 4 nanometre süreci kullanılarak üretiliyor. Çıkarım performansı açısından yalnızca GPU'ları ve diğer genel amaçlı yapay zeka çiplerini çok aşmakla kalmıyor, aynı zamanda güç verimliliğinde de yeni boyutlara ulaşıyor.

Transformer teknolojisi açısından Sohu, şüphesiz piyasadaki en hızlı çip olarak duruyor ve diğer ürünlerle karşılaştırıldığında performansta önemli büyüklükte farklar gösteriyor. ChatGPT, Claude, Gemini ve Sora gibi mevcut ana akım yapay zeka ürünlerinin tamamının Transformer mimarisi tarafından desteklendiğini belirtmekte fayda var.

Dünyanın ilk Transformer ASIC (Uygulamaya Özel Entegre Devre) çipi olan Sohu'nun entegre uygulamaları özellikle dikkat çekiyor. Testler, 8 Sohu yongasıyla donatılmış bir sunucunun, 160 H100 GPU'dan oluşan bir kümenin performansıyla eşleşebileceğini gösterdi. Spesifik olarak, 8 Sohu yongasına sahip bir sunucu saniyede 500,000'e kadar Llama 7B jetonunu işleyebilir; bu sektörde benzeri görülmemiş bir rakamdır.

Bu olağanüstü çipin arkasındaki şirket olan Etched'in merkezi Cupertino, California'da bulunuyor. Sadece iki yıl önce sadece 35 kişilik bir ekiple kurulmuş olmasına rağmen, kurucuları Gavin Uberti (Harvard'ı bırakmış ve eski OctoML ve Xnor.ai çalışanı) ve Chris Zhu, deneyimli teknik uzmanlar Robert Wachen ve Cypress Semiconductor'ın eski CTO'su Mark Ross ile birlikte, büyük model yapay zeka için tasarlanan bu çipi başarıyla geliştirdiler ve onların müthiş teknik becerilerini ve sınırsız potansiyellerini ortaya koydular.