Pada tanggal 26 Juni, dilaporkan bahwa startup chip Amerika yang sedang berkembang, Etched, telah meluncurkan chip AI pertamanya, bernama Sohu. Chip ini menunjukkan kinerja luar biasa saat menjalankan model skala besar, melampaui raksasa industri NVIDIA H100 hingga 20 kali lipat. Bahkan dibandingkan dengan chip teratas B200 yang dirilis pada bulan Maret tahun ini, Sohu menunjukkan kinerja lebih dari 10 kali lipat.

Terobosan besar chip Sohu terletak pada integrasi langsung arsitektur Transformer ke dalam chip itu sendiri. Menurut CEO Etched, Uberti, Sohu diproduksi menggunakan proses 4 nanometer canggih TSMC. Ini tidak hanya jauh melampaui GPU dan chip AI tujuan umum lainnya dalam kinerja inferensi, tetapi juga mencapai tingkat efisiensi daya yang lebih tinggi.

Untuk teknologi Transformer, Sohu tidak diragukan lagi merupakan chip tercepat di pasar, menunjukkan perbedaan kinerja yang signifikan dibandingkan dengan produk lain. Perlu dicatat bahwa produk AI arus utama seperti ChatGPT, Claude, Gemini, dan Sora semuanya didukung oleh arsitektur Transformer.

Sebagai chip Transformer ASIC (Application-Specific Integrated Circuit) pertama di dunia, aplikasi terintegrasi Sohu patut mendapat perhatian khusus. Pengujian telah menunjukkan bahwa server yang dilengkapi dengan 8 chip Sohu dapat menandingi kinerja cluster 160 GPU H100. Secara khusus, server dengan 8 chip Sohu dapat memproses hingga 500,000 token Llama 7B per detik, angka yang belum pernah terjadi sebelumnya di industri ini.

Etched, perusahaan di balik chip luar biasa ini, berlokasi di Cupertino, California. Meskipun didirikan hanya dua tahun lalu dengan tim yang hanya beranggotakan 35 orang, pendirinya Gavin Uberti (seorang lulusan Harvard dan mantan OctoML dan Xnor.ai karyawan) dan Chris Zhu, bersama dengan pakar teknis berpengalaman Robert Wachen dan mantan CTO Cypress Semiconductor Mark Ross, telah berhasil mengembangkan chip yang dirancang untuk AI model besar, menunjukkan kehebatan teknis mereka yang luar biasa dan potensi yang tak terbatas.