Pada 26 Jun, dilaporkan bahawa syarikat permulaan cip Amerika yang baru muncul Etched telah melancarkan cip AI pertamanya, bernama Sohu. Cip ini menunjukkan prestasi yang menakjubkan apabila menjalankan model berskala besar, mengatasi gergasi industri NVIDIA H100 sehingga 20 kali ganda. Malah berbanding cip teratas B200 yang dikeluarkan pada bulan Mac tahun ini, Sohu menunjukkan prestasi lebih 10 kali ganda.

Kejayaan utama cip Sohu terletak pada penyepaduan langsung seni bina Transformer ke dalam cip itu sendiri. Menurut Ketua Pegawai Eksekutif Etched Uberti, Sohu dihasilkan menggunakan proses 4-nanometer termaju TSMC. Ia bukan sahaja jauh melebihi GPU dan cip AI tujuan umum lain dalam prestasi inferens tetapi juga mencapai ketinggian baharu dalam kecekapan kuasa.

Untuk teknologi Transformer, Sohu sudah pasti berdiri sebagai cip terpantas di pasaran, menunjukkan susunan perbezaan magnitud yang ketara dalam prestasi berbanding produk lain. Perlu diingat bahawa produk AI arus perdana semasa seperti ChatGPT, Claude, Gemini dan Sora semuanya dikuasakan oleh seni bina Transformer.

Sebagai cip Transformer ASIC (Application-Specific Integrated Circuit) pertama di dunia, aplikasi bersepadu Sohu amat diberi perhatian. Ujian telah menunjukkan bahawa pelayan yang dilengkapi dengan 8 cip Sohu boleh menyamai prestasi kluster 160 H100 GPU. Khususnya, pelayan dengan 8 cip Sohu boleh memproses sehingga 500,000 token Llama 7B sesaat, angka yang belum pernah berlaku dalam industri.

Etched, syarikat di sebalik cip cemerlang ini, terletak di Cupertino, California. Walaupun diasaskan hanya dua tahun lalu dengan pasukan hanya 35 orang, pengasasnya Gavin Uberti (keciciran Harvard dan bekas OctoML dan Xnor.ai pekerja) dan Chris Zhu, bersama-sama pakar teknikal berpengalaman Robert Wachen dan bekas CTO Cypress Semiconductor Mark Ross, telah berjaya membangunkan cip ini yang direka untuk AI model besar, menunjukkan kehebatan teknikal mereka yang menggerunkan dan potensi yang tidak terbatas.