Le 26 juin, il a été annoncé que la start-up américaine émergente de puces Etched avait lancé sa première puce d'IA, nommée Sohu. Cette puce démontre des performances étonnantes lors de l'exécution de modèles à grande échelle, dépassant jusqu'à 100 fois le H20 du géant de l'industrie NVIDIA. Même comparé à la puce B200 lancée en mars de cette année, Sohu affiche des performances plus de 10 fois supérieures.

L'avancée majeure de la puce Sohu réside dans son intégration directe de l'architecture Transformer dans la puce elle-même. Selon Uberti, PDG d'Etched, Sohu est fabriqué à l'aide du processus avancé de 4 nanomètres de TSMC. Non seulement il dépasse de loin les GPU et autres puces d’IA à usage général en termes de performances d’inférence, mais il atteint également de nouveaux sommets en termes d’efficacité énergétique.

Pour la technologie Transformer, Sohu est sans aucun doute la puce la plus rapide du marché, affichant une différence de performances significative par rapport aux autres produits. Il convient de noter que les produits d'IA grand public actuels tels que ChatGPT, Claude, Gemini et Sora sont tous alimentés par l'architecture Transformer.

En tant que première puce de transformateur ASIC (Application-Specific Integrated Circuit) au monde, les applications intégrées de Sohu sont particulièrement remarquables. Des tests ont montré qu'un serveur équipé de 8 puces Sohu peut égaler les performances d'un cluster de 160 GPU H100. Plus précisément, un serveur doté de 8 puces Sohu peut traiter jusqu'à 500,000 7 jetons Llama XNUMXB par seconde, un chiffre sans précédent dans l'industrie.

Etched, la société à l'origine de cette puce exceptionnelle, est située à Cupertino, en Californie. Bien qu'il ait été fondé il y a seulement deux ans avec une équipe de seulement 35 personnes, ses fondateurs Gavin Uberti (un décrocheur de Harvard et ancien d'OctoML et Xnor.ai employé) et Chris Zhu, ainsi que les experts techniques chevronnés Robert Wachen et l'ancien CTO de Cypress Semiconductor Mark Ross, ont développé avec succès cette puce conçue pour l'IA à grand modèle, démontrant leurs formidables prouesses techniques et leur potentiel illimité.