El 26 de junio, se informó que la emergente startup estadounidense de chips Etched lanzó su primer chip de IA, llamado Sohu. Este chip demuestra un rendimiento asombroso cuando se ejecutan modelos a gran escala, superando al H100 del gigante de la industria NVIDIA hasta 20 veces. Incluso en comparación con el chip superior B200 lanzado en marzo de este año, Sohu muestra un rendimiento 10 veces superior.

El mayor avance del chip Sohu reside en la integración directa de la arquitectura Transformer en el propio chip. Según Uberti, director ejecutivo de Etched, Sohu se fabrica utilizando el proceso avanzado de 4 nanómetros de TSMC. No sólo supera con creces a las GPU y otros chips de IA de uso general en rendimiento de inferencia, sino que también alcanza nuevos niveles en eficiencia energética.

Para la tecnología Transformer, Sohu sin duda se erige como el chip más rápido del mercado, mostrando una diferencia de rendimiento significativa en órdenes de magnitud en comparación con otros productos. Vale la pena señalar que los productos de inteligencia artificial actuales, como ChatGPT, Claude, Gemini y Sora, funcionan con la arquitectura Transformer.

Como el primer chip Transformer ASIC (circuito integrado de aplicación específica) del mundo, las aplicaciones integradas de Sohu son particularmente dignas de mención. Las pruebas han demostrado que un servidor equipado con 8 chips Sohu puede igualar el rendimiento de un grupo de 160 GPU H100. En concreto, un servidor con 8 chips Sohu puede procesar hasta 500,000 tokens Llama 7B por segundo, una cifra sin precedentes en la industria.

Etched, la empresa detrás de este destacado chip, tiene su sede en Cupertino, California. A pesar de haber sido fundada hace sólo dos años con un equipo de sólo 35 personas, sus fundadores Gavin Uberti (un desertor de Harvard y ex OctoML y Xnor.ai empleado) y Chris Zhu, junto con los expertos técnicos experimentados Robert Wachen y el ex director de tecnología de Cypress Semiconductor Mark Ross, han desarrollado con éxito este chip diseñado para modelos grandes de IA, demostrando su formidable destreza técnica y su potencial ilimitado.