26 июня стало известно, что развивающийся американский стартап по производству чипов Etched выпустил свой первый чип искусственного интеллекта под названием Sohu. Этот чип демонстрирует потрясающую производительность при запуске крупномасштабных моделей, превосходя гиганта индустрии NVIDIA H100 почти в 20 раз. Даже по сравнению с топовым чипом B200, выпущенным в марте этого года, Sohu показывает производительность, более чем в 10 раз превосходящую производительность.

Главный прорыв чипа Sohu заключается в прямой интеграции архитектуры Transformer в сам чип. По словам генерального директора Etched Уберти, Sohu производится с использованием передового 4-нанометрового процесса TSMC. Он не только значительно превосходит графические процессоры и другие ИИ-чипы общего назначения по производительности вывода, но также достигает новых высот в энергоэффективности.

Что касается технологии Transformer, Sohu, несомненно, является самым быстрым чипом на рынке, демонстрируя значительную разницу в производительности по сравнению с другими продуктами. Стоит отметить, что современные основные продукты искусственного интеллекта, такие как ChatGPT, Claude, Gemini и Sora, основаны на архитектуре Transformer.

Интегрированные приложения Sohu заслуживают особого внимания, поскольку это первый в мире чип Transformer ASIC (интегральная схема специального назначения). Тесты показали, что сервер, оснащенный 8 чипами Sohu, может сравниться по производительности с кластером из 160 графических процессоров H100. В частности, сервер с 8 чипами Sohu может обрабатывать до 500,000 7 токенов Llama XNUMXB в секунду, что является беспрецедентным показателем в отрасли.

Компания Etched, создавшая этот выдающийся чип, расположена в Купертино, Калифорния. Несмотря на то, что компания была основана всего два года назад с командой всего из 35 человек, ее основатели Гэвин Уберти (бросивший Гарвард и бывший OctoML и Xnor.ai сотрудник) и Крис Чжу вместе с опытными техническими экспертами Робертом Вахеном и бывшим техническим директором Cypress Semiconductor Марком Россом успешно разработали этот чип, предназначенный для крупных моделей искусственного интеллекта, продемонстрировав свое огромное техническое мастерство и безграничный потенциал.