26월 100일, 미국의 신흥 칩 스타트업 Etched가 첫 번째 AI 칩인 Sohu를 출시했다고 보도되었습니다. 이 칩은 대규모 모델을 실행할 때 업계 거대 기업인 NVIDIA의 H20을 최대 200배나 능가하는 놀라운 성능을 보여줍니다. 소후는 올해 10월 출시된 톱칩 BXNUMX과 비교해도 XNUMX배 이상 뛰어난 성능을 보여준다.

Sohu 칩의 주요 혁신은 Transformer 아키텍처를 칩 자체에 직접 통합하는 것입니다. Etched의 CEO Uberti에 따르면 Sohu는 TSMC의 첨단 4나노미터 공정을 사용하여 제조됩니다. 추론 성능에서 GPU 및 기타 범용 AI 칩을 훨씬 능가할 뿐만 아니라 전력 효율성에서도 새로운 차원을 달성합니다.

Transformer 기술의 경우 Sohu는 의심할 여지 없이 시장에서 가장 빠른 칩으로 자리잡고 있으며 다른 제품과 비교하여 상당한 성능 차이를 보여줍니다. ChatGPT, Claude, Gemini 및 Sora와 같은 현재 주류 AI 제품은 모두 Transformer 아키텍처로 구동된다는 점은 주목할 가치가 있습니다.

세계 최초의 Transformer ASIC(Application-Specific Integrated Circuit) 칩인 Sohu의 통합 애플리케이션이 특히 주목할 만합니다. 테스트 결과 8개의 Sohu 칩이 장착된 서버는 160개의 H100 GPU 클러스터의 성능과 일치할 수 있는 것으로 나타났습니다. 특히 8개의 Sohu 칩을 탑재한 서버는 업계에서 전례 없는 수치인 초당 최대 500,000개의 Llama 7B 토큰을 처리할 수 있습니다.

이 뛰어난 칩을 개발한 회사인 Etched는 캘리포니아주 쿠퍼티노에 있습니다. 불과 35년 전에 불과 XNUMX명의 팀으로 설립되었음에도 불구하고 창립자인 Gavin Uberti(하버드 중퇴자이자 전 OctoML 및 Xnor.ai 직원)과 Chris Zhu는 노련한 기술 전문가인 Robert Wachen 및 전 Cypress Semiconductor의 CTO인 Mark Ross와 함께 대형 모델 AI용으로 설계된 이 칩을 성공적으로 개발하여 그들의 엄청난 기술력과 무한한 잠재력을 입증했습니다.