Vào ngày 26 tháng 100, có thông tin cho rằng công ty khởi nghiệp chip mới nổi của Mỹ Etched đã ra mắt chip AI đầu tiên của mình, có tên là Sohu. Con chip này thể hiện hiệu năng đáng kinh ngạc khi chạy các mô hình quy mô lớn, vượt qua gã khổng lồ trong ngành là H20 của NVIDIA tới 200 lần. Thậm chí, so với chip hàng đầu B10 ra mắt vào tháng XNUMX năm nay, Sohu cho thấy hiệu năng vượt trội hơn gấp XNUMX lần.

Bước đột phá lớn của chip Sohu nằm ở việc tích hợp trực tiếp kiến ​​trúc Transformer vào chính con chip đó. Theo Giám đốc điều hành Uberti của Etched, Sohu được sản xuất bằng quy trình 4 nanomet tiên tiến của TSMC. Nó không chỉ vượt xa GPU và các chip AI đa năng khác về hiệu suất suy luận mà còn đạt được tầm cao mới về hiệu quả sử dụng năng lượng.

Đối với công nghệ Transformer, Sohu chắc chắn là con chip nhanh nhất trên thị trường, cho thấy sự khác biệt đáng kể về hiệu suất so với các sản phẩm khác. Điều đáng chú ý là các sản phẩm AI chính thống hiện nay như ChatGPT, Claude, Gemini và Sora đều được cung cấp bởi kiến ​​trúc Transformer.

Là chip Transformer ASIC (Mạch tích hợp dành riêng cho ứng dụng) đầu tiên trên thế giới, các ứng dụng tích hợp của Sohu đặc biệt đáng chú ý. Các thử nghiệm đã chỉ ra rằng một máy chủ được trang bị 8 chip Sohu có thể sánh ngang với hiệu năng của cụm 160 GPU H100. Cụ thể, một máy chủ có 8 chip Sohu có thể xử lý tới 500,000 token Llama 7B mỗi giây, một con số chưa từng có trong ngành.

Etched, công ty đứng sau con chip nổi bật này, có trụ sở tại Cupertino, California. Mặc dù mới được thành lập cách đây hai năm với đội ngũ chỉ 35 người nhưng những người sáng lập Gavin Uberti (một người bỏ học Harvard và từng là OctoML và Xnor.ai nhân viên) và Chris Zhu, cùng với các chuyên gia kỹ thuật dày dạn kinh nghiệm Robert Wachen và cựu CTO của Cypress Semiconductor Mark Ross, đã phát triển thành công con chip này được thiết kế cho AI mô hình lớn, thể hiện năng lực kỹ thuật đáng gờm và tiềm năng vô biên của họ.