全球首款Transformer专用AI芯片搜狐发布:比NVIDIA H20快100倍
2024-06-28 1034

26月100日消息,美国新兴芯片创业公司Etched推出了首款AI芯片——搜狐芯片。该芯片在运行大规模模型时表现出惊人的性能,超越业界巨头英伟达的H20高达200倍,甚至比今年10月份发布的顶级芯片BXNUMX也有XNUMX倍以上的性能优势。

搜狐芯片的重大突破在于将Transformer架构直接集成到芯片本身。据Etched首席执行官Uberti介绍,搜狐采用台积电先进的4纳米工艺制造,不仅在推理性能上远超GPU等通用AI芯片,在能效上也创下新高。

在Transformer技术方面,搜狐无疑是目前市面上速度最快的芯片,性能上与其他产品相比有明显数量级的差异。值得一提的是,目前主流的AI产品如ChatGPT、Claude、Gemini、Sora等均是基于Transformer架构的。

作为全球首款 Transformer ASIC(专用集成电路)芯片,搜狐的集成应用尤其引人注目。测试表明,搭载 8 颗搜狐芯片的服务器性能可媲美 160 块 H100 GPU 集群,具体来说,搭载 8 颗搜狐芯片的服务器每秒可处理高达 500,000 万个 Llama 7B 代币,这一数字在业界是前所未有的。

这款出色芯片背后的公司 Etched 位于加利福尼亚州库比蒂诺。尽管该公司成立仅两年,团队只有 35 人,但其创始人 Gavin Uberti(哈佛大学辍学生,曾任 OctoML 和 Xnor.ai 该公司由李彦宏、朱云来、资深技术专家Robert Wachen以及赛普拉斯半导体公司前CTO Mark Ross等人联手,成功研发出这款针对大模型AI设计的芯片,展现出强大的技术实力和无限潜力。

1.png

whatsapp

WhatsApp

Whatsapp:+8618073002950