最新消息
最新消息
全球首款Transformer專用AI晶片搜狐發表:比NVIDIA H20快100倍
2024-06-28 1034

26月100日消息,美國新興晶片新創公司Etched推出了首款AI晶片,名為搜狐。該晶片在運行大型模型時表現出驚人的性能,超過業界巨擘NVIDIA的H20高達200倍。即使與今年10月發布的頂級晶片BXNUMX相比,搜狐也展現了XNUMX倍以上的優越性能。

搜狐晶片的重大突破在於將Transformer架構直接整合到晶片本身。據Etched執行長Uberti介紹,搜狐採用台積電先進的4奈米製程製造。它不僅在推理性能上遠遠超過GPU和其他通用AI晶片,而且在功耗效率上也達到了新的高度。

對於Transformer技術,搜狐毫無疑問是市場上最快的晶片,與其他產品相比,性能表現出顯著的數量級差異。值得注意的是,目前ChatGPT、Claude、Gemini、Sora等主流AI產品都採用Transformer架構。

身為全球首款Transformer ASIC(專用積體電路)晶片,搜狐的整合應用尤其值得關注。測試表明,配備8顆搜狐晶片的伺服器可以與160個H100 GPU叢集的效能相媲美。具體來說,一台配備8顆搜狐晶片的伺服器每秒可以處理多達500,000萬個Llama 7B代幣,這個數字在業界是史無前例的。

這款出色晶片背後的 Etched 公司位於加州庫比蒂諾。儘管成立僅兩年,團隊僅有 35 人,但其創始人 Gavin Uberti(哈佛輟學生、前 OctoML 和 Xnor.ai 員工)和Chris Zhu與經驗豐富的技術專家Robert Wachen和賽普拉斯半導體前CTO Mark Ross一起成功開發了這款專為大模型AI設計的晶片,展示了他們強大的技術實力和無限的潛力。

1.png

whatsapp

WhatsApp

Whatsapp:+8618073002950