OpenAI自研芯片有何独特之处?
2023-10-10 1175

1.jpg

近日,路透社报道称OpenAI正在考虑自研芯片。报道称,自去年以来,OpenAI一直在积极寻求解决人工智能模型训练芯片短缺的问题(具体来说,Nvidia GPU的短缺)。目前,OpenAI正在积极准备自研芯片,以满足未来AI芯片的需求。事实上,不久前,OpenAI 首席执行官 Sam Altman 公开承认 Nvidia GPU 短缺对 OpenAI 以及整个 AI 行业造成重大影响。此外,从今年开始,OpenAI一直在招聘硬件相关领域的人才,在其官网发布了多个软硬件协同设计相关的职位。而且,今年9月,OpenAI还聘请了AI编译器领域的知名专家Andrew Tulloch,进一步表明了他们对自研芯片的投入。 OpenAI官方拒绝对此事发表评论,但如果实现的话,OpenAI将加入谷歌、亚马逊、微软、特斯拉等硅谷科技巨头的行列,开发自己的芯片。


OpenAI为何要研发自己的芯片?

正如前面提到的,OpenAI 开发自己的芯片的主要原因是 GPU 的短缺。更具体地说,购买 Nvidia GPU 和使用基于 GPU 的云服务的价格都太高,特别是考虑到 OpenAI 未来模型训练所需的计算能力呈指数级增长。

多年来,OpenAI 一直在对生成人工智能进行战略投资。随着去年GPT-3和下半年ChatGPT的发布,这些大规模生成语言模型的能力在过去几年中得到了显着提升,达到了可以与人类进行有意义对话的阶段。因此,OpenAI 已成为人工智能领域的领导者,而生成式 AI 已成为未来几年有望塑造人类社会的最具影响力的技术之一。据路透社报道,OpenAI 去年营收为 28 万美元,但总体亏损 540 亿美元,主要是由于算力相关费用。值得注意的是,这一 540 亿美元的巨额损失发生在 2022 年,就在生成式人工智能激增之前。

展望未来,与计算能力相关的费用预计将呈指数级增长。这主要是由于:

  • 大规模模型的竞争越来越激烈,模型演化的速度越来越快,需要快速提高计算能力。除了OpenAI之外,谷歌等科技巨头也在力推自己的大规模模型,这明显加快了模型进化的步伐。预计每季度到半年需要更新新一代模型,最前沿模型所需的计算能力预计每年都会增加一个数量级。

  • 大规模模型正在被应用于更广泛的场景。目前,微软和谷歌已经开始在搜索和代码编写领域使用大规模模型。预计未来会有更多大规模模型的应用,包括自动任务处理、多模态问答等,这些都会大大增加不同模型的数量,也会显着增加模型部署所需的总算力。

据美国金融公司Bernstein分析,如果ChatGPT的流量达到谷歌搜索的十分之一(这也是OpenAI未来的重要目标之一),OpenAI每年的GPU支出将达到16亿美元。此类费用可能会成为 OpenAI 进一步扩展的重大瓶颈。

那么,OpenAI如果自己开发芯片,能节省多少成本呢?目前,一台配备 100 个 Nvidia H300,000 GPU 的服务器的采购成本约为 1 万美元,使用这台服务器三年的总成本(包括云服务提供商的保费)约为 100,000 万美元(这是 AWS 的官方报价) ,其他云服务提供商的价格预计也在同一范围内)。如果OpenAI能够利用自研芯片将这样一台10,000 GPU服务器的成本降低到100,000万美元以下,将大大降低他们的成本。另一方面,如果自研芯片成功,在大规模部署的情况下将单张加速卡的成本控制在XNUMX万美元以下是很有希望的。换句话说,将八 GPU 服务器的成本控制在 XNUMX 万美元以下并不是一个遥不可及的目标。

继续......

whatsapp

WhatsApp

Whatsapp:+8618073002950