近日，路透社報道OpenAI正在考慮自研晶片。報導稱，自去年以來，OpenAI一直在積極尋求解決人工智慧模型訓練晶片短缺的問題（具體來說，Nvidia GPU的短缺）。目前，OpenAI正在積極準備自研晶片，以滿足未來AI晶片的需求。事實上，不久前，OpenAI 執行長 Sam Altman 公開承認 Nvidia GPU 短缺對 OpenAI 以及整個 AI 產業造成重大影響。此外，從今年開始，OpenAI一直在招募硬體相關領域的人才，在其官網發布了多個軟硬體協同設計相關的職位。而且，今年9月，OpenAI也聘請了AI編譯器領域的知名專家Andrew Tulloch，進一步展現了他們對自研晶片的投入。 OpenAI官方拒絕對此事發表評論，但如果實現的話，OpenAI將加入谷歌、亞馬遜、微軟、特斯拉等矽谷科技巨頭的行列，開發自己的晶片。

OpenAI為何要研發自己的晶片？

如同前面提到的，OpenAI 開發自己的晶片的主要原因是 GPU 的短缺。更具體地說，購買 Nvidia GPU 和使用基於 GPU 的雲端服務的價格都太高，特別是考慮到 OpenAI 未來模型訓練所需的運算能力呈指數級增長。

多年來，OpenAI 一直在對生成人工智慧進行策略性投資。隨著去年GPT-3和下半年ChatGPT的發布，這些大規模生成語言模型的能力在過去幾年中得到了顯著提升，達到了可以與人類進行有意義對話的階段。因此，OpenAI 已成為人工智慧領域的領導者，而生成式 AI 已成為未來幾年有望塑造人類社會的最具影響力的技術之一。路透社報道，OpenAI 去年營收為 28 萬美元，但整體虧損 540 億美元，主要是因為算力相關費用。值得注意的是，這筆 540 億美元的巨額損失發生在 2022 年，就在生成式人工智慧激增之前。

展望未來，與運算能力相關的費用預計將呈指數級增長。這主要是由於：

• 大規模模型的競爭越來越激烈，模型演化的速度也越來越快，需要快速提升運算能力。除了OpenAI之外，Google等科技巨頭也在努力推自己的大規模模型，這明顯加快了模型演化的腳步。預計每季到半年需要更新新一代模型，最前沿模型所需的運算能力預計每年都會增加一個數量級。

• 大規模模型正在被應用於更廣泛的場景。目前，微軟和谷歌已經開始在搜尋和程式碼編寫領域使用大規模模型。預計未來會有更多大規模模型的應用，包括自動任務處理、多模態問答等，這些都會大幅增加不同模型的數量，也會顯著增加模型部署所需的總算力。

根據美國金融公司Bernstein分析，如果ChatGPT的流量達到Google搜尋的十分之一（這也是OpenAI未來的重要目標之一），OpenAI每年的GPU支出將達到16億美元。此類費用可能會成為 OpenAI 進一步擴展的重大瓶頸。

那麼，OpenAI如果自己開發晶片，能節省多少成本呢？目前，一台配備100 個Nvidia H300,000 GPU 的伺服器的採購成本約為1 萬美元，使用這台伺服器三年的總成本（包括雲端服務供應商的保費）約為100,000 萬美元（這是AWS 的官方報價） ，其他雲端服務提供者的價格預計也在同一範圍內）。如果OpenAI能夠利用自研晶片將這樣一台10,000 GPU伺服器的成本降低到100,000萬美元以下，將大幅降低他們的成本。另一方面，如果自研晶片成功，在大規模部署的情況下將單張加速卡的成本控制在XNUMX萬美元以下是很有希望的。換句話說，將八 GPU 伺服器的成本控制在 XNUMX 萬美元以下並不是一個遙不可及的目標。

未完待續...