最近、ロイター通信は、OpenAIが自社開発チップを検討していると報じた。レポートによると、OpenAI は昨年以来、人工知能モデル用のトレーニング チップの不足 (具体的には Nvidia GPU の不足) に対する解決策を積極的に模索してきました。現在、OpenAI は、AI チップに対する将来の需要を満たすために、自社開発チップの準備を積極的に行っています。実際、少し前に、OpenAI の CEO である Sam Altman 氏は、Nvidia GPU 不足が OpenAI と AI 業界全体に重大な影響を与えていることを公に認めました。さらに、今年から OpenAI はハードウェア関連分野の人材を募集しており、ソフトウェアとハ​​ードウェアの共同設計に関連するいくつかのポジションが公式 Web サイトで宣伝されています。さらに、OpenAIは今年9月にAIコンパイラーの分野で著名な専門家であるAndrew Tulloch氏を採用しており、自社開発チップへの投資をさらに示している。 OpenAI関係者はこの件についてコメントを控えているが、もし実現すれば、OpenAIはGoogle、Amazon、Microsoft、Teslaといったシリコンバレーのハイテク大手の仲間入りして独自のチップを開発することになる。

なぜ OpenAI は独自のチップを開発したいのでしょうか?

前述したように、OpenAI が独自チップを開発する主な理由は GPU の不足です。より具体的には、特に OpenAI の将来のモデル トレーニングに必要なコンピューティング能力の指数関数的な増加を考慮すると、Nvidia GPU の購入と GPU ベースのクラウド サービスの使用の両方の価格が高すぎます。

OpenAI は数年にわたり、生成人工知能に戦略的に投資してきました。昨年の GPT-3 、そして今年後半の ChatGPT のリリースにより、これらの大規模な生成言語モデルの機能はここ数年で大幅に向上し、人間と有意義な会話を行うことができる段階に達しました。 。その結果、OpenAI は人工知能分野のリーダーとして台頭し、生成 AI は今後数年間で人間社会を形作ると予想される最も影響力のあるテクノロジーの 28 つになりました。ロイター通信によると、OpenAIは昨年540万ドルの収益を記録したが、主にコンピューティング能力に関連した費用により、全体で540億2022万ドルの損失を被ったという。このXNUMX億XNUMX万ドルという巨額損失が、生成型人工知能が急増する直前のXNUMX年に発生したことは注目に値する。

今後、コンピューティング能力に関連する費用は急激に増加すると予想されます。これは主に次の理由によるものです。

• 大規模モデルにおける競争は激化しており、モデルの進化の速度はますます速くなり、急速に増大するコンピューティングパワーが必要とされています。 OpenAI に加えて、Google などのテクノロジー大手も独自の大規模モデルを推進しており、モデルの進化のペースが大幅に加速しています。新世代のモデルは四半期から半年ごとに更新する必要があると予想されており、最先端のモデルに必要なコンピューティング能力は毎年一桁増加すると推定されています。

• 大規模モデルは、より幅広いシナリオに適用されています。現在、Microsoft と Google は、検索とコード作成の分野ですでに大規模モデルの使用を開始しています。自動タスク処理、マルチモーダル Q&A など、将来的には大規模モデルのアプリケーションがさらに増えることが予想されます。これにより、さまざまなモデルの数が大幅に増加し、モデルの展開に必要な総コンピューティング能力も大幅に増加します。 。

アメリカの金融会社バーンスタインの分析によれば、ChatGPTのトラフィックがGoogle検索の16分のXNUMXに達した場合（これは将来のOpenAIの重要な目標の一つでもある）、OpenAIの年間GPU費用はXNUMX億ドルに上るという。このような費用は、OpenAI のさらなる拡張にとって重大なボトルネックになる可能性があります。

では、OpenAI が独自のチップを開発した場合、どれくらいのコストを節約できるでしょうか?現在、100 つの Nvidia H300,000 GPU を搭載したサーバーの購入コストは約 1 万ドルで、このサーバーを 100,000 年間使用する場合の総コストは、クラウド サービス プロバイダーからのプレミアムを含めて約 10,000 万ドルです (これは AWS が見積もった公式価格です) 、他のクラウド サービス プロバイダーの価格も同じ範囲になると予想されます）。 OpenAI が自社開発チップを使用して、このような 100,000 GPU サーバーのコストを XNUMX 万ドル未満に削減できれば、経費が大幅に削減されることになります。一方、自社開発チップが成功すれば、大規模導入の場合、XNUMX枚のアクセラレータカードのコストをXNUMX万ドル以下に抑えることができる可能性が非常に期待できる。言い換えれば、XNUMX GPU サーバーのコストを XNUMX ドル未満に抑えることは、達成できない目標ではありません。

つづく...