Talian Khidmat

Baru-baru ini, Reuters melaporkan bahawa OpenAI sedang mempertimbangkan cip yang dibangunkan sendiri. Menurut laporan itu, sejak tahun lepas, OpenAI telah secara aktif mencari penyelesaian kepada kekurangan cip latihan untuk model kecerdasan buatan (khususnya, kekurangan GPU Nvidia). Pada masa ini, OpenAI sedang giat menyediakan cip yang dibangunkan sendiri untuk memenuhi permintaan masa depan untuk cip AI. Malah, tidak lama dahulu, Ketua Pegawai Eksekutif OpenAI Sam Altman secara terbuka mengakui kesan ketara kekurangan GPU Nvidia pada OpenAI dan keseluruhan industri AI. Selain itu, mulai tahun ini, OpenAI telah merekrut bakat dalam bidang berkaitan perkakasan, dengan beberapa jawatan yang berkaitan dengan reka bentuk bersama perkakasan perisian diiklankan di laman web rasmi mereka. Selain itu, pada September tahun ini, OpenAI turut merekrut Andrew Tulloch, pakar terkenal dalam bidang penyusun AI, seterusnya menunjukkan pelaburan mereka dalam cip yang dibangunkan sendiri. Pegawai OpenAI enggan mengulas mengenai perkara ini, tetapi jika ia membuahkan hasil, OpenAI akan menyertai barisan gergasi teknologi Silicon Valley seperti Google, Amazon, Microsoft, dan Tesla dalam membangunkan cip mereka sendiri.
Mengapa OpenAI mahu membangunkan cipnya sendiri?
Seperti yang dinyatakan sebelum ini, sebab utama di sebalik pembangunan OpenAI bagi cip mereka sendiri adalah disebabkan oleh kekurangan GPU. Lebih khusus lagi, harga kedua-dua membeli GPU Nvidia dan menggunakan perkhidmatan awan berasaskan GPU adalah terlalu tinggi, terutamanya memandangkan peningkatan eksponen dalam kuasa pengkomputeran yang diperlukan untuk latihan model masa depan OpenAI.
OpenAI telah melabur secara strategik dalam kecerdasan buatan generatif selama beberapa tahun. Dengan keluaran GPT-3 tahun lepas dan ChatGPT pada separuh kedua tahun ini, keupayaan model bahasa generatif berskala besar ini telah meningkat dengan ketara sejak beberapa tahun lalu, mencapai tahap di mana mereka boleh terlibat dalam perbualan yang bermakna dengan manusia. . Hasilnya, OpenAI telah muncul sebagai peneraju dalam bidang kecerdasan buatan, dan AI generatif telah menjadi salah satu teknologi paling berkesan yang dijangka membentuk masyarakat manusia pada tahun-tahun akan datang. Menurut Reuters, OpenAI mencatatkan hasil sebanyak $28 juta tahun lepas, tetapi mengalami kerugian keseluruhan sebanyak $540 juta, terutamanya disebabkan oleh perbelanjaan yang berkaitan dengan kuasa pengkomputeran. Perlu diingat bahawa kerugian besar sebanyak $540 juta ini berlaku pada 2022, sejurus sebelum lonjakan kecerdasan buatan generatif.
Memandang ke hadapan, perbelanjaan yang berkaitan dengan kuasa pengkomputeran dijangka meningkat secara eksponen. Ini terutamanya disebabkan oleh:
-
Persaingan dalam model berskala besar menjadi lebih sengit, dan kelajuan evolusi model semakin pantas, memerlukan kuasa pengkomputeran yang meningkat dengan pantas. Selain OpenAI, gergasi teknologi seperti Google juga mendorong model berskala besar mereka sendiri, yang telah mempercepatkan kadar evolusi model dengan ketara. Dijangkakan bahawa model generasi baharu perlu dikemas kini setiap suku hingga setengah tahun, dan kuasa pengkomputeran yang diperlukan untuk model paling canggih dianggarkan meningkat mengikut susunan magnitud setiap tahun.
-
Model berskala besar sedang digunakan dalam julat senario yang lebih luas. Pada masa ini, Microsoft dan Google telah pun mula menggunakan model berskala besar dalam bidang carian dan penulisan kod. Dijangka akan terdapat lebih banyak aplikasi untuk model berskala besar pada masa hadapan, termasuk pemprosesan tugas automatik, Soal Jawab pelbagai mod, dll. Ini akan meningkatkan bilangan model berbeza dengan ketara, dan juga meningkatkan jumlah kuasa pengkomputeran yang diperlukan untuk penggunaan model dengan ketara. .
Menurut analisis oleh syarikat kewangan Amerika Bernstein, jika trafik ChatGPT mencapai satu per sepuluh daripada carian Google (yang juga merupakan salah satu matlamat penting OpenAI pada masa hadapan), perbelanjaan GPU tahunan OpenAI akan berjumlah $16 bilion. Perbelanjaan sedemikian berpotensi menjadi hambatan yang ketara untuk penskalaan lanjut OpenAI.
Jadi, berapa banyak kos yang boleh dijimatkan oleh OpenAI jika mereka membangunkan cip mereka sendiri? Pada masa ini, kos pembelian pelayan dengan lapan GPU Nvidia H100 ialah kira-kira $300,000, dan jumlah kos penggunaan pelayan ini selama tiga tahun, termasuk premium daripada pembekal perkhidmatan awan, adalah sekitar $1 juta (ini ialah harga rasmi yang dipetik oleh AWS , dengan harga daripada pembekal perkhidmatan awan lain dijangka berada dalam julat yang sama). Jika OpenAI boleh mengurangkan kos pelayan lapan GPU sedemikian kepada di bawah $100,000 dengan cip yang dibangunkan sendiri, ia akan mengurangkan perbelanjaan mereka dengan ketara. Sebaliknya, jika cip yang dibangunkan sendiri berjaya, adalah sangat menjanjikan untuk mengawal kos kad pemecut tunggal kepada di bawah $10,000 dalam kes penggunaan berskala besar. Dalam erti kata lain, mengawal kos pelayan lapan GPU di bawah $100,000 bukanlah matlamat yang tidak boleh dicapai.
Akan bersambung...




粤公网安备44030002007346号