Baru-baru ini, Reuters melaporkan bahwa OpenAI sedang mempertimbangkan chip yang dikembangkan sendiri. Menurut laporan tersebut, sejak tahun lalu, OpenAI telah secara aktif mencari solusi atas kekurangan chip pelatihan untuk model kecerdasan buatan (khususnya, kelangkaan GPU Nvidia). Saat ini, OpenAI secara aktif mempersiapkan chip yang dikembangkan sendiri untuk memenuhi permintaan chip AI di masa depan. Faktanya, belum lama ini, CEO OpenAI Sam Altman secara terbuka mengakui dampak signifikan dari kekurangan GPU Nvidia terhadap OpenAI dan seluruh industri AI. Selain itu, mulai tahun ini, OpenAI telah merekrut talenta di bidang terkait perangkat keras, dengan beberapa posisi terkait desain bersama perangkat lunak-perangkat keras diiklankan di situs resmi mereka. Selain itu, pada bulan September tahun ini, OpenAI juga merekrut Andrew Tulloch, pakar terkenal di bidang kompiler AI, yang semakin menunjukkan investasi mereka pada chip yang dikembangkan sendiri. Pejabat OpenAI menolak berkomentar mengenai masalah ini, tetapi jika hal ini membuahkan hasil, OpenAI akan bergabung dengan raksasa teknologi Silicon Valley seperti Google, Amazon, Microsoft, dan Tesla dalam mengembangkan chip mereka sendiri.

Mengapa OpenAI ingin mengembangkan chipnya sendiri?

Seperti disebutkan sebelumnya, alasan utama di balik pengembangan chip OpenAI sendiri adalah karena kekurangan GPU. Lebih khusus lagi, harga pembelian GPU Nvidia dan penggunaan layanan cloud berbasis GPU terlalu tinggi, terutama mengingat peningkatan eksponensial dalam daya komputasi yang diperlukan untuk pelatihan model OpenAI di masa depan.

OpenAI telah berinvestasi secara strategis dalam kecerdasan buatan generatif selama beberapa tahun. Dengan dirilisnya GPT-3 tahun lalu dan ChatGPT pada paruh kedua tahun ini, kemampuan model bahasa generatif berskala besar ini telah meningkat secara signifikan selama beberapa tahun terakhir, mencapai tahap di mana model tersebut dapat terlibat dalam percakapan yang bermakna dengan manusia. . Hasilnya, OpenAI telah muncul sebagai pemimpin di bidang kecerdasan buatan, dan AI generatif telah menjadi salah satu teknologi paling berdampak yang diperkirakan akan membentuk masyarakat manusia di tahun-tahun mendatang. Menurut Reuters, OpenAI mencatat pendapatan sebesar $28 juta pada tahun lalu, namun mengalami kerugian keseluruhan sebesar $540 juta, terutama disebabkan oleh biaya yang berkaitan dengan daya komputasi. Perlu dicatat bahwa kerugian besar sebesar $540 juta ini terjadi pada tahun 2022, tepat sebelum lonjakan kecerdasan buatan generatif.

Ke depan, biaya yang terkait dengan daya komputasi diperkirakan akan meningkat secara eksponensial. Hal ini terutama disebabkan oleh:

• Persaingan dalam model skala besar menjadi semakin ketat, dan kecepatan evolusi model semakin cepat, sehingga membutuhkan peningkatan daya komputasi yang pesat. Selain OpenAI, raksasa teknologi seperti Google juga mendorong model skala besar mereka sendiri, yang secara signifikan mempercepat laju evolusi model. Model generasi baru diperkirakan perlu diperbarui setiap triwulan hingga setengah tahun, dan daya komputasi yang dibutuhkan untuk model paling mutakhir diperkirakan meningkat dengan urutan besarnya setiap tahun.

• Model skala besar diterapkan dalam skenario yang lebih luas. Saat ini, Microsoft dan Google sudah mulai menggunakan model skala besar di bidang pencarian dan penulisan kode. Diharapkan akan ada lebih banyak aplikasi untuk model skala besar di masa depan, termasuk pemrosesan tugas otomatis, tanya jawab multimodal, dll. Hal ini akan sangat meningkatkan jumlah model yang berbeda, dan juga secara signifikan meningkatkan total daya komputasi yang diperlukan untuk penerapan model. .

Menurut analisis yang dilakukan oleh perusahaan keuangan Amerika Bernstein, jika lalu lintas ChatGPT mencapai sepersepuluh dari penelusuran Google (yang juga merupakan salah satu tujuan penting OpenAI di masa depan), pengeluaran GPU tahunan OpenAI akan berjumlah $16 miliar. Pengeluaran seperti itu berpotensi menjadi penghambat yang signifikan bagi penskalaan OpenAI lebih lanjut.

Jadi, berapa banyak biaya yang dapat dihemat OpenAI jika mereka mengembangkan chipnya sendiri? Saat ini, biaya pembelian server dengan delapan GPU Nvidia H100 adalah sekitar $300,000, dan total biaya penggunaan server ini selama tiga tahun, termasuk premi dari penyedia layanan cloud, adalah sekitar $1 juta (ini adalah harga resmi yang dikutip oleh AWS , dengan harga dari penyedia layanan cloud lainnya diperkirakan berada pada kisaran yang sama). Jika OpenAI dapat mengurangi biaya server delapan GPU hingga di bawah $100,000 dengan chip yang dikembangkan sendiri, hal ini akan menurunkan pengeluaran mereka secara signifikan. Di sisi lain, jika chip yang dikembangkan sendiri berhasil, maka sangat menjanjikan untuk mengendalikan biaya satu kartu akselerator hingga di bawah $10,000 jika diterapkan dalam skala besar. Dengan kata lain, mengendalikan biaya server delapan GPU di bawah $100,000 bukanlah tujuan yang tidak mungkin tercapai.

Bersambung...