최근 로이터 통신은 OpenAI가 자체 개발 칩을 고려하고 있다고 보도했습니다. 보고서에 따르면 오픈AI는 지난해부터 인공지능 모델용 트레이닝 칩 부족(구체적으로 엔비디아 GPU 부족)에 대한 해결책을 적극적으로 모색해 왔다. 현재 오픈AI는 미래 AI 칩 수요에 맞춰 자체 개발 칩을 적극적으로 준비하고 있다. 실제로 얼마 전 OpenAI의 CEO인 Sam Altman은 Nvidia GPU 부족이 OpenAI와 전체 AI 산업에 미치는 중대한 영향을 공개적으로 인정했습니다. 또한 OpenAI는 올해부터 하드웨어 관련 분야의 인재를 모집하고 있으며, 공식 홈페이지에는 소프트웨어-하드웨어 공동 설계와 관련된 여러 직위가 광고되어 있습니다. 더욱이 올해 9월에는 오픈AI가 AI 컴파일러 분야의 저명한 전문가인 앤드류 툴로크(Andrew Tulloch)도 영입하며 자체 개발 칩에 대한 투자를 더욱 시사했다. OpenAI 관계자는 이 문제에 대해 논평을 거부했지만, 이것이 결실을 맺게 된다면 OpenAI는 자체 칩 개발에 Google, Amazon, Microsoft, Tesla와 같은 실리콘 밸리의 거대 기술 기업 대열에 합류하게 될 것입니다.

OpenAI가 자체 칩을 개발하려는 이유는 무엇입니까?

앞서 언급했듯이 OpenAI가 자체 칩을 개발하는 주된 이유는 GPU 부족 때문입니다. 보다 구체적으로 말하면, Nvidia GPU 구입 가격과 GPU 기반 클라우드 서비스 사용 가격이 너무 높습니다. 특히 OpenAI의 미래 모델 훈련에 필요한 컴퓨팅 성능이 기하급수적으로 증가한다는 점을 고려하면 더욱 그렇습니다.

OpenAI는 수년 동안 생성 인공 지능에 전략적으로 투자해 왔습니다. 지난해 GPT-3, 하반기 ChatGPT가 출시되면서 이러한 대규모 생성 언어 모델의 성능이 지난 몇 년간 크게 향상되어 인간과 의미 있는 대화를 나눌 수 있는 단계에 이르렀습니다. . 그 결과, OpenAI는 인공 지능 분야의 리더로 부상했으며, 생성 AI는 향후 인류 사회를 형성할 것으로 예상되는 가장 영향력 있는 기술 중 하나가 되었습니다. 로이터 통신에 따르면 OpenAI는 지난해 28만 달러의 매출을 기록했지만 주로 컴퓨팅 성능과 관련된 비용으로 인해 총 540억 540만 달러의 손실을 입었습니다. 이런 2022억 XNUMX천만 달러의 막대한 손실이 생성 인공지능이 급증하기 직전인 XNUMX년에 발생했다는 점은 주목할 만합니다.

앞으로 컴퓨팅 파워와 관련된 비용은 기하급수적으로 증가할 것으로 예상된다. 이는 주로 다음과 같은 이유로 인해 발생합니다.

• 대규모 모델의 경쟁은 더욱 치열해지고 있으며, 모델 진화 속도는 더욱 빨라지고 있어 컴퓨팅 성능도 빠르게 증가해야 합니다. OpenAI 외에도 Google과 같은 거대 기술 기업도 자체 대규모 모델을 추진하고 있으며, 이는 모델 진화 속도를 크게 가속화했습니다. 새로운 세대의 모델은 매 분기에서 반년마다 업데이트가 필요할 것으로 예상되며, 가장 최첨단 모델에 필요한 컴퓨팅 성능은 매년 수십 배씩 증가할 것으로 예상됩니다.

• 대규모 모델은 다양한 시나리오에 적용되고 있습니다. 현재 Microsoft와 Google은 이미 검색 및 코드 작성 분야에서 대규모 모델을 사용하기 시작했습니다. 앞으로는 자동 작업 처리, 멀티모달 Q&A 등을 포함하여 대규모 모델에 대한 응용 프로그램이 더 많아질 것으로 예상됩니다. 이로 인해 다양한 모델 수가 크게 늘어나고 모델 배포에 필요한 총 컴퓨팅 성능도 크게 늘어납니다. .

미국 금융회사 번스타인(Bernstein)의 분석에 따르면, ChatGPT의 트래픽이 구글 검색의 16분의 XNUMX에 도달한다면(이 역시 OpenAI의 향후 중요한 목표 중 하나), OpenAI의 연간 GPU 비용은 XNUMX억 달러에 달하게 됩니다. 이러한 비용은 잠재적으로 OpenAI의 추가 확장에 심각한 병목 현상이 될 수 있습니다.

그렇다면 OpenAI가 자체 칩을 개발하면 얼마나 많은 비용을 절감할 수 있을까요? 현재 Nvidia H100 GPU 300,000개가 장착된 서버 구입 비용은 약 1만 달러이며, 이 서버를 100,000년간 사용하는 데 드는 총 비용은 클라우드 서비스 제공업체의 프리미엄을 포함해 약 10,000만 달러입니다(이는 AWS에서 공시하는 공식 가격입니다). , 다른 클라우드 서비스 제공업체의 가격도 같은 범위에 있을 것으로 예상됩니다. OpenAI가 자체 개발한 칩을 사용하여 이러한 100,000개의 GPU 서버 비용을 XNUMX만 달러 미만으로 낮출 수 있다면 비용이 크게 절감될 것입니다. 반면, 자체 개발한 칩이 성공할 경우, 대규모 배치 시 단일 가속기 카드 비용을 XNUMX만 달러 이하로 제어할 수 있다는 점은 매우 유망하다. 즉, XNUMX개의 GPU 서버 비용을 XNUMX달러 미만으로 제어하는 ​​것은 달성 불가능한 목표가 아닙니다.

계속하려면 ...