AMD MI300X GPU 테스트 결과 공개, Nvidia H100을 훨씬 능가

홈 뉴스 산업 뉴스 AMD MI300X GPU 테스트 결과 공개, Nvidia H100을 훨씬 능가

2024-06-28 817

최근 언론 매체들은 AMD Instinct MI300X GPU에 대한 상세한 테스트를 실시한 결과, 컴퓨팅, 스토리지, 캐싱 등의 영역에서 NVIDIA의 H100을 훨씬 능가하는 뛰어난 성능을 보여주었습니다.

MI300X는 하이브리드 3nm 및 5nm 공정 기술을 활용하는 CDNA 6 아키텍처 기반의 AI 가속기입니다. 이는 이전 제품인 MI15.3X에 비해 크게 증가한 놀라운 250억 개의 트랜지스터를 자랑합니다.

스토리지 측면에서 MI300X는 이전 세대에 비해 HBM50 용량이 3% 증가하고 메모리 용량과 대역폭이 향상되었습니다. 특히 MI300X는 H2.4에 비해 메모리 용량은 1.6배, 메모리 대역폭은 100배 늘어나 성능에 큰 영향을 미칩니다.

NVIDIA H100과 비교하여 MI300X는 상당한 성능 이점을 보여줍니다. 1v1 벤치마크 테스트에서 MI300X는 H100보다 20% 정도 성능이 뛰어났습니다. 서버 수준 8v8 비교에서 MI300X는 특정 벤치마크에서 H100을 최대 60% 앞섰습니다.

강력한 성능 외에도 MI300X는 풍부한 캐시 및 메모리 대역폭 기능을 갖추고 있습니다. L1 캐시 대역폭은 H1.6의 100배, L2 캐시 대역폭은 3.49배, 최종 레벨 캐시(무한 캐시) 대역폭은 H3.12의 100배에 달합니다. 이러한 장점을 통해 MI300X는 데이터 처리 중에 정보를 더 빠르게 검색하여 성능을 더욱 향상시킬 수 있습니다.

또한, AMD GPU의 로컬 HBM3 메모리와 VRAM 대역폭은 각각 H2.72 PCIe의 2.66배, 100배로 MI300X의 전반적인 성능을 더욱 강화합니다. 그러나 MI300X가 H100에 비해 메모리 지연 시간이 약간 더 높다는 점은 주목할 가치가 있습니다. 그럼에도 불구하고 이것이 MI300X의 전반적인 성능 이점을 감소시키지는 않습니다.

명령 처리량에 대해 Chips and Cheese가 실시한 테스트에 따르면 MI300X는 다양한 유형의 계산 명령에서 탁월한 성능을 발휘합니다. 때때로 처리량은 H5보다 최대 100배 더 빠르며 최소 40% 개선됩니다. 이는 MI300X의 강력한 성능을 더욱 입증합니다.

AMD MI300X GPU는 스토리지, 캐시, 메모리, 명령 처리량 등의 영역에서 NVIDIA의 H100을 훨씬 능가합니다. 이는 의심할 여지 없이 사용자에게 더욱 강력하고 효율적인 컴퓨팅 경험을 약속합니다. 인공지능과 빅데이터 기술이 계속 발전함에 따라 MI300X의 뛰어난 성능은 관련 분야에서 더 많은 가능성을 열어줄 것입니다. 우리는 AMD가 AI 컴퓨팅 하드웨어에서 NVIDIA의 지배적인 위치를 잠재적으로 방해할 수 있기를 기대합니다.

QQ 그림 20240308103333.jpg

2023년 반도체 산업 XNUMX대 기술 혁신

세계 최초의 Transformer 전용 AI 칩 Sohu가 출시되었습니다. NVIDIA의 H20보다 100배 빠릅니다.