최근 GTC 컨퍼런스에서 NVIDIA는 AI 슈퍼컴퓨팅 워크스테이션 DGX Station GB300의 업그레이드 버전을 출시했으며 첫 번째 제품은 Jen-Hsun Huang이 AI 마스터 Andrej Karpathy에게 전달했습니다. Andrej Karpathy는 NVIDIA에 감사의 뜻을 표하는 트윗을 올렸습니다. 그의 스튜디오는 이번 달 6일에 이 제품을 받았습니다.DGX Station GB300의 제조사 버전인 Dell에서 생산한 GB300 탑재 Dell Pro Max입니다.
DGX Station GB300은 엔비디아가 출시한 AI 슈퍼컴퓨터의 워크스테이션 버전이라고 볼 수 있다(GB200 버전은 지난해 출시됐다). 기존에 판매된 DGX 스파크는 AI 슈퍼컴퓨터의 개인용 버전이지만 전자의 사양과 성능이 후자에 비해 월등히 높고 구성도 매우 고급스럽고 가격도 훨씬 높을 것으로 보인다.
DGX Station GB300은 GB300 칩을 사용합니다. 프로세서는 72코어 Grace입니다. 252GB HBM3e 비디오 메모리와 8TB/s의 대역폭을 갖추고 있습니다. 메모리는 496GB LPDDR5X이고 대역폭은 396GB/s입니다. 메모리만 748GB입니다. 현재 가격 인상 상황에서 이러한 메모리의 가치는 12대 이상의 고급 PC에 충분합니다.
DGX Station GB300의 FP4 성능은 20PFLOPS에 달할 수 있으며 1조 매개변수로 AI 모델을 지원할 수 있습니다.과거에는 이 수준의 대형 모델을 함께 실행하려면 전용 서버나 여러 장치가 필요했지만 이제는 장치 하나로 충분합니다.
NVIDIA는 새로운 AI 제품을 출시할 때마다 해당 분야의 유명 인사에게 첫 번째 장치를 제공하는 경우가 많습니다. 머스크와 OpenAI CEO 알트만은 이전에도 엔비디아로부터 선물을 받은 적이 있는데, 이번에는 안드레이 카파티(Andrej Karpathy)도 AI 분야의 위대한 신이자 OpenAI의 창립자 중 한 명이다.
