Meta, OpenAI, Microsoft는 수요일에 열린 AMD 투자자 컨퍼런스에서 AMD의 최신 인공지능 칩 InstinctMI300X를 사용할 것이라고 밝혔습니다. 이러한 움직임은 기술 커뮤니티가 값비싼 Nvidia GPU에 대한 대안을 적극적으로 찾고 있음을 보여줍니다. MI300X는 업계에서 높은 기대를 갖고 있습니다. 결국 "세계는 오랫동안 비다로 인해 고통받고 있다." 후자의 주력 GPU는 가격이 비쌀 뿐만 아니라 공급량이 매우 제한되어 있습니다. MI300X가 대규모로 채택될 경우 인공지능 모델 개발 비용을 절감하고 엔비디아에 경쟁 압박을 가할 것으로 예상된다.

Nvidia의 GPU보다 얼마나 빠릅니까?

AMD는 MI300X가 새로운 아키텍처를 기반으로 하며 성능이 크게 향상되었다고 밝혔습니다. 가장 큰 특징은 192GB의 최첨단 고성능 메모리인 HBM3를 탑재해 데이터 전송 속도가 빠르고, 더 큰 인공지능 모델도 수용할 수 있다는 점이다.

Su Zifeng은 MI300X와 그것이 구축한 시스템을 Nvidia(이전 세대)의 주력 GPU H100과 직접 비교했습니다.

기본 사양으로 보면 MI300X의 부동 소수점 연산 속도는 H100보다 30%, 메모리 대역폭은 H100보다 60%, 메모리 용량은 H100의 2배 이상이다.

물론 MI300X는 NVIDIA의 최신 GPU H200에 비해 더 벤치마킹되었습니다. 사양에서도 선두를 달리고 있지만 H200에 비해 MI300X의 장점은 그리 크지 않습니다. 메모리 대역폭은 후자보다 한 자릿수 더 많고, 용량은 후자보다 거의 40% 더 큽니다.


Su Zifeng은 다음과 같이 믿습니다.

"이러한 성능은 더 나은 사용자 경험으로 직접적으로 이어지며, 모델에 질문을 하면 특히 답변이 더 복잡해질수록 모델이 더 빨리 답변하기를 원합니다."

Su Zifeng: AMD가 잘 살기 위해 2위를 위해 Nvidia를 이길 필요는 없습니다

AMD가 직면한 주요 질문은 Nvidia에 의존해 온 회사가 다른 GPU 공급업체를 추가하기 위해 시간과 돈을 투자할 것인지 여부입니다.

Su Zifeng은 또한 이들 회사가 AMD 칩으로 전환하기 위해 "노력"을 해야 한다고 인정했습니다.

AMD는 수요일에 투자자와 파트너에게 Nvidia의 CUDA를 벤치마킹하는 소프트웨어 제품군 ROCm을 개선했다고 말했습니다. CUDA 제품군은 AI 개발자가 현재 NVIDIA를 선호하는 주요 이유 중 하나였습니다.

가격도 중요합니다. AMD는 수요일에 MI300X의 가격을 공개하지 않았지만 각각 약 40,000달러에 달하는 Nvidia의 주력 칩보다 확실히 저렴할 것입니다. Su Zifeng은 AMD의 칩이 고객이 구매하도록 설득하려면 Nvidia보다 구매 및 운영 비용이 낮아야 한다고 말했습니다.

AMD는 또한 GPU가 가장 필요한 일부 대기업과 MI300X 주문을 체결했다고 밝혔습니다.

Meta는 인공지능 추론 작업에 MI300X GPU를 사용할 계획입니다. Microsoft 최고 기술 책임자(CTO) Kevin Scott은 또한 회사가 클라우드 컴퓨팅 서비스 Azure에 MI300X를 배포할 것이라고 말했습니다. 또한 오라클의 클라우드 컴퓨팅 서비스도 MI300X를 사용할 예정입니다. OpenAI는 Triton이라는 소프트웨어 제품에도 AMD GPU를 사용할 예정입니다.

연구 회사 Omidia의 최신 보고서에 따르면 Meta, Microsoft 및 Oracle은 모두 2023년 Nvidia H100 GPU의 중요한 구매자입니다.

AMD는 MI300X에 대한 판매 예측을 제시하지 않았지만 2024년 총 데이터 센터 GPU 매출이 약 20억 달러에 이를 것으로 추정했습니다. 가장 최근 분기에만 NVIDIA의 데이터 센터 매출이 140억 달러를 초과했지만 여기에는 GPU 외에 다른 칩도 포함됩니다.

AMD는 앞으로 인공지능 GPU 시장 규모가 이전 예측의 두 배인 4,000억 달러까지 증가할 것으로 믿고 있습니다. 이는 첨단 인공지능 칩에 대한 사람들의 기대와 갈망이 얼마나 높은지 보여준다.

Su Zifeng은 또한 AMD가 시장에서 좋은 결과를 얻기 위해 Nvidia를 이길 필요는 없다고 언론에 솔직하게 말했습니다. 2등도 잘 살 수 있다는 뜻이다.

그녀는 AI 칩 시장에 대해 이렇게 말했다.

"현재 Nvidia가 확실히 시장 선두주자라고 말할 수 있다고 생각하며, 우리는 이 시장이 2027년까지 4,000억 달러를 넘을 수 있다고 믿습니다. 우리는 그 파이 한 조각을 얻을 수 있습니다."