마이크론은 HBM3E 메모리를 최초로 출하한 기업으로 자사의 첨단 고대역폭 메모리(2024년)가 완판돼 2025년 생산량의 대부분이 배정됐다고 밝혔다. Micron의 HBM3E 메모리(또는 Micron은 HBM3Gen2라고도 함)는 Nvidia의 최신 H200/GH200 가속기 인증을 받은 최초의 메모리 중 하나이므로 DRAM 제조업체가 주목을 받는 중요한 공급업체가 될 것으로 보입니다.
마이크론 CEO 산제이 메로트라(Sanjay Mehrotra)는 이번 주 수익 결산을 위해 준비된 연설에서 "우리의 2024년 HBM은 매진되었고 2025년 공급량의 대부분이 할당되었습니다"라고 말했습니다. "우리는 여전히 2025년 어느 시점에 HBM 비트 점유율이 전체 DRAM 비트 점유율과 비슷할 것으로 예상합니다."
Micron의 첫 번째 HBM3E 제품은 1024비트 인터페이스, 9.2GT/s 데이터 전송 속도 및 1.2TB/s 총 대역폭을 갖춘 8-Hi24GB 스택입니다. 인공 지능 및 고성능 컴퓨팅을 위한 Nvidia의 H200 가속기는 이러한 큐브 중 6개를 사용하여 총 141GB의 액세스 가능한 고대역폭 메모리를 제공합니다.
Mehrotra는 "우리는 2024회계연도에 HBM에서 수억 달러의 수익을 창출할 예정이며, HBM 수익은 회계연도 3분기부터 DRAM 및 전체 총이익에 증가할 것으로 예상됩니다"라고 말했습니다.
이 회사는 또한 50% 더 많은 용량을 제공하는 12-Hi 36GB 스택 샘플링을 시작했습니다. 이들 KGSD는 2025년 양산해 차세대 인공지능 제품에 활용될 예정이다. 한편, Nvidia의 B100과 B200은 적어도 처음에는 36GB HBM3E 스택을 사용할 것 같지 않습니다.
AI 서버에 대한 수요는 지난해 사상 최고치를 기록했으며 올해도 높은 수준을 유지할 것으로 보입니다. 일부 분석가들은 Nvidia의 A100 및 H100 프로세서(및 다양한 파생 제품)가 2023년에 전체 인공 지능 프로세서 시장의 최대 80%를 차지할 것이라고 믿습니다. Nvidia는 올해 AMD, AWS, D-Matrix, Intel, Tenstorrent 등으로부터 더욱 치열한 추론 경쟁에 직면할 것이지만, Nvidia의 H200은 특히 Meta 및 Microsoft와 같은 대기업에서 AI 훈련을 위한 프로세서로 계속 선택될 것으로 보입니다. 수십만 대의 Nvidia 가속기를 운영합니다. 이를 염두에 두고 Nvidia의 H200용 HBM3E의 주요 공급업체가 되는 것은 Micron에게 큰 일입니다. 이를 통해 Micron은 마침내 HBM 시장에서 상당한 점유율을 확보할 수 있게 됩니다.
동시에 HBM 스택의 각 DRAM 장치는 더 넓은 인터페이스를 갖기 때문에 일반 DDR4 또는 DDR5 IC보다 물리적 크기가 더 큽니다. 따라서 HBM3E 메모리 양산은 마이크론의 상용 DRAM 비트 공급에 영향을 미치게 된다.
Mehrotra는 "HBM 생산 증가로 인해 비HBM 제품의 공급 증가가 제한될 것"이라고 말했습니다. "업계 전체를 살펴보면 HBM3E는 동일한 기술 노드에서 주어진 수의 비트를 생산하기 위해 DDR5보다 약 3배의 웨이퍼 공급량을 소비합니다."