삼성은 차세대 AI 칩 설계에서 점점 더 두드러지는 전원 공급 장치 및 방열 엔지니어링 문제에 대처하기 위해 차세대 HBM4E 고대역폭 비디오 메모리의 전원 공급 네트워크에 대한 대대적인 구조 조정을 진행하고 있습니다. 이러한 움직임은 회사가 세계 최초의 HBM4 배치가 상용 출하를 달성했다고 발표한 지 불과 2주 만에 나온 것입니다. 당시 양산형 제품은 11.7Gbps로 안정적으로 동작할 수 있었고, 질주용 속도 이중화는 13Gbps까지 확보했다.
아키텍처가 HBM4에서 HBM4E로 발전함에 따라 단일 칩의 전원 공급 장치 솔더 범프 수가 13,682개에서 14,457개로 증가합니다. 그러나 여전히 동일한 패키지 영역에 압축되어 있으며 더 얇고 고밀도의 배선과 결합되어 전류 밀도와 배선 저항이 동시에 증가합니다. 그 결과 칩 내부의 IR 전압 강하가 더욱 심각해지고(전송 경로에서 전압이 점차 감쇠됨) 열이 중첩되어 네거티브 피드백 루프가 형성되며, 이는 성능에 영향을 미칠 뿐만 아니라 로컬 회로 오류를 일으킬 수도 있습니다.
이러한 전원 공급 병목 현상을 해결하기 위해 삼성은 전원 네트워크 구조 자체를 '운영'하기로 결정했습니다. HBM 베이스 칩에서는 원래 인터커넥트 인터포저 근처에 있던 대면적 벌집 모양의 중앙 집중식 MET4 전원 블록이 4개의 작은 파티션으로 분할되었으며, 주요 경로를 단축하고 로컬 배선 혼잡을 완화하기 위해 상부 금속 배선 레이어를 더욱 분산시켰습니다. 삼성의 내부 평가에 따르면 이러한 분할된 전력 네트워크 이후 금속 회로 결함 발생률은 HBM4에 비해 97% 감소했으며 IR 전압 강하가 41% 개선되어 칩이 더 높은 주파수에서 안정적으로 작동할 수 있도록 더 많은 전압 마진을 제공하고 전반적인 신뢰성 향상에 도움이 되는 것으로 나타났습니다.
삼성은 전원 공급 장치 네트워크에서 "작동"하는 동시에 HBM과 GPU를 물리적으로 완전히 "분해"하는 보다 급진적인 시스템 수준 패키징 진화 경로를 목표로 삼았습니다. 기술 경로 중 하나는 광 신호 전송을 통해 장거리에 걸쳐 매우 높은 대역폭을 유지하기 위해 광자 상호 연결을 사용하는 것입니다. 보고서에 따르면 이론적 전송 용량은 기존 구리 상호 연결의 약 1,000배에 달할 수 있으며, 이는 HBM과 GPU 사이의 거리가 넓어진 후 지연 및 대역폭 손실을 보충하기에 충분합니다. 삼성은 패키징 기판 배선 능력의 지속적인 개선으로 HBM과 GPU 사이의 거리가 광자 상호 연결에 전적으로 의존하지 않고도 5cm 이상으로 늘어날 것으로 예상하고 있습니다. 이는 현재 고급 AI 가속기 카드에서 코어 컴퓨팅 칩과 다층 HBM 스택의 긴밀한 패키징으로 인해 발생하는 열 밀도 및 방열 압력을 크게 완화할 것입니다.
업계 분석가들은 AI 훈련 및 추론의 부하가 급증하는 상황에서 HBM의 전원 공급 장치 및 냉각이 컴퓨팅 성능의 지속적인 선형 확장을 제한하는 핵심 "고착 지점"이 되었다고 지적했습니다. 삼성의 HBM4E 전력망 재구성과 HBM-GPU 분리 솔루션에 대한 미래지향적인 탐구는 하이엔드 그래픽 메모리 기술 경쟁의 차기 라운드에서 선두를 차지하겠다는 의지를 보여준다. 이번 기술적인 내용은 국내 언론 '코리아 이코노미'와 시장조사기관 트렌드포스를 통해 1차 공개됐고, 이후 삼성 관련 기술 디스플레이 자료를 통해 확인됐다.