미국의 여러 일류 대학들이 현지 웨이퍼 공장과 협력하여 새로운 모놀리식 3차원(3D) 칩을 성공적으로 개발했습니다. 저장 장치와 컴퓨팅 장치는 수직 방향으로 촘촘하게 쌓여 있습니다. 칩 내부 데이터 전송 속도가 크게 향상될 것으로 기대된다. 인공지능 하드웨어의 '기억의 벽'을 돌파하는 중요한 이정표로 꼽힌다.

이번 성과는 스탠포드대, 카네기멜론대, 펜실베니아대, MIT, 그리고 미국 현지 파운드리 업체인 스카이워터 테크놀로지(SkyWater Technology)가 함께 이뤄낸 성과다. 이는 미국의 상업용 웨이퍼 공장에서 제조된 최초의 모놀리식 3D 칩입니다. 수직 상호 연결 배선 밀도는 현재 3D 칩에서 새로운 최고 수준에 도달했습니다. 측정 및 시뮬레이션된 디스플레이 성능은 기존 2차원 칩에 비해 약 10배 정도 향상될 수 있습니다. 연구팀은 이는 성능의 획기적인 발전일 뿐만 아니라 미국이 현지에서 첨단 칩 제조를 촉진할 수 있는 새로운 패러다임을 제공한다고 강조했다.

모든 회로를 동일한 평면에 "타일"로 배열하는 기존의 2차원 칩과 달리 이 프로토타입 칩은 여러 층의 초박형 회로 층을 수직으로 쌓아 사용합니다. 각 계층은 고밀도 수직 연결을 통해 밀접하게 연결되어 있으므로 데이터가 칩 내부의 저장 장치와 컴퓨팅 장치 사이를 "위아래로 왕복"할 수 있어 전송 경로가 크게 단축됩니다. 이러한 아키텍처에서는 로컬에서 사용 가능한 메모리가 크게 늘어나고 데이터가 원격 스토리지와 컴퓨팅 코어 사이를 자주 이동할 필요가 없어 오랫동안 고성능 및 AI 칩을 괴롭혔던 "메모리 벽" 병목 현상이 근본적으로 완화됩니다.

"메모리 벽"은 컴퓨팅 장치의 컴퓨팅 성능이 지속적으로 향상되는 것을 말하지만 내부 칩과 외부 저장소 간의 데이터 전송 속도를 유지하기 어려워 프로세서가 "데이터를 기다리는" 경우가 많아 컴퓨팅 성능이 심각하게 낭비됩니다. 수십 년 동안 반도체 산업은 이 문제를 완화하기 위해 트랜지스터의 크기를 지속적으로 줄이고 동일한 평면에 더 많은 장치를 패키징하는 데 주로 의존해 왔습니다. 그러나 이 경로는 물리적 한계에 가까워져 '수축벽'으로 알려져 있다. 이 새로운 모놀리식 3D 칩은 저장 장치와 논리 회로를 수직 방향으로 통합합니다. 이는 칩 내부에 "엘리베이터 샤프트" 행을 구축하는 것과 동일하며, 동시에 서로 다른 "층" 간에 대량의 데이터가 고속으로 흐를 수 있도록 하여 "메모리 벽"과 "소형 벽"의 이중 제약 하에서 새로운 탈출구를 찾습니다.

업계에서는 이전에도 제조된 여러 개의 칩을 위아래로 쌓아 3D 시스템을 구축하려고 시도했습니다. 그러나 이 "스택 칩" 방식은 레이어 간 연결이 거칠고 희박한 경우가 많으며 여전히 병목 현상이 뚜렷합니다. 이 연구에서는 "모놀리식" 3D 프로세스를 사용합니다. 각 기능 레이어는 동일한 웨이퍼에서 직접 순차적으로 성장 및 처리됩니다. 저온 프로세스는 기본 회로의 손상을 방지하므로 더 작은 규모로 고밀도 상호 연결을 수행할 수 있습니다. 미네소타 주 블루밍턴에 있는 SkyWater의 상용 웨이퍼 공장에서 완전히 완료된 이 공정은 실험실 개념에서 확장 가능한 생산 아키텍처로의 중요한 단계로 간주됩니다.

성능 측면에서 초기 하드웨어 테스트에서는 현재 프로토타입 칩이 비슷한 2차원 설계에 비해 약 4배의 성능 향상을 달성한 것으로 나타났습니다. 추가 시뮬레이션 결과에 따르면 수직 적층 레이어 수를 계속 늘리고 이를 기반으로 더 높은 "바닥" 아키텍처를 구축하면 메타 오픈소스 대형 모델 LLaMA를 포함한 실제 AI 부하에서 전체 성능이 최대 약 12배 향상될 수 있는 것으로 나타났습니다. 특히 연구팀은 새로운 아키텍처가 속도와 에너지 효율성 등 전반적인 성능을 측정하는 핵심 지표인 에너지 지연곱(EDP)이 이론적으로 100~1000배 향상될 것으로 기대한다고 강조했다.

데이터 전송 거리를 크게 단축하고 수직 채널 수를 늘림으로써 칩은 더 높은 처리량과 작업당 더 낮은 에너지 소비를 모두 달성할 것으로 예상되며, 성능과 전력 소비 사이에서 전통적인 "하나를 선택"할 필요가 없습니다. 연구원들은 이를 차세대 대규모 AI 시스템을 지원하고 '하드웨어 성능을 천 배 향상'하는 목표를 향해 나아가기 위한 핵심 경로 중 하나로 간주합니다. 그들은 이 획기적인 발전이 더 크고, 더 복잡하고, 더 실시간인 모델의 훈련과 실행을 지원하는 능력을 통해 미래의 AI 하드웨어 진화를 위한 새로운 기술적 차원을 열어준다고 믿습니다.

이 작업의 중요성은 산업 및 인재 교육 수준에도 반영됩니다. 미국 현지 상업용 웨이퍼 공장에서 단일 3D 칩을 성공적으로 테이프아웃함으로써 팀은 "미국에서 설계되고 미국에서 제조되는" 고급 칩 시스템을 구축하기 위한 현실적인 모델을 제공했다고 믿습니다. 연구원들은 이를 1980년대 집적 회로 혁명에 비유합니다. 미국 대학에서 칩 설계 및 제조를 공부하는 학생들이 실리콘 산업의 도약을 주도했습니다. 오늘날 모놀리식 3D 통합으로의 전환에는 새로운 프로세스 및 아키텍처 지식을 습득할 수 있는 차세대 엔지니어도 필요합니다.

미국 Microelectronics Commons 프로그램 및 California-Pacific Northwest AI Hardware Hub(Northwest-AI-Hub)와 같은 프로젝트의 자금 지원 및 협력을 통해 관련 대학에서는 3D 통합 및 AI 특정 하드웨어에 대한 체계적인 교육을 수행하기 시작했습니다. 참석자들은 첨단 3D 칩을 현지에서 제조할 수 있다는 것은 성능 지표에서 앞서는 것을 의미할 뿐만 아니라 혁신 속도, 공급망 보안, AI 기술 개발 방향에서 더 큰 주도권을 잡는 것을 의미한다고 지적했습니다.

보고서에 따르면, 이 연구는 스탠포드 대학교 공과대학, 카네기 멜론 대학교 공과대학, 펜실베이니아 대학교 공과대학, 응용과학대학, 매사추세츠 공과대학에서 공동으로 수행되었으며 모든 칩 제조는 SkyWater Technology에서 담당합니다. 이 프로젝트는 미국 국방고등연구계획국(DARPA), 미국 국립과학재단 대학원 장학금 프로그램, 삼성, 스탠포드 프리코트 에너지 연구연구소, 스탠포드 시스템X 얼라이언스, 미국 국방부의 '마이크로일렉트로닉스 커먼즈' AI 하드웨어 허브, 미국 에너지부, 국립과학재단의 '반도체 미래 이니셔티브'로부터 자금 지원을 받았습니다.

/ScitechDaily에서 편집됨