요약:
인공지능이 기존의 챗봇에서 자동으로 작업을 계획하고, 도구를 호출하고, 복잡한 워크플로를 실행할 수 있는 에이전트(AI 에이전트)로 발전함에 따라 데이터 센터의 컴퓨팅 요구 사항도 변화하고 있습니다. AMD는 2026년 10월 12일 Helion 랙 수준 AI 컴퓨팅 참조 디자인을 공식 출시하여 CPU를 코어로 사용하고 필요에 따라 GPU와 결합할 수 있는 새로운 인프라 솔루션을 제안했습니다.
순수 CPU 구성은 최대 32,768개의 AMD EPYC 프로세서 코어를 통합할 수 있으며 모든 컴퓨팅 리소스를 GPU 가속기에 집중하는 대신 대규모 AI 에이전트를 위한 실행 환경을 제공하도록 설계되었습니다.
AMD가 이번에 출시한 헬리온은 독립 칩도 아니고, 사용자가 직접 구매할 수 있는 완전한 서버 제품도 아닌, 데이터센터용 오픈랙 레퍼런스 디자인이다. AMD는 파트너의 추가 개발 및 채택을 위해 OCP(오픈 컴퓨팅 프로젝트)에 관련 사양을 제공할 계획입니다. 관련 시스템 개발에는 델, 휴렛패커드엔터프라이즈, 레노버, AMD, 폭스콘 등 제조사가 참여하며, 파트너사들이 만든 헬리온 구성은 2026년 11월 출시될 예정이다.
이 솔루션의 핵심 아이디어는 AI 에이전트 워크플로의 다양한 단계에 따라 CPU, GPU, 네트워크 및 기타 컴퓨팅 리소스를 유연하게 구성하는 것입니다. 많은 수의 에이전트를 실행하거나, 코드를 실행하거나, 복잡한 비즈니스 프로세스를 처리해야 하는 대규모 데이터 센터의 경우 고객은 순수 CPU 랙을 선택할 수 있습니다. 동일한 장비 세트에서 에이전트 실행, 모델 추론 및 일반 엔터프라이즈 컴퓨팅 작업을 완료하려는 사용자의 경우 CPU와 GPU의 하이브리드 구성을 선택할 수 있습니다.
이 디자인은 AI 인프라에서 새롭게 떠오르는 새로운 업무 분업을 반영합니다. GPU는 여전히 대규모 모델 훈련과 고강도 추론을 위한 중요한 컴퓨팅 장치이지만 AI 에이전트가 실제로 작업을 수행할 때 프로그램 실행, 데이터베이스 액세스, 외부 도구 호출, 작업 상태 관리, 여러 컴퓨팅 단계 조정을 위해 많은 양의 CPU 리소스가 필요합니다. 에이전트 수가 증가함에 따라 이러한 작업은 데이터 센터에서 새로운 리소스 병목 현상이 될 수 있습니다.
AMD 컴퓨팅 및 엔터프라이즈 AI 부문 수석 부사장 겸 총괄 관리자인 Dan McNamara는 에이전트 AI가 단일 유형의 워크로드가 아니라 개인 에이전트, 엔터프라이즈 애플리케이션, 코드 실행 및 복잡한 워크플로우와 같은 다양한 시나리오를 포괄한다고 말했습니다. 각 작업에는 컴퓨팅 리소스에 대한 요구 사항이 다릅니다. 따라서 데이터 센터에는 특정 워크로드에 따라 성능, 코어 밀도 및 전력 소비를 조정할 수 있는 인프라가 필요합니다.
그는 AMD가 Helion을 사용하여 EPYC 프로세서의 성능, 개방형 소프트웨어 생태계 및 유연한 랙 설계를 결합하여 파트너가 고객 요구에 맞는 시스템을 구축하고 제한된 전력 자원을 보다 효율적으로 사용할 수 있기를 희망한다고 말했습니다.
Helion의 가장 눈길을 끄는 구성은 최대 32,768개의 CPU 코어를 수용할 수 있는 순수 CPU 랙입니다. 이 솔루션은 AMD의 6세대 EPYC 서버 프로세서를 사용하며 핵심 아키텍처는 Zen 6이며 코드명은 Venice입니다. AMD가 발표한 설계에 따르면 전체 랙에는 최대 128개의 256코어 프로세서를 설치할 수 있으며 이론적으로 32,768개의 CPU 코어로 컴퓨팅 클러스터를 구성할 수 있습니다.
여기서 주목해야 할 점은 32768개의 코어가 하나의 프로세서로 통합된 것이 아니라 수많은 서버 노드의 프로세서로 구성된다는 점입니다. Helion은 데이터 센터의 중앙 집중식 배포 및 관리를 위해 여러 컴퓨팅 노드, 네트워크 장비 및 관련 인프라를 전체적으로 통합하는 랙 수준 설계를 채택합니다.
이 디자인은 다수의 독립적 또는 병렬 작업을 실행해야 하는 시나리오에 특히 적합합니다. 예를 들어, 기업에서는 수만 개의 AI 에이전트를 동시에 실행할 수 있으며 각 에이전트에는 코드 실행, 데이터 검색, 기업의 내부 API 호출 또는 사용자가 할당한 복잡한 작업 처리를 위한 독립적인 실행 환경이 필요합니다. 단순히 모델 추론을 수행하는 것과 비교할 때 이러한 유형의 워크플로에는 일반적으로 더 일상적인 프로그램 실행 및 시스템 조정 작업이 포함되므로 충분한 CPU 컴퓨팅 성능이 필요합니다.
기존의 대규모 언어 모델 애플리케이션에서는 사용자가 질문을 입력하면 모델이 답변을 생성하며 컴퓨팅 부하는 주로 모델 추론 단계에 집중됩니다. 그러나 에이전트 애플리케이션에서는 요청이 일련의 작업을 트리거할 수 있습니다. 에이전트는 작업을 분석한 다음 검색 도구나 데이터베이스를 호출한 다음 코드를 실행하고 결과를 확인하고 필요한 경우 모델을 다시 호출하고 마지막으로 답변을 생성합니다.
이 과정에서 GPU는 모델 추론과 같은 고도의 병렬 컴퓨팅 작업을 수행하는 역할을 담당하고, CPU는 수많은 프로그램 실행, 데이터 처리, 작업 예약 및 도구 호출을 담당합니다. 에이전트 수가 계속 증가하면 GPU의 추론 능력이 충분하더라도 CPU 리소스 부족으로 인해 전체 시스템의 처리 속도가 제한될 수 있습니다.
AMD는 Helion 순수 CPU 구성을 통해 이 문제를 해결하고 에이전트를 위한 대규모 및 확장 가능한 실행 환경을 제공하는 동시에 처리를 위해 모델 추론을 독립적인 GPU 인프라에 남겨두기를 희망합니다.
이는 헬리온이 GPU를 CPU로 완전히 교체하려는 것이 아니라, 둘의 책임을 더욱 분리하려 한다는 뜻이다. 초대형 클라우드 서비스 제공업체의 경우 이 설계를 통해 다양한 유형의 워크로드가 자신에게 더 적합한 컴퓨팅 리소스를 사용할 수 있으므로 많은 수의 일반 프로그램 실행 작업이 값비싼 GPU를 차지하는 것을 방지할 수 있습니다.
Helion은 순수 CPU 버전 외에도 CPU와 GPU를 결합한 엔터프라이즈급 구성도 제공합니다. 이 솔루션은 AMD EPYC 프로세서, Instinct MI350P GPU 가속기 및 범용 컴퓨팅 노드를 동일한 랙에 통합할 수 있으므로 기업은 동일한 인프라에서 에이전트를 실행하고, 모델 추론을 수행하고, 데이터베이스, 스토리지 및 기타 일반 컴퓨팅 작업을 처리할 수 있습니다.
AMD가 발표한 설계에 따르면 하이브리드 구성은 최대 16개의 Instinct MI350P GPU 가속기를 탑재할 수 있으며 최대 102Tbps의 네트워크 대역폭을 제공할 수 있습니다. 여기서 네트워크 대역폭은 전체 시스템의 설계 지표이며 각 컴퓨팅 노드가 독립적으로 동일한 대역폭을 얻을 수 있다는 의미는 아닙니다. 실제 통신 성능은 네트워크 토폴로지, 포트 구성, 트래픽 분산 및 시스템 소프트웨어에 따라 달라집니다.
GPU 노드 측면에서 AMD는 8개의 Instinct MI350P 가속기를 사용하여 5U 서버 설계를 제공합니다. GPU 컴퓨팅 노드와 CPU 노드를 결합함으로써 기업은 전체 시스템을 단일 하드웨어 구성에 고정할 필요 없이 특정 작업에 따라 가속기 수를 조정할 수 있습니다.
예를 들어, 대량의 기업 데이터를 처리하고 복잡한 워크플로를 실행해야 하는 시스템은 더 많은 CPU 코어를 할당할 수 있습니다. 높은 처리량의 모델 추론이 필요한 시스템에서는 GPU 리소스가 늘어날 수 있습니다. 데이터베이스 및 스토리지와 같은 보조 워크로드도 전용 범용 컴퓨팅 노드를 사용할 수 있으므로 노드와 에이전트가 수행하는 작업 간의 리소스 경쟁을 줄일 수 있습니다.
AMD는 또한 전력 소비, 코어 밀도 및 단일 코어 성능 측면에서 다양한 요구 사항을 충족하기 위해 Helion의 다양한 위치를 가진 다양한 CPU 컴퓨팅 노드를 설계했습니다.
고밀도 노드는 정격 전력 소비가 400와트인 EPYC 9006 시리즈 프로세서를 사용하며 주로 단위 공간당 CPU 코어 수를 최대화하는 데 사용됩니다. 균형 잡힌 노드는 정격 전력 소비가 600와트인 256코어 프로세서를 사용하여 코어 밀도와 전체 컴퓨팅 성능 간의 균형을 유지합니다.
단일 스레드 성능에 더 중점을 두는 워크로드를 위해 AMD는 96개 코어와 최대 5GHz 주파수를 갖춘 프로세서 구성도 제공합니다. 단순히 코어 수를 추구하는 것보다 이러한 유형의 노드는 단일 스레드 성능과 응답 속도에 민감한 작업에 더 적합합니다.
이 차별화된 디자인은 중요한 현실을 반영합니다. AI 에이전트에는 항상 많은 CPU 코어가 필요한 것은 아닙니다. 일부 작업은 다수의 병렬 작업으로 분할될 수 있으며 이는 코어 밀도가 높은 서버에 적합합니다. 다른 작업은 단일 스레드 성능, 메모리 대기 시간 또는 외부 서비스 응답 속도에 의해 제한되며 단순히 코어 수를 늘리는 것만으로는 해당 성능 향상을 가져올 수 없습니다.
따라서 Helion은 데이터 센터 운영자가 하나의 사양으로 모든 시나리오를 포괄하는 대신 실제 작업 부하에 따라 다양한 프로세서 구성을 선택할 수 있도록 하려고 합니다.
열 방출 측면에서 Helion은 공랭식과 액체 냉각 솔루션을 모두 지원합니다. 수만 개의 CPU 코어와 통합된 고속 네트워크 장비를 갖춘 랙의 경우 전원 공급 장치 및 방열 설계는 무시할 수 없는 엔지니어링 문제입니다. 고밀도 서버는 컴퓨터실 공간 활용도를 향상시킬 수 있지만 단위 공간당 열 부하도 높아집니다.
액체 냉각은 시스템이 프로세서 및 기타 고전력 구성 요소에서 발생하는 열을 보다 효율적으로 제거하는 데 도움이 될 수 있지만 냉각 인프라, 배관 설계 및 유지 관리 프로세스도 지원해야 합니다. 기존 데이터 센터 시설을 계속 사용하려는 일부 고객에게는 공기 냉각이 더 적합할 수 있습니다. AMD는 두 가지 솔루션을 제공합니다. 즉, 파트너는 컴퓨터실 조건, 배포 규모 및 운영 비용을 기준으로 선택할 수 있습니다.
Helion은 하드웨어 구성 외에도 개방형 소프트웨어와 시스템 설계도 강조합니다. AMD는 파트너가 단일 제조업체가 제공하는 폐쇄형 시스템에 전적으로 의존하는 대신 공통 설계 기반으로 개발할 수 있도록 관련 참조 사양을 OCP에 제공할 계획입니다.
OCP는 개방형 데이터 센터 하드웨어 설계를 장려하는 업계 조직입니다. 참가자에는 클라우드 서비스 제공업체, 서버 제조업체 및 기타 인프라 제공업체가 포함됩니다. 개방형 참조 설계는 다양한 제조업체가 공통 하드웨어 사양에 따라 시스템을 통합하고 고객 요구에 따라 다양한 구성을 제공하는 데 도움이 될 수 있습니다.
AMD는 이러한 방식으로 Helion의 생태계를 확장하여 Dell, Hewlett Packard Enterprise, Lenovo, AMD, Foxconn 및 기타 파트너가 자체 제품을 개발할 수 있기를 희망합니다. 고객이 궁극적으로 구매하는 것은 AMD에서 직접 표준화된 랙 전체 세트를 구매하는 것이 아니라 파트너가 생산하고 통합한 서버 시스템이 될 것입니다.
AMD는 Helion 구성이 현재 생태계 파트너와 함께 개발 중이며 2026년 11월 출시 예정이라고 밝혔습니다. 관련 설계는 여전히 시스템 통합, 검증 및 실제 배포를 거쳐야 합니다. 최종적으로 어떤 구성을 제공할 수 있는지, 언제 대규모로 출시될지, 다양한 제조업체의 구체적인 제품 사양은 아직 발표되지 않았습니다.
시장 경쟁 관점에서 Helion은 AMD가 AI 인프라에서 EPYC 프로세서의 역할을 더욱 확장하고 있음을 반영합니다.
지난 몇 년간 AI 데이터센터 구축은 주로 GPU 가속기, 서버 상호접속, 고대역폭 메모리 등 분야에 집중됐다. 대규모 모델 훈련 및 추론에 대한 수요가 빠르게 증가함에 따라 NVIDIA는 GPU 제품과 소프트웨어 생태계를 통해 명확한 시장 이점을 확립했습니다.
그러나 AI 애플리케이션이 점차 기업 비즈니스 프로세스에 도입됨에 따라 데이터 센터에서 처리해야 하는 작업은 더 이상 단순한 모델 계산이 아닙니다. 에이전트는 많은 수의 프로그램을 실행하고, 데이터베이스에 액세스하고, 문서를 처리하고, 코드를 실행하고, 여러 모델을 동시에 조정해야 할 수도 있습니다. 이러한 작업은 CPU 리소스에 대한 새로운 수요를 발생시킵니다.
AMD는 하이코어 EPYC 프로세서의 도움으로 이러한 인프라 변화에서 더 많은 시장 기회를 얻기를 희망합니다. Helion은 CPU 코어 밀도, GPU 가속 및 랙 규모 네트워크 설계를 결합하여 다양한 에이전트 워크로드에 적응할 수 있는 개방형 플랫폼을 제공하려고 합니다.
물론 32,768개의 CPU 코어만으로는 시스템의 실제 성능을 직접적으로 설명할 수 없습니다. 최종 성능은 프로세서 마이크로아키텍처, 메모리 대역폭, 캐시 용량, 노드 간 통신, 소프트웨어 스케줄링 효율성 및 워크로드의 병렬 처리 정도에 따라 달라집니다. 대규모 모델 추론에 크게 의존하는 작업의 경우 GPU는 여전히 시스템 처리량을 결정하는 데 중요한 요소일 수 있습니다.
마찬가지로 CPU 코어 수를 늘린다고 해서 에이전트 작업이 비례적으로 가속화되는 것은 아닙니다. 많은 수의 작업이 데이터베이스 응답을 기다리거나 외부 네트워크에 액세스하거나 다른 서비스를 호출해야 하는 경우 시스템 병목 현상이 스토리지, 네트워크 또는 소프트웨어 수준으로 이동할 수 있습니다. 따라서 Helion의 가치는 실제 애플리케이션에서의 성능, 에너지 효율성 및 총 소유 비용으로 측정되어야 합니다.
전반적으로 AMD Helion은 AI 인프라 설계 아이디어의 확장을 나타냅니다. AMD는 더 이상 인공 지능에서 GPU 가속기의 역할을 강조할 뿐만 아니라, 대신 작업 실행, 모델 추론, 데이터 처리에 이르기까지 에이전트를 위한 통합 컴퓨팅 솔루션을 제공하려고 시도합니다.
AI 에이전트가 점차 소프트웨어 개발, 기업 자동화, 복잡한 워크플로 등의 작업을 수행함에 따라 CPU와 GPU 간의 리소스 분할이 더욱 중요해질 수 있습니다. 기업이 미래에 많은 수의 에이전트에 대해 독립적인 실행 환경을 제공해야 한다면 고밀도 CPU 서버는 AI 데이터 센터의 중요한 부분이 될 수 있는 기회를 갖게 됩니다.
그러나 Helion은 완전히 배포된 성숙한 제품이라기보다는 여전히 개방형 참조 디자인입니다. 실제 애플리케이션에서 성능 및 비용 이점을 얻을 수 있는지 여부는 궁극적으로 파트너의 시스템 구현, 소프트웨어 생태계의 성숙도, 에이전트 컴퓨팅 인프라에 대한 기업 고객의 실제 요구 사항에 따라 달라집니다.
댓글