요약:
글로벌 기술 산업이 인공지능 인프라 구축을 지속적으로 늘리면서 새로운 병목 현상이 점차 나타나고 있습니다. 문제는 더 이상 고급 칩을 구입할 수 없다는 것이 아니라, 고성능 GPU를 대량 확보하더라도 데이터 센터가 이를 가동할 전력이 충분하지 않을 수 있다는 것입니다.
보고서에 따르면 Amazon의 클라우드 컴퓨팅 부서인 AWS는 전례 없는 속도로 Nvidia의 최신 AI 서버 시스템을 구매하고 있습니다. 내부 계획에 따르면 AWS는 한때 약 50억 달러 상당의 엔비디아 GB300 서버 랙을 공급받을 것으로 예상됐고, 앞으로도 월 약 30억 달러 규모로 관련 장비를 계속 구매할 계획이다. 다만, 일부 장비는 배송 후 바로 사용하지 않고 창고나 이송시설에 임시보관하고 있습니다.
이런 현상이 나타나는 이유는 수요가 부족하기 때문이 아니라, 일부 데이터센터에는 이미 설치 공간이 있음에도 불구하고 이러한 고전력 AI 시스템을 구동하기에는 충분한 전원 공급 용량이 부족하기 때문입니다. 업계에서는 이런 종류의 장비를 구입했지만 일시적으로 작동할 수 없는 상태를 '다크 GPU'라고 부른다. 이 개념은 전력이나 인프라 제약으로 인해 유휴 상태인 하드웨어를 의미할 수도 있고, 배포되었지만 활용도가 낮은 AI 컴퓨팅 리소스를 설명하는 데 사용될 수도 있습니다.
지난 몇 년 동안 인공지능 산업이 직면한 주요 과제는 고급 칩의 공급 부족이었습니다. 주요 기술 회사들은 Nvidia의 GPU 할당량을 놓고 경쟁하고 있으며 칩 공급이 부족한 경우가 많습니다. 그러나 기업이 공급망 리소스를 미리 고정시키면서 새로운 제약이 전력망과 에너지 인프라로 이동하기 시작합니다. 대규모 데이터 센터 운영자의 경우 안정적이고 적절한 전원 공급 장치에 대한 액세스가 칩에 대한 액세스만큼 중요해지고 있습니다.
향후 칩 경쟁에서 뒤처지지 않기 위해 Amazon은 조달 모델을 조정했습니다. 이전 절차에 따르면 기업은 일반적으로 운영 준비가 완료된 데이터 센터에 도착한 후 서버 랙을 공식적으로 수령하고 비용을 지불합니다. 새로운 "랙 조기 수령" 메커니즘에 따라 Amazon은 장비가 최종 운영 위치에 아직 설치되지 않은 경우에도 수령 및 결제 프로세스를 더 일찍 완료합니다.
이 접근 방식은 부족한 하드웨어 리소스를 미리 확보하는 데 도움이 되지만, 이는 기업이 많은 돈을 미리 투자해야 함을 의미하며, 이러한 장치는 공식적으로 온라인 상태가 되어 고객에게 클라우드 컴퓨팅 서비스를 제공하기 전에는 수익을 창출할 수 없습니다. 결과적으로 막대한 자본 지출과 수익 지연 사이의 긴장이 심화되고 있습니다.
Amazon은 올해 AI 및 클라우드 컴퓨팅 인프라에 약 2,200억 달러의 자본 지출을 투자할 계획입니다. 이는 많은 기술 업계의 규모를 초과하는 규모입니다. 동시에, 회사의 잉여현금흐름은 상당한 압박을 받아 최근 몇 년간 처음으로 마이너스로 전환했습니다. AWS의 경우, 일부 장비가 일시적으로 작동하지 않더라도 주요 하드웨어 자원을 사전에 확보하는 것이 전략적 선택으로 간주됩니다.
분석가들은 현재 AI 산업의 발전 초점이 바뀌고 있다고 지적했다. 2년 전 업계에서는 누가 더 많은 NVIDIA GPU를 얻을 수 있는지에 집중했습니다. 이제 실제로 부족한 자원은 칩 자체가 아니라 이러한 칩의 작동을 지원하는 데 필요한 에너지 및 전력 네트워크일 수 있다는 사실을 점점 더 많은 기업이 깨닫고 있습니다.
AI 모델의 규모가 지속적으로 확장되고 컴퓨팅 성능에 대한 수요가 지속적으로 증가함에 따라 전원 공급, 전송 용량, 데이터 센터 건설 주기가 점차 산업 발전에 영향을 미치는 주요 요소가 되고 있습니다. 일시적으로 유휴 상태인 수많은 GPU는 측면의 현실도 반영합니다. 인공 지능 경쟁은 칩을 위한 싸움일 뿐만 아니라 에너지와 인프라를 위한 싸움이기도 합니다.
댓글