지난 몇 달 동안 인공지능(AI) 산업에 힘입어 데이터센터 건설에 새로운 물결이 일었습니다. 많은 기술 대기업들이 발표를 했습니다. 파트너십 구축 외에도 새로운 AI 인프라를 구축하고 새로운 컴퓨팅 성능을 배포하고 있으며 투자 금액은 수천억 달러에 이릅니다.
TomsHardware에 따르면 IBM CEO Arvind Krishna는 최근 언론과의 인터뷰를 수락하고 현재 AGI를 추구하는 데 사용되는 자본 지출이 비용을 회수할 수 있는지 의문을 제기했습니다. 오늘날의 데이터센터 건설 비용에 따르면, 컴퓨팅 파워 1기가와트당 건설 비용은 약 80억 달러에 달하며, 전 세계적으로 투입되는 관련 컴퓨팅 파워는 현재 100기가와트에 가까워 투자 금액이 무려 8조 달러에 이르렀습니다. 이 정도 규모의 투자에는 이자 지불을 충당하기 위해 약 8,000억 달러의 수익이 필요하며 이는 거의 불가능한 목표입니다.
Arvind Krishna의 주장은 장기적인 예측에 의존하기보다는 현재 하드웨어, 감가상각 및 에너지 가정과 직접적으로 관련되어 있습니다. Arvind Krishna는 하드웨어의 가치 하락이 투자자들이 컴퓨팅에서 가장 과소평가하는 부분이라고 지적했습니다. 일반적으로 이러한 데이터 센터의 일반적인 교체 주기는 5년입니다. 이때 대부분의 하드웨어를 교체해야 하며, 이는 장기적인 자본 지출 요구에 복합적인 영향을 미칩니다.
최근 아르빈드 크리슈나(Arvind Krishna)뿐만 아니라 투자 기관들도 비슷한 우려를 제기했다. 성능 향상과 AI 모델 규모의 확대로 인해 구형 GPU의 퇴출이 가속화되면 기업들은 서비스 수명을 계속 연장할 수 있을 것으로 추정된다. 하드웨어 교체 속도는 확장이 아니라 교체를 해야 한다는 것을 의미하며, 이는 매우 높은 비용 지원이 필요합니다.
Arvind Krishna는 현재 형태의 생성 AI 도구가 결국 기업 생산성을 크게 향상시킬 것으로 예상되지만 문제는 차세대 AI 인프라의 물리적 규모와 운영 지원 경제성 사이의 관계에 있다고 말했습니다. 기가와트 규모의 데이터 센터 구축에 막대한 투자를 하고 갱신 주기를 단축하기로 선택한 기업은 수익이 전례 없는 자본 지출을 상쇄하기에 충분하다는 것을 입증해야 합니다.