베이징 시간으로 11월 12일, 파이낸셜 타임즈(Financial Times)는 아마존이 수십억 달러의 반도체 투자로부터 수익을 얻고 시장 선두주자인 엔비디아에 대한 의존도를 줄이기를 희망하면서 최신 AI 칩 출시를 준비하고 있다고 보도했습니다. 현재 Amazon은 2024년에 약 750억 달러에 달하는 전체 지출의 대부분을 기술 인프라에 지출할 계획입니다.
Amazon AI 칩 프로젝트가 시작되었습니다
Amazon의 클라우드 컴퓨팅 부문 경영진은 수십 개의 데이터 센터의 효율성을 향상하고 궁극적으로 자신과 Amazon Web Services 고객의 비용을 절감하기 위해 칩을 구매하고 맞춤화하는 데 막대한 비용을 지출하고 있습니다. 이 프로젝트는 2015년 Amazon이 3억 5천만 달러에 인수한 칩 스타트업 Annapurna Labs가 주도하고 있습니다. 안나푸르나의 최신 성과는 다음 달 아마존의 '트레인늄2' 출시 때 선보일 것으로 예상된다.
Trainium2는 Amazon의 AI 칩 제품군(가장 큰 모델 교육)의 일부입니다. Trainium2는 이미 Anthropic, Deutsche Telekom 및 기타 회사에서 테스트 중입니다. Amazon과 Annapurna는 Nvidia와 경쟁하는 것을 목표로 하고 있습니다. Amazon의 컴퓨팅 및 네트워크 서비스 담당 부사장인 Dave Brown은 Nvidia를 운영하기에 가장 좋은 곳이 되기를 희망한다고 말했습니다. 하지만 그동안 Nvidia를 대체할 칩을 개발하는 것이 유리할 것입니다.
아마존, AI 인프라 구축 지원에 막대한 투자
Tranium 칩을 들고 있는 사업 개발 수석 이사 Gadi Hutt
브라운은 "기계 학습과 인공 지능의 경우 클라우드 컴퓨팅의 비용이 훨씬 더 많이 드는 경향이 있습니다"라고 말했습니다. "1,000달러의 40%를 절약하면 선택에 실제로 영향을 미치지 않습니다. 하지만 수천만 달러의 40%를 절약하면 영향을 받습니다."
Amazon은 현재 2024년 자본 지출이 약 750억 달러에 이를 것으로 예상하고 있으며, 이 중 대부분은 기술 인프라에 지출될 것입니다. 회사의 최근 수익 보고에서 Andy Jassy CEO는 회사가 2025년에 더 많은 돈을 투자할 것으로 예상한다고 말했습니다. Microsoft와 Google을 포함한 최대 클라우드 제공업체는 AI에 막대한 투자를 하고 있으며 그 모멘텀은 줄어들 기미가 거의 보이지 않습니다. Amazon, Microsoft, Meta는 모두 Nvidia의 큰 고객이지만 AI 물결을 공유하기 위해 자체 데이터 센터 칩을 설계하고 있습니다. FuturumGroup의 Newman은 "OpenAI에서 Apple에 이르기까지 모두가 자체 칩을 구축하려고 합니다."라고 FuturumGroup의 Newman은 말했습니다. 그들은 "더 낮은 생산 비용, 더 높은 마진, 더 큰 유용성 및 더 많은 제어"를 추구합니다.
Amazon의 AI 인프라를 사용하려면 실리콘부터 설치된 서버 랙까지 모든 것을 처음부터 구축해야 하며, 모두 Amazon의 독점 소프트웨어와 아키텍처의 지원을 받습니다. Annapurna의 엔지니어링 이사인 Sinno는 "우리 규모로는 이 작업을 수행하기 어렵습니다. 그렇게 할 수 있는 회사는 많지 않습니다."라고 말했습니다.
아마존의 AI 칩 청사진
Annapurna는 Amazon용 Nitro라는 보안 칩 구축을 시작한 후 Intel 또는 Amazon에서 제공하는 기존 서버 장치에 대한 저전력 대안을 제공하는 여러 세대의 Arm 기반 Graviton 중앙 프로세서를 개발했습니다. TechInsights 분석가 GDan Hutcheson은 "Amazon의 가장 큰 장점은 칩이 에너지를 덜 소비하고 데이터 센터의 에너지 효율성이 높아져 비용이 절감된다는 점입니다."라고 말했습니다. 그는 Nvidia의 그래픽 처리 장치를 강력한 범용 도구(스테이션 왜건이나 스테이션 왜건과 같은 자동차의 경우)에 비유한다면 Amazon은 소형 자동차나 해치백처럼 특정 작업과 서비스에 맞게 칩을 최적화할 수 있다고 말했습니다.
Amazon 칩과 Nvidia 칩의 원시 성능에 대해 Amazon은 직접적인 비교를 피하고 자사 칩을 독립적인 성능 벤치마크에 제출하지 않습니다.
Chip Consulting의 칩 컨설턴트인 Patrick Moorhead는 "사람들은 Nvidia가 가져오는 모든 혁신에 감사하지만 누구도 Nvidia가 시장 점유율의 90%를 차지하는 것을 보고 싶어하지 않습니다"라고 말했습니다. "이건 오래 가지 못할 거야."