요약:
마이크로소프트는 3세대 자체 개발 인공지능 칩 마이아 300(Maia 300)을 공식 발표했으며, 이를 2027년부터 프로덕션 환경에 배치해 코파일럿(Copilot) 등 제품과 서비스 이면의 AI 추론 작업을 지원할 계획이다. 마이크로소프트는 현재 최고의 GPU 시스템과 비교했을 때 Maia 300이 전력 메가와트당 40% 더 많은 토큰을 처리할 수 있을 것으로 예상한다고 밝혔습니다. 96개의 가속기로 구성된 전체 랙 구성에서 랙 수준 토큰 처리량은 이전 세대 Maia 200의 최대 7배입니다.
이번 릴리스는 자체 개발한 AI 칩에 대한 Microsoft의 추가 투자를 의미합니다. 인공 지능 서비스의 사용이 계속 증가함에 따라 Microsoft는 자체 설계 가속기를 통해 운영 비용을 절감하고 에너지 효율성을 향상시키며 Nvidia 및 AMD와 같은 공급업체의 GPU에 대한 의존도를 낮추기를 희망합니다.
마이크로소프트 클라우드 컴퓨팅 사업부 부사장 스콧 거스리(Scott Guthrie)는 마이크로소프트가 2027년부터 애저 마이아(Azure Maia) 시리즈 칩의 배치 규모를 수 기가와트 수준으로 확대해 마이크로소프트 제품과 서비스의 주요 AI 추론 시스템으로 만들 계획이라고 밝혔다.
이 목표는 Microsoft가 자체 개발 칩을 기존 인프라의 일부에서 자체 AI 서비스를 지원하는 핵심 컴퓨팅 플랫폼으로 점진적으로 업그레이드하기를 희망한다는 것을 의미합니다. 그러나 이것이 Microsoft가 Nvidia 또는 AMD로부터 GPU 구매를 완전히 중단한다는 의미는 아닙니다. Microsoft는 다양한 컴퓨팅 기능이 필요한 교육 및 추론 작업을 위해 여러 하드웨어 플랫폼을 계속 사용할 가능성이 높습니다.
마이아 300은 마이크로소프트 마이아 시리즈의 3세대 제품으로, 올해 1월 마이아 200 발표 이후 출시된 차세대 칩이기도 하다. Maia 200은 현재 Microsoft Copilot, GitHub Copilot, Microsoft Foundry 및 Microsoft가 자체 개발한 인공 지능 모델을 포함한 여러 Microsoft 프로덕션 환경에서 AI 워크로드에 사용됩니다.
Guthrie는 실제 AI 서비스의 운영 지표로 판단할 때 Maia 200은 이미 Microsoft 내에서 가장 성능이 뛰어난 AI 인프라 중 하나라고 말했습니다. 차세대 Maia 300은 끊임없이 변화하는 AI 워크로드, 특히 긴 상황 추론, 지연 시간에 매우 민감한 실시간 대화, 여러 단계를 지속적으로 실행하는 AI 에이전트 작업을 처리해야 하는 워크로드를 위해 특별히 설계되었습니다.
이러한 애플리케이션은 기존 AI 추론과 하드웨어에 대한 요구 사항이 다릅니다.
대규모 언어 모델이 점차 프로그래밍 보조, 기업 자동화, 복잡한 작업 실행에 사용되면서 AI 시스템이 처리해야 하는 컨텍스트가 점점 길어지고 단일 작업에 점점 더 많은 모델 호출과 도구 작업이 포함됩니다. 클라우드 서비스 제공업체의 경우 모델 자체의 성능 외에도 응답 지연 시간, 동시 요청 수, 메모리 용량, 각 추론의 실제 비용도 고려해야 합니다.
따라서 Maia 300의 설계 초점은 최고 컴퓨팅 성능을 높이는 것뿐만 아니라 지속적으로 실행되는 실제 비즈니스 환경에서 전반적인 효율성을 향상시키는 것입니다. Microsoft는 차세대 추론 모델 및 AI 에이전트에 의해 생성된 컴퓨팅 부하를 처리하는 데 더 적합하도록 칩 아키텍처를 특별히 최적화하기를 희망합니다.
칩 제조 측면에서 Maia 300은 TSMC의 N2P 고급 프로세스를 채택하고 코어 기반 설계 아키텍처를 도입합니다. 하나의 대형 칩에 다양한 기능을 통합하는 기존 설계와 비교하여 코어 칩 아키텍처는 컴퓨팅, 메모리 컨트롤러, 입력 및 출력과 같은 기능을 서로 다른 모듈로 나누고 각각의 특성에 따라 설계할 수 있습니다.
Microsoft Azure 하드웨어 및 인프라 팀은 이 설계를 통해 칩의 더 많은 실리콘 영역을 컴퓨팅 성능에 사용하는 동시에 다양한 기능 모듈이 자체 요구 사항에 더 적합한 기술을 채택할 수 있다고 밝혔습니다.
이 아이디어는 실용적인 의미를 갖습니다. AI 가속기의 경우 컴퓨팅 장치가 중요하지만 컴퓨팅 장치, 메모리 및 외부 장치 간에 데이터가 전송되는 방식도 전체 성능에 영향을 미칩니다. 컴퓨팅 장치가 데이터가 도착할 때까지 기다려야 하는 경우 이론적 컴퓨팅 성능이 높다고 해도 성능을 최대한 발휘할 수 없습니다.
Microsoft는 컴퓨팅, 메모리 제어, 입력 및 출력 기능을 개별적으로 최적화함으로써 칩의 전반적인 리소스 활용 효율성을 개선하고 성능, 전력 소비 및 제조 비용 간의 균형을 더 잘 이루기를 희망합니다.
고급 프로세스를 사용하면 트랜지스터 밀도와 에너지 효율성도 향상되지만, 칩의 최종 성능은 여전히 마이크로아키텍처, 메모리 하위 시스템, 상호 연결 설계, 소프트웨어 최적화 등 여러 요소에 따라 달라집니다. 현재 Maia 300이 공개하는 성능 데이터는 주로 Microsoft 자체 소개에서 나온 것이며, 실제 효과는 여전히 다양한 모델, 워크로드 및 배포 조건을 기반으로 평가되어야 합니다.
AI 추론 분야에서 토큰 처리량은 시스템 효율성을 측정하는 중요한 지표 중 하나입니다. 토큰은 텍스트를 처리할 때 대규모 언어 모델에서 사용하는 기본 데이터 단위로, 일반적으로 단어, 단어 조각 또는 기타 텍스트 단위에 해당합니다. 시스템이 단위 시간당 처리할 수 있는 토큰 수는 동시에 서비스를 제공하는 사용자 수와 작업을 완료하는 데 필요한 컴퓨팅 리소스에 직접적인 영향을 미칩니다.
Microsoft는 Maia 300이 주요 GPU 시스템보다 메가와트당 40% 더 많은 토큰을 처리할 것으로 기대합니다. 이는 동일한 전력 예산 하에서 Microsoft가 동일한 서비스 기능을 제공하면서 더 많은 AI 요청을 처리하거나 전력 소비를 줄일 것으로 예상된다는 것을 의미합니다.
대규모 데이터 센터를 운영하는 클라우드 서비스 제공업체의 경우 이러한 효율성 향상은 상당한 경제적 가치를 가져올 수 있습니다. AI 데이터센터는 고가의 가속기를 구입해야 할 뿐만 아니라 전원 공급, 냉각, 네트워크 장비, 인프라 구축 비용도 부담해야 한다. 모델 사용량이 지속적으로 증가함에 따라 전원 공급 및 데이터 센터 용량은 AI 서비스 확장을 제한하는 중요한 요소가 되고 있습니다.
그러나 메가와트당 토큰 효율성이 AI 칩을 측정하는 유일한 지표는 아닙니다. 다양한 모델의 매개변수 규모, 컨텍스트 길이, 정확도 설정 및 추론 방법이 모두 테스트 결과에 영향을 미칩니다. Maia 300과 NVIDIA GPU 등의 제품을 종합적으로 비교하려면 지연 시간, 모델 호환성, 소프트웨어 생태계, 배포 비용, 실제 비즈니스에서의 안정성도 고려해야 합니다.
Microsoft는 또한 더 매력적인 지표를 발표했습니다. 96개의 가속기로 구성된 전체 랙 구성에서 Maia 300의 랙 수준 토큰 처리량은 Maia 200의 최대 7배에 달할 수 있습니다.
이 그림은 Microsoft가 단일 칩의 효율성을 향상시킬 뿐만 아니라 전체 랙의 컴퓨팅 성능을 최적화하기를 원한다는 것을 보여줍니다. 그러나 이는 특정 구성에서의 랙 수준 처리량을 설명합니다. 이는 Maia 300이 모든 작업에서 Maia 200보다 7배 빠르다는 의미는 아니며, 각 칩의 성능이 동일한 비율로 향상되었다고 직접적으로 추론할 수도 없습니다.
클라우드 컴퓨팅 플랫폼의 경우 랙 수준 성능이 특히 중요합니다. 실제 배포는 일반적으로 고속 상호 연결을 통해 데이터를 교환하고 모델 요청을 공동으로 처리하는 칩을 갖춘 다수의 가속기로 구성됩니다. 단일 칩이 강력하더라도 상호 연결 대역폭, 메모리 용량 또는 스케줄링 효율성이 부족하면 전체 시스템이 여전히 제한될 수 있습니다.
따라서 마이크로소프트는 단순히 프로세서의 이론적인 컴퓨팅 성능을 추구하는 것이 아니라 칩 설계, 랙 구성, 소프트웨어 및 모델 운영 환경에 이르기까지 전반적인 최적화를 수행하려고 노력하고 있습니다.
Microsoft AI 최고 책임자인 Mustafa Suleyman은 회사가 칩 설계를 포함하여 전체 기술 스택의 맨 아래부터 투자를 시작해야 한다고 말했습니다. 그는 AI 서비스가 이렇게 큰 규모에 도달하면 마이크로소프트가 자체 플랫폼을 갖고 칩과 자체 개발 모델을 공동 설계하고 최적화할 수 있도록 해야 한다고 믿습니다.
그는 특히 마이크로소프트가 자체 개발한 AI 모델을 마이아 칩에서 실행할 수 있도록 하는 것이 마이크로소프트 AI팀의 중요한 과제임을 강조했다.
이 성명은 Microsoft가 자체 개발한 칩 개발의 또 다른 목표, 즉 하드웨어, 모델 및 클라우드 서비스를 결합하여 보다 긴밀한 협력 관계를 형성하는 것을 보여줍니다.
기존 클라우드 서비스 제공업체는 범용 GPU를 구매하여 AI 모델을 배포할 수 있지만, 자체 가속기를 설계할 수 있다면 자체 모델의 컴퓨팅 특성, 메모리 요구 사항, 추론 프로세스를 최적화할 수 있습니다. 결과적으로 모델 팀은 칩 아키텍처에 따라 모델 구조와 작동 방법을 조정할 수 있어 전반적인 효율성이 향상됩니다.
Google과 Amazon은 수년 동안 자체 개발한 AI 칩에 투자해 왔습니다. Google은 일련의 TPU 가속기를 보유하고 있으며 Amazon은 자체 클라우드 컴퓨팅 및 인공 지능 서비스를 지원하기 위해 Trainium과 같은 칩을 개발했습니다. Microsoft는 이러한 경쟁 환경에 맞서 인프라 기능을 강화하기 위해 Maia 시리즈를 출시했습니다.
Microsoft의 경우 자체 개발 칩의 전략적 가치는 조달 비용을 절감할 뿐만 아니라 공급망 자율성을 개선하고 데이터 센터 에너지 활용도를 최적화하며 AI 모델 및 서비스가 빠르게 반복될 때 하드웨어 설계 제어 능력을 향상시키는 것입니다.
현재 Microsoft는 여전히 NVIDIA와 긴밀한 협력을 유지하고 있으며 NVIDIA GPU는 AI 훈련 및 추론 분야에서 계속 중요한 역할을 하고 있습니다. 마이크로소프트의 마이아 시리즈 동시 개발은 양사 관계가 근본적으로 바뀔 것이라는 의미는 아니지만, 대규모 클라우드 서비스 제공업체들이 자체 개발한 칩과 멀티벤더 전략을 통해 단일 하드웨어 플랫폼에 대한 의존도를 줄이고 있다는 점을 반영한다.
Microsoft는 또한 자체 개발한 칩을 사용하여 AI 모델의 경쟁력을 향상시키기를 희망하고 있습니다. Suleiman은 Maia 플랫폼이 Microsoft AI 기술 시스템의 중요한 부분이며 회사가 자체 모델을 더욱 개발하고 Google DeepMind, OpenAI 및 Anthropic과 같은 경쟁업체에 대한 경쟁력을 향상시키는 데 도움이 될 수 있다고 말했습니다.
AI 모델이 단순한 텍스트 생성 도구에서 도구를 호출하고 복잡한 작업을 수행할 수 있는 에이전트 시스템으로 점차 발전함에 따라 하드웨어 인프라의 중요성도 높아지고 있습니다. 긴 상황 추론과 다단계 작업 실행에는 종종 더 긴 계산 프로세스와 많은 수의 모델 호출이 포함됩니다. 성능, 대기 시간 및 비용 간의 균형을 개선해야만 기업이 지속 가능한 방식으로 서비스를 확장할 수 있습니다.
마이아 300은 이러한 트렌드에 맞춰 디자인되었습니다. Microsoft는 더 높은 처리량과 에너지 효율성을 통해 더 많은 AI 작업을 더 저렴한 비용으로 실행하는 동시에 Copilot, GitHub Copilot 및 향후 AI 에이전트 서비스에 대한 컴퓨팅 지원을 제공하기를 희망합니다.
그러나 Maia 300이 진정으로 Microsoft AI 인프라의 주력이 되려면 칩 제조, 시스템 통합, 대규모 배포에 이르는 과정을 거쳐야 합니다. 마이크로소프트는 2027년부터 프로덕션에 투입하고 점진적으로 배포 규모를 확대할 계획이다. 그때쯤이면 칩의 실제 생산 능력, 시스템 안정성, 소프트웨어 적응, 기존 데이터 센터와의 통합 등이 모두 최종 애플리케이션 범위에 영향을 미칠 것입니다.
전반적으로 Maia 300의 출시는 Microsoft가 AI 칩을 보조 인프라 프로젝트에서 자체 인공 지능 전략의 핵심 구성 요소로 승격시키고 있음을 보여줍니다. 마이크로소프트는 추론 워크로드를 위한 TSMC의 고급 프로세스, 핵심 세분화 설계, 시스템 수준 최적화를 사용하여 전력 단위당 제공할 수 있는 AI 서비스 기능을 향상하고 외부 GPU 공급업체에 대한 의존도를 낮추기를 희망하고 있습니다.
마이크로소프트가 계획대로 2027년 마이아 300의 프로덕션 배포를 확대하고 실제 비즈니스에서 기대되는 효율성 향상을 달성할 수 있다면 이 칩 시리즈는 AI 컴퓨팅 비용을 제어하고 서비스 규모를 확대하는 데 중요한 도구가 될 것으로 예상된다. 그러나 장기적인 경쟁력은 궁극적으로 실제 운영 성과와 Microsoft가 하드웨어, 모델 및 소프트웨어 간에 지속적이고 효과적인 협업 최적화 시스템을 구축할 수 있는지 여부에 달려 있습니다.
댓글