핵심 내용
Microsoft는 10월 12일 자체 AI 가속기 Azure Maia 300을 발표했다. 회사는 2027년부터 멀티 기가와트 규모로 Maia 시스템을 확대하며 자체 AI 제품의 주요 추론 인프라로 활용할 계획이다. Maia 200은 이미 실제 서비스에 투입됐지만 Maia 300의 대규모 생산 배포는 아직 시작되지 않았다. Microsoft는 Maia 300의 효율이 주요 GPU 기반 시스템보다 메가와트당 토큰 생산량 기준 약 40% 높을 것이라고 주장하고, 96개 가속기 랙 단위에서는 Maia 200보다 최대 7배 높은 토큰 처리량을 제시했다. 비교 대상별 조건이 전부 공개된 독립 실측은 아니다.
Maia 300의 주요 연산 칩렛은 TSMC N2P 공정으로 제작한다. 칩 하나는 HBM4 스택 8개, 피크 18TB/s 메모리 대역폭, 설계 TDP 950W를 사용한다. 랙 구성은 96개 가속기, 전력 167kW, 총 HBM 27.6TB, 합산 메모리 대역폭 1.7PB/s다. 긴 문맥 추론, 대화형 AI 및 여러 단계의 Agent 작업을 고려해 메모리·네트워크·전력과 연산을 함께 최적화했다. 기존 Maia 200은 Copilot 등 실제 Microsoft 업무를 서비스하고 있다. The Official Microsoft Blog
배경
Agent와 장문 추론은 GPU 계산량만이 아니라 KV 캐시, 메모리 이동, 네트워크 통신이 비용을 결정한다. 대형 클라우드 기업은 수년간 반복되는 대규모 업무에 맞춰 특정 하드웨어와 소프트웨어를 함께 설계하면 외부 범용 GPU보다 경제적인 구성을 만들 수 있다고 본다.
산업·시장에 미치는 영향
Google TPU·Amazon Trainium과 Microsoft Maia가 경쟁하면서 대형 클라우드의 자체 실리콘 비중이 커질 수 있다. NVIDIA GPU에 대한 의존을 일부 낮출 가능성은 있지만, 특정 칩의 우월성은 모델·배치 크기·프로그램 호환성에 따라 달라진다. 2027년 목표와 2026년 실제 공급능력은 별도로 봐야 한다.
실무에서 바로 활용할 수 있는 시사점
AI 클라우드 비용평가에서는 FLOPS보다 완료작업당 비용, 토큰/kWh, p95 지연시간, 메모리 사용량, 호환되는 모델·커널을 비교하는 것이 적절하다. Maia 300을 도입 후보로 평가하더라도 실제 서비스 지역·가격·모델 지원이 확인된 뒤 이전 계획을 수립해야 한다.
출처
Microsoft 공식 블로그 — Azure Maia 멀티 기가와트 배포 계획
Reuters — Microsoft plans huge deployment of its own AI chips