핵심 내용
AI 클라우드 기업 Modal은 10월 19일 장시간 실행되는 AI Agent 업무를 위해 NVIDIA Vera CPU를 도입할 계획이라고 밝혔다. Reuters에 따르면 Modal은 이전까지 Intel·AMD CPU를 사용했으며, 초기 비교시험에서 Vera 기반 시스템의 완료 작업량이 기존 장비보다 약 두 배 높게 측정됐다고 설명했다. 비교 대상은 당시 시장에서 판매 중인 경쟁 제품이며 모든 CPU 세대와 모든 워크로드에서 두 배 성능이라는 뜻은 아니다.
Modal은 Intel·AMD를 중단하지 않고 워크로드에 따라 칩을 선택하는 혼합 인프라 전략을 유지할 방침이다. Reuters는 Modal이 최근 7억5,000만 달러를 조달해 기업가치 157억5,000만 달러로 평가됐다고 전했다. 이는 Modal의 발표·보도 수치로, 해당 조달액이 Vera 칩 구매에 전액 사용된다는 뜻은 아니다.
배경
AI Agent는 추론 GPU뿐 아니라 코드 실행, 브라우저 조작, 컨테이너 구동, 파일 처리에 많은 CPU 자원을 사용한다. NVIDIA는 GPU 중심 시스템 업체에서 데이터센터 CPU와 네트워크를 함께 제공하는 방향으로 사업을 확장하고 있다.
산업·시장에 미치는 영향
Agent 인프라 확대로 CPU 코어 효율, 메모리 대역폭, 전력당 완료 작업량이 새 경쟁지표로 부상한다. 고객은 기존 CPU 공급업체를 일괄 교체하기보다 실제 작업별로 혼합 장비를 활용할 가능성이 있다.
실무에서 바로 활용할 수 있는 시사점
Agent 호스팅 비용을 분석할 때 모델 토큰 비용과 별도로 CPU 실행시간, sandbox 시작 지연, 동시 컨테이너 수, 네트워크 대기시간을 계측해야 한다. 신형 CPU 도입 전에는 동일한 작업 시나리오와 구체적인 서버 가격으로 검증하는 편이 적절하다.
출처
Reuters — Nvidia wins fast-growing AI startup Modal for new central processors