핵심 내용

Meta는 10월 15일 Muse Spark Open을 코딩 및 다단계 Agent 작업용 오픈웨이트 모델로 공개했다. Reuters 보도와 Apple의 공식 기술문서에 따르면 모델은 총 8,160억 개 파라미터를 가지는 전문가 혼합(MoE) 구조이며 토큰 처리 시 활성화되는 파라미터는 420억 개다. 최대 컨텍스트 길이는 100만 토큰으로 소개됐다. 기존에 서비스로 제공되던 Muse Spark 계열에서 모델 가중치를 직접 내려받아 운영할 수 있는 선택지가 생겼다는 점이 이번 변화다.

Apple은 같은 날 MLX의 분산 추론 기능을 설명하면서 M5 Ultra Mac Studio 여러 대에 모델을 나누어 올리는 실험을 공개했다. Apple의 측정에서 Mac Studio 4대를 연결했을 때 초당 36토큰 이상의 생성속도를 보였다. 모델을 NVFP4로 양자화해도 가중치에만 약 493GB가 필요하고 추론 중간 메모리까지 고려하면 단일 512GB Mac Studio에 완전히 담기 어렵다는 설명이다. 이 수치는 특정 기종·입력 길이·병렬화 방식에서의 회사 측정치다.

배경

모델을 내려받을 수 있는 오픈웨이트는 자체 서버 운영, 내부 데이터 보호, 추론 엔진 최적화에 유리할 수 있다. 반면 가중치 공개가 모든 이용·재배포·상업적 목적을 제한 없이 허용한다는 의미는 아니다. 모델은 별도의 Muse 라이선스를 사용하므로 구체적인 배포·상업 조건 확인이 필요하다.

산업·시장에 미치는 영향

대형 프런티어급 모델의 경쟁이 클라우드 API뿐 아니라 로컬 실행·사내 설치와 하드웨어 최적화 영역으로 확대되고 있다. Meta와 Apple의 협업은 경쟁 관계인 플랫폼 기업 사이에서도 대형 모델 실행 기술이 전략적 협력 대상으로 떠오를 수 있음을 보여준다.

실무에서 바로 활용할 수 있는 시사점

로컬 모델 도입을 검토한다면 파라미터 수만 보지 말고 양자화 후 가중치 크기, KV 캐시, 메모리 대역폭, 첫 토큰 지연, 초당 토큰, 장비 구입비와 라이선스를 함께 계산해야 한다. Apple의 4대 Mac Studio 결과를 단일 PC나 일반 소비자용 GPU에서 재현할 수 있는 성능으로 해석해서는 안 된다.

출처

Reuters — Meta releases open-weight Muse Spark model

Apple Machine Learning Research — Local and Distributed Large LLM Inference with MLX