핵심 내용
Salesforce와 NVIDIA가 9월 15일 Salesforce의 첫 CRM reasoning model Koa를 공개했다. Koa는 NVIDIA의 open-weight Nemotron 3 Super를 기반으로 post-training한 모델이며, Salesforce가 수십 년 동안 축적한 CRM 업무 구조를 모델에 반영하는 것이 목표다. 실제 고객 데이터를 학습에 사용하지 않고, 영업·고객지원·후속조치·case routing 등 현실적인 기업 업무를 흉내낸 합성 시나리오를 만들어 SFT와 강화학습을 수행했다고 Salesforce는 설명했다.
Salesforce 자체 CRM Benchmark에서는 Koa가 opportunity 업데이트, case routing, follow-up scheduling 같은 CRM action에서 선도 모델 수준의 성능을 내면서 오류는 3배 적었다고 회사가 주장했다. 이 수치는 Salesforce 내부 benchmark이므로 독립적인 제3자 평가와 같은 수준으로 받아들여서는 안 된다. Koa의 모델 weight와 inference는 Salesforce가 직접 통제하며 고객 데이터가 Salesforce의 trust boundary 밖으로 나가지 않는 구조다.
Koa는 현재 일부 Agentforce 고객 pilot에서 사용되고 있고 미국 지역의 일반 제공은 2026년 겨울로 예정돼 있다. 양사는 별도로 정부·규제산업용 Missionforce에도 NVIDIA 모델을 가져와 private cloud와 air-gapped network에서 post-training·inference를 수행할 수 있도록 협력하고 있다.
배경
기업 AI 시장은 그동안 복잡한 reasoning이 필요할 때 Claude·GPT 같은 프런티어 모델을 외부 API로 호출하는 방식이 일반적이었다. Koa는 강한 open-weight base model을 가져온 뒤 한 회사가 보유한 실제 업무 지식과 tool-use 패턴에 맞게 재학습해, 범용 프런티어 모델의 일부 역할을 내부 전용 모델로 대체하려는 사례다. 이는 ‘가장 똑똑한 모델 하나’보다 ‘업무별로 충분히 잘하고 더 싸고 통제 가능한 모델’을 여러 개 배치하는 방향과 맞닿아 있다.
산업·시장 영향
Salesforce 같은 대형 SaaS 업체가 자체 reasoning model을 보유하기 시작하면 OpenAI·Anthropic 같은 모델 공급사는 기업 workflow를 직접 차지하려는 SaaS 업체와 동시에 협력하고 경쟁해야 한다. NVIDIA 입장에서도 Nemotron을 통해 GPU뿐 아니라 ‘기업이 자사 전용 모델을 만드는 기반모델’ 계층으로 영역을 넓힐 수 있다. 특히 규제산업에서는 closed API 성능보다 모델 weight 통제, 데이터 residency, air-gap 지원이 구매조건이 될 수 있다.
실무에서 바로 활용할 시사점
업종 특화 AI 서비스를 만들 때 모든 요청을 최상위 모델로 보내기보다, 반복적이고 구조화된 업무는 작은 전용 모델이나 post-trained open model로 옮기고 어려운 예외만 프런티어 모델에 escalation하는 구조가 비용과 데이터 통제 측면에서 유리할 수 있다. 평가도 일반 benchmark보다 실제 업무의 성공률·잘못된 tool call·사람 수정시간을 중심으로 설계하는 것이 좋다.