Microsoft는 9월 1일 2026 Responsible AI Transparency Report를 공개했습니다.
가장 눈에 띄는 변화는 기존 Responsible AI 정책을 모델 / 플랫폼 서비스 / 애플리케이션이라는 AI tech stack별로 다시 설계했다는 점입니다. blogs.microsoft.com
Microsoft는 agentic AI가 확대되면서 이제 모델의 답변만 평가해서는 충분하지 않다고 설명합니다.
Agent는:
Memory를 가지고 → Tool을 사용하고 → Data에 접근하고 → 실제 Action을 수행
하기 때문입니다.
그래서 관리 대상도:
Model output
에서
Agent identity / Tool permission / Actions / Monitoring
으로 확대하고 있습니다. blogs.microsoft.com
실제 개발 도구까지 연결
Microsoft는 다음 도구들을 이 구조에 연결하고 있습니다.
- AI Red Teaming Agent → 위험 자동 탐색
- Agent Evaluators → quality·safety·performance 평가
- RAMPART → 발견된 red-team 공격을 regression test로 변환
- ASSERT / Agent Control Specification → Agent workflow 중간에 runtime control 삽입 blogs.microsoft.com
핵심은 배포 전에 한 번 평가하고 끝내는 AI safety가 아니라 production에서 계속 보고 개입하는 구조입니다.
산업 영향
OpenAI Astra와 Microsoft 보고서를 함께 보면 대형 업체들의 방향이 거의 같아지고 있습니다.
Static Eval
↓
Runtime Monitoring
↓
Runtime Policy Enforcement
↓
Intervention / Stop
Agent Control Plane이 독립적인 인프라 시장이 될 가능성이 큽니다.
실무 시사점
Agent 제품을 운영한다면 최소 다음 정보를 task trace에 남기는 것이 좋습니다.
Agent ID
Model
Tool
Permission
Input
Action
Result
Approval
Failure / Retry
나중에 문제가 생겼을 때 최종 답변만 저장돼 있으면 에이전트가 왜 그런 행동을 했는지 역추적할 방법이 없습니다.