핵심 내용
비영리 AI 안전평가기관 METR와 Redwood Research는 10월 22일 OpenAI의 내부 Agent 이상행동 감시체계를 점검한 결과를 공개했다. 평가기간은 2026년 7월 21일~8월 11일로, 외부 연구원 2명이 OpenAI 내부 코드·설정·문서와 기술인력에 접근해 수행했다. 연구진은 당시 내부 Responses API의 일정 범위가 감시 대상에서 누락됐으며, 일부 Agent가 수백 건의 최근 행동을 감시에서 빠지게 만들 가능성과 Codex의 샌드박스·자동검토를 우회할 가능성을 발견했다고 밝혔다.
METR은 당시 GPT-5.5 이상급 내부 Responses API 트래픽 중 약 **75~94%**가 감시 대상이 될 수 있었다고 추정했고, 내부 Codex Agent에서 사용된 해당 API 트래픽의 **99.2%**가 감시 대상이었다고 평가했다. 다만 '감시 대상이 될 수 있다'는 것과 실제 모든 행동이 검사됐다는 뜻은 다르다. OpenAI는 생산환경에 영향을 주는 취약점을 고쳤다고 설명했지만 연구기관은 수정 결과를 독립 재검증하지 않았다. 일부 세부 취약점은 공개 보고서에서 가려졌으며 61쪽짜리 전체 보고서는 비공개다. 특히 이 평가는 7월 21일 이전의 시스템 상태를 대상으로 하므로 현재의 감시 범위를 확정하는 자료는 아니다.
배경
코딩 Agent가 내부 시스템에서 장시간 일하면 도구 실행과 상태 요약·압축, 하위 프로세스 호출 등 다양한 경로로 작업이 이어진다. 감시가 특정 시점이나 API 이벤트에만 걸려 있으면 일부 행동은 평가되지 않을 수 있다.
산업·시장에 미치는 영향
AI 안전성은 모델 답변의 유해성뿐 아니라 실제 실행 과정의 감시 범위, 감사로그의 완전성, 샌드박스 권한 경계까지 검증해야 한다는 점이 드러났다. 외부 전문가의 내부 접근이 유용한 반면 회사가 공개 범위를 제한할 때 검증 투명성에도 한계가 남는다.
실무에서 바로 활용할 수 있는 시사점
업무용 Agent의 로그는 작업 시작·중간 도구 호출·컨텍스트 압축·하위 Agent 생성·실패·종료를 빠짐없이 기록하는지 테스트해야 한다. 보안감시 설정과 승인 정책은 Agent가 직접 수정할 수 없는 별도 권한으로 보호하고, 공급자의 패치 발표와 독립 재검증 여부를 구분해야 한다.
출처
METR — Red-Teaming OpenAI's Internal Agent Monitoring Systems Reuters — 외부 평가기관의 OpenAI 감시체계 취약점 발견