핵심 내용
Anthropic은 10월 15일 비영리 평가기관 METR 직원 6명에게 자사 내부 위험평가 인력과 비슷한 수준의 회사 장비, 사무공간, 내부 도구·시스템 접근권을 제공하기 시작했다고 공식 발표했다. METR은 모델의 위험과 안전조치, 사고 처리 방식에 관해 자체 분석을 발표할 수 있으며 Anthropic은 결과 발표를 거부할 수 없다고 설명했다.
다만 고객자료, 법적 비밀유지 대상 자료, 일부 모델 아키텍처 정보 등 사전 정의된 좁은 범위에서는 공개 내용을 가릴 수 있다. METR은 어떤 내용이 가려졌고 그 조치가 정당했는지에 대한 의견을 공개적으로 밝힐 수 있다. 이 절차가 정부의 법정 감독이나 모든 내부정보에 대한 무제한 접근과 동일한 것은 아니다. SecureBio 등의 다른 파트너는 현재 더 제한된 접근단계에 있다.
배경
외부 기관이 모델의 공개 API만 시험하면 훈련과 내부 통제, 사고 기록을 충분히 알기 어렵다. 반대로 기업이 평가결과 공개를 사전에 승인하도록 하면 독립성을 의심받을 수 있다. Anthropic은 위험정보를 일부 보호하면서 평가 독립성을 높이는 중간 형태를 택했다.
산업·시장에 미치는 영향
AI 모델의 신뢰성 검증이 공급자 자체 보고서만이 아니라 외부 연구자의 지속적인 내부 접근과 독립적 공개 평가를 포함하는 방향으로 발전할 수 있다. 실제 평가의 독립성은 이후 METR이 어떤 분석을 공개하고 회사의 시정조치가 뒤따르는지에 따라 판단해야 한다.
실무에서 바로 활용할 수 있는 시사점
기업용 AI 공급자를 선택할 때 모델 성능표 외에 외부 평가자의 접근범위, 보고서 공개 권한, 사고 통보 절차와 보안 개선 이력을 확인할 필요가 있다. 내부 Agent 시스템도 개발팀과 분리된 검증자가 권한·감사기록을 확인할 수 있도록 설계하는 것이 좋다.
출처
Anthropic — An update on independent evaluators
TechCrunch — Anthropic is letting METR researchers look under the hood