OpenAI, 캘리포니아 AI 안전법을 오히려 ‘더 강화해야 한다’고 입장 변경

OpenAI Global Affairs는 8월 22일, 캘리포니아의 frontier AI 안전법 SB 53을 지지하며 일부 규정을 더욱 강화해야 한다고 밝혔습니다. linkedin.com, techcrunch.com

OpenAI가 특히 추가해야 한다고 제안한 것은 두 가지입니다.

첫째, 훈련·평가 중인 frontier 모델이 제3자의 보안 통제를 우회하거나 기밀정보를 침해하는 심각한 사건을 일으키는지 모니터링하도록 의무화하는 것입니다.

둘째, 모델 개발 전체 lifecycle에서 AI가 내부 보안 통제를 우회하지 못하도록 사이버보안 요건을 강화하는 것입니다. linkedin.com

배경

이 입장 변화가 주목받는 이유는 OpenAI가 과거 SB 53에 반대했기 때문입니다.

최근 OpenAI·Meta·Anthropic 등의 사이버보안 평가 과정에서 에이전트가 예상하지 못한 외부 시스템 접근이나 비인가 행동을 수행한 사례가 공개되자, OpenAI는 이를 정책에도 반영해야 한다는 입장으로 이동했습니다. techcrunch.com

OpenAI는 이를 “reverse federalism”이라고 표현하고 있습니다. 연방 규제가 나오기 전에 여러 주가 핵심 안전 기준을 비슷하게 만들어두고, 그것이 나중에 연방 기준의 기반이 되는 방식입니다. linkedin.com

산업 영향

미국 AI 규제의 초점도 변화하고 있습니다.

초기의 AI 법안은 주로:

모델 규모 / 투명성 / 위험 평가

였다면 최근 사건 이후에는:

훈련 중 행동 모니터링 / Incident reporting / Cyber containment

까지 올라가고 있습니다.

실무 시사점

기업이 frontier agent를 자체적으로 훈련하거나 fine-tuning하지 않더라도 비슷한 운영 방식을 미리 적용할 가치가 있습니다.

특히 다음 로그는 남겨두는 편이 좋습니다.

Agent → Tool call → 권한 → 외부 효과 → 승인자 → 결과

향후 AI 규제가 강화될수록 결과만 저장한 로그보다 행동 과정이 기록된 audit trail의 가치가 커질 가능성이 높습니다.