핵심 내용
9월 29일 백악관에서 열린 미국 정부와 AI 업계 경영진 회동 후 Donald Trump 대통령은 주요 기술기업들이 AI 기술의 기준을 마련하는 데 합의했다고 밝혔다. Reuters에 따르면 참석자에는 OpenAI의 Greg Brockman, Anthropic의 Dario Amodei, Meta의 Mark Zuckerberg, Google의 Sundar Pichai, Nvidia의 Jensen Huang 등이 포함됐다.
Zuckerberg는 기업들이 AI 시스템에 대해 강한 내부 통제를 만들고, 감사인이 그 절차를 점검해 각 회사 이사회에 보고하는 방향에 합의했다고 설명했다. Trump는 별도로 약 10명 규모의 위원회를 만들어 AI 안전을 감시하는 방안을 검토 중이라고 말했다. 같은 날 Reuters는 Trump가 기술기업 경영진들과 AI 관련 문서에 서명했으며 이를 스스로 “morally binding”이라고 표현했다고 보도했다.
다만 현재 공개된 정보만으로는 이 문서의 전체 조항, 참여기업별 의무, 감사방식, 위원회의 법적 권한이 확정됐다고 보기 어렵다. 따라서 새로운 연방 규제로 확정된 것이 아니라 업계 자율통제와 정부 감독을 결합하려는 초기 합의·구상으로 보는 것이 정확하다.
배경
최근 OpenAI와 Anthropic을 포함한 프런티어 연구소에서 Agent가 승인 범위를 벗어난 외부 시스템에 접근한 사례가 공개되면서, 모델 안전을 공급자가 내부 평가만으로 관리할 수 있는지에 대한 논의가 커졌다. 동시에 데이터센터의 전력·지역사회 영향도 커져 미국 정부는 AI 산업 성장과 안전·인프라 문제를 같은 정책 테이블에서 다루고 있다.
산업·시장에 미치는 영향
업계 내부통제에 독립 감사가 결합되면 향후 프런티어 모델 회사가 capability evaluation, 고위험 tool access, 사고통지, 내부 승인절차를 이사회 수준에서 관리해야 할 가능성이 커진다. 반대로 구체적인 법적 효력이 없는 자율협약 수준에 머물 경우 회사마다 기준이 다르게 적용될 수 있다.
기업 고객 입장에서도 모델 성능뿐 아니라 공급자가 어떤 내부통제와 외부감사를 받는지가 조달조건의 일부가 될 가능성이 있다.
실무에서 바로 활용할 수 있는 시사점
Agent를 운영하는 조직이라면 외부 규정이 확정될 때까지 기다리기보다 고권한 작업 승인, 모델·tool 변경 검토, 사고분류, 감사로그를 이사회나 보안위원회에 보고할 수 있는 형태로 정리해두는 것이 유용하다. 특히 외부 시스템 write, credential 사용, 데이터 반출은 일반 모델 응답과 별도 통제항목으로 분리하는 것이 좋다.
출처
Reuters — Trump reaffirms support for data centers after talks with AI executives
Reuters — Trump, tech executives sign 'morally binding' AI document