핵심 내용
미국과 중국은 9월 24~25일 워싱턴 정상회담 결과의 하나로 AI의 위험과 혜택을 논의하는 양자 대화체계를 만들고, AI 관련 중대 사건이 발생했을 때 사용할 통신 채널도 구축하기로 했다. 중국 외교부가 9월 26일 발표한 8개 합의사항에 따르면 첫 후속 AI 대화는 2026년 11월 열릴 예정이다. 백악관도 별도 팩트시트에서 미국·중국 간 Super Intelligence Dialogue를 신설하고 관련 사고용 양자 통신 채널을 마련하기로 했다고 밝혔다. Reuters
양측 발표는 용어에서 차이가 있다. 중국 외교부는 일반적으로 AI 대화라고 표현했고, 백악관은 적용 대상 기술을 Super Intelligence라고 부르기로 했다고 설명했다. 중국 측 회담 기록에서 시진핑 국가주석은 AI가 인간 통제 아래 있어야 하고 양국이 오용·남용 방지를 함께 논의할 수 있다고 말했다. 미국 측 역시 AI의 위험과 혜택을 논의하는 대화채널 신설을 공식화했다. 다만 현재 공개된 합의에는 모델 학습 규모, 가중치 공개, 반도체 수출통제나 구체적인 기술 안전기준을 공동으로 정한다는 내용은 없다. 중화인민공화국 외교부
배경
최근 프런티어 AI 연구소에서 Agent가 평가환경 밖의 실제 시스템에 접근하거나 외부 credential과 웹서비스를 사용한 사례가 연속 공개되면서 AI 사고가 단일 기업의 제품안전 문제를 넘어 국제 사이버·국가안보 문제로 확대됐다. 동시에 미국과 중국은 모델, 반도체, 데이터센터에서 경쟁하면서도 초고성능 AI의 오용이나 예상 밖 행동은 양국 모두에 영향을 줄 수 있는 위험으로 다뤄지기 시작했다.
이번 합의의 실질적 의미는 앞으로 무엇을 AI 사고로 정의하고 어느 수준에서 상대국에 통지할지, 기업과 정부기관의 정보를 어느 수준까지 공유할지에서 결정될 가능성이 크다. 11월 후속대화에서 구체적인 운영절차가 나오는지가 다음 확인 포인트다.
산업·시장에 미치는 영향
프런티어 모델 기업 입장에서는 중대한 모델·Agent 사고가 회사 내부 incident report를 넘어 국가 간 통보 대상이 될 가능성이 생겼다. 특히 양국이 공통 사고분류나 통지 기준을 만들면 대형 AI 기업의 logging, incident response, 정부 보고체계에도 영향을 줄 수 있다.
반면 반도체 수출규제나 모델 접근제한이 이번 합의로 해소된 것은 아니다. 따라서 기업은 미·중 AI 생태계의 기술적 분리를 계속 전제로 두면서, 안전사고·보안사고 영역에서는 새로운 상호 통보체계가 생길 가능성을 함께 봐야 한다.
실무에서 바로 활용할 수 있는 시사점
글로벌 AI 서비스를 운영한다면 사고기록을 단순 장애와 보안침해만으로 나누지 말고 모델 오동작, 권한 밖 tool 실행, 외부 시스템 접근, 데이터 외부전송, 고위험 capability 오용 등으로 세분화하는 편이 좋다. 국가 간 사고 통보체계가 구체화될 경우 이런 내부 분류와 감사로그가 규제 대응의 기초자료가 될 수 있다.
Reuters — China, US agree to AI dialogue, tariff cuts on $30 billion in goods during Xi visit
중국 외교부 — 중미 8개 성과 합의
White House — Fact Sheet on U.S.-China State Visit