핵심 내용
유럽연합의 디지털 정책 담당 Henna Virkkunen은 10월 9일 Reuters 인터뷰에서 EU의 AI Act가 자율적인 고성능 AI 시스템의 새로운 위험에도 대응할 수 있다는 입장을 밝혔다. 모델의 전체 생애주기에서 위험을 평가하고 외부 전문가의 평가·지속적인 모니터링을 적용할 수 있도록 설계됐다는 설명이다.
유럽연합 집행위원회는 8월 말 30곳이 넘는 AI 기업에 안전·보안 조치 정보를 요청했고 투명성·저작권 의무에 관한 추가 질문도 보냈다. 중국 기업들에도 요청이 전달됐다고 밝혔다. 관련 절차가 후속 조사로 확대되면 위반 유형과 요건에 따라 전 세계 연간 매출의 최대 7%에 해당하는 과징금이 가능하지만, 모든 요청 대상이 실제 제재를 받는다는 뜻은 아니다. Reuters
배경
최근 AI Agent의 외부 사이트 접근과 실제 세계에서의 오작동 사례가 늘면서 기존 위험 기반 규제가 충분한지에 대한 논쟁이 이어지고 있다. EU는 새 법률을 즉시 다시 만드는 대신 현재의 감독·평가 도구를 적용하겠다는 입장이다.
산업·시장에 미치는 영향
유럽 시장에 서비스를 제공하는 기업은 모델 개발사뿐 아니라 downstream Agent 제공자도 사용 목적과 위험 분류, 문서화 책임을 구체적으로 따져봐야 한다. 다만 전체 AI 서비스를 일괄적으로 '고위험'으로 취급할 수는 없고 적용되는 의무는 제품과 역할에 따라 달라진다.
실무에서 바로 활용할 수 있는 시사점
EU 사용자가 접근하는 Agent를 운영한다면 시스템 목적, 사용 데이터, 외부 도구 권한, 사고대응, 사용자 감독, 로그 보존을 별도 문서로 정리하는 것이 좋다. 법률 적용 여부를 먼저 확인한 뒤 해당 위험등급의 실제 의무를 점검해야 한다.
출처
Reuters — EU tech chief says bloc well equipped to fend off rogue AI risk