핵심 내용
10월 15일 미국 연방 사법회의 증거규칙 자문위원회 회의에서 OpenAI와 Meta 측 전문가들은 AI 생성 음성·영상이 정교해지면서 법정에 제출된 파일의 진위를 구별하기 어려워지고 있다고 설명했다. OpenAI 측은 현재의 식별 기술만으로 모든 생성물을 확실하게 판별할 수 없다고 주장했다. 업체별 워터마크와 검증도구가 공통 표준으로 완전히 연결되지 않은 것도 문제로 거론됐다.
한편 미국 연방사법센터 조사에서는 응답 판사 931명 중 15명만이 딥페이크를 이유로 증거 제출이 다투어진 사례를 경험했다고 답했다. 이는 현재 실제 법원에서 대규모 피해가 이미 관측됐다는 근거가 제한적임을 보여준다. 위원회는 추가 검토를 위한 소위원회를 설치했으며, 일부 판사는 기존 허위증거 금지 규정으로 대응할 수 있다는 신중론을 제시했다. 새 AI 전용 증거규칙이 이날 확정·시행된 것은 아니다.
배경
이미지·오디오 생성의 비용이 낮아지면서 파일의 외형만으로 제작 경위를 확인하기 어렵다. 반대로 AI 탐지 모델의 점수만으로 진짜 영상을 가짜라고 단정하면 정상적인 증거를 배제할 위험도 있다.
산업·시장에 미치는 영향
AI 콘텐츠 검증 시장에서는 생성물 판별기보다 원본 기록·제작 경로·암호학적 서명·보관 이력의 중요성이 커질 수 있다. 콘텐츠 출처를 입증하는 표준도 도입 범위와 호환성이 충분한지 확인해야 한다.
실무에서 바로 활용할 수 있는 시사점
영상·음성 자료를 다루는 서비스는 원본 업로드 시점, 파일 해시, 변환 내역과 관리자 접근기록을 보존해야 한다. 딥페이크 탐지기의 결과는 참고 정보로 사용하고, 분쟁이나 고위험 판단에서는 다른 증거와 원본 확보 절차를 함께 적용해야 한다.
출처
Reuters — OpenAI, Meta caution US judiciary about risk of deepfake evidence