핵심 내용
미국 연방법원과 캘리포니아주에서 법률업무에 AI를 사용하는 경우 최종 책임이 사람에게 있다는 기준이 동시에 구체화되고 있다. 뉴욕 남부연방법원의 Arun Subramanian 판사는 10월 2일 한 저작권 소송에서 AI가 만든 잘못된 인용이 포함된 서면과 관련해 제재를 내리지는 않았지만, 변호사가 AI 보조 작업을 철저히 검증해야 하며 AI 의존이 주니어 변호사의 훈련과 고객 이익을 해칠 수 있다고 경고했다. Reuters: Judge warns AI could stunt lawyers' training and harm their clients
해당 사건에서 법률사무소는 한 변호사가 내부 정책을 어기고 AI가 만든 결과를 충분히 확인하지 않았다고 설명했다. 작업에는 Harvey AI 도구가 사용된 것으로 알려졌다. 판사는 특히 초기 초안 작성 같은 기본적인 법률능력을 전부 AI에 넘기면 장기적으로 전문직 역량 축적이 약화될 수 있다는 점도 지적했다. Reuters: Judge warns AI could stunt lawyers' training and harm their clients
별도로 California Governor Gavin Newsom은 9월 30일 SB 574에 서명했다. 주정부 발표에 따르면 이 법은 변호사가 핵심 법률업무를 AI에 완전히 넘기지 못하도록 하는 규칙을 포함하며, Reuters는 AI로 생성된 자료와 법원 제출물에 대한 변호사의 검증책임을 강화하는 법이라고 보도했다. Governor of California: California’s nation-leading AI framework just got stronger, Governor Newsom signs more first-in-the-nation worker protections and more | Governor of California
배경
생성형 AI가 법률 리서치, 초안작성, 문서검토에 빠르게 도입되면서 hallucinated citation이나 잘못된 법률해석이 실제 법원 제출물에 포함되는 사건도 반복되고 있다. 단순히 “AI를 사용했는지”보다 누가 결과를 검증하고 전문적 판단을 내렸는지가 핵심 문제가 되고 있다.
동시에 전문직 교육에서도 AI가 초급자가 수행하던 반복작업을 빠르게 줄이면서 향후 숙련자가 되기 위해 필요한 학습과정을 어디에서 확보할 것인지가 새로운 운영문제로 등장한다.
산업·시장에 미치는 영향
법률뿐 아니라 의료, 회계, 금융처럼 자격을 가진 전문가가 최종결정을 내려야 하는 분야에서 AI의 제품가치는 “완전자동화율”보다 사람이 검증 가능한 형태로 얼마나 정확하게 작업을 압축해주는지가 더 중요한 지표가 될 수 있다.
Enterprise AI 제품에도 source provenance, 인용 검증, 변경이력, 사람 승인 단계를 기본 기능으로 요구하는 고객이 늘어날 가능성이 있다.
실무에서 바로 활용할 수 있는 시사점
전문직 workflow에 AI를 도입할 때 결과물을 바로 제출하거나 실행하지 말고 source-linked draft로 취급하는 것이 좋다. 인용·법규·숫자 같은 검증 가능한 정보는 자동 validator와 원문 링크를 붙이고, 최종 승인자의 이름과 시점을 audit log로 남겨야 한다.
또 생산성 KPI를 “초안 작성시간 감소”만으로 측정하지 말고 오류 재검토시간, 사람의 수정률, junior staff의 학습·훈련 과정까지 함께 추적할 필요가 있다.
출처
Reuters — Judge warns AI could stunt lawyers' training and harm their clients Governor of California — California’s AI framework: new worker, healthcare and professional safeguards Reuters — California sets guardrails on lawyers' AI use