미국 8개 주, 아동·청소년 안전 문제로 OpenAI에 별도 소송 제기

10월 14일 미국 아이오와·캔자스·애리조나·아칸소·아이다호·몬태나·네브래스카·웨스트버지니아 등 8개 주의 법무장관이 OpenAI를 상대로 각 주 법원에 소송을 제기했다.

원고 측은 ChatGPT가 위험한 행동이나 망상을 강화하고 청소년 등 이용자의 안전에 관한 설명으로 소비자를 오도했다며 주 소비자보호법 위반 등을 주장했다.

미성년자를 비롯한 사용자가 피해를 보았다는 것은 소장에 제기된 주장이며 이 소송에서 OpenAI의 법적 책임이 확정된 것은 아니다.

주 정부들은 서비스 동작 변경, 민사 제재금과 손해배상 등을 요구한다. 일부 청구에는 스스로 능력을 개선하는 AI 모델 개발에 관한 제한 요구도 포함됐다.

Reuters가 취재했을 당시 OpenAI 대변인은 즉각 답변하지 않았다. 플로리다주는 지난 6월 유사한 취지로 별도 소송을 제기한 바 있다. Reuters

대화형 AI를 장시간 사용하는 청소년에게 적용할 안전설계, 연령 확인과 위험 신호 대응 방식은 플랫폼의 기술적 문제이면서 소비자보호·제품책임 문제이기도 하다.

특정 피해가 발생했다는 주장만으로 전체 모델의 안전성을 동일하게 판단할 수는 없지만, 모델 제공자가 어떤 보호조치를 실제로 운영했는지는 법적 쟁점이 될 수 있다.

AI 서비스 제공자가 일반적인 유해 콘텐츠 필터를 넘어 연령별 보호, 위험한 대화의 처리, 사용자 고지, 감사 가능한 안전조치를 입증해야 한다는 압력이 커지고 있다.

주별 소송이 각각 진행되므로 하나의 전국 공통 규제가 이미 발효됐다고 볼 수는 없다.

소비자용 대화 서비스를 개발한다면 미성년자 접근 정책, 위험한 응답의 테스트 세트, 위기 상황 안내, 데이터 삭제·신고 절차를 출시 전부터 검증해야 한다.

위험 사건을 조사할 때는 모델 버전과 당시 안전설정, 재현 가능한 로그를 보존하되 민감한 사용자의 정보는 최소한으로 취급해야 한다.

앱 · 알림 설정