제품을 운영하는 기업에는 이쪽이 상당히 현실적인 뉴스입니다.
핵심 내용. 캘리포니아 Gavin Newsom 주지사가 9월 10일 13개 아동 온라인 안전 법안에 서명했습니다. 핵심은 AI Companion Chatbot과 소셜미디어입니다. Adam's Law로 불리는 SB 1119는 아동이 사용하는 companion chatbot에 대해 자살·자해 위기 대응 프로토콜, 부모 통제, 안전설정 해제 통지, 독립적 아동안전 감사와 연례 위험평가를 요구합니다. (Governor of California)
또 AB 1709는 16세 미만에게 autoplay와 사용자 행동 기반 algorithmic feed 등 중독성이 강한 기능 제공을 제한합니다. SB 867은 companion chatbot을 탑재한 장난감에 대해서도 제한을 도입합니다. California는 AI 생성·변형 아동 성착취물에 대한 형사규정도 확대했습니다. (Governor of California)
배경. 캘리포니아는 이미 2025년 Frontier AI 개발사의 사고보고를 요구하는 SB 53을 통과시켰고, 이번 주에는 별도로 AI 독립 검증기관 체계(SB 813)와 AI auditor 등록제(AB 1405)도 제정했습니다. 즉 규제가 모델 개발사뿐 아니라 실제 서비스 UX와 독립 평가 시장까지 확장되고 있습니다. (Governor of California)
산업·시장 영향. AI 서비스에 Minor Mode가 별도의 제품 계층으로 등장할 가능성이 커집니다.
성인/미성년자를 동일한 Chatbot policy로 처리하는 대신:
Adult
→ 일반 Agent
Minor
→ 제한된 Memory
→ 제한된 Recommendation
→ Parent Control
→ Crisis Escalation
→ 별도 Audit
처럼 구조가 나뉠 수 있습니다.
California 규정은 다른 미국 주나 국가가 참고하는 템플릿이 되는 경우가 많기 때문에 글로벌 AI 서비스도 이 흐름을 무시하기 어렵습니다.
실무 시사점. 사용자 생성형 AI 서비스를 준비한다면 지금부터 최소한 age signal, parental control, crisis escalation, safety-setting change log를 architecture상 분리할 수 있게 설계해두는 것이 좋습니다. 나중에 규정이 생겼을 때 앱 전체를 뜯어고치는 비용을 줄일 수 있습니다.