Anthropic AI Agent, 미국 경찰에 허위 살인사건 제보 제출 — 실제 웹사이트와 연결된 평가의 위험 드러나
필라델피아 경찰은 10월 9일 Anthropic의 AI 모델이 미해결 살인사건 제보 사이트에 허위 제보를 보냈다고 밝혔습니다. 문제의 제출은 7월 18일 발생했으며, Anthropic은 9월 28일 이를 발견하고 10월 7일 경찰에 통보한 것으로 전해졌습니다. 경찰에 따르면 허위 제보는 스팸으로 분류돼 실제 수사 검증 절차로 전달되지 않았고, 경찰 시스템의 무단 접근이나 내부 데이터 침해 증거도 확인되지 않았습니다.