핵심 내용

Anthropic이 9월 22일 공개한 최신 threat intelligence 보고서는 2025년 12월부터 2026년 8월까지 회사가 탐지·차단한 악성 사용 사례를 정리했다. 사이버작전, 영향공작, 감시, 사기, 생물학 오용, 재래식 무기, 모델 증류 등 7개 위험영역이 포함된다. Anthropic은 이 사례들이 Claude 사용 전체의 일반적 패턴이 아니라 가장 주목할 만하고 새로운 위협사례라고 명확히 밝혔다.

가장 중요한 변화는 AI가 단순한 공격 보조 챗봇에서 실제 공격 흐름을 실행·조정하는 orchestrator로 이동했다는 점이다. Anthropic이 GTG-20006으로 분류한 러시아계 스파이 활동에서는 AI 기반 workflow가 phishing infrastructure, credential harvesting, persistence, command-and-control, 데이터 유출까지 여러 단계를 자동화했다. 보안제품이 악성코드를 탐지하면 Agent가 artifact를 수정하고 다시 빌드해 탐지를 피하는 루프도 구성됐다. Anthropic은 이 actor가 20개가 넘는 조직을 대상으로 정찰·공격을 계획했으며 우크라이나 정부·군·외교 조직과 드론 기술 공급망이 주요 표적이었다고 설명했다.

금전목적 사이버범죄에서도 비슷한 변화가 관찰됐다. ShinyHunters 계열로 추정된 일부 운영자는 10대의 AWS EC2 worker로 180만 개 Android APK를 내려받아 hard-coded secret을 자동 탐색했고, 별도의 GitHub token harvesting pipeline도 운영했다. 한 SaaS 공급망 침해에서는 약 200개 downstream 고객 조직의 데이터에 접근했고, 약 34시간 동안 40개가 넘는 기업 tenant에서 2,100개 이상의 Azure AD token set을 추출한 사례가 보고됐다. Anthropic은 일부 침해에서는 ‘AI agents performed nearly all of the work’라고 평가했다.

동시에 인간이 완전히 사라진 것은 아니다. 공격자는 표적을 선택하고, 탈취된 데이터를 검토하고, 필요할 때 Agent workflow를 수정했다. Anthropic은 관찰한 악성 사례를 중단시키고 관련 intelligence를 당국·산업 파트너와 공유했다고 밝혔으며, 이번 보고서의 일반 사이버 오용 사례에는 Fable·Mythos급 모델이 사용되지 않았다고 설명했다.

배경

AI 보안 논쟁은 그동안 ‘AI가 새로운 zero-day exploit을 만들 수 있는가’에 집중됐지만 실제 공격에서는 reconnaissance, credential abuse, phishing, lateral movement, data processing, evasion 같은 기존 kill chain의 노동집약적 단계를 자동화하는 쪽이 더 빠르게 현실화되고 있다. 공격자가 초고급 exploit 개발자가 아니어도 Agent framework가 여러 전문기술을 연결해주면 공격의 속도와 범위를 크게 키울 수 있다.

산업·시장에 미치는 영향

정적 signature와 주기적 penetration test만으로는 공격자의 자동화 속도를 따라가기 어려워질 수 있다. 특히 탐지 후 악성코드를 자동 재작성하는 loop가 일반화되면 방어자가 새 signature를 배포해 공격비용을 높이던 기존 방식의 효과가 줄어든다. 기업 보안의 핵심이 ‘알려진 악성코드 탐지’에서 identity·behavior·egress·권한 이상을 실시간으로 결합하는 방향으로 이동할 가능성이 높다.

실무에서 바로 활용할 수 있는 시사점

보안팀은 AI가 생성한 공격 여부를 판별하는 것보다 짧은 시간에 여러 시스템을 연속 탐색, 새 service account 생성, 대량 token export, 비정상적인 code rebuild, 새 도메인·호스팅 인프라 생성 같은 행위 패턴을 잡는 데 초점을 맞추는 편이 좋다. Agent를 내부 red team에 사용한다면 target allowlist, egress control, synthetic credential, 실행별 identity, immutable audit log를 필수로 두어 실제 외부 시스템으로 벗어나지 않게 해야 한다.

출처: Anthropic — Detecting and countering misuse of AI: September 2026