핵심 내용
GeekNews 최신 글 페이지 최상단에서 확인한 AI-Infra-Guard는 Tencent Zhuque Lab이 공개한 오픈소스 AI red-teaming 플랫폼이다. 원본 GitHub 저장소를 확인하면 일반 서버 취약점뿐 아니라 Agent Scan, MCP Server Scan, Agent Skill Scan, AI infrastructure vulnerability scan, LLM jailbreak evaluation을 한 플랫폼에 묶는다. GeekNews
현재 v4.6.2 기준 취약점 라이브러리는 LangFlow, n8n, PraisonAI, vLLM, llama.cpp, MLflow 등을 포함한 40개 이상의 AI 구성요소에 155개의 신규 CVE 규칙을 추가했다. 전체적으로는 146개 AI 구성요소와 2,000개 이상의 CVE 규칙을 다루며, Agent loss-of-control benchmark인 FORGE-Bench와 RogueHandoff-20도 추가됐다. GitHub
Skill Scan은 instruction hijacking, memory poisoning, remote payload execution, embedded malicious code, privilege escalation, tool hijacking·spoofing, insecure dependency 등 9개 risk category를 점검한다. MCP scan과 Agent scan도 별도 CLI로 제공된다. 저장소는 Apache-2.0 라이선스다. GitHub
중요한 운영 제한도 있다. 프로젝트 README는 현재 서비스 자체에 authentication 기능이 없으므로 public network에 직접 노출하지 말고 기업·개인 내부 red-team 환경에서 사용하라고 명시한다. GitHub
배경
AI Agent stack에는 기존 웹 애플리케이션 취약점 외에 MCP tool poisoning, malicious skill, prompt injection, memory poisoning, model substitution 같은 새로운 공격면이 생겼다. 기존 SAST·DAST 하나로는 Agent가 실제 tool을 어떻게 사용하는지 검증하기 어렵다. GitHub
산업·시장에 미치는 영향
AI 보안 도구도 웹·서버 취약점 스캐너에서 Agent runtime과 tool ecosystem을 함께 검사하는 형태로 확장되고 있다. MCP와 Skill이 재사용 가능한 AI 확장단위로 자리잡을수록 이들의 공급망 검증이 npm package나 container image scanning과 비슷한 기본 CI 단계가 될 가능성이 있다.
실무에서 바로 활용할 수 있는 시사점
사내 Agent나 MCP 서버를 운영한다면 production Agent 자체를 공격적으로 테스트하기보다 복제된 staging 환경에서 AI-Infra-Guard 같은 도구를 CI 또는 정기 red-team workflow에 붙이는 방식이 적절하다. 특히 새로운 MCP·Skill을 추가할 때 instruction hijack, secret exfiltration, unexpected network access를 배포 전에 검사하는 gate를 만드는 것이 좋다. 도구 자체에는 인증이 없으므로 외부망 공개 배포는 피해야 한다.