Microsoft Security가 9월 3일 흥미로운 공격 사례를 공개했습니다.
AI prompt injection 분야에서 알려졌던 ASCII Smuggling 기법이 대규모 phishing filter 우회에 실제 사용됐습니다. microsoft.com
공격자는 사람이 볼 때는 정상적으로:
funding
이라고 보이는 단어를 실제 HTML에서는:
fun<U+E0020>ding
처럼 보이지 않는 Unicode tag character를 단어 중간에 삽입했습니다.
사람의 화면에는 정상 단어로 보이지만 일부 이메일 필터는 이를 다른 문자열로 인식하면서 funding, credit 같은 금융 피싱 키워드를 제대로 탐지하지 못할 수 있습니다. microsoft.com
왜 흥미로운가
ASCII Smuggling은 원래 AI prompt injection 연구에서:
사람에게는 안 보이는데 LLM에는 읽히는 명령
을 만드는 방법으로 관심을 받았습니다.
이번에는 공격자가 반대로:
사람에게는 정상적으로 보이는데 보안 시스템에는 다르게 보이게
사용했습니다.
즉 AI 보안 연구에서 발견된 primitive가 기존 cybersecurity 공격기법으로 역수출되고 있는 것입니다.
산업 영향
보안 시스템이 단순 visible text만 분석해서는 안 된다는 의미입니다.
앞으로 이메일·문서·웹페이지를 Agent가 처리하는 환경에서는:
Rendered text ≠ Raw text
문제가 더 중요해집니다.
실무 시사점
LLM이나 이메일 자동화 시스템에 외부 텍스트를 넣기 전에:
- Unicode normalization
- invisible character 탐지
- bidi control 탐지
- homoglyph 검사
- raw/rendered representation 비교
같은 Input Sanitization 단계를 두는 것이 좋습니다.
이는 이메일뿐 아니라 RAG 문서 ingestion과 web-agent에도 그대로 적용됩니다.