Financial Stability Board(FSB) 의장 Andrew Bailey는 8월 31일 G20 재무장관·중앙은행 총재들에게 보낸 공식 서한에서 상당히 강한 표현을 사용했습니다.
프런티어 AI가 금융 시스템에 미치는 가장 즉각적인 위험은 사이버 리스크라는 것입니다. fsb.org
FSB는 프런티어 모델의 자율성과 문제 해결 능력이 발전하면서 공격의:
속도 × 규모 × 경제성
을 바꿀 수 있다고 보고 있습니다.
즉 기존에는 숙련 공격자가 수작업으로 해야 했던 취약점 탐색·코드 작성·재시도 등을 AI가 자동화하면 동일한 자원으로 훨씬 더 많은 공격을 수행할 수 있다는 의미입니다. fsb.org, reuters.com
왜 금융 시스템에서 특히 위험한가
금융기관은 독립된 시스템처럼 보여도 실제로는:
Banks
↓
Cloud
↓
Identity Provider
↓
Payment infrastructure
↓
Market infrastructure
처럼 소수의 공통 기술 공급자와 연결돼 있습니다.
따라서 하나의 AI 기반 공격이 특정 기업 하나에서 끝나지 않고 동시에 여러 금융기관에 영향을 주는 correlated failure를 만들 가능성을 FSB가 우려하는 겁니다. fsb.org
FSB는 최근 공개된 프런티어 에이전트의 예상 밖 행동과 사이버 평가 결과도 이런 문제를 현실적인 위험으로 보는 배경으로 언급하고 있습니다. reuters.com
산업·시장 영향
AI 보안의 위치가:
기업 IT 보안 문제
에서
금융 안정성 문제
로 올라왔습니다.
따라서 금융·보험·결제·클라우드 사업자에게 AI Agent governance는 앞으로 규제 요구사항으로 이어질 가능성이 높습니다.
실무 시사점
고권한 AI Agent라면 최소한:
Agent
↓
Sandbox
↓
Permission Gate
↓
Short-lived Credential
↓
Tool
↓
Audit Log
구조가 필요합니다.
특히 모델이 판단한 권한과 실제 시스템 권한을 분리하는 것이 중요합니다.
프롬프트에 "하지 마라"는 보안 통제가 아닙니다.