NVIDIA, 영국 AI Agent 안전 연구에 5년간 2억5천만 달러 상당 연산 지원

NVIDIA는 10월 13일 공식 발표를 통해 영국 연구기관에 5년간 2억5천만 달러 상당, 연간 약 5천만 달러 상당의 AI 연산자원을 제공한다고 밝혔다.

이는 현금 2억5천만 달러를 영국 정부에 송금하는 방식이 아니라 영국 내 NVIDIA Cloud Partners를 통한 컴퓨팅 접근 지원이다. 클라우드 파트너 선정과 일부 상업·기술 조건은 추후 확정된다.

지원 대상에는 옥스퍼드대 주도 BOLD, UCL 중심 SOFAIR, Imperial College London의 로봇·안전 연구 등이 포함된다.

핵심 연구 영역은 외부 도구를 사용하는 AI Agent의 안전성, 오픈모델 보안, 샌드박스, 재현 가능한 평가와 현실의 위협 완화다.

영국의 AI Security Institute 등 제도적 안전평가가 주목받는 가운데, NVIDIA는 연구자들에게 실제 실험용 연산자원을 제공하는 계획을 내놓았다. NVIDIA Newsroom

고성능 Agent의 보안 연구는 작은 공개 벤치마크만으로 충분하지 않다.

긴 실행 경로와 다중 도구 사용, 외부 시스템 접근 통제를 재현하려면 실험환경과 상당한 연산비가 필요하다.

영국은 대규모 모델 개발사보다는 평가·안전 연구의 국제적 거점으로 자리 잡으려 하고 있다.

AI 안전성 평가도 모델 성능 연구처럼 대규모 컴퓨팅 투자 대상이 되고 있다.

다만 연구 지원 발표가 즉시 국제적으로 강제되는 새 안전규제의 시행을 의미하지는 않는다.

향후 실제 공개되는 벤치마크·평가기법과 보안도구가 산업 전체에 얼마나 재사용되는지가 중요하다.

기업용 Agent에는 sandbox, 외부 네트워크 제한, 도구별 최소권한과 사고 재현 로그를 적용해야 한다.

연구지원 규모 자체보다 공개될 평가 데이터·테스트 프로토콜·독립 재현 결과를 실무 도입에 활용할 수 있는지 확인하는 것이 유용하다.

앱 · 알림 설정