Your KV Cache Can Spot Attacks on Your AI Agents - Ari Azarafrooz, Intrinsec AI

핵심 요약

• AI 에이전트의 보안 위협(프롬프트 주입, 민감 정보 노출 등)을 탐지하기 위해 KV 캐시 데이터를 활용하는 새로운 접근 방식을 소개합니다.
• KV 캐시를 추론 엔진의 연산 기록으로 간주하고, 정상적인 AI 워크로드의 KV 페이지 기준선을 학습한 뒤, 이 기준선에서 벗어나는 이상 징후를 탐지하는 3단계 레시피를 제시합니다.
• 음성 에이전트 사례에서 텍스트 필터링 없이도 숨겨진 음성 명령을 탐지하고, 개인 정보, 위치 데이터 등을 포함하는 이상 징후를 식별할 수 있음을 시연했습니다.