Using LLMs to Secure Source Code — Eugene Yan, Anthropic

핵심 요약

• LLM은 사이버 보안 작업에서 긴 시간 동안의 작업을 수행할 수 있는 능력을 보여주었으며, 특히 Mozilla의 경우 LLM 활용을 통해 월간 보안 수정 사항이 20배 증가했습니다.
• 취약점 발견 자체보다 검증, 트리아지, 패치가 새로운 병목 현상이며, 이를 해결하기 위해 에이전트 기반의 6단계 워크플로우(위협 모델, 샌드박스, 발견, 검증, 트리아지, 패치)를 제안합니다.
• 잘 문서화된 위협 모델은 모델의 보안 취약점 탐지 정확도를 90%까지 높이며, 모델이 코드뿐만 아니라 시스템의 암묵적인 맥락까지 이해하도록 돕습니다.