Your LLM Stack Is a 2008 Database With Better Marketing — Lovina Dmello, NVIDIA
ML 시스템 보안은 최신 AI 공격이 아닌, 2008년 데이터베이스 보안과 유사한 인프라스트럭처 설정 오류가 주된 원인임을 지적합니다. ML 보안은 모델 자체가 아닌, 실제 인프라스트럭처로 취급하고 데이터베이스처럼 접근 통제, 네트워크 분할, 저장 데이터 보호 등의 기본 보안 원칙을 적용해야 한다고 주장합니다.
핵심 요약
- 2023년 연구에서 수천 개의 Ray 클러스터가 기본 인증 설정 없이 인터넷에 노출되어 10억 달러 이상의 데이터가 위험에 처했던 사례를 통해, ML 보안 실패의 대부분이 복잡한 AI 공격이 아닌 단순 설정 오류 때문임을 강조합니다.
- ML 시스템은 확률적 행동, 복제 가능한 가중치, API를 통한 유출, 공유된 멀티테넌트 GPU 등 기존 애플리케이션과 다른 특성을 가지지만, 보안 접근 방식은 과거에 머물러 있어 문제가 발생합니다.
- ML 시스템 보안의 주요 실패 원인 세 가지는 과도한 접근 권한, 분리되지 않은 시스템 간의 연결, 누구나 접근 가능한 스토리지에 저장된 비밀번호 및 모델 가중치입니다.
전체 요약과 종목별 의견·실시간 분석을 보려면 로그인하세요.
로그인 / 회원가입