What a $900M Bank Error Teaches Us About AI Agents - John Feminella, Two Sigma
이 영상은 2020년 씨티은행의 9억 달러 오류 송금 사건을 예시로 들어, AI 에이전트에게 자율성을 부여하면서도 안전을 확보하는 5가지 통제 방안을 제시합니다. 에이전트 레지스트리, 위험 기반 검토, 목적 기반 도구 접근, 공유된 평가, 그리고 분류기를 활용한 승인 피로 해소 방법을 통해 혁신과 안전을 동시에 달성하는 방법을 설명합니다.
핵심 요약
- 2020년 씨티은행의 9억 달러 오류 송금 사건은 절차와 통제 수단이 존재했음에도 불구하고 발생했으며, 이는 AI 에이전트에게 자율성을 부여할 때 발생할 수 있는 위험을 시사합니다.
- AI 에이전트에게 실제적인 자율성을 부여하면서도 사고를 방지하기 위해서는 모든 것을 잠그거나 운에 맡기지 않는 통제 방안이 필요합니다.
- 효과적이지 않았던 접근 방식으로는 에이전트를 샌드박스에 가두거나 모든 것을 잠그는 방법, 혹은 에이전트가 제멋대로 하게 내버려 두는 방식이 있습니다.
전체 요약과 종목별 의견·실시간 분석을 보려면 로그인하세요.
로그인 / 회원가입