Agents Are Where Microservices Were in 2015 — Roberto Milev & Uday Kanagala, Navan
Navan의 Roberto Milev와 Uday Kanagala는 에이전트를 마이크로서비스의 2015년 상태에 비유하며, 에이전트 아키텍처의 런타임, 메모리, 컨텍스트 관리, 추적 및 테스트에 대한 실질적인 학습 내용을 공유합니다. 이들은 단일 마스터 에이전트와 프로그레시브 스킬 로딩 접근 방식을 강조하며, 복잡한 시스템에서의 관찰 가능성, 비용 관리, 비결정적 시스템 테스트 등의 미해결 과제를 논합니다.
핵심 요약
- 에이전트는 본질적으로 상태를 가지며, 지속적인 세션과 격리가 필요하여 전통적인 무상태 API 서비스와는 다른 런타임 특성을 요구합니다. Navan은 AWS Agent Core 런타임을 활용하며, 세션 지속성 및 재구성을 위한 자체 솔루션을 구축했습니다.
- 메모리 관리는 RAG(Retrieval Augmented Generation)에서 시작하여, 단기 대화 메모리부터 장기 및 에피소드 메모리까지 시간 경과에 따라 구축되는 방식에 대한 워크플로우를 따릅니다.
- 컨텍스트 관리에서는 스킬을 컨텍스트의 단위로 간주하며, 이는 특정 도메인이나 태스크에 대한 지침과 도구 실행을 포함합니다. 이러한 스킬은 플러그 가능하고 독립적으로 테스트 가능한 재사용 가능한 작업 단위로 구성됩니다.
전체 요약과 종목별 의견·실시간 분석을 보려면 로그인하세요.
로그인 / 회원가입