Stop Fine-Tuning to Fix Retrieval Problems — Anant Srivastava
AI 시스템에서 지식이 어디에 저장되어야 하는지, 즉 프롬프트, 메모리, 또는 가중치(weights) 중 어디에 위치해야 하는지에 대한 명확한 아키텍처 결정을 내리는 방법을 설명합니다. 영상은 실제 사례를 통해 잘못된 결정이 어떻게 누적되어 문제를 일으키는지 보여주며, 각 지식 저장 방식의 역할과 진단 질문을 제시하여 의도된 설계를 지원합니다.
핵심 요약
- AI 시스템에서 지식은 프롬프트, 메모리, 가중치(weights) 중 어디에 저장되어야 하는지에 대한 의사결정이 중요하며, 이는 종종 사고로 이루어집니다. (창작자 평가: '이것은 당신이 올라가는 사다리가 아니라, 세 가지 다른 작업을 위한 세 가지 다른 도구입니다.')
- 프롬프트는 작고 안정적이며 편집 가능한 행동, 톤, 페르소나를 관리하는 데 사용되어야 하며, 사실을 저장하는 데는 부적합합니다.
- 메모리는 현재, 대규모이며 출처를 명시할 수 있는 지식을 다루는 데 이상적이며, 접근 제어가 필요한 경우에도 사용됩니다.
전체 요약과 종목별 의견·실시간 분석을 보려면 로그인하세요.
로그인 / 회원가입