Why LLM Recommenders Will Be AI's Biggest Consumer App — Devansh Tandon, Meta
이 영상은 추천 시스템도 LLM처럼 확장 가능하며, LLM 기반 추천 시스템이 가장 큰 소비자 AI 애플리케이션 중 하나가 될 것이라고 주장합니다. 특히, 콘텐츠를 의미론적 ID로 토큰화하고 LLM이 영어와 이 ID를 모두 이해하도록 조정하는 3단계 레시피를 통해 LLM 추천 시스템을 구축하는 방법을 제시합니다.
핵심 요약
- 추천 시스템은 LLM과 유사한 확장 법칙을 따르며, 모델 크기, 데이터, 컴퓨팅 연산량 증가 시 성능이 향상됩니다. Meta의 인스타그램 릴스는 추천 품질 개선으로 시청 시간이 30% 증가했습니다.
- 추천 시스템은 네 가지 S-곡선(전통적, LLM 영감, LLM 네이티브, 에이전트 기반)을 따라 발전하고 있으며, 현재는 LLM 영감 모델 단계에 머물러 있거나 LLM 네이티브로 전환하려는 추세입니다.
- LLM 추천 시스템 구축의 핵심은 3단계 레시피: 1) 콘텐츠를 의미론적 ID로 토큰화, 2) LLM을 영어와 도메인 언어에 대해 이중 언어 모델로 조정, 3) 사용자 정보로 모델에 프롬프트를 입력하여 추천 디코딩입니다.
전체 요약과 종목별 의견·실시간 분석을 보려면 로그인하세요.
로그인 / 회원가입