Citation Needed: Provenance for LLM-Built Knowledge Graphs — Daniel Chalef, Zep AI
LLM이 생성하는 지식 그래프에서 데이터 출처(provenance)를 추적하는 문제점을 해결하기 위해, Graphiti 프레임워크는 출처를 그래프 자체로 모델링하여 각 사실이 어떤 원천 데이터에서 파생되었는지 명확히 추적하고 관리할 수 있음을 보여줍니다. 이를 통해 규정 준수, 사실 검증, 디버깅 용이성을 높일 수 있습니다.
핵심 요약
- LLM은 여러 출처의 데이터를 비결정적으로 해석하고 합성하여 결과물을 생성하는데, 이 과정에서 원본 출처를 추적하기 어려워집니다.
- 기존의 Source ID 방식은 LLM의 데이터 병합 및 무효화 과정에서 한계가 있으며, Provenance를 추적하기 위해 그래프 기반의 접근 방식이 필요합니다.
- Graphiti는 출처 데이터를 '에피소드'로 모델링하고, 개체와 사실을 그래프로 표현하여 각 사실의 출처를 그래프 탐색(graph walk)으로 추적합니다.
전체 요약과 종목별 의견·실시간 분석을 보려면 로그인하세요.
로그인 / 회원가입