Why Agentic Systems Need Ontologies — Frank Coyle, UC Berkeley

핵심 요약

• AI 에이전트의 오류(환각, 잘못된 도구 호출 등)는 모델이 도메인을 불완전하게 이해하는 데서 발생하며, 이를 해결하기 위해 외부의 형식적 온톨로지를 활용할 것을 제안합니다.
• 온톨로지는 개체, 관계, 제약 조건을 형식적으로 정의하여 LLM의 추론 과정에 논리적 가드레일을 제공하며, RDFS 및 OWL과 같은 표준 기술을 사용하여 구축할 수 있습니다.
• 신경-기호주의 AI는 LLM의 확률적 추론과 온톨로지의 기호적 추론을 결합하여, LLM이 '경계선' 안에서 작동하도록 합니다. 이는 환각과 같은 LLM의 내재적 특성을 제어하는 데 도움이 됩니다.