Evals-Driven Development for a Mental Health AI Coach — Akele Reed & Dave Revere, SonderMind
SonderMind는 환각 위험이 높은 정신 건강 AI 코칭 분야에서 안전과 효과성을 최우선으로 하는 '평가 기반 개발(Evals-Driven Development)' 접근 방식을 소개합니다. 실제 임상 데이터를 기반으로 구축된 모듈형 가드레일 시스템, 인간 전문가의 피드백 루프, 그리고 안전한 AI 개발을 위한 데이터셋 오픈 소싱에 대해 설명합니다.
핵심 요약
- SonderMind는 임상적으로 검증된 AI 코치 'Sonder'를 개발했으며, 이는 사용자가 치료를 받기 전이나 세션 사이에 지원을 제공합니다. [01:00]
- 정신 건강 AI의 위험성을 인지하고, 입출력 가드레일 시스템을 통해 사용자 메시지와 AI 응답의 임상 안전성을 감독합니다. [03:00]
- 가드레일 시스템은 모듈화되어 있어, 반복적인 개발 과정에서도 안전성을 유지하면서 AI 모델을 개선할 수 있습니다. [04:00]
전체 요약과 종목별 의견·실시간 분석을 보려면 로그인하세요.
로그인 / 회원가입