How We Built Zeta2: Training an Edit Prediction Model in Production — Ben Kunkle, Zed
Zed는 편집 예측 모델 'Zeta 2'를 훈련하기 위한 파이프라인을 개발했습니다. '정착된 데이터'를 활용하여 비용 효율적인 훈련을 위해 교사 모델의 품질에 근접하는 학생 모델을 사용하며, '반전 비율'과 같은 지표를 통해 모델의 오류를 진단하고 수정하는 과정을 설명합니다.
핵심 요약
- Zed는 코드 편집 예측 모델을 훈련하기 위해 사용자 참여 프로덕션 데이터를 수집하고, '프론티어 모델'(교사 모델)을 사용하여 초기 예측을 생성합니다.
- 이후 '수리 단계'를 통해 잘못된 예측을 수정하고, 이 데이터를 학생 모델(Zed 2) 훈련을 위한 '정착된 데이터'로 활용합니다.
- 학생 모델 훈련에 '정착된 데이터'를 사용하기 위해, 모델이 생성한 예측 중 최종 상태(사용자가 만족한 코드)와 Levenshtein 거리 상 유사한 것을 선별하여 노이즈를 제거하고 예측 가능한 데이터를 추출합니다.
전체 요약과 종목별 의견·실시간 분석을 보려면 로그인하세요.
로그인 / 회원가입