Serving 2 Million Models Without Melting: Scaling the Hugging Face Hub — Arek Borucki, Hugging Face

핵심 요약

• ```json { "content_type": "ai", "executive_brief": "Hugging Face는 1400만 명의 사용자와 300만 개 이상의 모델을 지원하기 위해 MongoDB Atlas와 Apache Lucene 기반의 풀 텍스트 검색, S3 객체 스토리지, Kubernetes 및 KEDA를 활용한 다층적 자동 확장 시스템을 구축했습니다. 이를 통해 모델 검색 및 데이터 접근 시 지연 시간을 최소화하고 일관된 사용자 경험을 제공합니다.", "bullet_points": [ { "text": "Hugging Face는 1400만 사용자, 300만 모델, 100만 데이터 세트를 호스팅하며, Fortune 500 기업의 30% 이상이 AI 워크플로우에 사용하고 있습니다.", "start_seconds": 137 }, { "text": "모델 자체는 S3와 같은 객체 스토리지에 저장하고, MongoDB