포옹하는 얼굴

HuggingChat은 Hugging Face입니다.'s 자체 제작, 무료, 오픈 소스 AI 이 채팅 인터페이스는 Llama, Mistral, Qwen을 포함한 119개 이상의 오픈 소스 모델에 단일 통합 플랫폼으로 접근할 수 있도록 해줍니다. 실시간 그라운딩을 위한 내장 웹 검색 기능, 대화 중 외부 도구를 호출할 수 있는 MCP 지원, 그리고 공개 Hugging Face Space를 채팅에 직접 연결할 수 있는 커뮤니티 도구 기능이 포함되어 있습니다. 

AutoTrain은 필요성을 없애줍니다. 복잡한 교육 스크립트를 작성하세요 사전 학습된 모델을 사용자 지정 데이터 세트에 적용할 때, 레이블이 지정된 데이터를 업로드하고, 기본 모델을 선택하고, 깔끔한 UI를 통해 하이퍼파라미터를 구성하면 플랫폼이 분산 학습을 자동으로 처리합니다. 실제 사용 사례에서 AutoTrain을 통해 BERT 분류기를 미세 조정하는 데 15분도 채 걸리지 않았지만, 수동으로 학습 루프를 설정하는 데는 3시간 이상이 소요되었습니다. 전담 머신러닝 인프라 엔지니어가 없는 팀에게는 상당한 성능 향상입니다.

Spaces를 사용하면 팀에서 Python 스크립트에서 Gradio 또는 Streamlit 애플리케이션을 직접 배포할 수 있으며, 플랫폼이 컨테이너화, HTTPS 인증서 및 자동 확장을 자동으로 관리합니다. 심리 분석 데모는 한 시간 이내에 실행 가능합니다. 내장된 OAuth 지원, 비밀 키 관리 및 영구 저장소를 통해 DevOps 구성 부담을 대부분 덜어줍니다. 클라이언트 데모, 개념 증명 빌드 또는 내부 머신러닝 도구에 있어 플랫폼에서 가장 생산적인 기능 중 하나입니다.

Hugging Face의 모든 모델과 데이터셋은 대용량 바이너리 파일 처리를 지원하는 LFS(Large File Service) 기능을 갖춘 Git 저장소에 저장됩니다. 덕분에 팀은 학습 코드뿐만 아니라 모델 가중치와 구성에 대한 전체 버전 기록, 브랜칭, 풀 리퀘스트, 공동 검토 기능을 활용할 수 있습니다. 이는 머신러닝 자산 관리에 소프트웨어 엔지니어링 원칙을 적용하여 팀이 실험을 추적하고, 체크포인트를 되돌리고, 풀 리퀘스트를 통해 커뮤니티의 기여를 수용할 수 있도록 합니다.

Accelerate 라이브러리를 사용하면 팀에서 최소한의 코드 변경만으로 여러 GPU 및 TPU에 걸쳐 분산 학습을 실행할 수 있습니다. 표준 단일 GPU 학습 스크립트는 약 5줄 정도의 코드로 멀티 노드 분산 학습에 맞게 수정할 수 있습니다. 이는 대규모 언어 모델이나 대용량 컴퓨터 비전 파이프라인을 다루는 팀에게 매우 중요합니다. 이러한 환경에서는 단일 장치 학습이 실제 운영 환경에서 적합하지 않기 때문입니다.

이 플랫폼은 PyTorch, TensorFlow, JAX, Scikit-learn, ONNX를 기본적으로 지원하며, 라이브러리 자동 감지 기능을 통해 수정 없이 다양한 환경에서 동일한 모델을 실행할 수 있습니다. Optimum 라이브러리는 ONNX 변환 및 양자화를 포함한 프로덕션 모델 최적화 기능을 추가하여 추론 지연 시간을 최대 40%까지 줄일 수 있습니다. 다양한 인프라에 배포하는 팀에게 이러한 크로스 플랫폼 호환성은 필수적입니다.