Átölelő arc

A HuggingChat az Ölelő Arc's saját, ingyenes, nyílt forráskódú AI Csevegőfelület, amely több mint 119 nyílt forráskódú modellhez biztosít hozzáférést, beleértve a Llama, Mistral és Qwen modelleket egyetlen, egységes platformon keresztül. Beépített webes keresést tartalmaz a valós idejű földeléshez, MCP-támogatást a külső eszközök meghívásához beszélgetés közben, valamint egy Közösségi eszközök funkciót, amellyel bármely nyilvános Hugging Face Space-t közvetlenül a csevegésbe lehet csatlakoztatni. 

Az AutoTrain szükségtelenné teszi összetett képzési szkriptek írása amikor egy előre betanított modellt egyéni adathalmazhoz igazítunk. Feltöltünk címkézett adatokat, kiválasztunk egy alapmodellt, konfigurálunk hiperparamétereket egy letisztult felhasználói felületen keresztül, és a platform automatikusan kezeli az elosztott betanítást. A valós használatban egy BERT osztályozó finomhangolása az AutoTrain segítségével kevesebb mint 15 percet vett igénybe, szemben a manuális betanítási ciklus beállításához szükséges 3 vagy több órával. Azoknak a csapatoknak, amelyek nem rendelkeznek dedikált gépi tanulási infrastruktúra-mérnökökkel, ez jelentős képességnövekedést jelent.

A Spaces lehetővé teszi a csapatok számára, hogy Gradio vagy Streamlit alkalmazásokat telepítsenek közvetlenül Python szkriptekből, miközben a platform automatikusan kezeli a konténerizálást, a HTTPS tanúsítványokat és az automatikus skálázást. Egy működőképes hangulat elemzés A demó kevesebb mint egy óra alatt elérhető. A beépített OAuth-támogatás, a titkoskód-kezelés és az állandó tárolás leveszi a DevOps konfigurációs terheinek nagy részét a válladról. Kliensdemók, koncepcióbizonyítási buildek vagy belső gépi tanulási eszközök esetében ez a platform egyik legproduktívabb funkciója.

A Hugging Face összes modelljét és adatkészletét egy Git repository tárolja, amely LFS-támogatással rendelkezik a nagy bináris fájlokhoz. Ez azt jelenti, hogy a csapatok teljes verzióelőzményeket, elágazásokat, pull requesteket és közösen felülvizsgálható modellek súlyait és konfigurációit kapják meg, nem csak a betanító kódot. Megfelelő szoftverfejlesztési fegyelmet visz az ML-eszközkezelésbe, lehetővé téve a csapatok számára a kísérletek nyomon követését, az ellenőrzőpontok visszagörgetését és a közösségi hozzájárulások elfogadását pull requesteken keresztül.

Az Accelerate könyvtár lehetővé teszi a csapatok számára, hogy elosztott betanítást futtassanak több GPU-n és TPU-n minimális kódmódosítással. szabványos egy GPU-s A betanító szkript körülbelül öt kódsorban adaptálható több csomópontos elosztott betanításhoz. Ez kritikus fontosságú a nagy nyelvi modellekkel vagy nagy volumenű számítógépes látásfolyamatokkal dolgozó csapatok számára, ahol az egyeszközös betanítás nem megvalósítható éles környezetben.

A platform alapból támogatja a PyTorch, TensorFlow, JAX, Scikit-learn és ONNX kódokat, automatikus könyvtárészleléssel, amely ugyanazt a modellt futtatja a különböző környezetekben módosítás nélkül. Az Optimum könyvtár éles modelloptimalizálást is tartalmaz, beleértve az ONNX konverziót és kvantálást, ami akár 40%-kal is csökkentheti a következtetési késleltetést. A változatos infrastruktúrára telepítő csapatok számára ez a platformfüggetlen hordozhatóság elengedhetetlen.