Agyag

Argilla legfontosabb információi

Mi az az Argilla?

Agyag egy ingyenes, nyílt forráskódú adatmegjegyzési és emberi visszajelzési platform, amelyet a következő felhasználók számára fejlesztettek ki: AI mérnökök és szakterületi szakértők, akiknek kiváló minőségű adatkészleteket kell létrehozniuk. Az eredetileg önálló eszközként fejlesztett Argilla ma már a Átölelő arc ökoszisztéma. Számos különböző AI olyan feladatok, mint a szövegosztályozás, a megnevezett entitások felismerése, az LLM finomhangolása felügyelt tanulással, valamint az RLHF preferenciaadatok gyűjtése. 

A platform egy Python SDK-t és egy böngészőalapú felhasználói felületet használ, amely lehetővé teszi a csapatok számára az adatrekordok címkézését, értékelését, rangsorolását és szűrők segítségével történő áttekintését. AI támogatott javaslatok és hasonlóságkeresés. Az Argilla teljes mértékben saját üzemeltetésű, kötelező előfizetés nélkül, így ideális azoknak a csapatoknak, amelyeknek teljes adattulajdonlásra és -felügyeletre van szükségük. Hugging Face Spaces vagy Docker konténereken fut, és támogatja a programozott adatkészlet-kezelést a folyamatos modellfejlesztési munkafolyamatok érdekében.

Az Argilla főbb jellemzői

RLHF és preferenciaadatok gyűjtése

Az Argilla leegyszerűsíti az emberi preferenciaadatok gyűjtését a megerősítéses tanuláshoz emberi visszajelzésekből. Az annotátorok egyetlen promptra adott több modellválaszt is rangsorolhatnak és értékelhetnek, létrehozva a jutalmazási modell betanításához szükséges összehasonlító adatkészleteket. Ez teszi az egyik legkönnyebben hozzáférhető nyílt forráskódú eszközzé a nagy nyelvi modellek emberi értékekkel való összehangolásához.

Rugalmas visszajelzési kérdéssablonok

A platform támogatja az értékelési, rangsorolási, szöveges, egycímkés, többcímkés és átfogó kérdéstípusokat. A csapatok ezeket a sablonokat keverhetik és párosíthatják, hogy olyan egyéni annotációs munkafolyamatokat hozzanak létre , amelyek gyakorlatilag bármilyen felhasználási esethez illeszkednek. Ez a rugalmasság azt jelenti, hogy egyetlen adathalmaz egyszerre több visszajelzési formát is képes rögzíteni, ami időt takarít meg a jegyzetelőktől és javítja az adatok gazdagságát.

Natív Hugging Face Hub integráció

Az adathalmazok közvetlenül importálhatók és exportálhatók a Hugging Face Hub-ba a felhasználói felületen vagy a Python SDK-n keresztül. Ez a szoros integráció megkönnyíti a verziókövetéses annotációs projektek végrehajtását, az adathalmazok megosztását a közösséggel, vagy a népszerű, nyílt forráskódú adathalmazok behívását a gyors kísérletezéshez. A Hugging Face Spaces-en egyetlen kattintással telepíthető egy teljes Argilla-példány kevesebb mint öt perc alatt futtatható.

Programozott Python SDK

Az Argilla SDK teljes körű kontrollt biztosít a mérnököknek az adathalmazok létrehozása, a rekordkezelés, a felhasználók adminisztrációja és az adatexportálás felett. Minden, ami a felhasználói felületen elvégezhető, Pythonban is szkriptelhető, lehetővé téve az automatizált folyamatokat, amelyek az annotációs munkafolyamatokat a modell betanítási ciklusaihoz kötik. Az SDK támogatja a Python 3.9-től 3.13-ig terjedő verzióit és a Pydantic v2-t.

AI Segített javaslatok és intelligens szűrés

Az Argilla lehetővé teszi a csapatok számára, hogy modell-előrejelzéseket csatoljanak javaslatokként a rekordokhoz, így a jegyzetelők elfogadhatják, módosíthatják vagy elutasíthatják azokat ahelyett, hogy a nulláról címkéznék őket. A szemantikus kereséssel és a metaadat-szűrőkkel kombinálva ez drámaian csökkenti a jegyzeteléshez szükséges időt. A jegyzetelők a legfontosabb rekordokra összpontosítanak, ahelyett, hogy vakon dolgoznának az adatokon.

Webhook-vezérelt munkafolyamat-automatizálás

A 2.5-ös verzió bevezette a webhook támogatást, amely lehetővé teszi a külső rendszerek számára, hogy valós időben reagáljanak az Argilla belső eseményeire. Amikor egy rekord elkészül, vagy egy adathalmaz megváltozik, az Argilla elindíthat olyan folyamatokat, mint az újratanítási feladatok vagy a minőségellenőrzések. Ezáltal az Argilla egy éles MLOps folyamat élő komponensévé válik, nem pedig egy önálló annotációs eszközzé.

Argilla árképzési csomagok

Argilla telepítése saját infrastruktúrán

A szigorú adatkezelési követelményekkel rendelkező csapatok számára az Argilla teljes mértékben telepíthető privát infrastruktúrára a Docker segítségével. Ez teljes kontrollt biztosít a tárolási háttérrendszerek (PostgreSQL plusz Elasticsearch vagy OpenSearch), a felhasználói hitelesítés és a hálózati hozzáférés felett. A szerver támogatja a környezeti változók konfigurációját az OAuth2 szolgáltatóknál, az SSL-t és az alap URL-útválasztást. 

A Kubernetes telepítésekhez Helm-diagramok érhetők el, így egyszerűen skálázható az annotációs kapacitás a meglévő gépi tanulási infrastruktúra mellett. Mivel a platform MIT-licenccel rendelkezik, nincsenek használati díjak, létszámkorlátozások vagy funkciókorlátok az önállóan üzemeltetett példányokon.

Érvek és ellenérvek

Argilla és az Ölelőarc ökoszisztéma

Az Argilla 2024-ben csatlakozott a Hugging Face-hez, ezzel megszilárdítva szerepét, mint a legnagyobb nyílt forráskódú platform elsődleges annotációs rétege. AI közösség. Ez a felvásárlás szorosabb integrációt jelent a Hugging Face Datasets, a Transformers és a Hub szolgáltatással. A felhasználók közvetlenül a Hubba küldhetnek megjegyzésekkel ellátott adatkészleteket verziókövetés és közösségi megosztás céljából. 

Ugyanennek a csapatnak a Distilabel könyvtára kiegészíti az Argilla szolgáltatásait szintetikus adatok generálásával, amelyeket aztán az annotátorok kurálnak. Ezek az eszközök együttesen egy visszacsatolási hurkot hoznak létre, ahol a szintetikus generálás és az emberi validáció egymás mellett fut, felgyorsítva az LLM projektek adatkészleteinek létrehozását a minőség feláldozása nélkül.

A legjobb Argilla alternatívák