Kíváncsi a nagy nyelvi modellek építésére, finomhangolására vagy telepítésére?
Nem vagy egyedül – az LLM szakértelem az egyik legkeresettebb készség a világon AI Ma. Val vel nyílt forráskódú projektek A gyorsan növekvő GitHub a legfelső szintű alkalmazások elsődleges központjává vált LLM projektek, keretrendszerek és kutatások.
Ez az útmutató 12 alapvető GitHub-repozitóriumot mutat be , amelyek forráskóddal, gyakorlati oktatóanyagokkal és modell-implementációkkal vannak tele.
Szerezz bizonyított LLM tudást , gyorsítsd fel a tanulási folyamatot, és csatlakozz a mesterséges intelligencia jövőjét formáló globális közösséghez – mindezt ezekkel a nélkülözhetetlen GitHub-tárhelyekkel.
Miért GitHub Alapvető az LLM fejlesztéséhez
A GitHub az LLM ökoszisztéma dobogó szívévé vált, ahol az áttörést jelentő kutatás találkozik a gyakorlati megvalósítással. Míg az akadémiai cikkek elméleti alapokat adnak, a GitHub a mai világot működtető tényleges kódot biztosítja.'s legfejlettebb nyelvi modellek.
A platform mindent tartalmaz a Meta-tól's Llama implementációk az OpenAI-ba's kódbázisok kutatása, így ez a leggyorsabb módja a bevált technikák elérésének és a gyors fejlesztések élvonalában maradásnak.
A GitHub főbb okai az LLM fejlesztések dominanciájának:
Az LLM rajongók számára a GitHub nem csupán egy erőforrás –'s közvetlen vonalad a jövőbe AI fejlődését.
1. LLM-tanfolyam
Maxime Labonne LLM kurzusa fantasztikus kiindulópont és átfogó útiterv mindazok számára, akik komolyan gondolják az LLM-ek elsajátítását . Ez több mint egy egyszerű fájlgyűjtemény; ez egy strukturált tanulási útvonal, amely különböző karriercélokhoz igazodik. A tárház hatalmas népszerűségre tett szert, több mint 51 500 csillaggal büszkélkedhet a GitHubon.
Miért Ez's egy legjobb választás
Ez a tárhely azért tűnik ki, mert két különálló ütemtervet kínál, amelyek lehetővé teszik a tanulási folyamat személyre szabását:
A kurzus mindent lefed az LLM matematika alapjaitól kezdve a haladó témákig, mint például a kvantálás, a finomhangolás és a modelltelepítés. Ez egy komplett csomag minden szintű tanuló számára.
FŐBB JELLEMZŐK
Ki használhatja?
Ez a tárhely tökéletes mind a kezdőknek, akiknek strukturált bevezetésre van szükségük, mind a tapasztalt szakembereknek, akik elmélyíteni szeretnék szakértelmüket az LLM-fejlesztés egyes területein.
2. HandsOnLLM
A HandsOnLLM/Hands-On-Large-Language-Models repository az azonos című O'Reilly könyv hivatalos kiegészítője . Vizuálisan gazdag és gyakorlatias útmutató, amely leleplezi az LLM-ek működésének rejtélyeit. Ha a gyakorlatban tanulsz a legjobban, és értékeled a jól dokumentált kódpéldákat, akkor ez a repository neked való.
Miért Ez's egy legjobb választás
Gyakorlatias, projektalapú tanulási megközelítést kínál. A könyv minden fejezetéhez Jupyter jegyzetfüzetek tartoznak, amelyek lehetővé teszik, hogy nyomon kövesd a kódot és önállóan kísérletezz vele. Valós projektekre és példákra összpontosít, amelyeket a saját felhasználási eseteidhez adaptálhatsz.
FŐBB JELLEMZŐK
Ki használhatja?
A gyakorlatias, projektalapú tanulási stílust előnyben részesítő fejlesztők és adatkutatók hihetetlenül értékesnek találják majd ezt a gyűjteményt. Kiváló forrás mindazok számára is, akik a „Hands-on Large Language Models” című könyvet olvassák.
3. gyors-mérnöki
A brexhq/prompt-engineering útmutató egy igazi kincsesbánya a gyorsított mérnöki munka művészetének és tudományának elsajátításához . Az LLM-ek világában a kimenet minőségét gyakran a bemenet minősége határozza meg, így ez a készség abszolút elengedhetetlen. Ez a közel 9,000 csillagos adattár gyakorlati tippeket és stratégiákat kínál olyan modellekkel való munkához, mint a GPT-4.
Miért Ez's egy legjobb választás
Összefoglalja az éles használati esetekhez készült promptok létrehozása során szerzett tapasztalatokat, így rendkívül praktikus. A tárház jól szervezett oktatóanyagokba van strukturálva, amelyek mindent lefednek az alapelvektől kezdve a haladó technikákig, mint például a gondolatlánc-promptok (CoT) és az önkonzisztencia.
FŐBB JELLEMZŐK
Ki használhatja?
Bárki, aki kapcsolatba kerül jogi mesterekkel (LLM), a fejlesztőktől és kutatóktól kezdve a tartalomkészítőkön át a marketingesekig, hasznát veheti ennek a gyűjteménynek. A gyors tervezés elsajátítása kulcsfontosságú készség ahhoz, hogy a legtöbbet hozhassuk ki bármely nyelvi modellből.
4. Félelmetes-LLM
A Hannibal046/Awesome-LLM adattár a nagy nyelvi modellekkel (LLM) kapcsolatos összes dolog gondosan válogatott listája. Tekints rá úgy, mint egy központi irányítópultra, ahol naprakész lehetsz az LLM ökoszisztémával kapcsolatban. Ez egy élő gyűjtemény az erőforrásokból, amelyet a közösség rendszeresen frissít.
Miért Ez's egy legjobb választás
Ez a tárhely számtalan órányi keresést takarít meg Önnek azáltal, hogy egy helyen gyűjti össze a nélkülözhetetlen erőforrásokat. Tartalmaz alapvető kutatási anyagokat, képzési keretrendszereket, telepítési eszközöket és értékelési referenciaértékeket. Még egy ranglistát is tartalmaz, amellyel nyomon követheti a különböző LLM-ek teljesítményét.
FŐBB JELLEMZŐK
Ki használhatja?
Ez kötelező darab kutatók, diákok és gyakorló szakemberek számára, akik egy helyen szeretnének hozzájutni a kiváló minőségű LLM-forrásokhoz. Tökéletes új eszközök felfedezéséhez és a legújabb kutatásokkal kapcsolatos információk követéséhez.
5. Szerszámpad
Ahogy az LLM-ek (jogi mesterek) egyre inkább ágensközpontúvá válnak, egyre fontosabbá válik a külső eszközök használatának képessége. Az OpenBMB/ToolBench repository egy nyílt forráskódú platform, amelyet az LLM-ek eszköztanuláshoz való betanítására, kiszolgálására és értékelésére terveztek. Keretrendszert és nagyméretű utasításhangoló adatkészletet biztosít ezen képességek fejlesztéséhez.
Miért Ez's egy legjobb választás
A ToolBench az LLM fejlesztés egy kritikus és trendi területére összpontosít: az eszközhasználatra. A StableToolBench kiterjesztés ezt tovább fokozza olyan funkciók bevezetésével, mint a MirrorAPI , amely több ezer valódi API-t szimulál , valamint egy virtuális API rendszer, amely biztosítja a stabilitást és a konzisztenciát az értékelés során.
FŐBB JELLEMZŐK
Ki használhatja?
Kutatók és fejlesztők, akik érdeklődnek az ágentikus LLM-ek fejlesztése iránt, amelyek képesek interakcióba lépni külső API-k és az eszközök felbecsülhetetlen értékűnek fogják találni a ToolBench-et. Ideális azok számára, akik nagyobb teljesítményű és autonómabb tartalmak létrehozásán dolgoznak. AI szerek.
6. Pythia
Az EleutherAI által fejlesztett EleutherAI/pythia repository egy olyan modellcsomag, amely az értelmezhetőség, a tanulási dinamika és az etika kutatását teszi lehetővé. Sok más modellkiadástól eltérően a Pythia csomagot elsődleges célként az átláthatóság és a tudományos kutatás szolgált.
Miért Ez's egy legjobb választás
A Pythia teljesen nyílt forráskódú hozzáférést biztosít 16 különböző modell-ellenőrzőponthoz, lehetővé téve a kutatók számára, hogy tanulmányozzák, hogyan fejlődnek és változnak az LLM-ek a képzés során. Ez kulcsfontosságú ezen modellek „fekete doboz” jellegének megértéséhez, valamint olyan területek kutatásához, mint a skálázási törvények és a modell etikája.
FŐBB JELLEMZŐK
Ki használhatja?
AI A modellek értelmezhetőségére, biztonságára és az LLM képzés alapelveire összpontosító kutatók, etikusok és diákok sokat profitálhatnak ebből a gyűjteményből.
7. LLM-ügynök-dolgozatlista
Azoknak, akik mélyebben szeretnének elmerülni az akadémiai világban AI szerek, a WooooDyy/LLM-Agent-Paper-List egy alapvető forrás. Ez a gyűjtemény kutatási cikkek gondozott gyűjteménye, amelyek szisztematikusan vizsgálják a következők fejlesztését, alkalmazását és megvalósítását: LLM-alapú ügynökök.
Miért Ez's egy legjobb választás
Alapvető tudástárként szolgál az egyik legizgalmasabb területen. AI ma. Ahelyett, hogy pusztán kódot ismernénk, ez a repo biztosítja azokat az elméleti alapokat, amelyekre szüksége van a következő generáció megértéséhez és felépítéséhez. AI szerek.
FŐBB JELLEMZŐK
Ki használhatja?
Ez a repozitórium tudományos kutatóknak, posztgraduális hallgatóknak és haladó gyakorlati szakembereknek szól, akik az LLM-alapú ágensekkel kapcsolatos élvonalbeli kutatásokra szeretnének építeni.
8. Csodálatos-Multimodális-Nagy-Nyelvű-Modellek
Az LLM-ek (LLM-ek) már nem korlátozódnak pusztán szövegre. A BradyFU/Awesome-Multimodal-Large-Language-Models adattár egy gondosan válogatott gyűjtemény, amely a multimodális LLM-ek (MLLM-ek) legújabb fejlesztéseire összpontosít, amelyek képesek szövegből, képekből, hanganyagokból és videóból származó információkat feldolgozni.
Miért Ez's egy legjobb választás
Ez a tárhely a belépőd az MLLM-ek világába. Széles témakört ölel fel, a multimodális utasításhangolástól a gondolatlánc-érvelésen át a hallucinációk enyhítésére szolgáló technikákig. Kapcsolódik a VITA projekthez is, amely egy nyílt forráskódú interaktív multimodális LLM platform.
FŐBB JELLEMZŐK
Ki használhatja?
A szövegen túlmutató alkalmazások, például képaláírások, videóelemzés vagy hangvezérelt asszisztensek fejlesztése iránt érdeklődő fejlesztők és kutatók rendkívül hasznosnak fogják találni ezt a gyűjteményt.
9. DeepSpeed
A Microsoft által fejlesztett microsoft/DeepSpeed egy mélytanulást optimalizáló könyvtár, amely egyszerűvé és hatékonnyá teszi az elosztott betanítást és következtetéseket. Zökkenőmentesen integrálható a PyTorch- csal , és kulcsszerepet játszott a világ néhány legnagyobb modelljének betanításában, beleértve az 530 milliárd paraméteres Megatron-Turing modellt is.
Miért Ez's egy legjobb választás
A DeepSpeed a skálázhatóságról és a hatékonyságról szól. Rendszerszintű innovációkat kínál, amelyek lehetővé teszik hatalmas modellek betanítását több milliárd paraméterrel korlátozott hardveren. Funkciói elengedhetetlenek mindazok számára, akik komolyan gondolják a legmodernebb LLM-ek nulláról történő betanítását, vagy a nagy modellek finomhangolását.
FŐBB JELLEMZŐK
Ki használhatja?
Ez egy eszköz komoly szakemberek, adatkutatók és kutatók számára, akiknek nagyon nagy nyelvi modelleket kell betanítaniuk vagy finomhangolniuk. Ha a jelenlegi beállítással memóriakorlátokba ütközöl, a DeepSpeed a megoldás.
10. call.cpp
A ggml-org/llama.cpp tárhely forradalmi változást hoz az LLM-ek fogyasztói hardvereken történő futtatásában.'s egy nagy teljesítményű C/C++ könyvtár következtetések futtatásához helyi gépeken, beleértve az asztali gépeket és akár a mobil eszközöket is.'s a GGML tenzorkönyvtárra épül, és hatékonyságáról, valamint minimális beállítási igényéről híres.
Miért Ez's egy legjobb választás
A llama.cpp mindenki számára elérhetővé teszi a hatékony LLM-eket. Nincs szükség hatalmas felhőalapú GPU-klaszterre ahhoz, hogy olyan modellekkel kísérletezzen, mint a Llama 3 , a Mistral vagy a GPT-2. A CPU- és peremhálózati eszközök teljesítményére való összpontosítása demokratizálta az LLM használatát. Néhány paranccsal beállíthat egy helyi szervert, és máris elkezdhet interakcióba lépni a modellekkel.
FŐBB JELLEMZŐK
Ki használhatja?
Fejlesztők, hobbi szakemberek és kutatók, akik helyben szeretnének LLM-eket futtatni és kísérletezni velük anélkül, hogy drága felhőszolgáltatásokra támaszkodnának.'s eszközön történő építéshez is tökéletes AI alkalmazások amelyek az adatvédelmet és az alacsony késleltetést helyezik előtérbe.
11. PaLM-rlhf-pytorch
Az emberi visszajelzéssel történő megerősítéses tanulás (RLHF) a titkos összetevő az olyan modellek lenyűgöző társalgási képességei mögött, mint a ChatGPT. A lucidrains/PaLM-rlhf-pytorch repository az RLHF nyílt forráskódú implementációját kínálja a Google-on alkalmazva.'s PaLM architektúra.
Miért Ez's egy legjobb választás
Ez a tárhely leleplezi a modern LLM fejlesztés egyik legfontosabb technikáját. Célja, hogy a ChatGPT funkcionalitását reprodukálja a PaLM modell segítségével , konkrét példát mutatva arra, hogyan valósítható meg az RLHF. Betölthet előre betanított modelleket, vagy finomhangolhatja azokat a saját igényei szerint.
FŐBB JELLEMZŐK
Ki használhatja?
Ez a tárhely azoknak a kutatóknak és fejlesztőknek szól, akiket érdekel a finomhangolási folyamat, különösen azoknak, akik szeretnék megérteni és megvalósítani az RLHF-et az LLM-ek és az emberi preferenciák összehangolása érdekében.
12. nanoGPT
A legendás Andrej Karpathy által létrehozott karpathy/nanoGPT a legegyszerűbb és leggyorsabb tárhely közepes méretű GPT-k betanításához és finomhangolásához. Kódbázisa szándékosan tömör, a train.py fájlban található a központi betanítási ciklus, a model.py pedig a modelldefiníciót tartalmazza.
Miért Ez's egy legjobb választás
A nanoGPT az egyszerűséget és az oktatási értéket helyezi előtérbe. Megszünteti a nagy könyvtárak minden bonyolultságát, lehetővé téve a transzformátor architektúrájának megértését az alapoktól kezdve. Egyszerűsége ellenére...'s elég erős ahhoz, hogy reprodukálja a GPT-2 szintű eredményeket, és más minimalista projekteket is inspirált, mint például a nanoVLM a vizuális nyelvi modellekhez.
FŐBB JELLEMZŐK
Ki használhatja?
A nanoGPT ideális diákok, oktatók és fejlesztők számára, akik mélyreható, alapvető ismereteket szeretnének szerezni a GPT architektúrájáról. Ha eleged van a fekete dobozos könyvtárakból , és szeretnéd látni, hogyan működnek a dolgok valójában, akkor ez a neked való repository.
A te LLM utazás Kezdjük ezekkel az alapvető GitHub-tárhelyekkel
Mi a különbség aközött, hogy álmodozol az LLM-ekről, és hogy ténylegesen el is készíted őket? Ez a 12 GitHub-repozitórium. Míg mások az elméletről vitatkoznak, mostantól közvetlen hozzáférésed van a mai legfejlettebb nyelvi modelleket működtető kódhoz.
Versenyelőnye vár rád:
- nanoGPT klón megérteni a transzformátor alapjait
- Fork llama.cpp helyi modell telepítéséhez
- Star LLM kurzus strukturált tanulási utakért
- Hozzájárulás a DeepSpeedhez és csatlakozz a Microsofthoz's optimalizálási erőfeszítések
Az LLM terület gyorsan fejlődik –fejlesztők Akik ma uralják ezeket a tárházakat, azok holnap válnak's AI építészek. Válaszd ki a 3 legjobb fejlesztői repozitóriumot, állítsd be a fejlesztői környezetedet, és kezdj el kísérletezni. Minden commit, minden pull request, minden betanított modell közelebb visz az LLM mesterfokon való haladáshoz.
BÓNUSZ: Szerezd meg a 200 dolláros "AI „Mastery Toolkit” INGYENES regisztrációval!
