Katta tilli modellarni o'zlashtirish uchun 12 ta GitHub ombori

Qurilish, nozik sozlash yoki joylashtirishga qiziqasiz Katta til modellari?

Siz yolg'iz emassiz - LLM mutaxassisligi eng mashhur ko'nikmalardan biridir AI bugun. Bilan ochiq manbali loyihalar tez o'sib borayotgan GitHub eng yuqori darajadagi markazga aylandi LLM loyihalari, asoslari va tadqiqotlari.

Ushbu qo'llanma 12 ta asosiy yo'nalishni ko'rsatadi GitHub omborlari manba kodi, amaliy qo'llanmalar va modellarni amalga oshirish bilan to'ldirilgan.

Tasdiqlang LLM bilimi, o'rganishni tezlashtiring va sun'iy intellekt kelajagini shakllantiruvchi global hamjamiyatga qo'shiling - barchasi bilishi kerak bo'lgan GitHub omborlari bilan.

1. llm-kurs

Maksim Labonne's llm-kurs - bu ajoyib boshlanish nuqtasi va jiddiy har bir kishi uchun keng qamrovli yo'l xaritasi LLMlarni o'rganish. Bu's faqat fayllar to'plamidan ko'proq; bu's turli martaba maqsadlariga javob beradigan tuzilgan o'quv yo'li. GitHub-da 51 500 dan ortiq yulduzlar bilan maqtangan ombor juda mashhur bo'ldi.

Nima uchun's Eng yaxshi tanlov

Ushbu repozitoriy alohida ajralib turadi, chunki u ikkita alohida yo'l xaritasini taqdim etadi, bu sizga o'rganish sayohatingizni moslashtirishga imkon beradi:

Kurs asoslaridan tortib hamma narsani qamrab oladi LLM matematika kvantlash, nozik sozlash va modelni joylashtirish kabi ilg'or mavzularga. Bu barcha darajadagi o'quvchilar uchun to'liq to'plam.

kalit Xususiyatlar

Kim foydalanishi kerak?

Ushbu ombor tizimli kirishga muhtoj bo'lgan yangi boshlanuvchilar uchun ham, LLM rivojlanishining muayyan sohalarida o'z tajribasini chuqurlashtirishga intilayotgan tajribali mutaxassislar uchun juda mos keladi.

2. HandsOnLLM

HandsOnLLM/Hands-On-Large-Language-Models ombori ushbu dasturning rasmiy hamkori hisoblanadi. O'Reilly kitob xuddi shu nomdagi. Bu's LLMlar qanday ishlashini tushunmaydigan vizual jihatdan boy va amaliy qo'llanma. Agar siz yaxshi hujjatlashtirilgan kod misollarini bajarish orqali yaxshiroq o'rgansangiz va buni qadrlasangiz, bu ombor siz uchun.

Nima uchun's Eng yaxshi tanlov

U o'rganishga amaliy, loyihaga asoslangan yondashuvni taklif etadi. Kitobning har bir bobi Jupyter daftarlari bilan birga keladi, bu sizga kodni o'zingiz kuzatib borish va tajriba o'tkazish imkonini beradi. U o'zingizning foydalanish holatlaringizga moslasha oladigan haqiqiy loyihalar va misollarga qaratilgan.

Kim foydalanishi kerak?

Amaliy, loyihaga asoslangan o'rganish uslubini afzal ko'rgan ishlab chiquvchilar va ma'lumotlar olimlari ushbu omborni juda qimmatli deb bilishadi. Bu, shuningdek, “Katta til modellari” kitobini o'qiyotgan har bir kishi uchun ajoyib manbadir.

3. tezkor muhandislik

Brexhq/prompt-engineering qo'llanmasi san'at va fanni o'zlashtirish uchun xazinadir. tezkor muhandislik. LLMlar dunyosida sizning mahsulotingiz sifati ko'pincha kiritgan ma'lumotlaringiz sifati bilan belgilanadi, bu esa bu mahoratni juda muhim qiladi. 9 000 ga yaqin yulduzli ushbu ombor GPT-4 kabi modellar bilan ishlash uchun amaliy maslahatlar va strategiyalarni taklif etadi.

Nima uchun's Eng yaxshi tanlov

U ishlab chiqarishdan foydalanish holatlari bo'yicha ko'rsatmalar yaratishdan olingan saboqlarni birlashtiradi va uni juda amaliy qiladi. Ombor asosiy printsiplardan tortib ilg'or texnikalargacha bo'lgan hamma narsani o'z ichiga olgan o'quv qo'llanmalarida yaxshi tashkil etilgan. Fikrlash zanjiri (CoT) taklifi va o'z-o'zidan izchillik.

kalit Xususiyatlar

Kim foydalanishi kerak?

Ishlab chiquvchilar va tadqiqotchilardan tortib kontent yaratuvchilari va sotuvchilarigacha LLM bilan o'zaro aloqada bo'lgan har bir kishi ushbu ombordan foyda oladi. Tez muhandislikni o'zlashtirish har qanday til modelidan maksimal darajada foydalanish uchun asosiy mahoratdir.

4. Ajoyib-LLM

Hannibal046/Awesome-LLM ombori katta til modellari bilan bog'liq barcha narsalarning tanlangan ro'yxatidir. Buni LLM ekotizimidan xabardor bo'lish uchun markaziy boshqaruv paneli sifatida tasavvur qiling. Bu hamjamiyat tomonidan muntazam yangilanib turadigan jonli manbalar to'plami.

Nima uchun's Eng yaxshi tanlov

Ushbu ombor muhim resurslarni bir joyda to'plash orqali son-sanoqsiz soatlarni qidirishni tejaydi. U asosiy tadqiqot hujjatlari, o'quv asoslari, joylashtirish vositalari va baholash mezonlarini o'z ichiga oladi. U hatto turli LLMlarning ish faoliyatini kuzatish uchun peshqadamlar jadvaliga ega.

kalit Xususiyatlar

Kim foydalanishi kerak?

Bu yuqori sifatli LLM resurslari uchun bir darchadan foydalanishni xohlaydigan tadqiqotchilar, talabalar va amaliyotchilar uchun bo'lishi kerak bo'lgan narsadir. Bu yangi vositalarni kashf qilish va so'nggi tadqiqotlar haqida xabardor bo'lish uchun juda mos keladi.

5. ToolBench

LLMlar ko'proq agentga aylangani sayin, ularning tashqi vositalardan foydalanish qobiliyati tobora muhim ahamiyat kasb etmoqda. OpenBMB/ToolBench ombori ochiq kodli platforma asboblarni o'rganish uchun LLMlarni o'rgatish, xizmat ko'rsatish va baholash uchun mo'ljallangan. U ushbu imkoniyatlarni yaxshilash uchun ramka va keng ko'lamli ko'rsatmalarni sozlash ma'lumotlar to'plamini taqdim etadi.

Nima uchun's Eng yaxshi tanlov

ToolBench LLM rivojlanishining muhim va tendentsiyali sohasiga e'tibor qaratadi: asboblardan foydalanish. StableToolBench kengaytmasi kabi xususiyatlarni joriy qilish orqali buni yanada yaxshilaydi MirrorAPI, bu minglab taqlid qiladi haqiqiy APIVa Virtual API tizimi baholash vaqtida barqarorlik va izchillikni ta'minlash.

kalit Xususiyatlar

Kim foydalanishi kerak?

Tadqiqotchilar va ishlab chiquvchilar bilan o'zaro aloqada bo'lishi mumkin bo'lgan agent LLMlarni yaratishga qiziqish bildirmoqda tashqi API va asboblar ToolBench-ni bebaho deb topadi. Bu yanada qobiliyatli va avtonom yaratish ustida ishlayotganlar uchun ideal AI agentlari.

6. Pifiya

EleutherAI tomonidan ishlab chiqilgan EleutherAI/pythia repozitori - bu talqin qilish, o'rganish dinamikasi va axloqshunoslik bo'yicha tadqiqotlar o'tkazish uchun mo'ljallangan modellar to'plami. Boshqa ko'plab model nashrlaridan farqli o'laroq, Pythia to'plami shaffoflik va ilmiy tadqiqotlarni o'zining asosiy maqsadi sifatida yaratilgan.

Nima uchun's Eng yaxshi tanlov

Pythia 16 xil model nazorat punktlariga to'liq ochiq manbali kirishni ta'minlaydi, bu tadqiqotchilarga o'quv jarayonida LLMlar qanday rivojlanishi va rivojlanishini o'rganish imkonini beradi. Bu ushbu modellarning "qora quti" tabiatini tushunish va qonunlar va model etikasi kabi sohalarni tadqiq qilish uchun juda muhimdir.

kalit Xususiyatlar

Kim foydalanishi kerak?

AI tadqiqotchilar, axloqshunoslar va talabalar modelni talqin qilish, xavfsizlik va LLM o'qitishning asosiy tamoyillariga e'tibor qaratganlar ushbu ombordan juda ko'p masofani bosib o'tishadi.

7. LLM-Agent-qog'oz-ro'yxati

Ilmiy sohaga chuqur kirishni istaganlar uchun AI agentlari, WooooDyy/LLM-Agent-Paper-List muhim manba hisoblanadi. Ushbu repozitoriy tizimli ravishda ishlab chiqilishi, qo'llanilishi va amalga oshirilishini o'rganadigan ilmiy maqolalar to'plamidir LLM asosidagi agentlar.

Nima uchun's Eng yaxshi tanlov

U eng qiziqarli sohalardan biri uchun asosiy bilim kutubxonasi bo'lib xizmat qiladi AI bugun. Shunchaki kod o'rniga, ushbu repo sizga keyingi avlodni tushunish va qurish uchun kerak bo'lgan nazariy asoslarni beradi. AI agentlar.

kalit Xususiyatlar

Kim foydalanishi kerak?

Ushbu ombor akademik tadqiqotchilar, aspirantlar va LLM asosidagi agentlarda ilg'or tadqiqotlarga asoslanishni istagan ilg'or amaliyotchilarga mo'ljallangan.

8. Ajoyib-multimodal-katta-til-modellari

LLMlar endi faqat matn bilan chegaralanib qolmaydi. BradyFU/Awesome-Multimodal-Large-Language-Models ombori matn, tasvir, audio va video maʼlumotlarini qayta ishlay oladigan Multimodal LLM (MLLM) ning soʻnggi yutuqlariga yoʻnaltirilgan resurslar toʻplamidir.

Nima uchun's Eng yaxshi tanlov

Ushbu ombor MLLMlar dunyosiga kirish eshigidir. U multimodal ko'rsatmalarni sozlashdan tortib, fikrlash zanjiri va gallyutsinatsiyalarni yumshatish usullarigacha bo'lgan keng mavzularni qamrab oladi. Shuningdek, u ochiq manbali interaktiv multimodal LLM platformasi VITA loyihasiga ulangan.

kalit Xususiyatlar

Kim foydalanishi kerak?

Rasm taglavhalari, video tahlillari yoki ovoz bilan boshqariladigan yordamchilar kabi matndan tashqari ilovalar yaratishga qiziqqan dasturchilar va tadqiqotchilar ushbu to‘plamni juda foydali deb topadilar.

9. DeepSpeed

Microsoft tomonidan ishlab chiqilgan microsoft/DeepSpeed ​​chuqur o'rganishni optimallashtirish kutubxonasi bo'lib, u taqsimlangan o'qitish va xulosa chiqarishni oson va samarali qiladi. bilan muammosiz birlashadi PyTorch va dunyoning ba'zilarini tayyorlashda muhim rol o'ynadi's eng katta modellar, jumladan 530 milliard parametrli Megatron-Turing modeli.

Nima uchun's Eng yaxshi tanlov

DeepSpeed ​​- bu miqyos va samaradorlik. U cheklangan uskunada milliardlab parametrlarga ega ulkan modellarni tayyorlash imkonini beruvchi tizim darajasidagi innovatsiyalarni taklif etadi. Uning xususiyatlari noldan boshlab zamonaviy LLMlarni o'rgatish yoki yiriklarini nozik sozlash bilan shug'ullanadigan har bir kishi uchun juda muhimdir.

kalit Xususiyatlar

Kim foydalanishi kerak?

Bu juda katta til modellarini o'rgatish yoki sozlashi kerak bo'lgan jiddiy amaliyotchilar, ma'lumotlar bo'yicha olimlar va tadqiqotchilar uchun vositadir. Agar siz joriy sozlashingiz bilan xotira chegaralariga chiqayotgan bo'lsangiz, DeepSpeed ​​bu yechimdir.

10. call.cpp

Ggml-org/llama.cpp ombori iste'molchi apparatida LLMlarni ishga tushirish uchun o'yinni o'zgartiruvchi vositadir. Bu's mahalliy mashinalarda, jumladan, ish stollari va hatto mobil qurilmalarda xulosa chiqarish uchun yuqori samarali C/C++ kutubxonasi. Bu's GGML tensor kutubxonasida qurilgan va samaradorligi va minimal o'rnatilishi bilan mashhur.

Nima uchun's Eng yaxshi tanlov

llama.cpp kuchli LLMlarni hamma uchun ochiq qiladi. kabi modellar bilan tajriba o'tkazish uchun sizga katta bulutli GPU klasteri kerak emas olov 3, Mistral yoki GPT-2. Uning markaziy protsessor va chekka qurilmaning ishlashiga qaratilganligi LLMdan foydalanishni demokratlashtirdi. Siz bir nechta buyruqlar yordamida mahalliy serverni o'rnatishingiz va modellar bilan ishlashni boshlashingiz mumkin.

kalit Xususiyatlar

Kim foydalanishi kerak?

Qimmatbaho bulut xizmatlariga tayanmasdan mahalliy LLMlar bilan ishlashni va tajriba qilishni xohlaydigan ishlab chiquvchilar, havaskorlar va tadqiqotchilar. Bu's qurilmada qurish uchun ham juda mos keladi AI ilovalar maxfiylik va past kechikishni birinchi o'ringa qo'yadigan.

11. PaLM-rlhf-pytorch

Insoniy fikr-mulohazalar bilan o'rganishni kuchaytirish (RLHF) ChatGPT kabi modellarning ta'sirchan suhbat qobiliyati ortidagi maxfiy sousdir. Lucidrains/PaLM-rlhf-pytorch ombori Google-ga qo'llaniladigan RLHF ning ochiq manbali ilovasini taklif qiladi.'s PaLM arxitekturasi.

Nima uchun's Eng yaxshi tanlov

Ushbu ombor zamonaviy LLMni rivojlantirishning eng muhim usullaridan birini yoritadi. U ChatGPT funksiyalarini ko'paytirishga qaratilgan PaLM modeli, RLHFni qanday amalga oshirish mumkinligiga aniq misol keltirish. Siz oldindan tayyorlangan modellarni yuklashingiz yoki ularni o'zingizning ehtiyojlaringiz uchun sozlashingiz mumkin.

kalit Xususiyatlar

Kim foydalanishi kerak?

Ushbu ombor nozik sozlash jarayoniga qiziqqan tadqiqotchilar va ishlab chiquvchilar uchun, ayniqsa LLMlarni inson xohishlariga moslashtirish uchun RLHFni tushunish va amalga oshirishni istaganlar uchun.

12. nanoGPT

Afsonaviy Andrey Karpati tomonidan yaratilgan karpathy/nanoGPT o'rta o'lchamli GPTlarni o'qitish va sozlash uchun eng oddiy, eng tezkor ombordir. Uning kod bazasi ataylab ixcham bo'lib, tren.py da asosiy o'quv tsikli va model.py da model ta'rifi mavjud.

Nima uchun's Eng yaxshi tanlov

nanoGPT soddaligi va tarbiyaviy ahamiyatini birinchi o'ringa qo'yadi. U katta kutubxonalarning barcha murakkabligini yo'q qiladi, bu sizga transformator arxitekturasini boshidanoq tushunish imkonini beradi. Oddiyligiga qaramay, u's GPT-2 darajasidagi natijalarni takrorlash uchun etarlicha kuchli va ko'rish tili modellari uchun nanoVLM kabi boshqa minimalist loyihalarni ilhomlantirdi.

kalit Xususiyatlar

Kim foydalanishi kerak?

nanoGPT GPT arxitekturasini chuqur, asosli tushunishni xohlaydigan talabalar, o'qituvchilar va ishlab chiquvchilar uchun idealdir. Agar charchagan bo'lsangiz qora quti kutubxonalari va narsalar haqiqatda qanday ishlashini ko'rishni xohlasangiz, bu siz uchun ombor.

Sizning LLM sayohati Ushbu muhim GitHub omborlari bilan boshlanadi

LLM haqida orzu qilish va ularni qurish o'rtasidagi farq bormi? Ushbu 12 GitHub ombori. Boshqalar nazariyani muhokama qilishayotganda, siz bugungi kunda quvvat beruvchi kodga to'g'ridan-to'g'ri kirishingiz mumkin's eng rivojlangan til modellari.

Sizning raqobatdosh ustunligingiz sizni kutmoqda:

• NanoGPT klonlash transformator asoslarini tushunish
• Fork llama.cpp mahalliy modelni joylashtirish uchun
• Yulduzli llm - kurs tuzilgan ta'lim yo'llari uchun
• DeepSpeed-ga hissa qo'shing va Microsoft-ga qo'shiling's optimallashtirish harakatlari

LLM maydoni tez harakat qiladi -Dasturchilar kim bugun bu omborlarni o'zlashtirsa, ertaga bo'ladi's AI arxitektorlar. Eng yaxshi 3 ta omboringizni tanlang, rivojlanish muhitini sozlang va tajribani boshlang. Har bir topshiriq, har bir tortishish so'rovi, siz o'rgatadigan har bir model sizni LLM mahoratiga yaqinlashtiradi.