对构建、微调或部署感兴趣 大型语言模型?
你并不孤单——法学硕士专业知识是 AI 今天。 和 开源项目 GitHub 发展迅速，已成为顶级开发者的首选中心 LLM 项目、框架和研究.
本指南重点介绍 12 个重要 GitHub存储库 包含源代码、实践教程和模型实现。
得到证明 LLM知识，加速您的学习，并加入塑造人工智能未来的全球社区——所有这些都需要这些必须了解的 GitHub 存储库。
GitHub上 对法学硕士发展至关重要
GitHub 已成为法学硕士 (LLM) 生态系统的核心，突破性研究与实践应用在此交汇。学术论文提供理论，而 GitHub 则提供支撑当今实际应用的代码。's 最先进的语言模型。
该平台托管 Meta 的所有内容's OpenAI 的 Llama 实现's 研究代码库，使其成为获取成熟技术并保持快速发展的最快方式。
GitHub 主导 LLM 开发的主要原因：
对于 LLM 爱好者来说，GitHub 不仅仅是一个资源——它's 您与未来的直接联系 AI 发展。
1. 法学硕士课程
马克西姆·拉博纳's LLm-course 是一个绝佳的起点，也是一份全面的路线图，适合任何认真对待 学习法学硕士学位。 它's 不仅仅是文件的集合；它's 一个结构化的学习路径，满足不同的职业目标。该代码库广受欢迎，在 GitHub 上拥有超过 51,500 颗星。
为什么它's 首选
这个存储库之所以脱颖而出，是因为它提供了两个不同的路线图，使您可以定制自己的学习历程：
该课程涵盖了从基础知识到 法学硕士数学 涵盖量化、微调和模型部署等高级主题。它为各个级别的学习者提供了完整的学习资源。
主要功能
谁应该使用它？
该存储库非常适合需要结构化介绍的初学者和希望加深 LLM 开发特定领域专业知识的经验丰富的专业人士。
2. 实践法学硕士
HandsOnLLM/Hands-On-Large-Language-Models 存储库是 奥莱利的书 同名。它's 一本图文并茂、实用性强的指南，揭秘法学硕士 (LLM) 的工作原理。如果您喜欢边做边学，并且欣赏文档齐全的代码示例，那么这个资源库非常适合您。
为什么它's 首选
它提供了一种基于项目的实用学习方法。本书的每一章都配有 Jupyter 笔记本，方便您跟随学习并亲自尝试代码。本书侧重于实际项目和示例，您可以根据自己的用例进行调整。
主要功能
谁应该使用它？
喜欢动手实践、基于项目的学习方式的开发者和数据科学家会发现这个存储库非常有价值。对于阅读《动手实践大型语言模型》一书的人来说，它也是一个绝佳的资源。
3. 即时工程
brexhq/prompt-engineering 指南是掌握艺术和科学的宝库 即时工程在法学硕士 (LLM) 领域，输出的质量通常取决于输入的质量，因此这项技能至关重要。这个拥有近 9,000 颗星的库，提供了使用 GPT-4 等模型的实用技巧和策略。
为什么它's 首选
它整合了从创建生产用例提示中汲取的经验教训，使其非常实用。该存储库组织有序，包含从基本原理到高级技术的所有内容，例如 思路链（CoT）提示 和自洽性。
主要功能
谁应该使用它？
任何与 LLM 互动的人员，从开发人员、研究人员到内容创作者和营销人员，都将从这个资源库中受益。掌握快速工程是充分利用任何语言模型的关键技能。
4. 太棒了-LLM
Hannibal046/Awesome-LLM 代码库是一个精选的大型语言模型相关资源列表。您可以将其视为您随时了解 LLM 生态系统最新动态的中央仪表板。它是一个由社区定期更新的动态资源集合。
为什么它's 首选
这个资源库将重要的资源汇集到一处，为您节省了无数的搜索时间。它涵盖了开创性的研究论文、训练框架、部署工具和评估基准。它甚至还设有排行榜，用于追踪各个法学硕士（LLM）的成绩。
主要功能
谁应该使用它？
对于想要一站式获取高质量 LLM 资源的研究人员、学生和从业人员来说，这绝对是必备之选。它非常适合探索新工具并了解最新研究成果。
5. 工具台
随着 LLM 变得越来越具有代理性，其使用外部工具的能力变得越来越重要。OpenBMB/ToolBench 仓库是一个 开源平台 旨在训练、服务和评估用于工具学习的 LLM。它提供了一个框架和一个大规模指令调优数据集来增强这些功能。
为什么它's 首选
ToolBench 专注于 LLM 开发中一个关键且热门的领域：工具使用。StableToolBench 扩展通过引入以下功能进一步增强了这一功能： 镜像API，模拟了数千个 真实的 API，以及 虚拟API系统 确保评估的稳定性和一致性。
主要功能
谁应该使用它？
研究人员和开发人员有兴趣构建能够与以下对象交互的代理法学硕士： 外部API 和工具会发现 ToolBench 非常宝贵。对于那些致力于创造更强大、更自主的 AI 中介代理.
6. 皮提亚
EleutherAI/pythia 代码库由 EleutherAI 开发，是一套模型，旨在促进可解释性、学习动态和伦理方面的研究。与许多其他模型版本不同，Pythia 套件的创建主要目标是透明度和科学研究。
为什么它's 首选
Pythia 提供 16 个不同模型检查点的完全开源访问权限，使研究人员能够研究 LLM 在训练过程中如何发展和演变。这对于理解这些模型的“黑箱”性质以及研究缩放定律和模型伦理等领域至关重要。
主要功能
谁应该使用它？
AI 专注于模型可解释性、安全性和 LLM 培训基本原则的研究人员、伦理学家和学生将从这个存储库中获得很多好处。
7. LLM 代理论文列表
对于那些想要深入研究学术方面的人来说 AI 中介代理WooooDyy/LLM-Agent-Paper-List 是一项重要资源。该资源库精选了一系列研究论文，系统地探讨了 LLM 的开发、应用和实施。 基于法学硕士的代理.
为什么它's 首选
它是最令人兴奋的领域之一的基础知识库 AI 今天。这个 repo 不仅提供了代码，还提供了你理解和构建下一代 AI 代理商。
主要功能
谁应该使用它？
该存储库面向希望在基于 LLM 的代理领域开展前沿研究的学术研究人员、研究生和高级从业者。
8. 超棒的多模态大型语言模型
法学硕士 (LLM) 不再局限于文本。BradyFU/Awesome-Multimodal-Large-Language-Models 代码库是一个精选资源库，专注于多模态法学硕士 (MLLM) 的最新进展，MLLM 可以处理来自文本、图像、音频和视频的信息。
为什么它's 首选
这个存储库是您通往多模态学习模型 (MLLM) 世界的大门。它涵盖了从多模态指令调优到思路链推理和幻觉缓解技术等广泛的主题。它还与开源交互式多模态学习模型 (LLM) 平台 VITA 项目相连。
主要功能
谁应该使用它？
有兴趣构建超越文本的应用程序（例如图像字幕、视频分析或语音控制助手）的开发人员和研究人员会发现这个集合非常有用。
9. 极速
microsoft/DeepSpeed 是由微软开发的深度学习优化库，它使分布式训练和推理变得简单高效。它与 PyTorch 并帮助培训了一些世界's 最大的模型，包括 530 亿参数的 Megatron-Turing 模型。
为什么它's 首选
DeepSpeed 的核心在于规模和效率。它提供系统级创新，让您能够在有限的硬件上训练包含数十亿参数的海量模型。对于任何认真考虑从零开始训练最先进的 LLM 或对大型模型进行微调的人来说，它的功能都至关重要。
主要功能
谁应该使用它？
这是一款面向需要训练或微调超大型语言模型的严谨从业者、数据科学家和研究人员的工具。如果您当前的设置遇到内存限制，DeepSpeed 是您的理想之选。
10. 美洲驼.cpp
ggml-org/llama.cpp 代码库彻底改变了在消费级硬件上运行 LLM 的局面。它's 一个高性能 C/C++ 库，用于在本地机器（包括台式机甚至移动设备）上运行推理。它's 基于 GGML 张量库构建，以其高效和最小设置而闻名。
为什么它's 首选
llama.cpp 让每个人都能使用强大的 LLM。你无需庞大的云 GPU 集群即可实验以下模型： 骆驼3、Mistral 或 GPT-2。它专注于 CPU 和边缘设备性能，使 LLM 的使用更加大众化。只需几个命令即可设置本地服务器并开始与模型交互。
主要功能
谁应该使用它？
开发人员、业余爱好者和研究人员希望在本地运行和试验 LLM，而不依赖昂贵的云服务。它's 也非常适合在设备上构建 AI 应用 优先考虑隐私和低延迟。
11. PaLM-rlhf-pytorch
强化学习与人类反馈 (RLHF) 是 ChatGPT 等模型拥有卓越对话能力的秘诀。lucidrains/PaLM-rlhf-pytorch 代码库提供了应用于 Google 的 RLHF 开源实现。's PaLM 架构。
为什么它's 首选
本库揭秘了现代 LLM 开发中最重要的技术之一。它旨在使用 PaLM 模型，提供了一个 RLHF 实现的具体示例。您可以加载预训练模型，或根据自己的需求进行微调。
主要功能
谁应该使用它？
该存储库适用于对微调过程感兴趣的研究人员和开发人员，特别是那些希望理解和实施 RLHF 以使 LLM 符合人类偏好的研究人员和开发人员。
12. 纳米GPT
karpathy/nanoGPT 由传奇人物 Andrej Karpathy 创建，是用于训练和微调中型 GPT 的最简单、最快速的存储库。它的代码库刻意简洁，核心训练循环位于 train.py 中，模型定义位于 model.py 中。
为什么它's 首选
nanoGPT 优先考虑简单性和教育价值。它消除了大型库的所有复杂性，让您能够从头开始理解 Transformer 架构。尽管它很简单，但它's 其功能强大，足以重现 GPT-2 级别的结果，并启发了其他极简项目，例如用于视觉语言模型的 nanoVLM。
主要功能
谁应该使用它？
nanoGPT 非常适合想要深入了解 GPT 架构的学生、教育工作者和开发者。如果你厌倦了 黑盒库 并想了解事情的实际运作方式，这是适合您的存储库。
您的 法学硕士之旅 从这些重要的 GitHub 存储库开始
梦想获得法学硕士学位和真正获得法学硕士学位之间有什么区别？ 这 12 个 GitHub 存储库。 当其他人还在争论理论时，你现在可以直接访问今天的代码's 最先进的 语言模型.
您的竞争优势正在等待：
- 克隆 nanoGPT 掌握变压器基础知识
- 叉 llama.cpp 用于本地模型部署
- 明星法学硕士课程 结构化学习路径
- 为 DeepSpeed 做出贡献 并加入微软's 优化工作
LLM领域发展迅速——开发 今天掌握这些存储库的人将成为明天's AI 建筑师。 选择你最喜欢的 3 个代码库，设置你的开发环境，然后开始实验。你的每一次提交、每一次拉取请求、每一次训练的模型，都会让你离 LLM 的精通更近一步。
奖金： 获得我们的 200 美元“AI 注册即可免费获得“精通工具包”！
