📌 项目地址：mlabonne/llm-course | ⭐ 83,904 颗星 | 📜 未标注
块引用
📌 项目地址：mlabonne/llm-course | ⭐ 83,904 | 主要内容为 Notebook + 文章教程
先说结论：它值不值得收藏
值得。GitHub 上 LLM 学习清单很多，多数是链接堆砌。llm-course 不一样的地方在于两件事：核心 notebook 都是作者 Maxime Labonne 自己写的，大部分还配了他本人的博客讲解；路线分成“造模型”和“用模型”两条，不混在一起。
作者在 Hugging Face 和 X 上都活跃，后来还基于这门课合写了《LLM Engineer’s Handbook》。课程本身承诺永久免费，买书只是支持作者的方式。
课程结构：三段式，第一段可以跳
课程分三部分：
- LLM Fundamentals：可选，讲数学、Python、神经网络这些前置知识。有 ML 基础的人直接跳过。
- The LLM Scientist：怎么用最新技术把模型做得更强。微调、合并、量化都在这一段。
- The LLM Engineer：怎么基于 LLM 做应用并部署上线。
我觉得这个分段比内容本身还有用。初学者的常见困惑不是“找不到资料”，而是不知道自己想走研究路线还是工程路线。这里两条路都铺好了，可以先都试试再选。
微调：五个 notebook，从零成本到端到端
微调是课程最扎实的部分：
| Notebook | 干什么用 |
|---|---|
| Fine-tune Llama 3.1 with Unsloth | 在 Colab 里做高效的监督微调 |
| Fine-tune Llama 3 with ORPO | 单阶段完成微调，更快更省 |
| Fine-tune Mistral-7b with DPO | 在监督微调基础上进一步提升性能 |
| Fine-tune Mistral-7b with QLoRA | 免费版 Colab 就能跑的监督微调（用 TRL） |
| Fine-tune CodeLlama using Axolotl | Axolotl 的端到端教程 |
重点说 QLoRA 那篇。README 明确写了可以在免费版 Google Colab 上运行，也就是说你没有 GPU，也能完整跑一遍 7B 模型的监督微调。对新手来说这个门槛够低了。
ORPO 和 DPO 两篇各自配了作者的文章（Axolotl 那篇也有），不只给代码，还讲清楚为什么这么做。这五个 notebook 连起来正好是一条演进线：先 SFT（QLoRA），再学偏好对齐（DPO、ORPO），最后换专业工具提效（Unsloth、Axolotl）。
工具箱：不少人 Star 就是冲着这个来的
仓库里另有一批一键式工具 notebook：
- LLM AutoEval：通过 RunPod 自动评测模型
- LazyMergekit：一键用 MergeKit 合并模型
- LazyAxolotl：一键在云端用 Axolotl 微调
- AutoQuant：一键把 LLM 量化成 GGUF、GPTQ、EXL2、AWQ、HQQ 五种格式
- Model Family Tree：可视化合并模型的“家族树”
- ZeroSpace：用免费 ZeroGPU 自动生成 Gradio 聊天界面
- AutoAbliteration：用自定义数据集自动做模型 abliteration
- AutoDedup：用 Rensa 库自动给数据集去重
这套工具串起来正好覆盖模型开发的完整链路：微调、合并、量化、评测、部署界面、数据清洗。量化支持五种格式这点很实用，省得自己分别找脚本。
怎么开始
按自身情况选起点：
- 零基础：从 LLM Fundamentals 走起
- 有 ML 背景：直接进 LLM Scientist
- 目标是做产品：主攻 LLM Engineer
notebook 都设计成在 Google Colab 里打开运行。想要更系统的文字版，仓库还推荐了 DeepWiki 版本（deepwiki.com/mlabonne/llm-course/），内容更全。
两个提醒
第一，LLM 领域迭代太快。部分 notebook 基于 Llama 3.1、Mistral-7b 这些当时的模型，跑之前留意依赖版本和现在的生态差异。
第二，不是所有实验都免费。云上微调和评测涉及 RunPod 这类付费 GPU 服务。真正零成本的，是明确标注支持免费 Colab 的那几篇。