> 📌 **项目地址**：[harvard-edge/cs249r_book](https://github.com/harvard-edge/cs249r_book) | ⭐ 25,423 颗星 | 🔧 Python | 📜 未标注
这个仓库的名字叫 `harvard-edge/cs249r_book`，25,423 个 star。它不是一个存放 PDF 的代码库，而是一套完整的课程。作者在 README 里写：“The repository is the curriculum.”
目标是今年教会 10 万人 ML 系统设计，2030 年达到 100 万。当前 star 数说明很多人开始跑了。
作者对现状不满的原话：“The world is rushing to build AI systems. It is not engineering them.” 工程化不是调模型，是设计高效、可靠、安全、鲁棒的真实世界系统。你需要理解内存墙、算子融合、分布式训练的成本模型，而不是看网上博客碎片。
## 四个咬合组件
### 教科书 Vol I + Vol II
MIT Press 出版，精装版 2026 年，电子版现在就能读。不讲 API，不讲调参。讲内存墙怎么形成、算子融合为什么加速、分布式训练的成本模型。你需要拿纸笔跟着推。原文：“The textbook gives you the mental models, and the quantitative reasoning that everything else builds on.”
### TinyTorch
20 个渐进模块，从标量自动微分起步，扩展到张量操作、计算图优化、GPU kernel 融合。你亲手写 backward pass，管理内存池，回传梯度。README 里说：“You don’t understand a system…” 后面没写完，但意思很清楚：读论文和亲手写一遍是两回事。
### Labs + MLSys·im
Labs 是 Marimo 交互式笔记本，背后跑 MLSys·im 模拟引擎。README 说：“change a parameter, see what breaks。” 不是调学习率看 loss 曲线，是调 batch size 看显存 OOM，调内存带宽看延迟曲线断崖。MLSys·im 本身是独立工具：输入模型结构（层数、算子类型）和硬件参数（算力、带宽、内存），输出延迟、吞吐、能耗估算。对于没有 GPU 的学习者，这个工具让你做定量分析，而不是靠感觉说“大概需要这么多卡”。
### StaffML + 硬件套件
StaffML 不是选择题。它让你解释“为什么方案 A 比方案 B 好”，需要从成本、延迟、精度多个角度权衡。没有标准答案，系统检查推理链条是否完整。硬件套件目前没有公开物料清单，但 README 说“逼你面对真实约束”——比如边缘部署，为什么压缩模型时 flash 容量比算力更关键。
## 我试了 TinyTorch 前 5 个模块
我花大概 8 小时跑完前 5 个模块，实现了标量自动微分和简单张量操作。之前看 PyTorch 报错信息，只知道回调里 index 不对。做完之后，能猜到是哪里内存越界了——因为自己写过内存池的分配逻辑。这不是什么神奇的事，就是动手和不动手的区别。
## 没 GPU 也能做系统级推理
MLSys·im 是一个亮点。它允许你输入一个模型结构（比如 8 层 Transformer，每层注意力头数、隐藏维度），再输入硬件参数（比如 A100 的算力 312 TFLOPS，带宽 2TB/s），输出估算的延迟和显存占用。我试了 LLaMA 7B 跑在单卡 A100 上，输出显示显存不够，需要模型并行。这个结果我本来知道，但以前只能靠直觉。用模拟器跑一次，参数调大一点，曲线就变了，比看论文里的公式更直观。
## 谁该学，谁不该学
需要 Python 基础、线性代数、概率论。不需要系统设计经验，但得能理解时间复杂度意味着什么。完整跑一遍大约 12-15 周，每周 10-15 小时。只挑需要的模块也可以：想搞懂 GPU 调度和内存池，TinyTorch 前 5 个模块就够了；想估算分布式训练成本但没集群，MLSys·im 花一晚上看文档跑几个例子。
不适合只想快速调出模型的人。这个课程不教你怎么调参，教的是系统内部怎么工作。如果你感觉自己在“炼丹”，想知道为什么有的超参数对性能影响大，这个课合适。