📌 项目地址：magnitudedev/magnitude | ⭐ 1,858 颗星 | 🔧 TypeScript | 📜 未标注
一个反向的思路
大部分本地推理工具的思路是：给你一个引擎，模型自己选，配置自己调。Magnitude（magnitudeddev/magnitude，TypeScript，Apache 2.0，1858 star）反过来：它先分析你的硬件，告诉你哪些模型能在你的机器上跑、大概多快（预估 tok/s），你选定后它负责下载、调参、运行，并把现有的 coding agent 接过来。
也就是说，你不是“换一个本地版 Claude Code”，而是让原本的 Claude Code、Codex、Cline、OpenCode、Pi、Hermes、OpenClaw、Oh My Pi 继续用，底座换成你机器上的本地模型。不想换也行，它自带一个 harness。
入口是一条发给 agent 的指令
这是这个项目最独特的交互方式。安装后，把这段话原样发给你的 agent：
Set up local models for me with the Magnitude CLI. Install it with `npm i -g @magnitudedev/cli` (or my package manager), then run `magnitude docs onboarding` and follow the instructions.
agent 会按 onboarding 文档完成整个流程：硬件分析、模型推荐、下载、写入 harness 配置、切换。配置工作由 agent 自己做完，你只需要在推荐列表里挑模型。
想自己浏览模型的话：
npm i -g @magnitudedev/cli
magnitude setup
交互式 setup 会列出针对你机器计算的推荐模型，由你选择。
装完之后就不用管了
Magnitude 在后台运行。agent 请求模型时按需加载，空闲或内存紧张时自动卸载。README 还提到它对投机解码和并发做了针对本机的调优。这一点对 agent 场景比较重要——coding agent 的请求模式是多路并发加间歇爆发，和单轮对话不一样。
为什么不直接让 agent 装 Ollama
README 的 FAQ 回答得很直接：让 agent 装 Ollama，它是在猜。它不知道你的硬件规格，不知道哪个量化版本合适，也估不出实际速度。Magnitude 给它的是按你机器算出来的推荐目录、自动写 harness 配置的流程，以及为 agent 负载设计的推理服务。
我的理解是：Ollama 解决“能不能跑”，Magnitude 试图解决“跑哪个、怎么接、跑多快”这一整串问题。定位上它更像本地模型的集成层，推理只是其中一环。
几个事实
- 平台：macOS 和 Linux 原生支持，Windows 走 WSL。
- 硬件没有固定门槛，内存越大可选模型越多，推荐完全由 profiling 结果决定。
- 许可证 Apache 2.0。
- 免费运行：没有 token 费用、API key、速率限制；模型、提示词、文件都留在本机。
我的保留意见
换本地模型不是纯赚。目前本地开源模型写代码的能力，和 Claude Sonnet 这一级的云端模型仍有差距。Magnitude 能解决选型和配置的麻烦，但解决不了模型本身的差距。它适合的场景是：对隐私有硬要求（代码不能出机器）、不想被 API 费用和限流约束，或者愿意接受能力下降换离线自由度的人。如果你的工作流强依赖最强模型，这个项目暂时帮不上太多。
1858 star，项目还早期，遇到问题建议直接看仓库 issue。