llmfit：一行命令匹配本地硬件的LLM模型筛选器 | AlexsJones/llmfit
它解决的是一个具体的问题 本地跑 LLM，最常见的问题不是找不到模型，而是不知道哪个模型在自己机器上能跑。网上说 7B Q4 能跑，下载下来一试，每秒吐三个 token，耐心耗尽。 llmfit 是个终端工具，直接读你机器的 CPU、内存、GPU 型号、显存容量和显存带宽，然后对所有模型-量化组合打...
它解决的是一个具体的问题 本地跑 LLM，最常见的问题不是找不到模型，而是不知道哪个模型在自己机器上能跑。网上说 7B Q4 能跑，下载下来一试，每秒吐三个 token，耐心耗尽。 llmfit 是个终端工具，直接读你机器的 CPU、内存、GPU 型号、显存容量和显存带宽，然后对所有模型-量化组合打...