llmfit：一行命令匹配本地硬件的LLM模型筛选器 | AlexsJones/llmfit
选本地模型最烦的一件事：网上说某模型量化后能跑，下载下来一跑，每秒吐三四个 token，一句话等半天。llmfit 干的活是把这个“能不能跑”变成实测数据，直接读你机器的硬件配置，给每个模型-量化组合打分。 先读硬件，再打分 llmfit 读取 CPU 型号、内存大小、GPU 型号、显存容量和显存带...
选本地模型最烦的一件事：网上说某模型量化后能跑，下载下来一跑，每秒吐三四个 token，一句话等半天。llmfit 干的活是把这个“能不能跑”变成实测数据，直接读你机器的硬件配置，给每个模型-量化组合打分。 先读硬件，再打分 llmfit 读取 CPU 型号、内存大小、GPU 型号、显存容量和显存带...