CPU-GPU 异构运行 LLM:KTransformers 让消费硬件也能跑前沿大模型 | ktransformers
📌 项目地址:kvcache-ai/ktransformers | ⭐ 18,269 颗星 | 🔧 Python | 📜 未标注 项目核心价值:在有限 GPU 上跑超大规模模型 KTransformers 是一个面向大型语言模型(LLM)推...
📌 项目地址:kvcache-ai/ktransformers | ⭐ 18,269 颗星 | 🔧 Python | 📜 未标注 项目核心价值:在有限 GPU 上跑超大规模模型 KTransformers 是一个面向大型语言模型(LLM)推...