FreeToken:在游戏电脑上本地跑 290B+ MoE 大模型 | FreeToken
📌 项目地址:FlashML-org/FreeToken | ⭐ 15,382 颗星 | 🔧 Python | 📜 未标注 本地跑大模型的都知道那个死结:模型越大,显存要求越高,一张 4090 的 24GB 装不下几百 B 的权重。Free...
📌 项目地址:FlashML-org/FreeToken | ⭐ 15,382 颗星 | 🔧 Python | 📜 未标注 本地跑大模型的都知道那个死结:模型越大,显存要求越高,一张 4090 的 24GB 装不下几百 B 的权重。Free...