Jiayi-Pan/TinyZero Python ⭐ 13,119

TinyZero:复现DeepSeek R1-Zero的自验证与搜索能力 | Jiayi-Pan/TinyZero

TinyZero:一段被刻意冻结的RL实验记录 不是所有归档的项目都值得看,但这个值得。TinyZero用纯强化学习,在倒计时和乘法两个任务上,让3B参数的base模型(Qwen2.5-3B)自己学会了自我验证和搜索。没有预训练推理数据,没有人工标注的链式思考。作者管这个现象叫“Aha moment...