Karpathy 的 llm.c:从零理解大模型训练的 C/CUDA 实现 | karpathy/llm.c
这个项目到底在做什么 Andrej Karpathy(前特斯拉AI总监、OpenAI创始成员)把GPT-2的完整训练流程用纯C和CUDA重写了一遍,项目就叫llm.c。核心文件两个:train_gpt2.c(约1000行纯C,CPU fp32)和train_gpt2.cu(CUDA混合精度,主力代码...
这个项目到底在做什么 Andrej Karpathy(前特斯拉AI总监、OpenAI创始成员)把GPT-2的完整训练流程用纯C和CUDA重写了一遍,项目就叫llm.c。核心文件两个:train_gpt2.c(约1000行纯C,CPU fp32)和train_gpt2.cu(CUDA混合精度,主力代码...