📌 项目地址hpcaitech/Open-Sora | ⭐ 29,039 颗星 | 🔧 Python | 📜 Apache-2.0

2025年3月,一个11B参数的视频生成模型在VBench和人类偏好测试中与HunyuanVideo 11B、Step‑Video 30B打平,训练总成本只花了20万美元。这个项目叫Open‑Sora,GitHub星数2.9万,代码、权重、训练脚本、技术报告全部公开。

20万美元对于10B+级别的视频生成模型是什么概念?同类开源项目的成本通常在百万美元量级,商业产品更是千万级别。Open‑Sora 2.0 把这个数字压到了一个让中小团队也能尝试的程度。

这篇文章我会拆解它是怎么做到的,以及作为一个工程师,你能从这套开源仓库里拿走什么。

不止是推理,是一套完整训练系统

Open‑Sora 和市面大多数开源视频项目的区别:它不是只给个推理Demo和权重,而是公开了从数据清洗到分布式训练的全部代码。README 里列出的模块有:

  • 数据预处理(运动检测、水印过滤、分辨率筛选)
  • 3D‑VAE 训练与推理
  • 基于 Rectified Flow 的扩散模型训练(scripts/train.py
  • 渐进式分辨率训练配置
  • 分布式加速(集成 ColossalAI)
  • 多模态输入(文本、图像、视频、任意宽高比)

你拿到代码后,不仅能跑生成,还能自己从头训练一个模型,或者对现有模型做微调。

五次迭代,每次只解决一个最窄的瓶颈

Open‑Sora 从1.0到2.0的演进路径很值得参考——他们不是一次性堆参数,而是单点突破:

1.0(2024.03):证明可行性。用ColossalAI加速,3天训练出2秒512×512视频。目标就是把训练时间从几个月压到几天。

1.1(2024.04):解决输入多样性。支持文本到视频、图像到视频、视频到视频、任意分辨率、无限时长拼接。核心是STDiT(Spatio‑Temporal Diffusion Transformer),能处理变长输入。

1.2(2024.06):引入3D‑VAERectified Flow。前者同时压缩空间和时间维度,显存占用比纯空间VAE低;后者用更少的采样步数(4步)输出清晰画面。这两个模块是后续成本下降的关键技术基础。

1.3(2025.02):验证小型化可行性。参数量降到1B,效果没有明显劣化,适合算力有限的团队做实验或微调。

2.0(2025.03):参数扩大到11B,但训练总成本仅20万美元。通过前面累积的数据清洗、渐进训练、分布式加速,加上硬件补贴,将成本控制到最低。

每个版本对应的技术报告在 docs/ 目录下:report_02.md(1.1)、report_03.md(1.2)、report_04.md(1.3)。建议从 report_03.md 开始读,它详细解释了3D‑VAE和Rectified Flow的设计取舍。

20万美元花在哪,怎么省

我读了论文arXiv:2503.09642v1和仓库代码,成本压缩主要靠四条路径:

1. 数据清洗:直接扔掉低质量视频
仓库有一套自动过滤脚本,把运动幅度低、画面静止、分辨率差、带水印的片段删掉。少喂垃圾数据,有效训练占比就高。这是最便宜且效果最明显的优化——不改模型,只改数据质量。

2. 渐进式分辨率训练
先在256×256小尺寸训练到收敛,然后逐步升到512×512、720p。直接上高分辨率大概率炸显存,阶梯式上升减少重训次数。每个阶段的学习率、batch size也对应调整,配置在 scripts/train.py 里可以看到。

3. ColossalAI 分布式加速
训练脚本直接集成了混合精度和ZeRO优化,你不需要自己搭分布式框架。改数据路径和超参数就能跑。README 还提到H200 GPU的优化配置和使用代金券的入口(来自 colossalai.org 的 bonus 页面)。

4. 硬件补贴
2024.12.23 博客提到,使用H200代金券能再省50%。申请入口在 colossalai.org/zh-Hans/docs/get_started/bonus/。即使没有补贴,11B模型总成本大约10万美元左右(论文和README说“only $200K”,这个数字算上了前期探索的总花费,但仍然远低于同类项目)。

这四条策略单个都不新鲜,但打包开源,代码和配置直接可用,才是真正值钱的地方。你想复现11B训练,只需要改 scripts/train.py 里的数据路径,数据清洗和分布式配置已经写好。

上手:三条路径,按你的资源选

路径一:在线试用(零硬件)
Hugging Face Spaces 上有 Gradio demo:https://huggingface.co/spaces/hpcai-tech/open-sora
不需要GPU,打开浏览器就能看生成效果。先判断值不值得投入硬件。

路径二:本地推理或微调
每个版本的权重在README里都有锚点链接(例如 1.3 在 #open-sora-13-model-weights)。2.0 权重链接指向 arXiv 论文,论文里给出了下载方式。权重是PyTorch格式,torch.load 直接能用。

硬件: 单卡24GB显存只能跑1B版本的推理或微调。11B必须多卡并行,参考ColossalAI的分布式配置。没有具体显存数字,按80GB H100/200估算,四卡以上才能跑完整训练。

路径三:从头训练
核心训练脚本是 scripts/train.py。具体参数和配置需要配合 docs/ 下的技术报告。我的建议阅读顺序:先读 docs/report_03.md(3D‑VAE和Rectified Flow),再读 report_02.md(多分辨率训练),最后看 report_04.md(1.3改进)。预算有限可以从1B版本开始,架构统一,改改参数就能在小规模上先行验证。

谁该用这个项目

如果你是想深入视频生成技术栈的工程师,Open‑Sora 是目前唯一能让你从头到尾看一遍完整训练管线的开源项目。你可以用它验证新的架构设计(比如换backbones、改flow sampling),也能拆出数据清洗模块用到自己的项目里。

如果你只是想快速生成一段可用的视频,商业产品(官方推荐的 Video Ocean)更省时间。Open‑Sora 的目标用户是研究者、有定制需求的团队、以及希望理解视频生成内部原理的开发者。

20万美元不是小钱,但对比其他10B+模型动辄上百万至千万的成本,它指明了一条更经济且可复制的路径。项目仍在迭代,3D‑VAE和Rectified Flow的组合在2.0中的表现已经够上主流水平。建议长期关注它的后续版本,尤其是成本控制方面的新尝试。

这篇文章对你有帮助吗?

发表回复