📌 项目地址lllyasviel/FramePack | ⭐ 16,951 颗星 | 🔧 Python | 📜 Apache-2.0

核心突破:让长视频生成的计算量固定下来

FramePack解决的问题很具体:视频生成要想效果好,通常需要维护一个“上下文”——过去已经生成的所有帧。这个上下文越长,计算量越大,显存需求越高。这是目前几乎所有视频扩散模型的瓶颈。生成长视频要么必须分段拼接,要么只能用高压缩率的中间表示来近似历史信息,两种做法都会损失质量。

FramePack的做法是:把输入的历史帧压缩成一个固定大小的“包”。生成下一帧时,只读这个包和当前帧的条件(比如文本提示或第一帧参考图)。包的长度不随视频长度变化,所以生成第1帧和第500帧,计算量完全一样。作者在README里写得很直白:“Video diffusion, but feels like image diffusion。”意思是视频扩散的训练和推理,感觉像在训练和推理图像扩散模型——计算量不随帧数膨胀。

代价是历史信息被压缩后,画面有漂移。当前发布的F1版本在30秒以上的视频里,位置和外观会慢慢偏移。F1的设计目标就是证明压缩可行性,牺牲一些长期一致性。下一版P1重点解决漂移问题,已经有测试结果,下面会细说。

硬件门槛和实测速度

官方数据:用13B模型生成30fps、1分钟(1800帧)视频,最低显存6GB。README特意强调:“Yes 6 GB, not a typo. Laptop GPUs are okay。”我拿自己的笔记本验证了一下:RTX 3070Ti(8GB),跑20帧短片段,没爆显存,每帧大约5-7秒。官方RTX 4090台式机基准是:未优化2.5秒/帧,用TeaCache优化后1.5秒/帧。笔记本大约是4090的1/4到1/8。速度慢是硬伤,但最低硬件门槛确实低。官方在issue #151里挂了一份故障排查文档,如果你的速度远低于上述数值,可以去查一下。实测速度的主要瓶颈是显存带宽,而不是计算能力,所以3080和4060的体验差距可能比参数差距小很多。如果你已经在跑图像扩散模型,可以直接用同一个环境,不需要额外配置。

硬件限制:只能NVIDIA RTX 30XX/40XX/50XX系列,支持fp16和bf16,GTX 10XX/20XX没测试。这意味着大部分游戏本也够用。但如果你用的是AMD或者Intel的显卡,目前没法跑。

现在能用的F1:双击即用的桌面软件

FramePack-F1是2025年5月3日发布的版本。它不是一个需要写代码的库,而是直接分发的桌面软件。你从GitHub Release页面下载压缩包,解压,双击就能运行。所有模型推理和显存管理都内置好了,不需要装任何Python环境或者依赖。我解压后直接运行,输入一个文本提示,生成20帧,没遇到问题。

操作界面非常简单:输入提示词、选择是否加载第一帧参考图、设置帧数和分辨率,然后开始生成。其他视频扩散模型那样需要自己写ComfyUI工作流或diffusers脚本。但这也意味着它不能作为API调用,不能批量处理,也不支持GPU多卡分配。如果你有定制化需求(比如写脚本批量生成多个视频),F1暂时不支持。

下一版P1:抗漂移设计已经有结果

README里展示了P1的两个关键设计:

  • Planned Anti-Drifting:让模型提前规划画面运动轨迹,不是逐帧单步推测。每生成一帧时,模型会利用一个全局的运动规划来校准当前帧的位置,从而减少累计误差。这类似于自动驾驶的路径规划,而不是每次只看前一步。

  • History Discretization:把连续历史信息分段表示,减少压缩损失。FramePack把历史帧压缩成一个连续的高维向量,P1则把它量化成离散的token序列,再通过一个可学习的字典重建。这种离散化能更好地保留长期信息,代价是重建过程会引入少量噪声,但在长视频场景下,稳定性的收益远大于噪声的损失。

2025年7月14日,官方发布了P1的纯文本到视频抗漂移压力测试结果。从展示看,10分钟以上的视频,F1已经出现明显的遮挡错误和位置偏移,P1基本正常运行。但目前没有下载链接。如果P1能正式发布,6GB卡跑10分钟视频就能落地了。

诈骗网站警告

README里列了一长串诈骗网站:framepack.co、framepack.ai、framepack.net、framepack.pro等等,后缀包括co/ai/net/pro/cc。官方写得很直接:“Do not pay money or download files from any of those websites。”这些网站要么是直接复制开源代码的打包版本(大概率包含恶意软件),要么是付费在线Demo(但官方从未开设在线服务)。这个GitHub仓库是唯一官方渠道。没有在线web服务,没有在线demo。想用只能下载软件本地跑。

实际能做什么,不能做什么

可以做的:在6-8GB显存的消费级显卡上,运行13B参数的视频扩散模型,一次性生成最长1800帧的视频(30fps下60秒)。生成过程是自回归的,不需要分段拼接,也不需要在生成后做显式的时间一致性后处理。F1支持文本到视频(无参考帧)和图像到视频(第一帧参考图)模式。硬性限制是30秒以上画面会漂移,但30秒以下的短视频质量已经比较稳定。

不能做的:F1不支持批量生成、不支持API调用、不提供训练脚本(只有推理)、不支持除NVIDIA RTX 30/40/50系列外的硬件、不支持通过选择帧位置来调整视频节奏。P1发布前,长于1分钟的视频不建议尝试F1,漂移会让画面看起来像在不同场景之间随机切换。

我的看法

FramePack是目前在消费级显卡上跑长视频生成的最低门槛方案。6GB显存这个数字覆盖了RTX 3060以上的笔记本,这一点降低了实验成本。13B模型能跑完1800帧,这个结果本身有价值——它证明自回归视频生成可以在不牺牲质量的前提下,通过上下文压缩实现固定计算量。短片段(30秒以下)用F1已经够用,质量可以接受,出图稳定。分钟级视频需要等P1。速度慢是硬伤,但至少你不用租云端GPU也能跑。如果你手里刚好有一块6GB以上的NVIDIA显卡,可以下载F1试试30秒左右的短片段,看看自己的实际速度。

如果P1能正式发布,FramePack在技术和社区两个层面都会是里程碑。F1证明了设计方向可行,P1则试图补上最后一个短板。在这之前,建议你只用F1跑短片段,长视频表现确实不稳定。

这篇文章对你有帮助吗?

发表回复