Genmo开源顶流视频模型!开源视频生态起飞了朋友们
妈的,我以为我写完了,没想到还有高手。
Genmo 就这么水灵灵的随手发了一个一流视频生成模型的模型文件出来。
我仔细看了一下这个他们发布的演示视频,该演示的都演示到了,包括各种概念,复杂任务运动,运镜,除了分辨率低点无可挑剔。
开发这个模型的公司 Genmo 新完成了一轮由 NEA 领投的总额为 2840 万美元的 A 轮融资。
他们这个愿景也挺好的:解锁人工通用智能的右脑。Mochi 1 是朝着构建世界模拟器的第一步,这些模拟器可以想象任何事情,无论是可能的还是不可能的。
我自己跑了一个效果也非常好,提示词:
Black and white portrait of Mila Kunis, dark background, shadow play, soft lighting, cinematic style。
官方网页上会有超分,视频会被超分到960P。
模型简介:
运动质量:Mochi 1 以每秒 30 帧的速度生成平滑的视频,持续时间长达 5.4 秒,具有高时间连贯性和逼真的运动动态。
Mochi 模拟物理学,如流体动力学、毛发模拟,并表现出一致、流畅的人体动作,开始跨越恐怖谷效应。
提示遵从:展示了与文本提示的卓越一致性,确保生成的视频准确反映了给定的指示。这使用户可以详细控制角色、设置和动作。
初始的视频分辨率为 480P,模型参数量为10 B。
模型架构:
Mochi 1 代表了开源视频生成的重大进步,采用了基于创新的 Asymmetric Diffusion Transformer(AsymmDiT)架构构建的 100 亿参数扩散模型。
它完全从头开始训练,是迄今为止公开发布的最大视频生成模型。最重要的是,它是一个简单、可修改的架构。
除了 Mochi,他们还会开源视频 VAE。VAE 在因果上将视频压缩到比原始大小小 128 倍,具有 8x8 的空间压缩和 6x 的时间压缩到一个 12 通道的潜在空间。
Mochi 1 只是用单个 T5-XXL 语言模型对提示进行编码。
AsymmDiT 通过多模态自注意力同时关注文本和视觉令牌,并为每种模态学习单独的 MLP 层,类似于 Stable Diffusion 3。
Mochi 1 通过完全的 3D 注意力在一个包含 44,520 个视频标记的上下文窗口上进行联合推理。为了定位每个标记,我们将可学习的旋转位置嵌入(RoPE)扩展到 3 维。网络端到端学习了空间和时间轴的混合频率。
未来规划
更牛批的是他们在年底之前,将发布 Mochi 1 的完整版本,其中包括 Mochi 1 HD。Mochi 1 HD 将支持 720p 视频生成,具有增强的保真度和更加流畅的动作,解决复杂场景中的扭曲等问题。
模型体验:
模型下载:https://huggingface.co/genmo/mochi-1-preview[1]
在线体验:https://www.genmo.ai/play[2]
官方介绍:https://www.genmo.ai/blog[3]
References
[1]: https://huggingface.co/genmo/mochi-1-preview[2]: https://www.genmo.ai/play[3]: https://www.genmo.ai/blog