腾讯发布混元3D世界模型1.0:首个支持物理仿真的开源世界生成系统
腾讯混元 投稿
量子位 | 公众号 QbitAI
首个支持物理仿真的开源3D世界生成模型来了!
一句话、一张图就能生成完整3D世界,可编辑、可仿真。
在2025年世界人工智能大会(WAIC)上,腾讯正式发布
混元3D世界模型1.0
——首个开源且兼容传统CG管线的可漫游世界生成模型。
在腾讯混元3D生成引擎上即可体验,海内外均可使用;正式开源后,也可在Hugging Face等开源社区下载模型本地部署体验。
实现可漫游3D场景生成
从文本或图像生成沉浸式且可交互的3D世界,是计算机视觉与图形学领域的核心挑战。在理解混元世界生成模型的创新之前,不妨先看看现有技术面临的挑战。现有世界生成方法主要分为两类: 视频驱动方法 想象一下制作动画片,传统的视频生成方法就像是一帧一帧地画画。虽然能画出丰富多彩的内容,但存在缺乏3D一致性、逐帧渲染成本高昂、无法与现有3D建模工具兼容等致命问题。 三维驱动方法 直接生成3D形式的世界场景,而不是视频序列帧。这种方法虽具备更好的3D结构的一致性,却受限于3D训练数据稀缺与3D表征内存效率低下等问题。 此外,现有3D生成方法往往将场景表示为一个整体,无法对场景中的物体进行单独交互。 混元3D世界模型1.0(HunyunWorld-1.0)是融合两类方法优势的创新框架,能够依据文本或图像输入生成沉浸式、可探索、可交互的3D场景。有以下三大核心优势: 1、 360°沉浸体验 :通过全景图将复杂的3D世界高效地表征为360度覆盖的2D图像代理,为后续生成完整的3D世界建模提供了丰富的空间信息; 2、 工业级兼容性 :生成的世界场景支持导出标准的3D网格格式,能够无缝导入现有3D建模软件和主流游戏引擎,用于二次开发; 3、 原子级交互 :通过物体解耦的3D建模方式,生成物体和背景可分离的3D世界,支持精准的物体级交互控制,提升了生成世界的操作自由度。 HunyunWorld-1.0采用生成式架构,结合全景图像合成与分层3D重建技术,实现了高质量、沉浸式的可漫游3D场景生成。 该模型通过语义分层的3D场景表征与生成算法,同时支持”文生世界”和”图生世界”两种生成方式。主要技术框架包括三部分,即全景世界代理生成、基于语义的世界分层与分层世界重建。一键生成不同风格的高质量3D场景
3D全景代理生成
3D全景可以捕获场景的360°视觉信息,可通过等距柱状投影(ERP)转化为全景图像,这使其成为3D世界生成的中间媒介。 HunyunWorld-1.0正是通过文本或图像条件生成全景图,作为驱动3D世界生成的代理媒介。 HunyunWorld-1.0的全景生成基于扩散变换器(Diffusion Transformer, DiT)框架,同时支持输入文本和图像生成3D全景。 文本到全景生成 将文本输入(prompt)通过文本编码器(Text Encoder)转化为扩散模型的输入条件。 图像到全景生成 将输入图像投影至全景空间,并通过变分自编码器(Variational Autoencoder, VAE) 将其编码至潜在空间(Latent Space)得到条件图像的潜在表示(Latent Tokens)。 该潜在表示会与随机噪声的潜在表示(Noisy Latent)拼接,输入扩散模型进行去噪,生成最终的3D全景世界代理。△ 文生360°全景指标
△ 图生360°全景指标
分层世界重建
尽管全景图能有效充当世界代理,但其无法提供被遮挡区域的信息,无法实现自由探索(如视角平移)。 为了解决该问题,HunyunWorld-1.0创新性地提出了”语义层次化3D场景表征及生成算法” ,将复杂的3D世界解构为不同的语义层级,实现前景与背景、地面与天空的智能分离,并基于该分层表示搭建3D世界。 基于语义的世界分层 为实现语义分层的自动化,此研究利用智能体(VLM视觉语言模型)识别可交互物体,然后采用”洋葱剥离法”分离天空、背景、前景,最终达到前景物体与背景分离,地面与天空分层处理的效果。 该智能化的世界分层方法,主要包含三阶段流程:实例识别(检测场景中的独立物体),图层分解(将物体分配到语义层),图层补全(生成被遮挡区域的合理内容)。通过该分层方案支持后续的分层3D重建。 分层深度估计与对齐 基于全景世界代理,研究人员预测各图层的深度并执行跨图层深度对齐。采用深度估计模型(如MoGe或UniK3D)获取原始全景图基础深度图,并对后续图层分别预测深度,最终通过跨层深度匹配技术将各层深度向基础深度图对齐。 具体而言,该跨层深度方法最小化不同图层重叠区域的深度距离,确保跨图层深度关系一致性,维持重建3D场景的几何连贯性。△ 文生3D场景指标
△ 图生3D场景指标
长距离、世界一致的漫游拓展
尽管分层世界重建提供了初步的场景探索能力,其仍面临遮挡视图与探索范围受限(Limited Exploration Range) 的挑战。 为突破此局限,HunyunWorld-1.0提出基于视频生成的视图补全模型 Voyager,支持空间一致的世界拓展与长距离探索,从初始场景视图和用户指定相机轨迹中,合成空间连贯的RGB-D视频。支持VR、游戏、物体编辑与物理仿真,无限应用可能
得益于HunyuanWorld-1.0的分层3D网格表示法,生成的3D网格世界能够高效支持多种专业应用场景,包括虚拟现实(VR)、游戏开发、物体编辑和物理仿真四大核心领域。Github项目地址:https://github.com/Tencent-Hunyuan/HunyuanWorld-1.0
项目主页:https://3d-models.hunyuan.tencent.com/world/
体验地址:https://3d.hunyuan.tencent.com/sceneTo3D
Hugging Face模型地址:https://huggingface.co/tencent/HunyuanWorld-1 一键三连 「点赞」「转发」「小心心」 欢迎在评论区留下你的想法! — 完 —