跳到正文
World Labs · 空间智能与世界模型· 一手来源·· 2026-09-01精选AI 评分64

Atlas:面向空间智能的世界模型

Atlas: A World Model for Spatial Intelligence

推荐理由

Atlas 将世界生成、3D 重建与时空仿真统一进单一多模态架构,基准测试中在两项关键任务上均超过专用模型。

正文 · AI 翻译

世界模型能够生成、重建并模拟任何可能的世界。 它们理解世界如何呈现、如何运作、如何演化, 从而让我们能够为创意用户渲染想象中的世界, 高保真地模拟真实世界,并帮助机器人规划行动。 在 World Labs,我们构建这些通用世界模型,以追求空间智能。

今天,我们正式发布 Atlas,我们的下一代世界模型。 Atlas 是一个全模态模型,我们从零开始预训练,使其能够原生处理 文本、图像、视频和 3D。 它是一个多模态自回归扩散 Transformer: 所有输入都被整合到一个共享的空间上下文中。 Atlas 利用该上下文生成接下来的内容, 在 3D 中与它所见过的一切保持一致,并想象其之外的内容。 Atlas 专为可扩展性而设计:随着训练算力的增加,其性能不断提升, 我们预计随着我们持续扩展,这一趋势将得以保持。

Atlas 能够执行广泛的任务, 涵盖世界生成、重建和仿真:

  • 相机控制生成: Atlas 可从一张或多张图片生成图像和视频,实现像素级精确的相机控制, 输出最长 1 分钟、分辨率达 1440p 的视频。
  • 空间重建: Atlas 可从一张到数十张输入图像重建真实世界场景。 它既能生成新视角的图像帧,也能生成显式 3D 输出, 性能超越专为 3D 重建设计的当前最先进模型。
  • 时空模拟: Atlas 从输入视频中建模空间和时间, 对视频进行重新取景以实现戏剧化的视觉效果, 并为机器人领域启用 Real-to-Sim 工作流。
  • 图像生成: Atlas 可根据文本生成图像和 360 度全景图; 它能遵循复杂的提示词、渲染文字, 并生成多种多样的视觉风格。

Atlas 将为 Marble 的未来版本 以及 World Labs 的其他产品提供动力。

相机控制生成

Atlas 接收一张或多张参考图像,并生成 您指定的任意相机位置和角度下的新视角。 生成的视角与输入图像的内容和几何结构相匹配, 并平滑地外推超出输入范围,想象场景中 在输入中不可见的部分。

Atlas 可处理广泛的场景类型、视觉风格和相机运动。

视频由 一到六张输入图像 配合手动设计的相机路径生成

像素级精准镜头控制

Atlas 将精确的相机几何信息作为原生输入类型, 超越了基于文本的粗略镜头控制指令。 这让你能够构图每一个镜头并控制每一个动作。

在以下示例中, Atlas 从单张输入图像生成完整场景。 它利用输入图像的内容及其广泛的世界知识, 来想象场景从新角度看起来应该是什么样子。 例如,它生成了机器人的背面, 并推测泳池旁边应该有一片草坪。

从单张图像出发,Atlas 可生成任意角度的视图。拖动以更改 视角。

基于空间上下文生成

与 LLM 类似,Atlas 首先将其输入编码为上下文, 然后基于该上下文生成输出。 然而,Atlas 的独特之处在于,每张图片都锚定在空间中的一个 3D 位置上; 这构成了一个空间上下文。

管理这种空间上下文开启了全新的创意控制方式。 例如,你可以在上下文中放置两张不相关的参考图像, 并将它们定位在 3D 空间中;Atlas 随后会生成一个在两者之间平滑过渡的世界。

这些示例展示了模型的世界知识和创造力; 它会在原本不相关的图像对之间想象出门廊、走廊、角落以及其他过渡。

选择左右帧来填充空间上下文,Atlas 会将它们拼接在一起

可控长视频

Atlas 让你通过结合镜头运动与空间上下文管理,生成具有精确控制的长视频。 你设计每一个场景和每一个镜头角度。 这让你坐上了导演的椅子: 你是在编排场景,而不是在拉老虎机的把手。

在下面的示例中,我们使用少量 参考图像生成了 1 分钟、1440p 分辨率的视频。 我们手动设计了穿过场景的镜头路径, Atlas 生成了一个连贯的世界。 本页面上的其余视频已进行压缩以优化页面性能。

空间重建

Atlas 能够从一张或多张输入图像中重建真实世界空间。 它无需特殊拍摄设备或数百张密集视图即可忠实地重建物体和场景。 我们认为 Atlas 是解决从稀疏输入图像进行新视角合成这一问题的重大进步, 这是 3D 计算机视觉领域一个存在数十年的基本问题。

从多张图像进行重建

Atlas 可以接受场景的可变数量的输入视图。 当世界的某些部分在输入视图中不可见时, Atlas 会利用其丰富的世界知识, 想象一种合理的方式来填补空白。

但有时你并不想要想象; 你可能想要对真实世界地点的精确重建。 传入更多输入图像能为 Atlas 提供更多上下文: 它看到的越多,想象的就越少。 Atlas 通常仅用两到三张图像就能给出忠实的重建, 超越了专为 3D 重建而训练的模型的最新成果。 然而,Atlas 也可以在其空间上下文中利用一百多张输入图像, 从而实现对真实世界环境的忠实再现。

在下面的第一个示例中, Atlas 仅凭一张地面视角的照片就生成了该场景的航拍视图。 单张输入照片中可见的花园在模型输出中被准确还原, 但场景的其余部分则是模型想象生成的。 在添加第二张真实世界的输入图片——花园旁的小屋之后, 模型的输出同时展示了花园和小屋, 但它仍然想象了左侧的房屋; 当加入第三张主屋的输入图片后, 整个场景被准确描绘出来。

在第二个示例中,我们逐步构建斯坦福大学主广场, 从绿草茵茵的主入口开始,到装饰纪念教堂外立面的彩色马赛克结束。 尽管 Atlas 仅接收两到二十五张地面层输入图像, 它仍能生成从校园上空远处飞行的航拍视角路径。

重建多样化路径

Atlas 可以为同一场景生成许多不同的轨迹, 为相同的输入图像提供新的视角。 无论改变相机路径多少次,场景都保持一致。

在下面的示例中,我们展示了给定一组少量输入图像时,Atlas 可以生成穿过同一场景的多个相机路径。不同的相机路径可以突出场景的不同部分,或通过改变速度、长度或复杂度来改变氛围。

Atlas 可以使用一组少量输入图像生成穿过同一场景的许多不同路径。

显式 3D 输出

在上面的结果中,你已经看到 Atlas 输出了 2D 图像和视频,这对于某些应用已经足够。但机器人、游戏、设计、视觉特效等领域的工作流程通常需要显式的 3D 输出。Atlas 原生同时处理 2D 图像帧和 3D 深度图,使其能够以点云或 3D 高斯泼溅的形式输出世界。

从一张图像出发,Atlas 生成新视角和 3D 几何,然后转换为 3D 高斯泼溅

从单张输入图像出发, Atlas 通过同时生成新视角并估计其几何结构,构建完整的 3D 世界。 从真实空间的视频出发, 它预测每一帧的深度,并将它们组合为 3D 重建。 无论哪种情况,Atlas 都会补全任何相机从未拍摄到的区域。

Atlas 可以从输入视频中重建 3D 点云

点云可以估计场景的几何结构,但 3D 高斯泼溅使其真正可用。 Atlas 补全剩余的缺口,将点云转化为完整的泼溅场景, 可在设备端以高分辨率和帧率渲染。 这与 Marble 中使用的表示方式相同, 使 Atlas 能够自然地与我们其他产品集成。

时空模拟

Atlas 作为世界模拟器。 它既理解世界的空间结构, 也理解世界如何随时间演化。 将其空间与时间能力相结合, 为视觉特效、机器人学及更广泛的领域带来了新的应用。

视频重构图

Atlas 将几台普通相机变成"子弹时间"多视角拍摄工作室。 仅需三台相机的素材, Atlas 就能冻结时间并重新取景, 让你从不可能的角度观看事件。

真实世界的视频无需昂贵的拍摄棚即可从新的拍摄角度重新取景。

值得注意的是,这些镜头无需专业摄影师或专用设备。 每一个都由几位工程师和研究人员 用普通手机拍摄,手机架在能装进背包的三脚架和夹子上。 Atlas 从三到五个机位重建场景, 之后你可以随心所欲地重新取景。

幕后花絮:以上片段仅用几部手机 和运动相机拍摄

机器人仿真

Atlas 为导航和操作领域扩展 Real-to-Sim 开辟了新的途径。

你之前已经看到 Atlas 从几张图像中重建出显式 3D 空间。 对于机器人而言,重建只是工作的一半: 当模拟机器人在空间中移动时, Atlas 还会生成其传感器沿途会观察到的 RGB 和深度数据。 世界和机器人对它的观察来自同一个模型。

在这些示例中, 我们用手机视频拍摄了两个大型环境,每个使用 24 帧进行重建。 传统上,扫描此类空间需要复杂且昂贵的设备。 然后我们模拟不同类型的机器人沿不同路径导航, 并使用 Atlas 从机器人机载摄像头的视角生成图像。

Atlas 重建空间并辅助模拟机器人导航

机器人操作再进一步。 只需几段随手拍摄的视频, Atlas 即可辅助构建仿真,同时捕捉物体的运动与交互方式。 一旦任务完成仿真,便可轻松进行变化: 更换物体、调整其位置、改变机器人的运动、光照和背景。 由此可获得面向大规模机器人的多样化训练数据和测试环境。

Atlas 仅需几段真实世界录像即可实现从真实到仿真的转换,重建 与刚体、关节体和可变形物体之间的物理交互,同时 支持可控的变化。

图像生成

Atlas 的主要关注点是世界建模, 每一张图片都是通往一个可能世界的窗口。 尽管图像生成并非其主要关注点, Atlas 仍是一个功能强大的图像生成器: 它能遵循复杂的提示词、渲染文字,并生成多种多样的视觉风格。

Atlas 还能根据文本或图像提示词生成 360 度图像, 同样可以生成多种多样的场景类型和视觉风格。

技术细节

模型架构

Atlas 是一个全模态模型,旨在以单一统一架构处理多种任务和多种类型的输入与输出数据,将空间控制置于模型的核心。这些目标要求我们突破 LLM 和视频模型所使用的标准架构,设计一种新的基础架构,作为未来世界模型的基石。

Atlas 是一个多模态自回归扩散 Transformer。其输入基于 3D 空间构建,形成空间上下文,并基于该上下文生成多模态输出。

Atlas 是一个多模态自回归扩散 Transformer。 它在多模态序列上运行,每次生成序列中的一个新元素。 这些架构特性协同工作以实现我们的目标, 综合起来,它们基于空间上下文实现了一种新的生成范式。 我们逐一展开这些概念:

  • 多模态:Atlas 可以原生处理多种不同的数据类型。 目前它可以处理文本、图像、相机位姿和 3D 深度图; 视频以图像序列的形式表示。 每张图像和深度图都以显式的相机位姿为条件, 使空间控制成为架构的核心组成部分。
  • 自回归:Atlas 在元素序列上运行, 其中每个元素都是上述多模态数据类型之一。 每个输出都是逐个生成的,以序列中先前的部分为条件。 这种灵活的设计能够自然地适应各种任务: 每个任务只是一种不同类型的序列,其中输入后跟输出。
  • 扩散:Atlas 是一个整流流模型,通过逐步去噪来生成输出。 扩散模型擅长对图像和视频等高维连续数据进行建模, 并可以通过改变推理期间使用的去噪步数来自然地权衡速度与质量。
  • Transformer:Transformer 架构主要由大规模矩阵乘法运算构成,与现代硬件高度适配。它是世界建模的稳健骨干网络。

Atlas 融合了现代大语言模型和视频模型的理念。 它可以受益于这两类模型在架构、算法和系统方面的进展。

与大语言模型类似,它是一个自回归 Transformer, 因此可以利用用于部署和加速大语言模型的创新技术, 包括 KV 缓存、缓存感知路由、分离式推理等。 与现代图像或视频模型类似,它是一个潜在扩散模型, 可以利用扩散蒸馏、无分类器引导、 偏移噪声调度以及 VAE 设计方面的进展等算法。

基准测试

Atlas 是一个用于世界建模的全能模型,可执行多种任务。 因此,没有单一基准测试能完全衡量其通用性。 我们重点展示 Atlas 在两项关键任务上的定量评估: 相机条件生成和 3D 重建。 在这两项任务上,它均优于更具专业性的模型。

我们将 Atlas 与若干表现顶尖的视频模型进行对比,用于相机条件生成任务。 在每次试验中,我们将单张输入图像与一段包含一至三个电影级相机运动 (摇镜、横移、升降等)的序列配对。

我们向每个模型提供一张输入图像和一条目标相机路径。 对于 Atlas,我们使用其原生相机输入格式对相机路径进行编码。 其他模型不接受相机作为原生输入格式, 因此我们在输入文本提示中描述相机路径, 使用标准的电影术语。 更复杂的提示工程或富有创意的多模态提示 可能会改善某些模型的相机跟随效果, 但我们使用文本,因为它是描述相机运动最常见的输入模态。

第三方人工评分员判断哪个模型更好地遵循了预期的相机路径。 这些结果证实了 Atlas 在相机控制生成方面优于近期的视频模型, 且随着相机轨迹变得更加复杂,这一优势也在增大。

相机控制生成

我们还在稀疏输入视角的三维重建任务上对 Atlas 进行了评估。 在每次试验中,模型接收一组图像及其相机位姿, 并预测与每个输入像素对应的三维点。 该问题在学术界引起了广泛关注, 近年来已开发出许多专用重建模型。

Atlas 是一个全能模型,同时执行生成和重建任务。 尽管具有通用性,Atlas 的表现优于最佳的专用开源重建模型。

我们在该任务的多个最先进基准上进行了评估, 复现了所有基线方法的结果, 以确保所有方法之间采用统一且公平的评估协议。

三维重建误差(越低越好)

模型扩展

现代人工智能的大部分进步都是由规模化驱动的。 模型在很大程度上通过扩展简单算法来利用更多数据和算力,从而实现性能提升。

我们有强有力的证据表明,Atlas 将随着规模扩大而持续提升。 我们从零开始在大规模、多样化的多模态数据语料库上对 Atlas 进行了预训练。 在开发过程中, 我们训练了一系列规模递增、训练算力递增的模型, 并发现每一级新的算力都解锁了新的模型能力。 我们有信心,我们未来的世界模型将遵循这一趋势, 随着我们持续扩大规模,其能力将得到显著提升。

使用 Atlas 构建

Atlas 正在与部分合作伙伴开启早期访问。 如果您希望基于它进行开发,请在下方申请访问权限,我们将与您联系。 我们期待看到您构建的作品,也期待与您合作,将 Atlas 打造为生成、重建和模拟任何世界的首选世界模型。

我们也在招聘研究和工程领域的岗位,以推进空间智能的发展。

本文由 World Labs 团队撰写。引用请注明:

@article{worldlabs2026atlas,
    author = {World Labs Team},
    title = {Atlas: A World Model for Spatial Intelligence},
    journal = {World Labs Blog},
    year = {2026},
    note = {https://www.worldlabs.ai/blog/atlas},
}

来源:World Labs · 空间智能与世界模型 · worldlabs.ai