前言
World Action Models(WAM,世界动作模型)通过联合建模动作和未来视觉观测来提升机器人策略学习,将未来场景演化作为对物理约束动作生成的密集监督
然而,现有WAM 的一个常见设计是在推理阶段显式生成未来视频,这会带来巨大的计算开销,并阻碍其实时闭环部署
- GigaWorld-Policy 通过一种以动作为中心的建模方式来解决这一问题:在训练阶段利用未来视觉动态,而在推理阶段仅进行动作解码
- 在此框架基础上,作者提出 GigaWorld-Policy-0.5,这是一种为更高效机器人控制而设计的增强型动作中心WAM
我们也实际测试了下该模型的效果,发现
- 在不断加强数据与工程优化的前提下(注意,这个前提 必不可少,没有这个前提 成功率也不会高,换言之,任何模型都只是个基础)
基于该WAM叠未事先摊平的衣服,连推9次,成功率已经到了80 90%
且有希望进一步提升至95%以上『详情,请在视频号上搜:七月具身July』
单就叠衣服这个任务而言,世界动作模型相比『vla加RL』,更有泛化优势 - 我个人仔细看了一下policy的原理,其
→ 推理时,基于『对当前观测的物理理解 + 人类指令 + 机器人状态』,生成动作
→ 训练时,想象执行当下动作后,未来会变成什么样,即在policy 0.5里,这个“未来视觉预测”是作为动作执行后果的预测
然后相机实际拍到的真实视觉数据,则作为对“未来视觉预测”的监督信号
第一部分 GigaWorld-Policy-0.5: A Faster and Stronger WAMEmpowered by AutoResearch
1.1 引言与相关工作
1.1.1 引言
如原论文所述,世界模型近年来在利用大规模视觉数据学习物理世界的预测式表征方面取得了显著进展[1,2,20,24,38,41,45,46,62,68]
其通过对场景随时间演化的过程进行建模,这类模型能够捕获关于物体运动、交互动力学以及长时程状态转移的丰富时空先验。这种预测能力天然适用于机器人控制场景,在此类场景中,策略不仅需要识别当前观测,还必须预判自身动作将如何改变环境
- 受这一进展的推动,近期的视觉-语言-动作(Vision-Language-Action, VLA)模型开始利用世界模型来提升策略学习 [8,16,27,34,36,37]
相比于以往主要依赖来自机器人演示的稀疏动作监督的 VLA 方法[5,6,14,15,31,36,37,50,53,58],世界模型能够提供关于场景可能如何演化的补充性预测信息 - 将这类预测信息融入 VLA 策略中,可以为动作预测提供更丰富的时间上下文,并有助于将策略学习锚定在未来场景的演化上
这一研究方向表明,预测性的世界知识是构建更强大机器人策略的重要组成要素
除了将世界模型的预测纳入 VLA 策略之外,另一条研究路线是通过世界动作模型(WorldAction Models, WAMs)探索一种更加统一的表述形式,这类模型对机器人动作与未来观测进行联合建模 [4, 22,28,40,54]
WAMs并非将未来预测视为策略模型的外部输入或辅助信号,而是在同一框架中整合了动作生成与未来动力学建模。这样的表述使得动作表征能够与其视觉后果一同学习:模型不仅预测应该执行什么动作,还预测在该动作作用下场景将如何演化。由此,未来的视觉动力学可以作为一种稠密监督信号,用于学习具有物理依据的动作
- 尽管这种统一表述通过将动作生成与未来场景演化相耦合,使 WAM 能够获得一定的零样本泛化能力 [56],但它也带来了实际部署方面的挑战
即,在许多现有的 WAM 方法中,用于训练的同一套联合建模过程在推理阶段也会被调用,这就要求在部署时显式生成未来视频、进行迭代去噪或执行预测式 rollout [33,56]。由于视频 token 比动作 token 显著更昂贵,这种设计会引入巨大的计算开销,并限制实时闭环控制 - 此外,在设想的未来帧中产生的误差可能在长时间尺度上不断累积,从而削弱后续的动作生成效果
因此,一个关键挑战在于:如何在避免推理阶段昂贵的未来 rollout 的同时,仍然保留动作与动力学耦合所带来的泛化优势
- 此前,提出GigaWorld-Policy [55],其通过一种高效的、以动作为中心的 World Action Model 来应对这一挑战,延续了在训练和推理之间解耦未来预测的整体研究方向 [55,57]
它利用未来视觉动态在训练阶段提供稠密监督,同时在推理阶段允许策略跳过显式的未来视频生成,直接解码动作 - 通过一种以动作为中心的因果 token 结构,将动作预测与未来视频预测解耦,在保留 WAM 训练优势的同时,大幅降低闭环部署时的推理时延
由此,GigaWorld-Policy 证明了 WAM 既可以实现与高效 VLA 策略相当的低时延动作生成,又能保留由未来视觉动态带来的更强监督信号和物理约束
在 GigaWorld-Policy 的基础上,来自的研究者提出了 GigaWorld-Policy-0.5。GigaWorld-Policy-0.5 继承了 GigaWorld-Policy 的核心设计范式:
- 在训练过程中利用未来的视觉动态提供密集监督,而在推理阶段则可以仅通过动作解码完成决策,无需显式生成未来视频
- 它同样保留了以动作为中心的因果 token 结构:动作 token 是基于当前观测、机器人状态以及语言指令进行预测的,而未来视觉 token 则是在给定动作序列的条件下进行预测
这样的掩码策略可以防止未来视觉信息泄漏到动作预测中,并使得在部署时未来视频的预测保持为可选步骤,从而继续保留 GigaWorld-Policy 在低时延控制方面的优势
与 GigaWorld-Policy 相比,GigaWorld-Policy-0.5 在模型架构和训练流水线上进行了多项更新
- 首先,它采用了 Mixture-of-Transformers(MoT,混合 Transformer)架构,将视觉动力学建模与动作生成拆分为各自专门的专家模块,同时保留了以动作为中心的 WAM 设计
尽管 MoT 增加了模型的总参数量,但通过专家的专业化分工,使其在推理时可以仅走“动作通路”,从而避免不必要的视觉动力学计算,在 NVIDIA RTX 4090 上实现了约 85 毫秒的推理时延,大幅提升了部署效率 - 其次,在预训练阶段,作者采用了一种将 Action-Conditioned World Modeling(AC-WM,动作条件世界建模)与 World Action Model 训练相结合的混合训练策略,从而这促使模型更好地捕捉视觉动态与机器人动作之间的关系
同时学习到场景的普遍演变以及由动作引发的未来变化,从而增强其动作建模能力 - 最后,作者采用基于智能体的AutoResearch[18]流水线,使实验搜索过程更加系统且高效
该流水线会自动发起试运行、监控验证指标、比较候选配置,并将表现出前景的设置提升为更长时间的训练
通过这一迭代过程,AutoResearch在减少人工干预的前提下,帮助为 GigaWorld-Policy-0.5 推导出一套可靠的训练方案
1.1.2 相关工作
首先,对于作为机器人数据引擎的世界模型
- 近期在世界模型方面的进展 [21,30,47,60,63,65] 推动了机器人视频生成与预测能力的提升 [11,25,31,42,64],并日益作为可扩展的数据引擎或用于机器人学习的学习型模拟器[3,17,25,38,44]
其核心目标是学习一种生成式或预测式模型,用以刻画具身环境随时间演化的过程,从而能够基于有限的真实或仿真轨迹,合成或“想象”出多样化的视觉体验 - 在动作条件未来预测这一层面,Pandora [51] 证明了可以利用自由形式的文本动作来控制视频世界模型,从而实现超越被动视频生成的交互式预测
FreeAction [19] 进一步考虑了连续的机器人动作,并引入了基于动作缩放的无分类器引导(action-scaledclassifier-free guidance),以控制生成运动的强度
基于这类可控性,后续工作开始探索具身视觉数据的可扩展生成与迁移
RoboTransfer [25] 和 Cosmos-Transfer1 [3] 专注于跨域迁移视觉经验,利用 3D 或多模态空间条件来提升几何一致性和 Sim2Real 数据生成质量
GigaWorld-0 [38] 提供了一个高保真视频与 3D 数据引擎,能够在对外观、场景布局、视角以及动作语义进行精细控制的前提下,合成时间一致的具身轨迹
Qwen-RobotWorld [59] 进一步在多个机器人领域(包括操作、导航和驾驶)上扩展了动作条件具身视频生成的规模。超越单纯的视频生成,Aether [67] 将几何感知世界建模进行了统一,以联合优化 4D 动态重建、动作条件视频预测以及目标条件视觉规划 - 然而,大多数现有工作主要将世界模型用作外部数据引擎或模拟器[43, 61],而在很大程度上忽视了如何将其预测先验嵌入到可部署的机器人策略中
这推动了最近关于用于机器人控制的世界模型的研究,在这些研究中,未来预测和动作生成被联合考虑
其次,对于用于机器人控制的世界模型
- 世界模型长期以来一直被研究为用于决策的预测式表征,而大规模视频生成的最新进展又重新凸显了它们在机器人控制中的重要性
与其将观测直接映射为动作,基于世界模型的策略会利用对未来场景演化的预测来提供时间结构、动力学先验或中间规划
早期的视频驱动策略方法(例如 UniPi[12])将控制问题表述为“未来视频生成再加动作恢复”,而诸如 GR-2 [48] 之类的生成式机器人模型则在此基础上,进一步将大规模视频预训练与动作预测相结合,以实现更具泛化能力的操作控制 - 世界动作模型(World Action Models,WAM)[4,22,33,55]以视频生成范式为基础,旨在在统一框架下对机器人的动作以及未来视觉动态进行建模。通过将动作预测与未来视觉建模相结合,WAM 能够提供超越稀疏示教动作的密集时间监督和学习到的预测先验
VideoVLA [33] 将预训练的视频生成模型适配为机器人操作器,可联合预测未来的视觉结果和动作序列
Motus [4] 提出了一种统一的潜在动作世界模型,采用 Mixture-of-Transformer 架构和 UniDiffuser 风格的调度机制,从而支持多种模式,包括世界建模、逆动力学、策略学习、视频生成以及视频—动作联合预测
UWM [66]同样地,该方法在统一框架下耦合了视频扩散和动作扩散,表明异构的视频和机器人数据可以支持可扩展的策略学习
在此基础上,MotuBrain [40] 将 Motus 扩展为具备多视角建模、跨载体(跨具身)动作表征,以及面向部署的实时控制优化能力 - 另一条研究分支探讨的是:在策略推理过程中,需要在多大程度上显式地实现对未来的预测
Mimic-video [32] 利用互联网规模的视频主干网络生成潜在的视频规划,再通过基于流匹配的逆动力学模型将这些规划解码为动作
LingBot-VA [22] 采用自回归式的视频-动作世界建模,并结合闭环滚动预测,以缓解长时间跨度执行过程中误差累积的问题
S-VAM [52] 将多步视频前瞻蒸馏为高效的几何与语义表征;DiT4DiT [29] 使用中间去噪特征而非解码后的帧来进行动作预测
而 LaWAM [9] 则通过紧凑的潜在视觉子目标来显式呈现未来动力学,而不是依赖像素级视频 - 与这些方法相互补充的是
GigaWorld-Policy [55]
和
Fast-WAM [57,详见本博客中的解读《Fast-WAM——训练时保留视频联合训练(虽同时生成但动作token和未来视频token彼此隔离),推理时则移除显式的未来视频生成,直接在单次前向中依托当前观测的潜在世界表征KV Cache预测动作》]
探索了将预测式世界知识融入动作策略的更高效途径
这两种方法都在训练阶段利用基于视频的预测监督,同时在测试阶段避免显式生成未来视频
再补充一下,为什么各自要那样做?因为两篇文章的目的不同:
- Fast-WAM是做研究、回答问题的
它要回答的是一个科学问题:"推理时显式生成未来视频,到底有没有用?"要干净地回答它,就必须控制变量——让未来视频分支和动作分支互不接触(动作只看当前观测,不看未来;未来预测也不知道动作)
————
这样,"去掉视频联合训练掉 8 个点(真机毛巾折叠甚至崩到 10%)、推理时不生成未来几乎不掉点"这组对比实验,才能把每份收益精确记到每个变量头上
如果像 GigaWorld 那样把动作缠进未来预测,就说不清收益是谁贡献的了。隔离设计是为科学结论服务的——它牺牲的是动作端的直接监督- GigaWorld-Policy-0.5是做产品、追性能的
它的目标是造一个能实时部署的最强机器人策略
Fast-WAM 已经把结论趟出来了(训练时学视频有用、推理可以不生成),它直接收下
接下来想的是怎么把收益吃满:把动作塞进预测题当条件——动作写得烂,后果必猜错,梯度沿条件边回传、直接修正动作表征,相当于视频训练顺带给了动作一份稠密监督——收敛更快、成功率更高还白得一个"给动作就能推演后果"的世界模型(推理时可选生成,正好接入 GigaAI 的 GigaWorld 数据/评估生态)
代价是变量耦合、归因不再像 Fast-WAM 那样干净——但产品只要结果。耦合设计是为性能上限服务的
作者认为,这些工作表明,世界建模带来的收益并不必然依赖于在策略执行过程中进行计算代价高昂的像素级未来预测
总体而言,已有工作探索了一系列设计,用于在策略推断过程中减少对显式像素级未来展开的依赖。然而,要在边缘设备上实现闭环控制所需的低延迟仍然具有挑战性
这促使作者提出 GigaWorld-Policy-0.5:在保留以动作为中心的世界动作建模形式的同时,通过轻量级的仅动作执行路径来提升推理效率
1.2 GigaWorld-Policy-0.5的完整方法论
1.2.0 GigaWorld-Policy-0.5 概述
GigaWorld-Policy-0.5 的整体框架如图2 所示
它遵循GigaWorld-Policy [55] 中提出的以动作为中心的世界动作模型的形式化方式。在这种以动作为中心的设定下,策略预测问题可以表述如下
- 给定当前的多视角观测
、本体感受状态
和语言指令
, 该模型联合预测长度为
的动作片段
以及未来视觉观测
其中
在这里,表示用于未来视觉预测的时间步长,并且
表示在动作视野内预测的未来观测数量
至于复合观测是通过将左、前、右摄像机视角进行拼接构成的:
值得注意的是,GigaWorld-Policy-0.5 采用了与 Motus [4] 相似的多视角组合策略:将前视图放置在上方,将左视图和右视图拼接在下方一行,从而形成一个统一的图像输入用于视觉编码 - 为了更好地将世界模型先验迁移到策略学习中,GigaWorld-Policy-0.5 采用了与GigaWorld-Policy [55] 相同的因果掩码策略
具体而言,未来的视觉 token 被允许关注动作 token(相当于未来视觉token是执行当前动作后的后果预测),而动作 token 则被禁止关注未来的视觉 token
该设计带来两个好处首先,在训练过程中,因果注意力模式会将未来视觉预测隐式地条件化在动作 token 上,从而鼓励模型学习与世界模型先验以及预期场景演化一致的动作表征
其次,在推理阶段,未来视觉预测是可选的;当需要低延迟控制时,模型可以跳过大量未来视觉 token,直接解码动作 token
更具体而言,GigaWorld-Policy-0.5 使用flow matching 框架[13, 23] 进行优化。对于动作token 和未来视觉token,作者使用不同的flow-shift 因子来对各模态分别采样flow 时间步
- 给定
,
和flow-shift 因子
和
,则移位后的时间步计算为
- 然后,作者为动作模态和未来视觉模态构建一个联合时间步向量:
令和
分别表示干净的动作token 和未来视觉token,令
和
表示其对应的高斯噪声
带噪的联合token 通过对每种模态在噪声与数据之间进行线性插值得到:
对应的真实速度由下式给出
最后,GigaWorld-Policy-0.5 通过将模型预测的速度场回归到真实流速来优化
1.2.1 模型架构
图2 展示了基于MoT 的GigaWorld-Policy-0.5 架构
模型以视觉观测、自身感知状态、动作片段和语言指令作为输入
- 对于视觉输入,作者使用Wan [41] 中的视觉VAE 将组合观测
编码为视觉潜在token
- 对于非视觉输入,机器人状态和动作片段通过多层感知机(MLPs)映射到视觉隐空间维度,生成状态token和动作token
语言指令由umT5 [10] 进行编码,其文本嵌入被用作用于指令跟随控制的条件信号
在给定这些 token 的前提下,GigaWorld-Policy-0.5 依然遵循以动作为中心的世界动作框架,但将原本完全共享的 Transformer 主干结构替换为 MoT 结构
MoT 架构将以动作为中心的 WAM 中两个核心建模组件——视觉动态建模和动作生成——拆分为一个视觉专家和一个动作专家
- 视觉专家负责处理当前和未来的视觉 token,并在潜在视觉空间中建模场景演化;
- 而动作专家则专注于动作 token 的去噪与动作片段的预测
每个专家都配备其独立的交叉注意力(cross-attention)和前馈网络(FFN)模块,从而实现针对不同模态的语言条件建模以及非线性变换。这两个专家通过多模态自注意力相互连接,使视觉、状态和动作token 之间能够进行信息交互,同时保持统一的 token 序列,以实现联合的世界动作建模
具体而言,多模态自注意力模块遵循 GigaWorld-Policy [55] 的做法,采用以动作为中心的因果掩码来调节跨模态信息流
- 更具体地说,动作 token 被允许关注当前的视觉token、状态 token 和语言条件信息,但被禁止关注未来的视觉 token
- 另一方面,未来的视觉 token 则可以关注当前上下文和动作 token,从而实现基于动作条件的未来视觉预测——相当于未来视觉token 便是执行当下动作之后的后果预测
这样的因果注意力掩码既防止了未来观测信息泄露到动作预测中,又允许未来视觉动态在训练阶段提供密集监督
————
说白了,未来帧这份稠密信号不只教视觉专家——因为预测未来时读过动作(条件边),它的误差会回传修正动作编码,即如之前贴过的下图所示
————
这里,再补充一下共享注意力 为何 也一并更新
在推理阶段,未来视觉 token 可以被省略,模型直接解码动作 token,以实现低时延控制
在参数初始化方面,GigaWorld-Policy-0.5 使用来自大规模预训练世界模型 GigaWorld-1[39] 的视觉预训练权重来初始化视觉专家
- 这为视觉专家提供了一个关于视觉动力学建模的世界模型先验,使模型在适配到机器人特定的观测与交互之前,就能够继承关于场景演化的一般性知识
- 对于新引入的动作专家,作者从对应的视觉专家权重进行参数初始化
对于那些维度不对齐的参数,通过截取对应视觉专家权重的前 n 个维度来初始化动作专家参数,其中 n 表示该动作专家参数的目标维度
1.2.2 训练流程
GigaWorld-Policy-0.5 的训练流程包括两个阶段:机器人数据预训练和目标机器人后训练
在这两个阶段开始之前,视觉专家从 GigaWorld-1 [39] 初始化,GigaWorld-1 在一万多小时的视频数据上进行了预训练。这样的初始化为 GigaWorld-Policy-0.5 在视觉动态建模方面提供了通用的世界模型先验
- 在预训练阶段,作者在经过筛选的 2K 小时开源机器人数据 [7,26,35,49] 和内部采集的真实机器人数据上训练 GigaWorld-Policy-0.5
该阶段将预训练的世界模型先验适配到以机器人为中心的场景,包括机器人形态、本体操作空间、相机视角以及交互模式
模型在与机器人相关的观测与动作条件下学习预测未来的视觉演化,从而在面向目标领域进行专项适配之前,提升其与机器人控制设定的对齐程度
值得注意的是,为了更好地建模动作与视觉动态之间的关系,作者在这一阶段还引入了以动作为条件的世界模型训练,在该训练中,模型需要在与机器人相关的观测和动作条件下预测未来的视觉演化
这一过程促使模型在面向目标域进行专门化之前,先学习机器人动作如何影响场景变化 - 在后训练阶段,GigaWorld-Policy-0.5 在目标真实机器人轨迹上进行训练,这些轨迹包含对齐的观测、语言指令、机器人状态以及动作序列
该模型在以动作为中心的因果结构下,联合优化动作预测和未来视觉动力学建模。动作目标用于教会模型生成基于指令条件的动作块,以实现闭环控制;而未来视觉目标则作为辅助监督,促使动作表征与场景可能的演化过程保持一致
在部署阶段,仅使用“动作推理”路径:不再生成未来视觉token,模型直接在当前观测、状态和指令的条件下解码动作
1.2.3 推理加速
为支持在边缘计算平台上的真实部署
- 作者通过 KV 缓存、计算图编译以及轻量级 C++运行时对推理栈进行优化。在自回归动作生成过程中,视觉与语言上下文在各个解码步之间保持不变;
因此,作者在对输入上下文进行编码后缓存所有注意力层的键值(key-value)状态,并在后续的动作 token 预测中复用这些状态,从而避免冗余的注意力计算 - 且进一步使用 torch.compile 对推理计算图进行优化,以减少 Python 层的调度开销,并启用诸如算子融合和更高效内存调度等后端级优化
最后,作者在一个 C++ 运行时中部署优化后的策略,将图像预处理、张量构建、模型执行、KV 缓存管理以及动作后处理集成到统一的原生流水线中
该设计移除了对 Python 的依赖,降低了运行时开销,并简化了与机器人控制中间件的集成,从而在边缘设备上实现低延迟的闭环策略执行
1.3 实验
首先,对于评估指标
作者主要报告 Success Rate(SR,成功率)来评估任务完成性能
- 对于真实场景实验,作者在两种设置下评估基于夹爪的操作:文本跟随与长时序任务执行
- 对于文本跟随,作者使用分级SR 来更好地刻画任务的部分完成情况:
每次试验根据四个同等权重的阶段进行评分,每个阶段记0.25 分,这四个阶段分别为:到达目标物体、抓取目标物体、移动至目标位置,以及成功放置 - 对于长时序任务,SR与仿真中的二元定义相同,其中仅当完整任务序列被执行完毕时 SR = 1,否则 SR = 0
其次,对于基线
作者将GigaWorld-Policy-0.5 与跨越两大范式的若干具有代表性的基线方法进行比较
- 对于基于VLM 的VLA 方法,包括π0.5 [15]
其使用一个大型视觉-语言骨干网络来对齐视觉观测和语言指令,并通过一个动作头解码低层控制动作 - 对于基于WAM 的方法,包括Motus [4]、FastWAM [57] 和GigaWorld-Policy [55]
这些方法融合了视觉动力学或世界建模目标以支持策略学习
最后,对于实现细节
- 作者使用预训练的 GigaWorld-1 [39] 来初始化视觉专家,使模型能够继承强大的视觉生成式表征
随后,通过拷贝对应权重,将动作专家从视觉专家进行初始化;对于维度不匹配的层,保留维度兼容的子矩阵,并截断其余条目,以适配动作专家的配置 - 在作者的实现中,视觉专家的隐藏维度为 3072,FFN 维度为 14336,而动作专家则更为轻量,隐藏维度为 1024,FFN 维度为 4096
对于动作块长度与未来观测步长,沿用 GigaWorld-Policy 中采用的设置
1.3.1 真实环境实验结果
作者在一台 AgileX PiPER 六自由度机械臂上,从两个互补的视角开展基于夹爪的操作实验
接下来的文本从在相同场景配置下执行多条指令的角度评估语言落地能力。每次试验按照四个同等权重的阶段进行评分(每个阶段 0.25 分):到达目标物体、抓取目标物体、移动到目标放置位置以及成功放置物体
最终得分取 10 次真实环境试验的平均值。长时序任务则用于评估端到端的序列操作能力,其中每个任务在真实机器人上执行 10次,仅报告整体任务成功率
表 1 和表 2 在物体语义和目标位置变化的条件下,评估了模型的文本跟随能力
- 在摘水果任务上,GigaWorld-Policy-0.5 的平均成功率达到 0.85,分别比 ᶜ0.5 [15]、Motus[4]、FastWAM [57] 和 GigaWorld-Policy [55] 高出 0.09、0.05、0.07 和 0.05
它在全部六类水果上都持续取得最高成功率,尤其在柠檬和牛油果上有显著优势,这表明该模型可以将细粒度的语言描述稳定地对齐到在视觉上可区分的物体上 - 在更具组合性的物体放置任务上,GigaWorld-Policy-0.5 的平均成功率为 0.89,比最强基线 Motus 高出 0.06
该任务要求同时识别被引用的物体,并遵循指定的目标关系(例如,将一个物体放到盘子上或放入篮子中)
作者宣称,他们的方法在每一条指令上都取得了最佳结果,并在“碗到篮子(bowl-to-basket)”和“叉子到篮子(fork-to-basket)”指令上显示出显著提升,表明其在物体身份和空间目标规格的语义落地方面更为强健
总体而言,这些结果表明,与现有方法相比,GigaWorld-Policy-0.5 在执行多样的自然语言指令时更加可靠,尤其是在任务执行需要精确物体选择和组合式物体—目标推理的场景中
表 3 报告了在三个长时域操作任务上的端到端成功率,这些任务都要求策略执行多个在时间上相互依赖的步骤
- 作者认为,GigaWorld-Policy-0.5 在每个任务上都取得了最佳表现,平均成功率达到 0.80。与最强基线方法相比,它带来了 0.20 的绝对提升和 33% 的相对提升
- 作者宣称,这一显著增益凸显了他们方法在长时域任务执行方面的有效性,此类任务的成功完成依赖于维持连贯的动作序列并准确处理中间状态转移
即结果进一步表明,通过世界建模获得的预测表征,为长时域机器人操作提供了有用的、具备时间与交互感知能力的信息
1.3.2 消融研究
作者对 GigaWorld-Policy-0.5 开展了两组消融实验分析
- 第一组实验聚焦于标准组件消融,作者通过逐一去除或替换模型及训练流水线中的关键设计选项,来分离并评估它们各自的贡献
- 第二组实验则使用 AutoResearch [18] 流水线,在统一的评测协议下研究学习率、预热策略等超参数选择对性能的影响
首先,对于混合 AC-WM 与 WAM 预训练的效果
作者评估在预训练阶段引入 Action-Conditioned World-Model(AC-WM,动作条件世界模型)训练,是否能提升下游策略学习的效果。该消融实验比较了两种预训练设置:
- 一种仅使用标准的 WAM 预训练
- 另一种则将 AC-WM 与 WAM 预训练混合,在其中对未来视觉观测的预测是以机器人动作为条件的
预训练后,两个模型均采用相同的策略训练方案进行微调,并在水果采摘任务上进行评估
// 待更