新智元报道
编辑：LRS
本文分享论文 GeRM: A Generalist Robotic Model with Mixture-of-experts for Quadruped Robot，由西湖大学和浙江大学联合提出一种基于混合专家模型进行强化学习的通用机器人策略。
多任务机器人学习在应对多样化和复杂情景方面具有重要意义。然而，当前的方法受到性能问题和收集训练数据集的困难的限制。
这篇论文提出了 GeRM（通用机器人模型），研究人员利用离线强化学习来优化数据利用策略，从演示和次优数据中学习，从而超越了人类演示的局限性。
作者：宋文轩，赵晗，丁鹏翔，崔灿，吕尚可，范亚凝，王东林
单位：西湖大学、浙江大学
论文地址：https://arxiv.org/abs/2403.13358
项目地址：https://songwxuan.github.io/GeRM/
之后采用基于 Transformer 的视觉-语言-动作模型来处理多模态输入并输出动作。
通过引入专家混合结构，GeRM 实现了更快的推理速度和更高的整体模型容量，从而解决了强化学习参数量受限的问题，提高了多任务学习中的模型性能，同时控制了计算成本。
通过一系列实验证明，GeRM 在所有任务中均优于其他方法，同时验证了其在训练和推理过程中的效率。
此外，研究人员还提供了 QUARD-Auto 数据集以支持训练，该数据集的构建遵循文中提出的数据自动化收集的新范式，该方法可以降低收集机器人数据的成本，推动多任务学习社区的进步。
主要贡献：
1. 首次提出了用于四足强化学习的混合专家模型，其在混合质量的数据上进行训练，从而具备习得最优策略的潜力。
2. 与现有方法相比，GeRM 在只激活自身1/2 参数的情况下展现出更高的成功率，激活了涌现能力，同时在训练过程中展现了更优的数据利用策略。
3. 提出了一个全自动机器人数据集收集的范式，并收集了一个大规模开源数据集。
方法
GeRM 网络结构如图 1 所示，包含示范数据和失败数据的视觉-语言输入，分别经过编码器和 tokenizer 后输入到 8 层混合专家结构的 decoder 中，并生成动作 token，最终转化为离散的机器人动作数据并通过底层策略部署到机器人上，此外我们用强化学习的方式进行训练。
图 1 GeRM 网络结构图
GeRM Decoder 是一个包含 Transformer Decoder 架构模型，其中前馈网络（FFN）从一组 8 个不同的专家网络中选择。
在每一层，对于每一个标记，门控网络选择两个专家来处理 token，并将它们的输出加权组合。
不同的专家擅长不同的任务/不同的动作维度，以解决不同场景中的问题，从而学习跨多个任务的通用模型。该架构扩大了网络参数量，同时保持计算成本基本不变。
图 2 Decoder 结构图
我们提出了一个自动的范式来收集机器人多模态数据。通过这种方式，我们构建了一个大规模的机器人数据集 QUARD-Auto，其中包含演示和次优数据的组合。它包括 5 个任务和 99 个子任务，总共有 257k 条轨迹。我们将进行开源以促进机器人社区发展。
表 1 数据集介绍
图 3 数据量统计
实验
我们进行了一系列全面而可靠的实验，涵盖了所有 99 个子任务，每个子任务进行了 400 条轨迹的精心测试。
如表 1 所示，GeRM 在所有任务中具有最高的成功率。与 RT-1 和其他 GeRM 的变体相比，它有效地从混合质量的数据中学习，优于其他方法，并在多任务中展现出优越的能力。与此同时，MoE 模块通过在推理时激活部分参数来平衡计算成本和性能。
表 2 多任务对比实验
GeRM 表现出令人称赞的训练效率。与其他方法相比，GeRM 仅需极少的 batch 就获得了极低的 Loss 和较高的成功率，凸显了 GeRM 优化数据利用策略的能力。
图 4 成功率/Loss 变化曲线
GeRM 在动态自适应路径规划方面展现出了涌现能力。如视频所示，四足机器人在初始位置视野受限，难以确定移动方向。为了避开障碍物，它随机选择向左转。
随后，在遇到错误的视觉输入后，机器人执行了大幅度的重新定向，以与原始视野之外的正确目标对齐。然后，它继续向目的地驶去，最终完成任务。
值得注意的是，这样的轨迹不属于我们的训练数据集分布之内。这表明 GeRM 在场景背景下的动态自适应路径规划方面具有涌现能力，即它能够根据视觉感知进行决策、规划未来路径，并根据需要改变下一步行动。
图 5 涌现能力
参考资料：
