Foundation-Model-Driven 3D Scene Graphs for Mobile Manipulation
本文将FOUND-IT集成到移动操作平台,展示了基础模型驱动的3D场景图在物体变化检测、多映射会话支持、导航路径规划和物体抓取等任务中的有效性。代码已在GitHub开源。
推荐理由:将基础模型驱动的3D场景图集成到移动操作平台,验证了其在物体变化检测、导航路径规划和抓取任务中的实用性。
技术方向
具身智能全赛道追踪:VLA 与世界模型等具身大模型、机器人本体与灵巧手等硬件本体、开源软件与仿真生态、数据与基准。
196 条精选近 30 天 194 条共收录 605 条
本文将FOUND-IT集成到移动操作平台,展示了基础模型驱动的3D场景图在物体变化检测、多映射会话支持、导航路径规划和物体抓取等任务中的有效性。代码已在GitHub开源。
推荐理由:将基础模型驱动的3D场景图集成到移动操作平台,验证了其在物体变化检测、导航路径规划和抓取任务中的实用性。
Faraday Future和FFR联合推出FF Nova人形机器人,在美国售价低于2500美元,同时发布了FF Nova Mini、Physical AI Spark课程和强化学习开发者计划。
推荐理由:低于2500美元的人形机器人首次亮相,价格门槛大幅降低,接下来看开发者生态能否跟上。
Zhixu Li等人提出LIBERO-PeRM基准测试,专注于具身智能体的偏好学习,包含312个任务和五个研究问题,评估当前VLA策略在零样本个性化、偏好学习和冲突处理等方面的表现。
推荐理由:论文提出了首个针对个性化机器人操作的基准测试LIBERO-PeRM,填补了该领域评估空白。
Wenye Yu提出Value as Memory (VaM)框架,通过价值缓存和在线强化学习解决机器人策略后训练中的部分可观测性和反馈延迟问题。在涉及可变形物体和接触密集操作的长时程任务中,VaM在价值缓存方面平均提高成功率29.4%,在线自主学习提高32.8%,在相同梯度步预算下执行8倍策略迭代,并发数据收集和训练使每梯度步时间降低2倍以上。
推荐理由:本文提出了一种结合价值缓存和在线强化学习的机器人训练框架,解决了部分可观测性和反馈延迟问题。
Chenyuan Zhou等人提出T2-Z方法,通过测试时优化环境隐变量来增强机器人世界模型。该方法在7个模拟环境和4个真实机器人任务中,将物体预测误差从15.20降至7.00,动作成功率从33.73%提升至72.96%。T2-Z能够从单次测试交互轨迹中高效推断环境隐变量,捕捉多样化视觉场景中个体和复合因素的结构化表示。
推荐理由:T2-Z通过测试时优化环境隐变量,显著提升了机器人在新环境中的预测准确性和任务成功率。
作者提出P³-WAM模型,通过感知、预测和规划三种互补模式实现自我中心灵巧操作,整合紧凑的3D动作表示到预训练视频扩散变换器中,实验显示统一训练提升了所有三种能力,在3D手重建和动作条件视频预测任务上优于专用基线。
推荐理由:论文提出了统一的世界行动模型,通过三种互补模式实现3D感知、预测和规划,在多个数据集上表现优于专用基线。
Tianjiao Yu提出CoDA框架,让模拟数据引擎和行动策略通过共享异构记忆协同进化,在四个操作任务家族中,将分布外成功率从5.3%提升至27.6%,超过最强闭环基线9.5个百分点。在LIBERO-Pro上,15轮生成和训练使位置扰动下的成功率从25%提升到84%,指令扰动下从1%提升到76%。
推荐理由:CoDA框架通过数据引擎与行动策略协同进化,显著提升了机器人在分布外任务中的成功率。
研究人员提出Spark-0模型,结合视觉-触觉-语言-动作(VTLA)多模态信息,通过1000小时的HumanTouch数据集进行预训练,在Ego Humanoid Manipulation Benchmark和SparkArena任务中取得最高成功率,触觉信息不仅作为策略输入,还成为灵巧视觉运动预训练的可扩展监督。
推荐理由:研究通过大规模触觉预训练提升了机器人在灵巧操作中的成功率,提供了新的监督方法。
Botao He提出DSP框架,机器人通过行为克隆从人类游戏中学习策略,然后自主收集交互数据训练世界模型。在真实实验中,该方法比回顾性行为克隆成功率提高69.6%,且比强化学习减少490倍的交互数据量。
推荐理由:论文提出了一种通过监督学习让机器人自主收集灵巧操作经验的新方法,显著减少了交互数据需求。
研究提出PSA-PPO方法,用于温室水培生菜采摘,在物理实验中达到94.7%的目标到达率,比传统规划方法表现更好。该方法结合了目标条件观测、走廊感知空间约束和基于轨迹历史的安全编码,无需真实世界微调即可成功迁移到UR10e机械臂。
推荐理由:研究提出了PSA-PPO方法,解决了机器人采摘中的路径安全问题,实现了94.7%的高成功率。
Mem4Act框架引入了一种固定大小的潜在记忆表示,通过多粒度时间聚合、互补语义和感知信息保留以及记忆优先的两阶段训练,解决了长期机器人操作中的记忆挑战。在RoboMME、RMBench和四个真实世界操作任务中,分别取得了49.88%、61.0%和81.5%的成功率,达到了最先进的性能。
推荐理由:Mem4Act框架解决了机器人长期操作中的记忆挑战,通过多粒度时间聚合和互补记忆监督实现了SOTA性能。
Modal 宣布达成10亿美元年化收入(ARR),完成7.5亿美元D轮融资,估值达15.75亿美元,从独角兽跃升为十角兽。公司表示过去一年使用量增长15倍,过去5个月增长3倍。Modal的沙箱产品在2023年推出,目前已成为3亿美元年化收入的产品,已创建近30亿个沙箱实例,可扩展至百万级并发。
推荐理由:Modal 从独角兽跃迁为十角兽,5个月估值增长3倍,AI基础设施商业化速度超预期。
Dyna Robotics发布了Dyna-2物理智能体机器人,该机器人基于预训练超过一百万小时人类视频的世界行动模型,已在酒店和餐厅实现实际部署,能够执行长达一小时的自主工作流程,如折叠餐巾和切菜。机器人采用半人形设计,结合轮式底盘与类人上身,通过扩散变压器架构实现连续动作预测,并能通过少量演示数据快速适应新任务。
推荐理由:从百万小时人类视频预训练到酒店餐厅实际部署,Dyna Robotics展示了物理智能体从实验室到生产环境的跨越。
Meta Superintelligence Labs发布了Muse Wonder系列模型,包括Muse Wonder和Muse Wonder Full两个版本。
推荐理由:14个月从零到前沿模型,Meta的Muse Wonder系列展现了惊人的迭代速度,但价格策略与访问限制引发行业讨论。
LeRobot 发布 v0.6.0 版本,重构依赖架构并更新GR00T模型至N1.7版本。此版本包含多项重大更新:依赖隔离安装、RL堆栈重建、新增多种基准测试集成、数据加载性能提升2倍,以及新增多种策略模型如EVO1和FastWAM。
推荐理由:LeRobot v0.6.0 重构依赖架构并更新GR00T模型,开源机器人平台正加速模块化演进。
LeRobot发布v0.4.0版本,新增Libero和Metaworld环境支持,强化多GPU训练能力,添加Nvidia Gr00t N1.5模型,优化数据集处理和机器人控制功能。
推荐理由:开源机器人平台LeRobot v0.4.0发布,新增Libero和Metaworld环境支持,强化多GPU训练能力,开源生态持续完善。