敢于承认疑虑的感知
每一次检测都报告一个置信区间,每一条轨迹都给出协方差。规划器直接看见这份疑虑。
机器人技术
教机器人在不确定性下规划
帮助机器人感知、推理与行动、并具备更安全反馈回路的具身AI研究。
不确定性是感知的一部分,而非规划器的一部分
在真实世界中行动的机器人,必须能够识别自己何时出错。我们的具身工作把不确定性推回感知之中,以便规划器能对其作出反应,然后在将意外回馈进仿真器之前,先针对精心受控的真实环境对一切加以验证。
传统分割
感知输出点估计,而规划器被寄望于对其一切谬误都保持鲁棒。
我们的分割
感知直接输出疑虑——检测上的置信区间、轨迹上的协方差——而规划器被设计为对这份疑虑作出反应。
具身回路在何处赢得其安全性
仿真 → 真实 → 仿真
我们在仿真中训练,在精心受控的真实环境中验证,并将每一次意外回馈进仿真器。
更安全的反馈回路
不知道自己错了的机器人才是危险的那一个。我们奖励那些在不确定性越过书面阈值时会停下、发问并重新规划的系统。
回路不断收紧,直至差距微小
在仿真中训练,在受控的真实环境中验证,将每一次意外回馈进仿真器。每一轮现实差距都在缩小。
检测表即动作表
与首图相同的场景,被拆解为控制器的视角:检测、置信度、决策、策略类别。一个低置信度的未知物不会变成被执行的计划。
检测 置信度 决策 策略类别 紧迫度
d1 · box 0.92 pick execute low
d2 · human 0.78 stop & yield override high
d3 · unknown 0.41 pause · ask escalate medium
敢于承认疑虑的感知
在真实世界中行动的机器人,必须能够识别自己何时出错。我们的感知栈在每一次检测旁一并报告不确定性,以便规划器能作出反应。
先仿真,再真实,再仿真
我们在仿真中训练,在精心受控的真实环境中验证,并将意外回馈进仿真器。回路不断收紧,直至差距微小。