论文识别潜在世界模型两类安全失效模式

Matthew Kim、Kensuke Nakamura、Andrea Bajcsy 的论文研究部分可观测下的潜在空间安全控制，指出当潜在状态未保留安全相关信息时会导致控制失效，并识别出两类世界模型失效模式：估计缺口（当前观测无法揭示安全关键量，如烹饪任务中的温度）和预测缺口（故障发生后可观测但无法从现有观测可靠预判）。 论文在两项硬件案例研究中测试诊断与缓解策略，分别使用单模态 RGB 世界模型和多模态 RGB+触觉、RGB+热成像变体，结果显示这些策略提升了 Franka Research 3 机械臂在部分可观测下烹饪任务中的安全性，但代价是更保守的行为。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。