论文提出针对机器人学习管线中世界模型的数据投毒攻击

论文提出针对机器人学习管线中世界模型的新型数据投毒攻击，可在看似安全的遥操作数据集中注入恶意提示或被破坏的转移动力学，仅在经世界模型输入后激活，进而生成危险的合成训练轨迹并导致不安全的机器人策略部署。作者在动作条件和文本条件世界模型上验证了攻击效果，展示了针对下游 DRL 策略的端到端后门以及 VLA 场景的概念验证，呼吁研究更安全的世界模型并重新评估其在机器人学习供应链中的位置。