论文提出针对机器人学习管线中世界模型的数据投毒攻击
论文提出针对机器人学习管线中世界模型的新型数据投毒攻击,可在看似安全的遥操作数据集中注入恶意提示或被破坏的转移动力学,仅在经世界模型输入后激活,进而生成危险的合成训练轨迹并导致不安全的机器人策略部署。作者在动作条件和文本条件世界模型上验证了攻击效果,展示了针对下游 DRL 策略的端到端后门以及 VLA 场景的概念验证,呼吁研究更安全的世界模型并重新评估其在机器人学习供应链中的位置。
论文提出针对机器人学习管线中世界模型的新型数据投毒攻击,可在看似安全的遥操作数据集中注入恶意提示或被破坏的转移动力学,仅在经世界模型输入后激活,进而生成危险的合成训练轨迹并导致不安全的机器人策略部署。作者在动作条件和文本条件世界模型上验证了攻击效果,展示了针对下游 DRL 策略的端到端后门以及 VLA 场景的概念验证,呼吁研究更安全的世界模型并重新评估其在机器人学习供应链中的位置。
论文提出 TMT,一种基于 Token Manifold 与潜空间 Transition 建模的运行时后门检测器,用于在未见任务上检测被植入后门的 VLA 策略。
论文提出从多向量视觉文档检索器存储的索引中反演还原原始页面,把反演建模为条件文档图像生成。在 ViDoRe v3 基准上,从原始索引反演的页面可恢复 47% 的词和 45% 的敏感 token,用作查询时 98.4% 能把源页面排在首位。
推荐理由:论文用实验量化了多向量文档索引的反演风险,并测试了两种低成本防护的实际效果,做文档检索系统安全评估时可参考其方法。
论文提出CheckerBench,一个包含300个任务的可执行基准,任务源自167个仓库中的297个CVE,覆盖85种CWE和5种语言生态,每个任务提供存在漏洞与修复后的版本、固定的分析环境和检查器脚手架。
TAPDreamer 提出一种仅依赖公开编码器、无需查询目标策略的世界动作模型对抗攻击,用单个冻结补丁(约占输入 6.5%)将 FastWAM 在 40 个 LIBERO 任务上的成功率从 97.7% 降至 0.0%,在 50 个 RoboTwin 任务上从 90.8% 降至 0.0%,而匹配的随机补丁仍保留 81.5% 和 79.2%。