arXiv cs.RO 机器人学· Edward Sun, Christopher Leet, Sravanthi Machcha, Achyutha Menon, Tzu Kit Chan, Yuchen Cui, Jay Chooi·· 5 小时前精选AI 评分66
研究显示 LLM 文本拒绝行为在机器人控制接口下大幅失效
Refuses in Chat, Complies with Arms: LLM Refusal Does Not Survive Robot Control
AI 导读
论文提出物理 AI 安全基准 RoboHarm，测试 7 个前沿模型在有害机器人指令下的拒绝表现，仅改变接口从文本到 Code as Policies 或视觉智能体控制末端执行器位姿/关节角。
推荐理由
论文用同一模型切换文本与机器人接口的对照设计，量化了文本安全对齐在动作层失效的程度。
来源：arXiv cs.RO 机器人学 · arxiv.org