arXiv cs.RO 机器人学· Julia Barth, Armin Sommer, Kunvar Thaman, Jannik Schilling·· 2 小时前精选AI 评分57
arXiv 论文解析目标错配中策略对齐的三类不同失效
What Happens to the Goal? Distinct Failures of Policy Alignment in Goal Misgeneralization
AI 导读
论文在三个 Procgen 环境和五个机器人任务中发现目标错配存在三种策略-目标失配形式：功能目标替代、策略捷径、以及意图目标与代理目标线索之间的线索竞争，目标信息在内部丢失的深度各不相同。
推荐理由
论文把目标错配细分为三类并给出对应恢复手段的量化效果，做对齐复现的团队可据此选择干预位置。
来源：arXiv cs.RO 机器人学 · arxiv.org