跳到正文
Hugging Face 每日论文·· 1 天前精选AI 评分54

ActionOPD:面向智能体蒸馏的动作级 on-policy 方法

ActionOPD: Distilling Decisions, Not Tokens

AI 导读

Hugging Face 每日论文收录 ActionOPD,一种动作级 on-policy 蒸馏方法,在学生遇到的状态下同时采样学生与黑盒教师的动作,按语义一致性给学生动作奖励,通过策略优化对齐行为,无需复现教师推理文本或访问教师 token 概率。

推荐理由

论文给出动作级蒸馏在四个 OOD 基准上的 3.3-6.9 个百分点增益,可与 token 级方法对比取舍。

来源:Hugging Face 每日论文 · huggingface.co