Hugging Face 每日论文·· 2 天前精选AI 评分51
LongR 用稠密效用奖励提升 LLM 长上下文推理
LongR: Unleashing Long-Context Reasoning via Reinforcement Learning with Dense Utility Rewards
AI 导读
论文提出 LongR 框架,通过动态 Think-and-Read 机制将推理与文档查阅交替进行,并基于相对信息增益的上下文密度奖励量化相关文档的效用,无需证据标注。实验显示 LongR 在 LongBench v2 上提升超过 9%,在 RULER 和 InfiniteBench 上也有一致改善,且在 DAPO、GSPO 等多种 RL 算法上均能提升性能。
来源:Hugging Face 每日论文 · huggingface.co