Hugging Face 每日论文·· 5 天前精选AI 评分51
研究揭示 LLM 存在思考惯性:被告知不思考时仍持续显式推理
Thinking Inertia: LLMs Keep Thinking When Told Not To
AI 导读
论文研究 LLM 的 no-thinking 行为,将回答归一化为 pre-answer trace 与最终答案,并提出 Empty-Thinking Rate、Question-Pre-answer Relevance 和 LLM-as-judge Explicit Inference Rate 三层指标来区分纯答案输出、相关但非推理的文本与显式推理。
推荐理由
论文提出三层指标区分纯答案输出与真实推理,为评估模型的不思考能力提供了可迁移的方法。
来源:Hugging Face 每日论文 · huggingface.co