Hugging Face 每日论文·· 5 天前精选AI 评分55
Universal Textual Teaching:免参数更新的 LLM 知识蒸馏框架
Universal Textual Teaching for LLMs
AI 导读
论文提出 Universal Textual Teaching(UTT),一种免参数更新的知识蒸馏框架,把师生模型间观察到的知识差距蒸馏为可解释、可复用的自然语言产物 Primer。
推荐理由
论文给出免参数更新的知识蒸馏框架及具体提升幅度,关注大模型能力迁移的读者可评估其方法效果。
来源:Hugging Face 每日论文 · huggingface.co