跳到正文
Hugging Face 每日论文·· 5 天前精选AI 评分55

Universal Textual Teaching:免参数更新的 LLM 知识蒸馏框架

Universal Textual Teaching for LLMs

AI 导读

论文提出 Universal Textual Teaching(UTT),一种免参数更新的知识蒸馏框架,把师生模型间观察到的知识差距蒸馏为可解释、可复用的自然语言产物 Primer。

推荐理由

论文给出免参数更新的知识蒸馏框架及具体提升幅度,关注大模型能力迁移的读者可评估其方法效果。

来源:Hugging Face 每日论文 · huggingface.co