Hugging Face 每日论文·· 5 天前精选AI 评分58
ELR 训练配方让循环语言模型消除单圈精度损失
One Model to Loop Them All: Elastic Latent Recurrence for Language Models
AI 导读
论文提出 Elastic Latent Recurrence(ELR)训练配方,让循环语言模型在单圈时与同规模非循环模型服务成本相当、精度接近,每增加一圈都能以更多推理算力换取精度。
推荐理由
论文给出消除循环模型单圈精度损失的三项训练选择,并报告了具体评测分数,便于对比循环与非循环方案。
来源:Hugging Face 每日论文 · huggingface.co