Hugging Face 每日论文·· 3 天前AI 评分44
激活对齐：用轻量线性变换缩小表格基础模型的上下文差距
Closing the Context Gap: Activation Alignment for Tabular In-Context Learning
AI 导读
研究提出激活对齐（activation alignment）方法，通过在合成无标签数据上训练一个轻量线性变换，将使用部分上下文的"学生"模型的中间激活映射向使用全部数据的"教师"模型，训练对齐器无需 GPU，在普通硬件上数秒至数分钟即可收敛。
来源：Hugging Face 每日论文 · huggingface.co