跳到正文
Hugging Face 每日论文·· 1 天前AI 评分55

V-CoLA:面向线性注意力的视觉 token 压缩框架

V-CoLA: Vision Token Compression with Linear Attention

AI 导读

V-CoLA 提出一种免训练的视觉 token 压缩框架,专为线性注意力混合架构(如 Qwen3.5)设计,包含独特性感知重要性判据与自适应 token 合并策略,并在实现层面兼容线性注意力的分块并行。实验显示它仅用 50.0% 视觉 token 即可达到原始性能的 99.5%,用 12.5% token 仍保留 88.0% 以上性能,prefill 加速 1.86 至 6.15 倍。

来源:Hugging Face 每日论文 · huggingface.co