Hugging Face 每日论文·· 2 天前精选AI 评分55
AReA：面向高分辨率 Diffusion Transformer 的自适应感受野注意力机制
AReA: Adaptive Receptive-Field Attention for Efficient High-Resolution Diffusion Transformers
AI 导读
论文提出 AReA，一种免训练的注意力机制，其感受野随去噪进程由粗到细演化：早期步骤在下采样的 Key 和 Value 上做跨尺度粗注意力以捕获全局上下文，后期步骤在逐步收缩的窗口内做局部注意力。实验显示 AReA 在不同目标分辨率和多种模型上均优于现有免训练基线，同时速度更快、效率更高。
来源：Hugging Face 每日论文 · huggingface.co