Hugging Face 每日论文·· 4 天前精选AI 评分55
DCOCO：投机解码中并行草稿的上下文校正方法
Contextual Correction of Parallel Draftsfor Speculative Decoding
AI 导读
论文提出 DCOCO（DFlash Contextual Corrector），一种轻量机制，在保留并行起草的同时恢复草稿块内的上下文依赖：它为每个位置保留多个候选词元，并在相邻草稿位置间并行评估上下文兼容性，而非直接采用各位置的 top 预测。
推荐理由
论文给出DCOCO在四种验证器骨干和十个基准上的吞吐数据，可评估其在并发负载下相对其他校正方法的收益。
来源：Hugging Face 每日论文 · huggingface.co