字节Seed发现DeepSeek-V4检索随位置周期波动

字节Seed团队研究发现，DeepSeek-V4系列模型的长上下文检索准确率会随信息在输入中的位置每隔4个Token周期性变化，在128K大海捞针测试中最大准确率差距达40.2个百分点。 该现象源于模型采用的分块KV Cache压缩机制，相关论文已发布于arXiv。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。