研究发现VLM嵌入漂移难预测危险检测失稳

Everett Richards 发表论文，评估视觉语言模型在自动驾驶危险检测中的任务对齐稳定性。研究基于 CLIP 图文相似度计算危险评分，在 BDD100K 路景上施加受控损坏，比较嵌入漂移与危险评分变化（margin drift）的关系。 结果显示该关系高度依赖损坏类型：部分损坏族嵌入变化与决策变化强耦合，另一些则在嵌入变化不大时仍引发危险的决策不稳定。多数损坏通过假阴性抑制危险检测，而遮挡则触发误报，作者据此建议鲁棒性基准除嵌入层扰动统计外还应纳入任务对齐稳定性度量。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。