arXiv eess.SY 系统与控制· Anand Singh, Shubham Singh, Anjali Tiwari, Katsuki Fujisawa·· 6 小时前AI 评分38
基于 Barrier Lyapunov 控制在 LLM 文本生成中强制保持严格安全裕度
Enforcing a Strict Safety Margin in LLM Text Generation via Barrier Lyapunov Control
AI 导读
论文提出一种 Barrier Lyapunov Function（BLF）安全滤波器，在 LLM 文本生成过程中强制维持预设的净空裕度，弥补现有控制障碍函数（CBF）方案允许轨迹任意逼近毒性阈值的不足。作者保留连续时间 transformer 动态（含前馈层），证明裕度永不被违反且能指数恢复，并推导出可显式计算的扰动预算，最后在小型 transformer 上仿真验证安全净空的改善。
来源：arXiv eess.SY 系统与控制 · arxiv.org