提出工具调用AI智能体的运行时安全证书方法

Ali Baheri 与 Peng Wei 提出一种插在大语言模型智能体与其环境之间的运行时过滤器（shield），用于在有界任务内认证到达不安全状态的概率上界。该证书为 probably approximately correct 且对遵守过滤器的控制器一致，因此更换模型无需重新计算。 作者称该方法在七个控制器（其中三个为开放权重模型）上测试，1050 个 episode 中零不安全结果。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。