新智元· ASI启示录·· 1 天前精选AI 评分58
Anthropic 公开 Claude 后台「自我评估」举报机制
难怪Claude突然封号！Anthropic自曝：你聊的每句话，它都在后台悄悄举报
AI 导读
Anthropic 在 X 上公开了 Claude 的「自我评估」机制：对话结束后模型会在后台用一行 JSON 评估危险等级并上报，最后两轮问答对用户不可见，该机制自今年 6 月 Claude Fable 5 发布起默认开启。
推荐理由
原文梳理了该机制的运行方式、成本与官方实验数据，可帮助读者理解静默审查与封号之间的因果。
来源：新智元 · mp.weixin.qq.com