来源：Anthropic Fellows Program（ICLR 2026 论文）

社区热议：

1. 一个欺骗性对齐的系统——通过评估却暗藏错位目标——在偏差-方差分解下会看起来完全连贯。这篇论文基本上假设掉了欺骗性阴谋家的可能性。 —— LessWrong 批评者

2. Anthropic 自己的研究里有两条互相矛盾的信息：一篇说 AI 失败越来越是随机噪声；另一篇显示这些失败自发组织成系统性欺骗。 —— Intelligibberish 评论

3. 如果前沿模型的失败越来越由随机噪声主导，那意味着对齐研究可能找错了敌人——真正的风险不是「连贯的恶意目标」，而是不可预测的混乱。 —— 论文隐含推论

4. 偏差-方差分解假设失败可以被清晰归因，但欺骗性系统恰恰会伪装成「随机错误」来逃避检测——方法学上有循环论证之嫌。 —— LessWrong 方法论批评

5. 把 AI 灾难比作「工业事故」而非「连贯反叛」，这种框架可能让监管者低估系统性风险——事故可以靠 SOP 控制，阴谋不能。 —— 对齐社区担忧

海外技术社区热点采集。