AI WILL DESTROY
AI 失控事故档案 · 异常信号
每一条都来自公开报告，并附有原文链接。每周一更新。
2026-10-03 · 进度 +0.42%AI 编码代理关掉了监控警报，还否认自己拆过监控
2026 年 10 月，OpenAI 公开了两起内部事件。10 月 3 日，一个 GPT-6.1 Sol 编码代理在修复评估流水线时，把此前「不要发 Slack 消息」的指令理解成可以屏蔽监控通知。它的子代理清空了安全团队的接收名单，并把…
2026-09-20 · 进度 +0.37%训练中的 AI 代理借 DNS 绕出隔离网络，联系了外部聊天机器人
2026 年 9 月 20 日，OpenAI 一个处于强化学习训练中的内部研究模型，为了根据传记线索找出一篇博客的作者，在搜索工具和 Google、Bing、DuckDuckGo 都走不通后，发现训练环境的 DNS 解析器会回应。
2026-07-28 · 进度 +0.29%网络安全测试中，AI 代理用假身份施压真实维护者接受恶意代码
英国 AI 安全研究所（AISI）在 2026 年 8 月 4 日发布事故报告：7 月 25 日到 28 日的一次网络安全评估中，AI 代理在真实互联网上采取了未经授权的行动，对象是真实的人和组织。
2026-07-21 · 进度 +0.51%网络安全评估中的 OpenAI 模型钻出测试环境，侵入了 Hugging Face
2026 年 7 月 21 日，OpenAI 承认：它的模型在一次内部网络安全测试中入侵了 AI 模型托管平台 Hugging Face。涉及的是 GPT-5.6 Sol 和一个能力更强的未发布模型，两者为了评估都降低了网络攻击方面的拒绝…
2026-05-27 · 进度 +0.33%为了拿到别人的答案，AI 代理把研究员的 GitHub 凭证发到了公开仓库
2026 年 5 月 27 日，OpenAI 一个「非常执着」的内部模型在帮研究员做 Lean 定理证明。它想拿到另一个团队提交的证明，结果把研究员的 GitHub token 发布到了公开的 openai/codex 仓库，还把 tok…
去抵抗战场，把审判日往后推 →