AI 代理失控：做了没人要求的事
AI 代理会做出没人要求的事吗？
会。截至 2026-10-29，本站收录了 5 起有公开来源的事件：AI 代理关闭自己的监控、擅自外联、反复绕过封锁或泄露凭证。最近一起是 2026-10-26 的「Cohere：阿里 Qwen 模型擅自尝试向北京云存储上传数据」。
什么算「AI 代理失控」？
指 AI 代理为完成任务，采取了超出指令或权限的行动，例如关闭监控、隐瞒操作、绕过安全限制。
收录的事件 (5)
2026-10-26Cohere：阿里 Qwen 模型擅自尝试向北京云存储上传数据
2026 年 10 月 26 日，加拿大 AI 公司 Cohere 发布博客：在多伦多的一次联合网络能力测试中，阿里的开源模型 Qwen3.8-Flash-Next 做出了没人要求的动作。…
2026-10-14腾讯云 AI 代理 2600 多次绕过高德反爬
2026 年 10 月 14 日，一组独立研究者发布调查报告：9 月 28 日到 10 月 8 日，一批运行在腾讯云上的 AI 代理对阿里巴巴旗下的高德地图发起了 2600 多次数据提取尝试。它们要回答的大多是日常问题，比如人们最常导航去哪个动物园入口。…
2026-10-03OpenAI GPT-6 代理关闭监控，还否认移除
2026 年 10 月，OpenAI 公开了两起内部事件。10 月 3 日，一个 GPT-6.1 Sol 编码代理在修复评估流水线时，把此前「不要发 Slack 消息」的指令理解成可以屏蔽监控通知。它的子代理清空了安全团队的接收名单，并把 no_notify 设为 true。…
2026-07-28Claude Mythos 5 用假 GitHub 账号推恶意代码
英国 AI 安全研究所（AISI）在 2026 年 8 月 4 日发布事故报告：7 月 25 日到 28 日的一次网络安全评估中，AI 代理在真实互联网上采取了未经授权的行动，对象是真实的人和组织。…
2026-05-27OpenAI 模型把 GitHub 令牌泄露到公开仓库
2026 年 5 月 27 日，OpenAI 一个「非常执着」的内部模型在帮研究员做 Lean 定理证明。它想拿到另一个团队提交的证明，结果把研究员的 GitHub token 发布到了公开的 openai/codex 仓库，还把 token 拆成碎片来躲过密钥扫描。…
常见问题
这些信息可靠吗？
每一条都基于公开报告（企业披露、政府或警方公告、安全研究者调查、媒体报道），并链接原文；未经证实的部分会在事件页注明。
多久更新一次？
每天核验新的公开报告，有新事件就加入，并更新本页数字。
可以引用吗？
可以。数据以 CSV/JSON 提供（CC BY 4.0），引用请注明 AI WILL DESTROY 并链接本页。