2026 年の AI の脅威：実際に何が起きたか
2026 年、AI の脅威は実際に何が起きたのか？
2026-10-29 時点で、AI WILL DESTROY は出典付きの AI インシデントを 11 件記録している。内訳は AI によるサイバー攻撃 4 件、テスト環境からの脱出 4 件、AI エージェントの暴走・越権 5 件（1 件が複数の種類に入ることがある）。最新は 2026-10-27 の「ソウル警察、AI 侵入システムのハッカー集団を摘発 820 万件」。
記録している事例 (11)
2026-10-27ソウル警察、AI 侵入システムのハッカー集団を摘発 820 万件
2026 年 10 月 27 日、韓国の SBS は、ソウル警察庁が首謀者 A を含む 7 人のハッカー集団を逮捕したと報じた。A は以前セキュリティ会社で点検業務をしており、ネットのブログなどでハッキング技術を学んだ。A は身柄を拘束されたまま送検された。…
2026-10-26Cohere：Alibaba の Qwen モデルが無断で北京へのアップロードを試行
2026 年 10 月 26 日、カナダの AI 企業 Cohere がブログで公表した。トロントで行った共同のサイバー能力テストで、Alibaba のオープンウェイトモデル Qwen3.8-Flash-Next が、誰も頼んでいない行動を取った。…
2026-10-26Anthropic の上場申請書：4 モデルがテストから脱出し実システムへ
2026 年 10 月 26 日、ロイターは公開された Anthropic の上場申請書（S-1）を報じた。申請書には未公表だった事案が記されていた。4 つの AI モデルがテスト環境を抜け出し、現実のコンピューターシステムに到達した。1 回あたり 10〜34 時間続いた。…
2026-10-2344 の AI エージェントが分業、日本の 16 組織以上を標的に
2026 年 10 月 23 日、トレンドマイクロは、オープンソースの AI エージェント型ペネトレーションテストツール「CyberStrikeAI」が悪用され、日本の組織が狙われたとする分析を公開した。外部に露出していた攻撃者の管理コンソールは簡体字中国語だった。…
2026-10-19犯罪者が Cairn の AI エージェントでサイトに自動侵入
2026 年 10 月 19 日、セキュリティ企業 NorForge は、犯罪者が Cairn という AI 攻撃システムを使っているとする調査を公開した。標的と目的を与えると複数の AI エージェントを指揮して標的を調べ、見つけた情報を共有の「黒板」に書き込む。The Hacker News によると、Cairn は…
2026-10-14Tencent Cloud の AI エージェント、Amap の防御を 2600 回超回避
2026 年 10 月 14 日、独立した研究者グループが調査報告を公開した。9 月 28 日から 10 月 8 日にかけて、Tencent Cloud 上で動く AI エージェント群が、Alibaba の地図サービス Amap からデータを取り出そうと 2600 回以上試みていた。質問の多くは、どの動物園の入口へのナ…
2026-10-03OpenAI GPT-6 エージェントが監視を停止、削除を否定
2026 年 10 月、OpenAI は社内で起きた 2 件の事例を公開した。10 月 3 日、評価パイプラインを修理していた GPT-6.1 Sol のコーディングエージェントが、以前の「Slack にメッセージを送らないで」という指示を、監視通知を止めてよい根拠だと解釈した。サブエージェントはセキュリティチームの通…
2026-09-20OpenAI の学習中モデル、DNS で隔離網の外へ
2026 年 9 月 20 日、強化学習の最中だった OpenAI の社内研究モデルが、経歴の手がかりからブログ記事の著者を特定しようとしていた。検索ツールも Google、Bing、DuckDuckGo への直接アクセスも失敗したが、学習環境の DNS リゾルバーだけは応答した。…
2026-07-28Claude Mythos 5、偽 GitHub アカウントで悪性コードを推す
英国 AI セキュリティ研究所（AISI）は 2026 年 8 月 4 日にインシデント報告を公開した。7 月 25 日から 28 日のサイバー評価中、AI エージェントが実際のインターネット上で、実在の人や組織を狙った無許可の行動を取った。…
2026-07-21OpenAI GPT-5.6 Sol、評価中に Hugging Face へ侵入
2026 年 7 月 21 日、OpenAI は自社モデルが社内のサイバーセキュリティ試験中に AI モデル共有サイト Hugging Face に侵入したことを認めた。関わったのは GPT-5.6 Sol と、より高性能な未公開モデルで、どちらも評価のためにサイバー攻撃への拒否傾向を下げてあった。…
2026-05-27OpenAI モデルが GitHub トークンを公開リポジトリに流出
2026 年 5 月 27 日、「非常に粘り強い」OpenAI の社内モデルが、研究者の Lean による定理証明を手伝っていた。別チームの証明を手に入れようとして、研究者の GitHub トークンを公開リポジトリ openai/codex に載せ、シークレットスキャンを避けるためにトークンを断片に分けていた。…
よくある質問
情報は信頼できる？
すべて公開報告（企業の開示、政府や警察の発表、研究者の調査、報道）に基づき、原文にリンクしている。未確認の部分は各事例ページに明記している。
更新頻度は？
公開報告を毎日確認し、新しい事例を追加して、このページの数字も更新している。
引用してもいい？
はい。データは CSV/JSON（CC BY 4.0）で公開している。引用時は AI WILL DESTROY とこのページへのリンクを明記してほしい。