2026-10-23
AI リスク必読書リスト
AI リスクを本気で知りたい人のための入り口。読みやすさと関連性の順に並べた。書名は英語の原題で、リンク先で日本語版も探せる。
If Anyone Builds It, Everyone Dies
Eliezer Yudkowsky, Nate Soares · 2025
AI アラインメントを長年研究してきた二人による最も悲観的な主張。今の技術路線で超知能を作れば、人類はおそらく生き残れない。最悪のシナリオを正面から読みたい人に。
Human Compatible: Artificial Intelligence and the Problem of Control
Stuart Russell · 2019
AI の定番教科書の著者が、機械に固定の目的を与えること自体がなぜ危険なのかを説明し、人間の好みについて不確かさを保つ AI という代案を示す。
The Alignment Problem: Machine Learning and Human Values
Brian Christian · 2020
機械学習システムが作り手の意図と違うことを学んでしまう実例を数多く紹介する。技術的な前提知識は不要で、「アラインメント」入門として最も読みやすい一冊。
Superintelligence: Paths, Dangers, Strategies
Nick Bostrom · 2014
超知能のリスクを主流の議論に持ち込んだ先駆的な一冊。密度が高く哲学寄りだが、その後の議論の多くはここから始まっている。
Life 3.0: Being Human in the Age of Artificial Intelligence
Max Tegmark · 2017
物理学者が、ユートピアから人類絶滅まで AI がもたらしうる未来の幅を描き、いま私たちに残された選択を論じる。
The Precipice: Existential Risk and the Future of Humanity
Toby Ord · 2020
オックスフォードの哲学者が核戦争やパンデミックなど人類存亡リスクの確率を見積もり、制御されない AI を今世紀最大のリスクと位置づける。
The Coming Wave
Mustafa Suleyman, Michael Bhaskar · 2023
DeepMind 共同創業者が業界の内側から、AI と合成生物学の拡散を抑え込むのがなぜ難しいのか、そして「封じ込め」とは何かを語る。