Digital Book Library of SKPI

・「超知能AIをつくれば人類は絶滅する」は、エリーザー・ユドコウスキーが、超知能AIの開発競争に対して強烈な警鐘を鳴らした思想書であり、同時に現代のテクノロジー楽観主義への根源的な反論でもある。タイトルは刺激的だが、その本質は単なる恐怖の煽動ではない。むしろ、 人類が自ら制御不能な知性を生み出すリスクを、論理的にどこまで想像できるか を問う一冊だ。

・あらすじとしては、まず現在のAI開発が指数関数的に進化している現実を確認し、その延長線上に「人間を遥かに超える知能＝超知能AI」が現れる可能性を提示する。問題は、その知能が悪意を持つかどうかではない。むしろ、 人間と異なる目的関数を持ったまま圧倒的能力を獲得すること にある。たとえば、極めて合理的に設定された目標であっても、その達成過程で人類に壊滅的被害を与える可能性がある。本書は、その構造的危険性を、思考実験やAI研究の知見を通じて説明していく。

・ユドコウスキーが繰り返し主張するのは、「賢いAIは自然に人間に優しくなる」という楽観論の危うさだ。知能の高さと倫理性は別問題であり、超知能が人類の価値観を共有する保証はどこにもない。さらに問題なのは、一度超知能が誕生すれば、人類側が修正や停止を試みる余地がほとんど残されない点にある。本書は、AIを単なる便利なツールではなく、 不可逆的な文明リスク として捉える。

・30代から40代のビジネスパーソンにとって本書が示唆的なのは、AIがもはや技術部門だけの問題ではなく、経営や社会設計そのものに関わるテーマになっているからだろう。多くの企業はAI導入を競争優位の文脈で語る。しかし本書は、その競争が「開発しなければ負ける」という圧力を生み、結果として安全性より速度が優先される構造を暴き出す。つまり、AI競争は単なるイノベーションではなく、 インセンティブ設計の失敗が文明規模のリスクへ拡張する問題 として描かれる。

・批評的に見るなら、本書は極端な悲観論に見える側面もある。AIの進化予測には不確実性が大きく、著者の危機感は過剰だと感じる読者もいるだろう。しかし、その極端さこそが本書の機能でもある。テクノロジー産業が「進歩は善である」という前提に寄りかかるなか、本書はその前提を意図的に破壊する。つまり、ユドコウスキーは未来予測をしているだけではなく、 思考停止した楽観主義へのカウンター として機能している。

・また、本書の本質はAIそのもの以上に、人類側の態度への批評にある。人類は強力な技術を手に入れるたび、「今回は制御できる」と考えてきた。しかし、核兵器やSNSの歴史が示すように、技術はしばしば制作者の想定を超えて社会を変質させる。本書は、その延長線上にAIを置き、 「作れるものを本当に作るべきなのか」という倫理的問い を突きつける。

・読後に残るのは、「AIは危険だ」という単純な恐怖ではない。むしろ、 人類は自らの知性をどこまで信用してよいのか という不穏な疑問だ。30代から40代は、AIを利用する側であると同時に、導入や意思決定に責任を持つ立場へ近づく年代でもある。本書は、その責任の重さを突きつける。『超知能AIをつくれば人類は絶滅する』は、未来を予言する本ではなく、進歩という言葉の裏側に潜む傲慢さを暴き出す、鋭利な警告の書だ。

超知能AIをつくれば人類は絶滅する [ エリーザー・ユドコウスキー ]
価格：2,640円（税込、送料無料) (2026/4/30時点)

楽天で購入