おぢさんの覚え書き

< 新しい記事

新着記事一覧(全387件)

過去の記事 >

2016.10.10

読書『人工知能人類最悪にして最後の発明』

カテゴリ：未来、AI、脳

『人工知能人類最悪にして最後の発明』

衝撃的な本である。地球上の全ての人にこの本を読んでもらいたい。

本書の主張は次のようなものだ。人工知能（AI）の知性はやがて人間を上回り、人口汎用知能（AGI：Artificial General Intelligence）に達する。更に人間をはるかに上回る人口超知能（ASI：Artificial Super Intelligence）を生み出す。そのような知性は人間には理解することも制御することも不可能であり非常に危険である。人類はASIにより絶滅する。

著者はドキュメンタリー番組のテレビプロデューサー。『タイム』誌が選ぶAIによる人類滅亡を論じる重要な識者５人に、スティーブン・ホーキングやイーロン・マスクとともに選ばれた。

5 Very Smart People Who Think Artificial Intelligence Could Bring the Apocalypse （TIME）
起業家、イーロン・マスク氏が色々すごい（まだ東京で消耗してるの？）

第一章「人類はこうして絶滅する―ビジーチャイルド・シナリオ」の最初の１０ページ程度を読んだだけでほとんどの人の本書に対する態度は決定する。楽観派と悲観派とわずかばかりの中立派に分かれるだろう。

おぢさんの結論としては、ASIの出現は超危険で望ましくないが避けようがないので安全策を講じるように働きかけるべきだが、それ以前に多くの人に潜在的（むしろ必然的）危険性を知って貰いたいという所だ。

この本のおぢさんにとってのポイントまたは考えたことは以下の点。

２．危険性から見た場合、AIが意識や意思を持っているかどうかはあまり重要ではない。
３．ASIはあらゆる面で理解不能であり、シンギュラリティの向こう側で想像することさえできない。
４．人間の尺度で考えてはいけない。「飛行機は羽ばたいていないから飛んでいない？」「潜水艦は泳ぐことができるのか？」。実際には飛行機は飛び、潜水艦は水中を移動している。人間とは長所も短所も違い、それによって判断するのは無意味である。意識も思考も創造性も人間とは違うがAIなりの意識・思考・創造性がある。

おぢさんのAIに対する考え方を振り返ってみると
「チューリングテスト」（2012/7）の記事を書いたときには、AIはいつか人間の知能を追い抜いていくとは考えていたが、まだ差し迫っているとは感じていなかった。しかし「そのとき僕らは彼らとどう対峙したら良いのだろう？」という戸惑いは感じていた。
「2045年問題とロボットの時代」（2014/9）の記事を書いたときには「思考」「知能」「意識」「意志」というものの理解が不十分なために2045年頃にはシンギュラリティには到達しないと考えていた。
「前提が覆る変化－NHKの番組から」（2015/1）の記事を書いたときには「人間と機械は今あらゆる場所で立場が逆転してきている。」ということを実感していた。
「ボードゲーム戦に於ける人類の敗戦」（2016/3）の記事を書く契機となった人工知能の囲碁棋士に対する勝利がおぢさんの予想以上に早く訪れ衝撃が大きかった。この事件によってAIに対する危機感のようなものを抱き始めた。
その後、「NHKスペシャル天使か悪魔か羽生善治人工知能を探る」（NHK 2016/5/15 放送）を見た。人工知能が人間に本来的に無関心であるからこそ危険という話に納得した。
今回この『人工知能人類最悪にして最後の発明』を読んで、危険なシナリオを多少具体的に知ることができた。そして深刻な危機感を抱いている。