AI倫理

　AI技術の登場によって倫理的に浮上する諸点のなかで肝心なのはまず、AI信仰を克服した上で、AI活用の具体策を辛抱づよく議論していくことだろう。（224ページ）

AI の第1 次ブームから現代の第3 次ブームまでを通して見てきた西垣通さんと、若手研究者の河島茂生さんが、自動運転車が暴走したり、監視カメラ等が集めたデータによって差別的な評価選別が行われたりしたとき、誰が責任をとるのかといった「AI 倫理」について論じる。Twitter で「トロッコ問題」が話題になり、現代の AI は、この問題に妥当な解答を与えなければならないと感じ、本書を購入した。ちなみに私は、第2 次ブームの時、研究者の輪の中にいた 1 人である。人間の倫理と違って AI 倫理は社会規範そのものであり、AI が自由意志を持つものではないことを常に意識しつつ、IA（Intelligence Amplifier＝人知増幅機械）として活用していきたいと感じた。

本書は冒頭で、「人間のつくったプログラム通りに作動する AI は所詮、他律型機械にすぎないから、自由意思とも責任とも無関係なはずなのである。それなのになぜ、AI は自律型機械のように見えるのか」（7 ページ）という問題提起を行い、この問題を解き明かしていく体裁をとっている。
第1部ではまず、第1 次から第3 次までの AI ブームを振り返る。
現在の第3 次ブームは、ビッグデータをディープラーニング（深層学習）にかけることが主流になっている。統計的な処理に終始するから、それまでのブームとの異なり、論理的厳密性（正確性）を放棄しているともいえる。つまり、AI の判定は、「必ずしも正確無比で 100 パーセント信頼できるとは言えない」（29 ページ）のだ。では、誤りの責任は誰が負ってくれるのだろうか――。
次に、近代的な正義をあらわす倫理思想として、功利主義、自由平等主義（リベラリズム）、自由至上主義（リバタリアニズム）、共同体主義の 4 つを取り上げ、それぞれの制約について考える。
2章の結論は、「『人格』という、道徳的判断をくだす主体が、近代倫理思想を組み立てる根幹をなしている」（53 ページ）ということだ。では、AI は人格を持っているか。

次に、SF 作家アイザック・アシモフが提唱した有名なロボット 3 原則を紹介する。
作者は、「3 原則は、安全で（1）、便利で（2）、長持ちする（3）という、機械に求められる当たり前の特性にすぎない」（58 ページ）として、「AI 倫理を考察する上で、アシモフのロボット 3 原則はほとんど頼りにならない」（59 ページ）と切って捨てる。
本書では、生物の定義としてネオ・サイバネティカルな定義を採用する。つまり、生物とはオートポイエティック（自己－創出的）な存在で、ロボットや AI は、人間が設計するアロポイエティック（他者－創出的）な存在だとする。そして、「ある存在がこれから実行する行為を、（推定できても）完全に予測できないことは、その存在が自由意思をもつことの必要条件」（65 ページ）だとする。

「シンギュラリティというのは、一言でいえば、汎用AI の情報処理速度が、人間の情報処理速度を超えていく時点ということになる」（90 ページ）としたうえで、カーツワイルの『ポスト・ヒューマン誕生』、ボストロムの『スーパーインテリジェンス』、ハラリの『 ホモ・デウス 』を引き合いに出し、シンギュラリティを否定してゆく。
さらに河島さんは、フロリディの提唱する情報倫理（IE：Information Ethics）を批判する。IE は、あらゆる事物をデジタル化できることを前提としており、「IE の情報圏は、神のような超越的・俯瞰的な視点から世界の万物を見わたしているときに出現するものだろう」（128 ページ）と指摘する。

西垣さんは、AI 倫理のラフスケッチとして、「まるで人間のように振る舞う無数の『AI エージェント』が組み込まれ作動している社会における、多様な倫理的諸問題を考察すること」（133 ページ）というスコープを示す。
西垣さんは、「倫理とは、行動を選択するときの『正しさの基準』をあたえるもの」（145 ページ）と定義したうえで、個人の道徳観は揺れ動いており、社会規範との緊張関係から選択されるものだが、AI エージェントは社会規範を厳格に遵守して作動するものだと指摘。よって、AI 倫理とは、AI を主導してきた米国の近代的倫理思想――前述の功利主義、自由平等主義、自由至上主義、共同体主義の 4 つに絞り込まれるという。これらを組み合わせ、独自の N-LUC と名付けた。
そして、AI は IA（Intelligence Amplifier＝人知増幅機械）だと指摘する。

第2部では AI 倫理の練習問題として、自動運転、監視選別社会、AI による創作の 3 つのテーマを取り上げる。
まず自動運転だが、冒頭で話題にしたトロッコ問題のほか、サイバーテロについて考察する。西垣さんは、「各自動車メーカーや IT 企業などが極端に自社の利益のみにこだわらなければ、自動運転は AI 応用として比較的早く実現される可能性もある」（195 ページ）という。監視選別社会に潜む問題は、キャシー・オニールさんが『あなたを支配し、社会を破壊する、AI ・ビッグデータの罠』で指摘している内容と同じだ。「スコアが低い個人やスコアリングを拒否する個人がうける不利益は甚大」（206 ページ）という。西垣さんは、「生得的特性が個人のデータに含まれる場合はとくに要注意だ」（215 ページ）と警鐘を鳴らす。
AI による創作については、実例を挙げながら、「AI が利用し処理するデータそのものは、コンピュータが創ったわけではない。これまでの人間の作品の蓄積」（230 ページ）と指摘する。そして、「日々苦労しながら芸術活動をおこなっているアーチストたちが、AI ロボットと対話したり、AI の創作物にふれたりすることで、おそろしく新鮮な刺激をうけることも十分ありうる」（242 ページ）という楽観論を提示する。