虎子の誇顧 1585_習皇帝の諜報組織（参章）2/3 | 浪漫孤鴻【壺公仙人の独行・独白】涯如水

100万ポイント山分け！1日5回検索で1ポイントもらえる

000000

HOME | DIARY | PROFILE

2019/01/17

虎子の誇顧　1585_習皇帝の諜報組織（参章）2/3

カテゴリ：【如水・壺公慷慨】

【Photo of the Day＝ Train U47 heads back to Andover ＝ by N.Geoglaphic】

【B.G.M. of the Day＝ Miles Davis/John Coltrane - Konserthuset Stockholm =】

⇒ https://www.youtube.com/watch?v=4_z221y8TOs&index=14&list=RDlBnwDTAoAC8

【虎子/ｺｺの誇顧/ｺｺ；彷徨癖者･如水が愛犬のココ(ﾎﾞｸｻｰ犬)の悲嘆・感嘆 / 01月17 】

中国の「監視社会化」を考える（参章）
= NewsWeek＿Column 2019年01月11日(金）梶谷懐(神戸大学大学院経済学研究科教授=中国経済論）　　

心の二重過程理論
二重過程理論は、人間の脳内に「システム１（速いシステム）」と「システム２（遅いシステム）」という二つの異なる認知システムを想定します。前者は演算能力をそれほど必要とせず、迅速な判断が可能、そして自動的かつ無意識的かつ非言語的に機能します。それに対し後者は、より多くの演算能力を必要とし、意識的・言語的な集中を要するシステムです。そしてこの二つのシステムは、人間がその環境に適応する上で必然的に進化してきたものだという説が次第に有力になっています。

つまり、自動的・無意識的に働くシステム１の方は、個体というよりも種、あるいは遺伝子の利益を最大化するように作動する、脳の古い部分による処理システムです。ただし、このシステムは融通が利かず、環境のちょっとした変化に柔軟に対応することができないため、しばしば個体を危険にさらすような誤りを犯します。一方、脳の新しい部分により作動するシステム２は、個体の利益・生存可能性を最大化するように、環境の変化に対してもより柔軟に対応できるような性質を兼ね備えている、というわけです。

ただし、通常人間はこの二つのシステムを自在に使い分けることができるわけではありません。特に、個体の利益を守るために合理的な判断を行うシステム2をきちんと作動させるためには、かなりの訓練や努力、集中力などを必要とします。油断をするとより「楽に作動する」システム１の方が優勢になり、非合理的な誤りを犯すことになりがち（ヒューリスティック・バイアス）なのはそのためです（吉川、2018）。

進化心理学や認知科学の成果によって明らかになってきたもう一つの重要な知見として、一般の人々が行う道徳的な善悪の判断は多くの場合「システム１」に依存している、というものがあげられます。

この知見を現実社会における様々な倫理問題に当てはめ、詳細な議論を行っているのが、哲学者ジョシュア・グリーンによる『モラル・トライブズ』という本です。グリーンは、上述のシステム1を乗り物の運転における「オートモード」、そしてシステム２を「マニュアルモード」になぞらえます。その上で、私たちが行う道徳的な善悪を判断する際にも、オートモードによって駆動する「道徳感情」と、マニュアルモードに基づいて冷静に特質を判断する「功利主義」の二つのシステムが働くのだ、と主張します（グリーン、2015）。

グリーンによれば、前者の道徳感情は、共同体内の裏切り者やフリーライダーにサンクション（制裁）をあたえ、「共有地の悲劇」を解決するために不可欠な性質として人類に受け継がれてきました。しかし、それは同時に、異なる道徳感情の基準を持つ「部族（tribe)」同士の、激しい抗争をももたらしてしまう（「常識的感情の悲劇」）ものでもあります。そこで、冷静かつ合理的にお互いの損得に基づいて道徳的な正しさを決めようと主張する功利主義こそが、このような部族間の道徳感情の対立を調停し、「常識的感情の悲劇」を回避するのに有用な思考として、一種の公共財（「共通通貨」）の役割を果たす、とグリーンは主張します。

グリーンは、オートモードの「道徳感情」と、マニュアルモードの「功利主義」とがしばしば対立することの根拠として、「トロッコ問題」といわれる思考実験について詳しい考察を行っています。これは、行動経済学や二重過程論を解説した本の中には必ず出てくるもので、様々なバージョンのものがありますが、大略は次のようなものです。

すなわち、ブレーキのついていないトロッコが勢いよく線路を走っていく。その先には5人の作業員がいて、そのままだと確実にひき殺してしまう。その時、たまたま歩道橋の上でその様子を見ていたあなたと、リュックを背負ったもう一人の人物がいたとして、あなたがその人を突き落として無理矢理トロッコを止めてしまい、5人の命を救うことは正当化されるか、という問題です。

あるいはもう一つのバージョンとして、あなたがトロッコの転轍機のそばにいて、その方向を切り替えることによって5人の作業員を助けることはできるけれども、切り替えた先にいる1人の作業員をひき殺してしまうという選択をしなければいけない、というものもあります。特に最初のケースの場合は、明らかに現行の法律では殺人に当たってしまうわけですが、結果として犠牲になる人数は少なくて済みます。果たしてこういった行為を「罪」とみなす法律に合理的な根拠があるのか？　こういったいわば直感的な道徳感情と合理的な判断に基づく功利主義とのジレンマを、上述のグリーンの本は議論しています。

こういった道徳的なジレンマは、吉川浩満さんのという表現を借りると「いわば脳内で義務論的な直観と功利主義的な批判が戦う状況」なのですが、その勝負の帰結は初めから明らかです。「もしゆっくり選べるならのなら批判的な吟味が可能な功利主義的思考が選ばれるだろう」からです（吉川、2018）。

しかし、このことは一つの疑問を私たちに投げかけることになります。功利主義は人間の合理的な思考、すなわちシステム2に基づき道徳的な善悪を判断する思考です。このシステム2は作動するのに大きなコストがかかり、しかも、完全ではありません。だとしたら、いっそのこと初めから人工知能（ＡＩ）に任せてしまった方が、より正しい道徳的判断ができるのではないでしょうか。

このような問題意識は、すでに現実のものとなっています。このような「トロッコ問題」に関する思考実験によって得られる知見は、例えば自動運転技術を社会実装する際のアルゴリズム──走行中に障害物に衝突しそうになった時にどのような行動をとるべきか──を決定する際の一つの基準を与えるものとして議論されるようになっています。また、ＭＩＴの研究グループが、こういった自動運転車の思考実験をインターネットを通じて不特定多数の人々を対象に実施したところ、事故によって犠牲になってもよい対象を選ぶ際に「人数」「信号を無視したかどうか」「年齢」「性別」「社会的地位」などの基準のうちどれを重視するかは、地域によって大きな違いがあるという結果も得られています（Edmond et al.,2018）。

このような実験による分析結果のデータをもとに、各国における自動運転のアルゴリズムが決定されるとしたら、それが導入された社会では交通事故の可能性が低くなるだけでなく、仮に事故が起きた時にも「万人に納得がいく」ような形で犠牲者が死んでくれる、すなわちより道徳的なストレスの少ないものになるはずです。そして、道徳的な善悪の基準について帰結的主義を採用する、すなわちある選択肢が望ましいとして、それを実現する手段を問わない功利主義は、このようなAIの判断により次第にストレスが軽減していく社会の変化を、強力に後押しするイデオロギーとなることでしょう。