虎子の誇顧 1586_習皇帝の諜報組織（参章）3/3 | 浪漫孤鴻【壺公仙人の独行・独白】涯如水

100万ポイント山分け！1日5回検索で1ポイントもらえる

1232676

HOME | DIARY | PROFILE

2019/01/18

虎子の誇顧　1586_習皇帝の諜報組織（参章）3/3

カテゴリ：【如水・壺公慷慨】

【Photo of the Day＝ tornade at wild ＝ by N.Geoglaphic】

【B.G.M. of the Day＝ Miles Davis Quintet Live at Teatro dell'Arte in Milan =】

⇒ https://www.youtube.com/watch?v=kJq3j4rA0o0&index=16&list=RDlBnwDTAoAC8

【虎子/ｺｺの誇顧/ｺｺ；彷徨癖者･如水が愛犬のココ(ﾎﾞｸｻｰ犬)の悲嘆・感嘆 / 01月18 】

中国の「監視社会化」を考える（参章）
= NewsWeek＿Column 2019年01月11日(金）梶谷懐(神戸大学大学院経済学研究科教授=中国経済論）　　

道具的合理性とメタ合理性
さて、以上みてきたような流れ、すなわち功利主義に基づいて道徳的判断の根拠が人間によるものから次第にAIによるものに置き換わっていく、という動きはもう止めようがないのでしょうか。そこにより深刻な問題が生じる可能性はないのでしょうか。この点に関して重要な問題提起を行っているものとして、やはり「心の二重過程理論」をリードしてきた研究者の一人である、キース・Ｅ．スタノヴィッチによる「道具的合理性とメタ合理性」に関する議論を紹介しましょう。

この「道具的合理性」とは、あるあらかじめ決められた目的を達成しようとする場合に発揮される合理性のことです。これは、必ずしも人間のみに備わった能力ではありません。例えば、チンパンジーに手の届かないところにバナナがおいてあることを認識させた上で箱と棒を与えると、そのチンパンジーは箱の上に載って棒を使い、バナナを手の届くところまで落とすことができる、ということが報告されています。スタノヴィッチは、エルスターによる＜薄い理論＞と＜広い理論＞の区分を援用しながら、このような道具的合理性を＜薄い合理性理論＞として理解し、それが「人間としてのわたしたちが切実に求める全てだとしたら、人間の合理性は実際にチンパンジーの合理性と全く同列のものになるだろう」と述べています（スタノヴィッチ2017：256ページ）。

しかし、スタノヴィッチも言うように、私たちの多くはそういった＜薄い合理性理論＞の水準で立ち止まることを望んでいないでしょう。そのような道具的合理性というのは、ある行為の目的自体が正しいものかどうか、たとえば、目の前にいる人の命を奪ってまで他の複数の人々の命を救うことが本当に正しいのか、ということを決して問わないものです。しかし、通常私たちは、自分が行う選択や行為の目的についても、ある一定の基準や価値観に基づいて一定の判断を下しています。

そういった＜薄い理論＞よりも一歩高い地点から、目的自体の妥当性への判断を下す広い意味での合理性理論のことを、スタノヴィッチは「メタ合理性」と呼んでいます。「メタ合理性」は私たちに、（薄い合理性の理論で考えられているように）合理的にふるまうことは、どんな場合に合理的であり、どんな場合に合理的ではないかを問いかけよ、と求めるものです。スタノヴィッチに言わせれば、こういった、常に自分の（合理的な）選択を、その選択と自分の価値観との整合性に基づいて批判的に吟味するメタ合理性を持つことができるかどうかが、チンパンジーと人間（ヒューマン）を分かつものだ、ということになります。

端的に言えば、AIが行う功利主義的な判断と言うのはあくまでも目的があらかじめ所与の状況下でその実現を目指す「薄い合理性」あるいは「道具的合理性」に基づいたものであって、それだけでは「囚人のジレンマ」に代表されるような、様々な社会問題を解決するのに十分ではない、という批判をスタノヴィッチは行っているわけです。

アルゴリズムに基づく「もう一つの公共性」
以上の議論から、少なくとも私たちがより「人間らしい」社会を築こうとするなら、その制度やシステムは道具的合理性のみではなく、必ずメタ合理性が機能するように設計されていなければならない、ということが言えそうです。それでは、私たちはそういうメタ合理性が十分機能するような社会の仕組みをどう作っていけばいいのでしょうか。

この問いの答えは比較的簡単です。私たちが慣れ親しんでいる近代的な統治システム、あるいはこの連載の第1回で検討したような「市民的公共性」が機能しているような社会は、少なくとも理念上は、そういったメタ合理性の基盤の上に成り立っているものだと考えられるからです。つまり、ある社会にとってどういう目的を追求すべきなのか、ということを公共の場における議論を通じて吟味しながら、あるいは歴史の中で人々が試行錯誤しながら形成されてきた判断基準をもとに、より広い合理性の観点から判断するような仕組みが、法の支配や民主主義がきちんと機能しているような社会には本来備わっているはずです。

図２で示したような「ヒューリスティックベースの生活世界」と、「メタ合理性ベースのシステム」および「道具的合理性ベースのシステム」との三者の関係は、上記のようなメタ合理性による道具的合理性の吟味、という意識して描かれています。図では同時に、生活世界に生きる一人ひとりの市民と、メタ合理性ベースのシステム（具体的には議会や内閣、NGOなど）との間におけるインタラクションの在り方を、これまで本稿で検討してきたような「市民的公共性」に当たるものとしてとらえています。

ただし、本稿でこれまで見てきたように、現代社会では先進国・新興国を問わず、市民的公共性とは異なる形での市民と統治システムの間における独自のインタラクションが次第に存在感を増しているのも確かです。それが図２の右側の部分、「アルゴリズム的公共性」と名付けて赤の点線で囲っている部分です。これは、大手IT企業、あるいは政府が人々の行動パターンや嗜好、そして欲望などをビッグデータとして吸い上げ、功利主義的な目的（「治安をよくする」「より豊かになる」など）の観点から望ましい社会的なアーキテクチャを設計し、人々の正しい行動を制御していく、という双方向の秩序形成の在り方を示しています。前回の連載で触れた「ナッジ」による社会制御のあり方も、基本的にこのようなアルゴリズム的公共性の枠組みからとらえられるかと思います。

図２で示されているのは、アルゴリズム的公共性に支えられた道具的合理性ベースのシステムを、市民的公共性に支えられたメタ合理性ベースのシステムによってなんとか制御し、その暴走を防ぐという構図です。これが、これまでの人間中心主義的な近代社会のあり方と、テクノロジーの急速な進歩が生み出す新しい統治のあり方とを何とか調和させることを可能にする、ほぼ唯一の方法だといってもいいかもしれません。

しかし、ここでいくつかの疑問が生じます。このようなメタ合理性を通じた市民的公共性とアルゴリズムとの調和という理想は、吉川さんの言うようなAI技術の進歩と道徳の科学的解明によって「功利主義に追い風が吹いている」状況の下で、どれだけ説得力をもつものなのでしょうか？　また、そもそも西欧社会で発展を遂げてきた「市民社会」「市民的公共性」の伝統を持たない新興国、端的には中国のような社会においては、図のようなメタ合理性を通じた道具的合理性──およびそれに支えられた新たな統治システム―を制御するという試みは、なおさらおぼつかないのではないでしょうか？

次回は、この問題意識をもう少し掘り下げてみましょう。（続く）