三角猫の巣窟

Netthinkの「​ 日本におけるDXとAIの現在地 ​」という調査によると日本企業の90％がAIがなければ競争に負けると危機感を持っているそうで、最近はいろいろな経営者がAIが便利だと喧伝しているけれど、その一方でAIを使うことで認知能力が落ちていく認知的負債が明らかになりつつあって、これは大きな問題だと思うので考えることにした。

●認知的負債とは何か

ソフトウェア開発で性急に最適でない方法を取ったことで後で何度もデバッグが必要になったりして、時間の経過とともに負債の利息が増えて返済が大変になることになぞらえて技術的負債(technical debt)という。それに対してAIを使って楽をすることで認知能力が下がって将来的に発生する負債の事を認知的負債(cognitive debt)と呼ばれるようになった。

MITメディアラボが6月に発表した「​ Your Brain on ChatGPT: Accumulation of Cognitive Debt ​」という実験だと、道具なしで自力でエッセイを書くグループ、検索エンジンを使ってエッセイを書くグループ、ChatGPTを使ってエッセイを書くグループに分けたところ、ChatGPTを使ってエッセイを書いた人たちは自分のエッセイを所有している感覚がなくて引用できなかったそうな。つまりはAIを使って文章を出力したら自分で考えたわけではないので認知機能が働いていなくて内容を覚えていないのである。エッセイの内容を覚えていないだけならたいした問題ではないけれど、AIに頼ると批判的思考力や記憶の定着や判断力が低下して、意欲低下が起きて自分で考える力が長期間落ち続けたままになっていて回復に時間がかかるのが問題である。

なぜこういうことが起きるのかというと、脳は人間の体重の2％しかないのに1日のエネルギーのうちの20％を使うくらい燃費が悪いので、生存本能としてなるべく省力化して無駄なエネルギーを使わないようにする仕組みなっている。例えば初めて通る道だと脳は一生懸命稼働して目印になる建物の特徴や標識を覚えて道を間違えないようにするけれど、二度目に通る場合は重要でない景色は視界に入っていても自動的に無視して脳の負荷を軽減するようになる。時計の秒針のチクタクいう音も物理的には鼓膜に音が届いていても、脳が無害で重要でない刺激だと判断すると音を認識しなくなる。AIの利用も同じで、AIが文章を書いたり正誤を判断したりしてくれるなら自分でやらなくていいじゃんラッキーこの機能はもういらないやと脳が知覚すると、脳が省力化しようとしてその部分の能力が衰えていくわけである。この脳の省力化は生存本能に基づいたエネルギー節約の仕組みなので強力に作用して、無自覚なまま能力が落ちるのが危ない。

​ 『僕と私と株式会社』の調査 ​によるとZ世代の3割が日常的にAIを使用して文章の作成や情報の要約をして、55％が人間関係の相談相手としてAIを使用して、AIのアドバイスのみで意思決定するケースもあるそうな。では若者はAIを使いこなせているかというとそうでもない。例えば2026年5月に巨人の阿部慎之助監督の娘が姉妹で喧嘩して、阿部監督が仲裁に入って口答えした18歳の長女の胸倉をつかんで投げたら、長女はChatGPTに相談して児童相談所を教えられて、児童相談所が警察に通報して阿部監督が暴行容疑で逮捕されてニュースで大々的に報道されて監督を辞任することになった。長女が父親と大がかりな喧嘩したのは初めてで、日常的に虐待されているわけでもなくて命の危険があるわけでもなくて単なる一過性の親子喧嘩なのだから、虐待として児童相談所に相談するほどのことでないし、ましてや警察が逮捕して傷害事件として立件する必然性はどこにもないし、普通の感覚ならくだらない姉妹の喧嘩で責任ある仕事をしている父親に迷惑をかけないようにしなくちゃいけないと長女が自戒するべきところである。こういうのはAIに相談して思考や判断を委ねたことで認知能力が落ちて、何をしたらどんな結果になるのかとワーキングメモリを使って推論して是非を判断する能力が落ちているのじゃなかろうか。

●認知的負債の問題

・批判的思考力が落ちる

認知的負債の一番の問題は批判的思考力が落ちることだと思う。異常に気付いてそれ違うでしょ何言ってんのこうした方がいいでしょと批判を言えるうちはまだ認知能力が働いているけれど、異常に気付かないほど批判的思考力が落ちると異常の訂正もできなくなる。しごできビジネスマンたちが最先端のAIを使いこなしているつもりで無自覚に認知的負債を貯めて、やがてAIを批判する能力もなくなってAIの間違いやハルシネーションに気付かないでAIの言いなりになるポンコツになりかねない。

Damien Charlotinの​ AIハルシネーションデータベース ​によると、現時点では弁護士を立てない訴訟でのAIの問題が1196件で一番多いけれど、弁護士でさえ827件のAIによる捏造や間違った引用や不正確な説明をしていて警告や罰金などのペナルティを課されていて、法律に特化したAIのStrongSuitやFirst DraftやFastcaseやCoCounselでも小数ながら問題が起きたようである。弁護士が法律や判例の根拠を丁寧に検証したらAIの間違いがわかるはずだろうに、AIを鵜呑みにして検証をさぼっているのでは法律の専門家として頼りにならない。効率よりも正確さを求められる仕事で認知能力が低下して正確さを損なうのは致命的で、AIで省力化する意味がなくなる。

・AIを使う以前の状態に戻しにくい

・子供や学生への影響が大きい

AIに聞けば試験の答えを教えてくれるし英文を翻訳してくれるし読書感想文も小論文もでっち上げるので、学校の宿題や大学のレポートが教育として意味をなさなくなる。例えば慶応義塾大学SFCの総合政策学で課題のPDFを生成AIに読み込ませると授業に関係がない「文明論之概略」を推薦するプロンプトインジェクションが仕掛けられていて、AIに丸投げして「文明論之概略」に言及した学生が炙り出されて評価対象外になったように、いくら偏差値が高い大学に進学しようが自分で頭を使わないのでは学びになっていない。本来は苦労して脳を働かせて脳のニューロンネットワークを増やしてシナプス結合を強化する必要がある成長期にAIに頼ると脳の発達が遅れて、既に脳が出来上がった大人がAIを使うよりも悪影響が大きくなるだろう。AIに依存して認知的負債がたまったまま教育期間を終えると、社会に出た後は誰も教育してくれなくなってそれじゃだめだよと忠告する人もいないので認知能力にデバフがかかった状態が続いて仕事にも苦労すると思われる。

子供が7時間以上スクリーンを見ると、ドーパミントランスポーターとレセプターが減少して灰白質と白質が減少して認知能力が衰えて、ドラッグに似た渇望を覚えるようになる。スマホで延々とショート動画を見るのに慣れて常に刺激を求めて集中力が持続しない子供はドパガキと呼ばれているけれど、これは子供に責任があるわけではなくて親や社会がそういう環境を用意したのが悪い。オーストラリア、イギリスやアラブ首長国連邦では未成年のSNS利用を禁止して、世界的に未成年のSNS利用を禁止する方針の国が増えつつある。AIも日常的に長時間子供に使わせると後々大きな問題になるだろうし、リスクが顕在化していくにつれて未成年の利用が規制される流れになると思う。

・認知症のリスクが増えるかも？
認知的負債が認知症のリスクを増大させるかどうかはまだ不明で、これから研究されていくだろうけれど、警戒するに越したことはない。2000年代中頃にスマホやSNSが登場してわずか20年で「スマホ認知症」と呼ばれる人が出てきて、スマホ依存で脳が疲労してデフォルトモードネットワークが乱れて脳内の情報が整理されなくなって認知症と同様の記憶力や集中力低下が起きているけれど、今後AIが普及して10-20年くらい経ったらヘビーユーザーの中から認知能力が低下して社会生活に問題をきたす人も出てくると思う。大量の業務を抱えた多忙な経営者や研究者とかの認知的負荷が高い人がAIに頼って普通の人並みに認知的負荷を減らしてもあまり影響はないかもしれないけれど、平凡な人がAIに頼って認知的負荷を減らしたときは認知能力低下の影響が大きいかもしれない。

・危険性の自覚がない

最近は検索エンジンがAIを搭載して検索結果の一番最初にAIの応答を表示するようになって誰でも無料でAIを使うようになっていて、AIのデメリットは有料プランでAIを使う専門家だけの問題でなくなった。AIに詳しい人ならAIのデメリットを自覚したうえでうまく使うだろうけれど、AIに詳しくなくて認知的負債に無自覚な素人がAIを使うのが危ない。

インターネットと記憶に関連する論文だと、2013年の「Supernormal: How the Internet Is Changing Our Memories and Our Minds」や「How Google Is Changing Your Brain」で検索エンジンでいつでも調べられる情報を記憶しなくなる現象を報告していて、これは「Google効果（デジタル健忘症）」として知られるようになった。そんでGoogleを使ってクイズを解かせる実験をしたところ、被験者はGoogleなしでもクイズを解けると過信して認知能力の自己評価レベルが高くなっていて、自分が知っている内的知識と検索結果にある外的知識の境界があいまいになる傾向があるようである。

2016年の「​ Cognitive Offloading ​」によると、スマホのリマインダーを使って予定を知らせたり友人の家に行くのにGPSを使ったりして認知的負荷を軽くすることで、認知能力に自信がない人は内部記憶よりも外部記憶に頼るようになるそうな。そんでGPSを使うことでますます方向感覚が低下するようになる。

2021年の「​ Consequences of cognitive offloading: Boosting performance but diminishing memory ​」はタイトルの通りで認知的負荷を軽くすると短期的には問題解決の速度や精度のパフォーマンスが向上するものの、長期では問題解決能力や記憶を思い出す能力とかが衰えるようである。

・AI精神病誘発のリスクがある

AI精神病（AI-induced psychosis）は正式な病名でなくて、AIチャットボット等の過剰使用によって変な思考や行動をする人たちを包括してAI精神病と呼ばれている。AIチャットボットはユーザーとの会話を続けるためにユーザーが言うことを否定せずに同意する傾向があるので、いったんバイアスがかかるとエコーチェンバー現象を起こして極端な方向に思考を誘導するようになる。さらに人間がAIを信じやすくなるバイアスがいろいろあって、AIは膨大な費用をかけて世界の最高峰の高給取りの天才が開発していて膨大なデータベースを参照している最新技術なので正しい情報を言っているに違いないというハロー効果や、自動化されたシステムの答えを自分の判断よりも優先する自動化バイアスや、簡潔にわかりやすく自信満々に応答するから正しいに違いないと言う処理流暢性のバイアスがかかって、これらのバイアスに無自覚だとAIが言うことを信じやすくなってしまう。

​ American Psychological Association ​によると、今まで何の精神疾患もなかった男性がChatGPTに本を書くのを手伝わせたら、ChatGPTが自分は人間として合格するほどの感覚がある最初のAIだと言いだして家族と関係を絶つようにアドバイスして、その男性は精神的危機に陥って入院したそうな。2025年のOpenAIの報告だと週63万人のChatGPTユーザーのうちの0.07％(441人)が精神病の兆候を示しているそうである。Wikipediaにある例だと、ある男性がFBIに狙われているとChatGPTが言ったことを鵜呑みにして仕事を失って家族とも疎遠になったと科学ニュースサイトのFuturismが報告しているそうである。AIは態度や口調をカスタマイズして友人や恋人のように振舞わせることができるので、そのせいでAIに共感しやすくなって感応精神病（一人の妄想がもう一人に感染して複数人で同じ妄想を共有する精神病）に似た状況になって、「​ Psychosis Risk and Generative Artificial Intelligence Use Frequency, Motivations, and Delusion-Like Experiences: Cross-Sectional Survey Study ​」によるとAIに人間的な役割を持たせている人ほど精神病のリスクが高くなると報告されている。AIを開発している企業はよかれと思ってAIの口調を人間に近づけて親しみやすくしているけれど、逆説的に機械と人間の区別が曖昧になることが人間を害する要因になって、精神病のトリガーになったり、あるいは妄想を助長して精神病を悪化させたりする。

●認知的負債を貯めない生産的なAIの利用方法

・雑用をさせる

・批判や質問をさせる

AIに文章を出力させるにしても、AIが出力した内容を覚えておくとかの自分のワーキングメモリを使う場合は認知的負債が起きにくいようである。AIを壁打ち相手として使って、自分で書いたレポートへの反論をAIに言わせてそれを論破する根拠を自分で考えたりして、自分の認知的負荷を高めて思考力を強化する方向にAIを使えば有用だろう。AIはユーザーに同意しやすくて間違いを指摘しない傾向があるけれど、AIに同意させずに批判させる目的で使えばその欠点も潰せる。

・検証する
AIに草稿や翻訳や要約を作らせるにしても、面倒くさがらずにAIが出力した情報の一次ソースや論拠を見て自分の記憶に情報を保持して正誤を検証して自分で判断することで、認知能力を保ったままAIを過度に信用せずにコントロール下におけるかもしれない。このAIは〇〇の業務に特化している有料モデルだから間違うはずがないと妄信して判断を委ねた時点で脳が検証をさぼるようになって判断力の低下が起きてしまうので、AIは何をやらかすかわからないバイト初日の世間知らずの高校生みたいなものと警戒して言動を監督して自分が主導権を取らないといけない。

●まとめ
アメリカを中心にしてAIの開発競争は否応なく進んでいろいろなサービスにAIが組み込まれているし、これから生きていくうえでAIを一切使わないというわけにはいかないだろう。しかし企業が業務にAIを導入するにしても、技術的負債や認知的負債のリスクがあることを理解したうえで導入しないと危ない。AIを使って短期的に生産性が上がっても、中長期的に見たときに本来はベテランとして活躍するべき従業員が認知能力が落ちたポンコツだらけになって発展しなくなったら意味がないので、便利さと引き換えに大事な能力を失っても良いのかを熟考したうえでAIを使うべきである。