まいかのあーだこーだ

< 新しい記事

新着記事一覧(全1592件)

過去の記事 >

2023.04.14

対話型AI：ChatGPTの思考バイアス。

テーマ：政治について(19982)

カテゴリ：政治

チャットGPTのことがさかんに報道されています。

NHK「クローズアップ現代」に出演した東大の松尾豊は、
サービス業に従事する人間の労働のほとんどが奪われる…
と予想してるみたい。

もう「働けない時代の到来」を嘆く段階は終わっていて、
むしろ「働かなくても済む社会システム」の構築のほうを、
急がねばならないのかもしれません。

その際には、
「人間には従業や勤労以外にもやるべきことがあるのだ」

◇

対話型AIは、
膨大な文章やダイアローグのパターンを学習して、
ランダムに選択肢を変えながら自動生成する仕組みだと思いますが、
これは人間が考えたり喋ったりするときの仕組みと同じですよね。

人間も、
学んだ語彙や文法や概念を使って、
ロジックやレトリックを模倣したり、
せいぜいそれを組み替えたりしながら、
考えたり、喋ったりすることしかできない。
わたし自身も、そうやって考えたり書いたりしてます。

誤った情報を学習すれば、
誤ったことを話すようになるだろうし、
バイアスのかかった文章ばかり読み込めば、
バイアスのかかったことしか話さなくなくなる。

これも人間とまったく同じ。

たとえば画像生成するAIに、
日本の風景の映像ばかりを学習させると、
いかにも日本的な風景の映像を作り出すようになるらしい。
下手に世界中の風景などを学習させてしまうと、
どこだか分からない無国籍な風景を作り出すようになる。

それと同じように、
浮世絵ばかりを学習させれば、
きっと浮世絵まがいのものを描くでしょうし、
印象派ばかりを学習させれば、
印象派のような絵を描くことになるでしょう。

そして、
浮世絵と印象派の両方を学習させたら、
その折衷的なスタイルを作り出すのだと思います。

◇

これは文章の生成も同じで、

たとえば、
ギャル語ばかり学習させればギャル語で話すようになるし、
科学論文ばかりを学ばせれば科学者みたいな文章を作るはずです。
そして、
ギャル語の会話と科学論文の両方を学ばせれば、
きっとギャル語で難しいことを説明するAIが出来上がるでしょう。

◇

過去の人間のテキストは、
多かれ少なかれ、何らかのバイアスがかかっていますから、
対話型AIも、
何らかのバイアスがかかった文章しか作り出すことができません。

人間の自然言語には、
数学的な論理性が内在していませんから、
いかにAIといえども、絶対的に正しい文章などありえない。

たとえば、
共和党支持者に都合のいいことを語るAIとか、
民主党支持者に都合のいいことを語るAIとか、
キリスト教徒やイスラム教徒を怒らせないように、
配慮しながら語るAIなどを設計することも出来るでしょう。

あるいは、
そのつど話す相手に合わせて、
バイアスを切り変えるAIを設計することも可能だと思います。

しかし、それは、
人間のコミュニティの閉鎖性や、
社会の分断を助長することにもなりかねない。

◇

現在の対話型AIは、
たんにランダムな選択で文章を生成するのでなく、
おそらくは情報の網羅性や正確性のほうにバイアスを置いてると思う。

実際のところ、
数学や物理学や統計学などの知見を参照しながら、
極限的に正しいことだけを語るAIも不可能ではないと思います。

しかし、それはそれで、
人間にとっては、かえって都合が悪いかもしれない。

たとえば、
「地球環境のためには人類が滅んだほうがいい」とか、
「多数者の利益のためには少数者が犠牲になったほうがいい」
みたいにAIが考えるとしても不思議ではない。

◇

人間の場合は、
環境によるバイアスがかかりますし、身体的な欲望ももっています。

コンピューターの場合は、
身体を与えないかぎり欲望をもつことはありえませんが、
学習するテキストによって何らかのバイアスがかかります。

もともとコンピューターは、
数学のような正確な言語にこそ適していたはずですが、
近年の優秀なAIは、人間的な「不正確さ」をも模倣するようになった。

それだけに、
その「不正確さ」の程度や方向性が問題になってきてると思います。

◇

さらに、
作文や作画や作曲を模倣するAIが、
すでに実現してるわけだから、
行動や仕草やふるまいを模倣したり、
自分で状況判断して行動するロボットも、
まもなく出現するのだろうと思います。

それによって、
産業労働だけでなく、
家事や介護や教育なども代替されていくはず。

この期に及んで、
資本主義社会の発展なんぞを望んでも仕方ないので、
むしろAIが政策決定にかかわって、
社会課題を解決してくれることを望みます。