000000

HOME | DIARY | PROFILE

【フォローする】【ログイン】

めいてい君のブログ

Calendar

Tsunami氏＆Tigers＆Mitsuya & Moomin Papa

PCなど家電一般＆HPやML & Fishing Mails

作業中マーク（終了次第削除）

(0)

洞察力

(1)

< 新しい記事

新着記事一覧(全5035件)

過去の記事 >

Mar 3, 2018

Mr.Tsunamiの特別寄稿:3月２日付日経コラム「AIに好奇心を持たせる」について（蛇足）

カテゴリ： Tsunami氏寄稿、SCRAP記事、写経・感想など

親愛なる諸兄へ

前略　昨日の日経朝刊に〜

「 ＡＩ（Artificial Intelligence）

に『好奇心』を持たせる 」〜と題する

㈱アラヤ社創業者・金井良太氏の記事が

掲載されていましたので、

既に読了済みとは思いますが、

ここもと、添付送信します。

人工知能にも好奇心を備えさせると

人間のように少ない、情報を基に学習し

複数の問題に対応できるようになれるとか？…。

　ネット検索によると、

金井良太氏は

2000年：京大理学部卒業、

2005年オランダ・ユトレヒト大学PhDを取得し

視覚経験と時間感覚の研究に従事。

2007～2010年：英国ユニヴァーシティー・

カレッジ・ロンドンにて経頭蓋脳刺激の研究、

2010～2012年：同大ポスドクとして視覚経験

の個人差を生む脳基盤について研究。

　約１０年の海外での研究生活の後、

2015年、株式会社アラヤ・ブレイン・

イメージング社（㈱アラヤ）代表取締役に就任。

東工大地球生命研究所研究員も勤める。

以上、蛇足まで。　　　草々

めいてい君からの補足・参考
(下記の論文は、「ビジネス+ I T」会員以外
には全てを公開していない。
小生は勤務先のない年金生活者なので
登録出来ないので、引用は部分的である。)

追加情報：「ビジネス＋　IT」から

執筆：フリーランスライター阿部　欽一

「東大國吉康夫教授やアラヤ金井良太氏が議論　！

人工知能に足りないのは「好奇心」？」

ディープラーニングの出現により、

画像認識や囲碁、将棋といった特定の分野で、

人工知能（AI）は人間の能力を上回るようになってきた。

さらに最近のAI研究では、人間特有の能力だと考えられてきた「内発的動機」「自己モデリング」

といった機能が研究されている。

AIを発展させ、汎用人工知能（AGI）を実現していくには何が必要なのだろうか？

AI研究の最先端を走る気鋭の3人の研究者がディカッションを繰り広げた。

1.汎用人工知能の実現には「内発的な動機」に基づく行動の解明が必要

人工知能をさらに発展させ、汎用人工知能（AGI）を実現するには、
物理的な身体性やある種の「意識」の解明は必要なのだろうか。
このほど「人工知能と社会」をテーマに都内で開催された
「AI and Society Symposium」では、人間の脳、とりわけ認知の特性をテーマに
「次世代AI」に関するパネルディスカッションが行われ、AI研究の最前線にいる
3人のパネリストが登壇した。

　モデレータを務めたGeorge Musser（ジョージ・マッサー）氏は
『Scientific American』誌の上級編集者を14年間務めた米国の科学ジャーナリストだ。

　パネリストの1人目は、アラヤ創業者で代表取締役の金井良太氏だ。
金井氏は意識の神経基盤についての研究活動を経て、アラヤを起業。
情報科学と神経科学の融合による「人工意識」の開発により汎用人工知能の実現に取り組む
「意識」に関する第一人者である。

　2人目は、東京大学次世代知能科学研究センターセンター長で、
同大学院情報理工学系研究科教授の國吉康夫氏。
身体性に基づく認知の創発と発達、ヒューマノイド全身行動の「コツ」や「着眼点」といった
人間型AIの研究などに従事する権威だ。

　そして、3人目は、GoodAI（グッドエーアイ）創業者であり、CEO、CTOでもある
Marek Rosa（マレック・ローサ）氏だ。
チェコのプラハに本拠を置くGoodAIを2014年に創業し、
20人の研究者および技術者からなる国際チームで汎用人工知能の開発に取り組んでいる。
人間の学習プロセスをAIでどうとらえるかを専門にしている。

　マッサー氏はまず、パネリストに「今、最も重要な解決すべき問題は何か？」と問うた。

　金井氏は「私は意識に関心を持っているが、その点からすると、
現在の人工知能（AI）開発は目的がないように思う」と語る。
その理由として金井氏は「汎用人工知能（AGI）には自発的、自律的な考え方が不可欠。
科学者は内在的なモチベーションにもとづく自発的な行動を、
AIでどのように起こせるか解明しなければならないからです」とした。
そして、人間の能力を超えたAIである「スーパーインテリジェンス」はまだ実現していない
とも述べた。

また、「なぜAIにモチベーションが必要か」という理由について、
金井氏は以下のように解説した。

「特化型AIで1つのことが可能になったら、
学習し適応する能力を備えたソフトウェアエージェント（エージェント）が
さまざまなAIを組み合わせ、あらゆる目的に対して汎用的な解決策を提示できる
可能性があります。
そこで必要になるのが、異なる内発的なモデル、モチベーションを組み合わせる
『メタレイヤー』だと考えます」（金井氏）

　もう1つの課題は「データ量」だ。
ディープラーニングは膨大なデータを必要とするが、
「人間はわずかな例から学ぶことができる」と金井氏。
その鍵を握るのが「好奇心」だというのだ。

「人工的なエージェントが、特定の環境で限られたサンプルから効率的に学習できる、
意味のあるデータを見出すことができるようになるには、
情報理論的な"モチベーション"を持つことが重要で、それがAGIにつながるのです」
（金井氏）

　一方、國吉氏は、「今のAIシステムは閉鎖的だ」と述べる。
國吉氏のいう「閉鎖的」とは、データセットを提供する、
あるいはゴールやタスクを特定することが
システムの制約になっているという意味だ。

「AGIに必要なシステムとは、解決策が処方されていない問題が解けるような、
創発的な行動です。
その意味で、システムは学習したら次のタスクが与えられるものではなく、
連続的に発達、内発的にいつでも変わらなければなりません」
（國吉氏）

　そして、ローサ氏も「内発的なモチベーションに基づく、状況に応じた行動を
自動的に生成できるかどうかが鍵だ」と述べた。

「赤ちゃんが、これを『水のボトルだ』と理解するのは、
そもそも世界を理解したいという願望があるからでしょうか？
　私はもっと多くのものがあると思います」
（ローサ氏）

　学習で必要とされているのは、「数少ない例から、全体像を捉えることができる」ことで、
それには継続的な学習が必要だ。
たとえば、人間の子どもは「男の人を見るとお父さんだと言う時期がある」とローサ氏。

それは、男性か女性かを区別し、男性の中でも父親を特徴付ける要素、
それ以外の特徴を学んで、区別することを学んでいく。
「そのためには継続的な学習が必要だ」とローサ氏は指摘した。

2.汎用性獲得に有効な「グラジュアルラーニング」とは？

議論のテーマは、「現在の研究テーマと課題」に移った。
ローサ氏は、「GoodAIでは『グラジュアルラーニング』に取り組んでいる」と述べた。

「これは、新しいスキルを徐々に、継続的に学習していくこと。
AGIは、あまりにもパラメータが多すぎて複雑化し、
人間がすべてを理解して設定するのは不可能です。
そこで、徐々に学んでいくグラジュアルラーニンングが必要なのです」（ローサ氏）

　グラジュアルラーニンングについてマッサー氏から問われた金井氏は、
「AGIを作る上で非常に重要」だと述べた。

「人のインテリジェンスを見ると、既存の知識をリサイクルしていることに気づきます。
ある程度一般化されたモデルがインプットされていれば、
それを別のさまざまな目的に使うことができます。
グラジュアルラーニングであれば、初期にエージェントが学習したモデルを見て、
それが新しいコンテキストで使えるかを考える必要があります」（金井氏）

そして、英語の名前が書かれたラベルの画像フォーマットを、
テキスト形式のフォーマットへ変換するように、
エージェントがさまざまなタイプのラベルを組み合わせ
「意味のある変換」を可能にするには、メタレイヤーが必要だと金井氏は説明する。

　一方、AGIの追求にあたって、汎用性をどう実現するかを問われた國吉氏は
「特定のインテリジェンスを組み合わせていけば、AGIになるというわけではない」
と指摘した。
その意味で、最初のタスクは「精度が低いものであっても、汎用的なタスクからスタートし
、必要に応じて特化させるのが適切」だという。

「たとえば、ロボットの場合、見慣れない環境、地形、未経験の環境に置かれても
瞬時に適応して、何らかの動きをします。
それが二足歩行か、転がる動きなのかはわかりませんが、何らかの動きを生成するような
汎用性は重要だと思います」（國吉氏）

　これに対してローサ氏は「今、どういうタスクをすれば汎用性につながるかを
見極めるのが難しい」と述べた。

「常に新しいタスクを継続的に与え、トレーニングしたものだけが専門化しないよう
汎用性を維持しながらAIを開発していくのが課題です。
たとえば、ゲームをするエージェントの場合、
ある特定のゲームだけでハイスコアを出せるのではなく、どんなゲームも対応可能になるよう、
タスク実行を目的にしないことにうまく対応できれば、汎用性を獲得できるかもしれません」
（ローサ氏）

3.内発的な動機に基づく学習とは？ AIは好奇心を持てるか？

議論は次のテーマ「学習の仕方」に移る。
マッサー氏は「人間の学習では、時々方向修正を行います。
たとえば、チェスができないならボードゲームの『チェッカー』に戻って学習し直す
というような学習プロセスはAIに必要か」とローサ氏に問うた。

　これを受けてローサ氏は「初歩的なタスクから中級的なタスクというように、
前進的学習をするエージェントであれば、簡単なタスクに戻ることも必要」と述べた上で、
「学習プロセスはオートメーションが課題」だと語った。

「スクリプトを教えるだけでは本当の知性ではありません。
自動的にタスクを生成し、エージェントに常に新しいタスクを与え続けることが必要です。
何でもいいからタスクを与えて、AIに学習させるのは得策ではありません。
いかにして興味深いタスクを自動的に生み出していくかが大事です」（ローサ氏）

　國吉氏は、「この問題は内発的な動機につながるテーマだ」と述べる。
國吉氏の言う「内発的な動機に基づく学習」とは以下のようなものだ。

「エージェントがタスクを与えられ、それが能力の範囲内ではあるが、
ギリギリ解決できるタスクだった場合、難しすぎるわけでも、
簡単すぎるわけでもないタスクの解決によって、
次の問題解決のモチベーションにつながっていきます」（國吉氏）

　そして、國吉氏は、動機解明の難しさとして「自己報酬型のシステムでは、
学習の発達には、エージェントが自分の能力を超えたタスク、
つまり自分にできないことを評価しなければならない」点を挙げた。

　その点では数多くの研究がなされているものの、いまだ解決には至っていない。
しかし、他からの情報を使うことで解決の糸口はあると國吉氏は述べる。

「たとえば人間の子どもの場合、お兄ちゃんやお姉ちゃんが何かしているときは
自分にもできるのではないかと考えることがあります。
お兄ちゃんの真似をする、共感できる状態というのがヒントになるかもしれません」
（國吉氏）

　一方、金井氏は、システムの内発的な動機づけについて「広く言えば好奇心、
つまりエージェントが新しい情報を模索することができるようにする方法だ」と説明した。
そして、もう一つのポイントとして「エンパワーメント」という概念を示した。

　これは「タスクがなく、学ぶことが少ない状況下で、エージェントが自分を
優位な状況に置こうとする、ある種の権限委譲だ」と金井氏は説明。
こうした概念に関しても、
「ディープラーニングの出現で現実的なモデルにする素地が整いつつある」と金井氏は述べる。

　しかし、今の研究はどちらかというと
「1つのシンプルなモデルに注力する定性的な概念レベルの研究が中心で、
何百万というモデルが接続、連携しながら能力の高いAIを作るということに
十分な努力がなされていない」と、定量的な面に課題があると言及した。

4.意識がどう生まれ、どう変わるかのメカニズムの解明がAGIにつながる

マッサー氏は最後に、今後の展望、抱負を示すようパネリストに呼びかけた。

　ローサ氏は「汎用的な解決策にフォーカスしていきたい」と述べた。
これは1つの解決策で多くの問題が解決できる点で、
「一般化された汎用的な解決策の方が効率的だから」である。

　その上でローサ氏は「汎用性のあるソリューションだからといって、
重要性が低いと思わないでほしい」と話し、「ディープラーニングだけでなく、
AGIのようなリスクのある領域にもチャレンジしてほしい」と呼びかけた。

「私たちの研究、開発では、タスクをどう実行するかはそれほど重要視していません。
すでにできることが上手にできることではなく、環境、状況が変わったときに、
その変化に対応できるかどうかが大事だからです。
変化のスピードに適用できるテクノロジーでなければならないからです」（ローサ氏）

　過去にタスクをこなせた実績があっても、
将来にわたってまったく同じ形で同じタスクが出現するとはかぎらないため、
タスク解決のパターンがメタ化され、「同じタスクが、メタパターンでこなせるようになる」
ことが大事だということだ。

　國吉氏の関心事は、「報酬を外しても、無限に連続的に発達するシステムをどう作るか」
という点にある。そして、そこに「道徳のようなものをどう組み込むか」が大事だということだ。

「最近の研究によると、子どもがまだ言葉を覚えていなくても、
何らかの正義、道徳の気持ちを持っていることがわかってきています。
意識がどう生まれ、どう変わっていくかという発達のメカニズムを解明し、
システムに具現化することに取り組んでいきたいです」（國吉氏）

　そして、金井氏は「内発的な動機づけに関心がある」と、
意識のメカニズムを機能的に解明したいとの抱負を述べた。

「理解し、意図を持つことはどういうことか。
たとえば、情報の多様性と統合という『統合情報理論（Integrated Information Theory）』
の観点からこの研究に取り組むメンバーも私の会社にはいます。
意識を解明するには、さまざまなAIの研究からアイデアを借りることができるのです」
（金井氏）

　そして、科学的な見地から「脳のどのような物質が意識を持っているのか、
脳の中にある、意識的な経験のメカニズムを明らかにしたい」と語った。

「今はそこには到達していませんが、最終的に何が意識かを理解することに取り組んでいきたい
と考えています」（金井氏）

〜〜〜

これ以降は、
会員登録が必要なので
ご自身でご覧ください。

この人間🧑の脳🧠科学分野は、
太陽系地球の現在の姿が
宗教で隠されているのと同様に、
今まではベール🧕に包まれていましたが、
やっと陽の目を浴びることになりました。

それよりも前に、
ミニ氷河期が来るのを隠し続ける
科学者👨‍🔬👩‍🔬が多いのは
何故でしょう？

めいてい君の空想だけなら良いですが。

お気に入りの記事を「いいね！」で応援しよう