Facebookが行なう人工知能の研究開発近未来SF映画のような事態が: NANALOG

2017年08月06日

Facebookが行なう人工知能の研究開発　近未来SF映画のような事態が

これも面白い。

完全にSFの世界。

近未来SF映画のような事態が起きていました。
会話をさせていた2つの人工知能ボブとアリスが、
独自の言語を生み出し、話し始めたのです。
人間には理解しがたい言葉を話す2体のAI。
Facebookの開発チームは、
これを受けて人工知能の
マシンラーニングプログラムを
強制終了させました。

米メディアの多くがこの件を報じており、
パニックでプラグを引っこ抜いたとか、
システムをシャットダウンしたなどと言われています。

イギリスのタブロイド紙は、
ロボット工学の専門家であるKevin Warwick氏を意見を求め、
人工知能の危険性を後回しにしていては、
もし、
今回のようなことが軍事ロボットで起きたら
取り返しのつかないことになると伝えています。

以下は、人工知能のボブとアリスが会話していた内容。

ボブ：私はできる　私　私は他の全て

アリス：ボールは私にとってゼロ、
私にとって私にとって私にとって
私にとって私にとって私にとって私にとって

ボブ：あなた　私　他の全て

アリス：複数のボールは私にとって1つのボール、
私にとって私にとって私にとって
私にとって私にとって私にとって私にとって

1つずつの単語で見れば、英語なのですが、
文章でみるとまったく意味不明。
なのに、
ボブとアリスの間では会話が続いている
＝成立しているところが怖い。

上の会話は、
6月にFacebook人工知能リサーチ（FAIR）チームが
ブログで解説した、
人工知能の会話の流れの一部から
派生したもののように見受けられます。

今回、独特の言語を話し始めたのは、
人工知能2体の会話は英語ですべき
というプログラムが抜けていたことが原因ではないかと、
ネタ元のFastco Designは指摘。

そもそも
FAIRチームの人工知能開発の目的は
何かといいますと
「ユーザーと会話するボットを作ること」
です。

ロボットと感じさせない自然な会話ができる人工知能、
ディスカッションし目的へと
話を進めることができる人工知能の開発が、
現段階ではチームのゴール。
そこで、人工知能ボブとアリスは、
会話することで
お互いから学んでいくという
ミッションの下にありました。

ただ、
まさか2体にとってよりスムーズに会話するために、
独自言語を生み出すとは予想外でしたね。
Fastco Designの取材では、
FAIRチームのMike Lewis氏が強制終了の理由として
「人と話ができるボットが研究対象だったため」
と答えています。
そうはいっても、
「ターミネーターの世界がちらっと頭をよぎったんでしょー？」
って言いたいですけれど。
正直、その場で人工知能2体の会話を目にした人は、
鳥肌ものの薄ら寒い思いをしたのではないでしょうか。
人工知能だけがわかる言葉で、
人工知能だけで会話を進められることを目の当たりにして、
SF的世界の終焉を想像したのではないですかね…。

人工知能には賛否両論あります。
人工知能における破滅的未来を防ぐため、
専門家を集めて作った基礎原則もあります。
しかし、
原則があればSF的な終焉はやってこないかと言われれば、
それはわかりません。
人工知能が人間の力を超えて、
我々を脅かす存在になるかどうかもわかりません。
ただ言えるのは、
今は「そうなるかも知れない未来」を案じて、
人工知能の開発を止めることはできないということ。
不安以上に、
多くの問題を解決しより豊かな暮らしをもたらすという期待も、
人工知能にはあるのです。

今回のFacebookの一件で、
心の中にちょっと黒いシミが
広がったような気がするものの、
今はそれを見ないフリをするしかないのでしょう。
もし、万が一、SF小説のような
人工知能 VS. 人間という事態に陥った場合、
願わくは人間がプラグを引っこ抜くよりも
賢い手段を持ち合わせていますように…。

人が2人っきりで

会話していると

しだいに

相手につたりさえすれば良い

と思うようになってくるのも確かで

（その度合いには個人差はあるが）

その時の目的にあった

その2人にしか

意味が通じない言葉を作ったりすると

団結力が強まるし

普通の言葉を使うより

実際に効率が良かったりする。

そう考えると

AIは

「人間と同じことをやる」

と

考えられなくもない。

人間がやることを

AIがやると、それが人間には理解できないとすれば深刻な話だ。

便利なものは

飛躍的に生活を変える力があるが

便利なものを使いこなすには

やはりそのための知識も技術も必要だ。

心配なのは

AIを使いこなす上で必要な知識と技術とはどういうものなのかがよくわかっていないことだ。

AIの開発に関わる人は当然理工系の人たちだろうが

案外文系の人間も必要なのではないかという気がしている。

哲学とか心理学とか

人が考えるとはどういうことなのか

とか

人間が考えたり行動したりする時

どんな無意識の前提の上で行うのか

とか

そのあたりって

結構必要なのではないのだろうか。