Walk in the Spirit

​ ｢人殺し｣を始めたAIの恐ろしい間抜けさ
2018/08/05 15:00　東洋経済

人工知能（AI）の脅威に対する警告で世の中はあふれ返っている。米国の起業家イーロン・マスク氏や元国務長官のヘンリー・キッシンジャー氏を含む多くの人々が、 人類はいずれAIに駆逐されることになるかもしれないと警鐘を鳴らしている 。そう、映画『ターミネーター』のように。

『ターミネーター』では自我を持ったコンピュータ「スカイネット」が世界を支配する。マスク氏らの警告を聞いて、人類はディストピア（暗黒郷）の入り口に立っていると思う人もいるだろう。

欠陥だらけのアルゴリズムによる殺人

だが、現実にはもっと差し迫った問題が起きている。AIはすでに人を殺し始めているのだ。軍や警察は人々を監視・査定し、結果的に その人物を殺害するかどうかという重大な決断を下すのにAIを使っている 。しかも、そのアルゴリズムは欠陥だらけだ。

AIを使った対テロ作戦の危険性を筆者が初めて認識したのは5年前、イエメンでのことだった。米国によるドローン（無人機）攻撃で無実の民間人が殺害される事件が起き、私は首都サヌアで聞き取り調査を行っていた。殺害された2人の民間人のうち1人は警官で、もう1人はイマーム（イスラムの導師）だった。

イマームは攻撃の数日前にテロ組織「アルカイダ」を非難する説教を行っていたため、2人とも米国側の人物だった可能性がある。生き残った親族の一人で、技術者のファイサル・ビン・アル・ジャービル氏が私を訪ねてきて、こう聞いた。親族はなぜ標的にされたのか、と。

ファイサル氏と私は答えを求めて、アラビア半島から1.1万キロメートル離れた米ワシントンに飛んだ。ホワイトハウス高官はファイサル氏と面会したが、肝心の理由については誰も明かそうとしなかった。

真相はやがて明らかになる。 半自動化されたプログラムが、間違ってファイサル氏の親族を殺害者リストに載せてしまっていた のだ。米国政府は身元を特定できていない人物をドローンで攻撃したことを認めている。米情報機関はイエメンにディープな人的情報源を持たないため、別の方法で取得したデータをAIで処理し、標的を選び出している。ミサイル自体は人間が操作しているとはいえ、 殺害がアルゴリズムの決定に従って実行されているのは間違いない。

「顔認識システム」誤検知率はなんと98％

この種の攻撃は「識別特性爆撃」と呼ばれる 。ドローン攻撃の大半を占め、AIにまつわる脅威の中でもとりわけ激しい反発を招いている。

問題は今年春、米グーグルにも波及した。AIを使ってドローン映像を分析する技術を米国防総省向けに開発するというプロジェクトに何千人もの従業員が抗議し、離職する者まで現れた。

AIの濫用が懸念されるのは、もちろんドローン攻撃だけではない。たとえば、AIを使った犯罪予測・治安対策のせいで、刑事司法制度における人種差別が一段と深刻化している。顔認識で容疑者を特定するシステムを、英ロンドンなどの警察が試験的に導入しているが、 誤検知率はなんと98％ にも達する。

ネット通販では顧客の特性に合わせて任意に価格を変えられる ため、ほかの顧客よりも高い代金を支払わされている人がいる。 フェイスブック上の情報を操作してプロパガンダを繰り広げる国があるのは、ご存じのとおりだ。

AIは発展途上の技術だと言う専門家もいる。だとすれば、私たちは、人を殺す決断をも発展途上の技術に委ねていることになる。このように背徳的な用途にAIが使われている実態を暴き出し監視していくことは、人権上、最も緊急性の高い課題だ。

ビッグデータの活用を誰かが言いだしたら、こう問わなければならない。アルゴリズムを支配する者をどうチェックしていくつもりなのか、と。

この手の技術の導入、進展は速い、

そもそも、AIと言うのは、
コ ー言う使われ方（支配/破壊）が根底にある、

​ ジョーディーのDWave、AI高性能殺人ロボットへ
「そもそも、自分はすべての力（知恵）を暗闇の勢力から得ている、
いや、本当だ、自分のすべての力は呪術的なものがソースだ、」​ ​
​​

​AI活用で動くロボットシステムのKindred Systems​

​イーロンマスクは、 AIの目的を、
悪魔の呼び出し（召喚）と示唆する、

​
​ 悪魔は悪魔の存在を否定する、AIの目的
とても気をつけなければならない分野だと思っています、 
それは実在する最大の脅威となりうるゆえ、 国家レベルでの規制･監督が必須でしょう、 
それは例えば、AIはデーモンを呼び込むことが出来るから、
積極的に取り組もうというような馬鹿げた輩がいるからです、 
コー言う連中は、ペンタグラムがドーの、聖水がドーのと言って、
あたかも、デーモンをコントロールできるかのように吹聴するのです、

​具体的（意図的な）反例がかえって真実を裏付けているが、
AIのゴールは、 言うまでもなく、そこにある、

ドローンにせよ、 ロボットにせよ 、AIによる制御は、

​ AIの活躍する分野 ​

往々にしてサイコパスとなる、

アッ、ソー言えば、
こっちもAIが活躍するんだっけ！？

つながる車、どこに？

​スマホからドアロックを遠隔操作、
人工知能（ＡＩ）が近隣の飲食店などを探してくれたり、
ＬＩＮＥの画面上でクルマと会話できます、​

​ 参考）
ハリウッドはAIの登場を予告、
現実になる!? AI（人工知能）vs 人類を描いた映画8選 ​
1. ターミネーター（1984年公開）
2. マトリックス（1999年公開）
3. バイオハザード（2002年公開）
4. アイ,ロボット（2004年公開）＜--お奨め
5. イーグル・アイ（2008年公開）
6. サマーウォーズ（2009年公開）
7. トランセンデンス（2014年公開）
8. アベンジャーズ/エイジ・オブ・ウルトロン（2015年公開） ​