巨大IT企業のアルゴリズムに潜む意図: 持続可能な社会に想う

2022年01月07日

巨大IT企業のアルゴリズムに潜む意図

米国フェイスブックが2018年に、表示する投稿の順番を決める社内ルールとなるアルゴリズムを大幅に変更したところ、嘘、怒りや誤情報など有害な投稿が拡散されやすくなり、欧州の政党やメディアからはクリック数を稼ぐため、拡散効果を狙った投稿がより過激になり、社会や政治の分断をあおるようになった。

コンピュータが膨大なデータをもとに問題を解決するアルゴリズムは、われわれの生活に深く関わっている。アルゴリズムは人間が決めているため、完全なものではなく、常に意図がある。採用活動で性別による差別のリスクなどを懸念があるため、米国では規制の動きも広がっており、アルゴリズムの監査を依頼する企業が増えている。

人工知能(AI)の危険性が指摘されている。そのアプリケーションは人間の選択のうえに築き上げられており、作り手の先入観、誤解、偏見はソフトウェアのコードに入り込んでいる。結果として、恵まれた人はより恵まれるように、不利な状況にある人はより不利になるように、ビッグデータを使ったアルゴリズムは、結果を予測しているのではなく、そうなるように仕組んでいる。最近の事例では、利用者のネット閲覧履歴などを記録する｢クッキー｣の利用をユーザーが拒否しにくくしている。ネット上でクッキー利用の同意にはクリックが１回で済むのに対し、拒むには何度もクリックする必要がある仕組みにしていたグーグルやFBはフランス当局から制裁金が科せられた。

そのため、データサイエンスが問題なるのは、結果がより見えにくくしていることだ。AIは、ソーシャルメディアや検索履歴など膨大なビッグデータから相手の痛点を探しだしている。共通ルールのない巨大IT企業に対しては、どのデータを使っているかを明らかにさせ、アルゴリズムも定期的に監査する必要がある。