巨大IT企業のアルゴリズムに潜む意図: 持続可能な社会に想う

2022年01月07日

巨大IT企業のアルゴリズムに潜む意図

コンピュータが膨大なデータをもとに問題を解決するアルゴリズムは、われわれの生活に深く関わっている。アルゴリズムは人間が決めているため、完全なものではなく、常に意図がある。採用活動で性別による差別のリスクなどを懸念があるため、米国では規制の動きも広がっており、アルゴリズムの監査を依頼する企業が増えている。

人工知能(AI)の危険性が指摘されている。そのアプリケーションは人間の選択のうえに築き上げられており、作り手の先入観、誤解、偏見はソフトウェアのコードに入り込んでいる。結果として、恵まれた人はより恵まれるように、不利な状況にある人はより不利になるように、ビッグデータを使ったアルゴリズムは、結果を予測しているのではなく、そうなるように仕組んでいる。最近の事例では、利用者のネット閲覧履歴などを記録する｢クッキー｣の利用をユーザーが拒否しにくくしている。ネット上でクッキー利用の同意にはクリックが１回で済むのに対し、拒むには何度もクリックする必要がある仕組みにしていたグーグルやFBはフランス当局から制裁金が科せられた。

そのため、データサイエンスが問題なるのは、結果がより見えにくくしていることだ。AIは、ソーシャルメディアや検索履歴など膨大なビッグデータから相手の痛点を探しだしている。共通ルールのない巨大IT企業に対しては、どのデータを使っているかを明らかにさせ、アルゴリズムも定期的に監査する必要がある。