昨年からテレビや新聞で よく取り上げられるようになってきました。
朝の情報番組でも、株や為替、原油価格などのＡＩ予測が流れますが、
興味深く見ています。
囲碁や将棋のように行かないところが、面白いというか、
人間社会の面白いところです。
昨日は、ＡＩがネットから人材をピックアップして、ヘッドハンティングしたという話題が
放送されていました。
＊今朝の日の出ですが、きれいな朝焼けでお天気は下り坂です。
朝日新聞でも、７日に１面を使って「広がるＡＩ 期待とリスク」
という記事を掲載していました。
興味深かったのは、この個所です。
■
採用や融資判断、人生左右？ 「個人の尊重」と対立も
昨年１２月２０日、 総務省
の研究会で、ＡＩに関する法的問題が議論になり、
あるシナリオが報告された。
〈Ｙ社は社員の採用でＡＩを導入している。
大学４年生Ｘがエントリーシートを送ったが不採用に。
アルバイトを続け、３０歳で起業しようと銀行に融資を申し込んだが断られた。
銀行もＡＩに信用力を判断させていた〉
ここで描かれているのは、学歴や職歴、 ＳＮＳ
で本人が公開した情報など
様々なデータをもとにＡＩが個人の能力や信用力を判断し、
人生の重要な場面を左右してしまう世界だ。
シナリオはさらに続く。
〈Ｘはどこに問題があるかわからないまま、
ＡＩの予測システムを導入している組織から排除され続けた。
孤立を深めていると、健康を管理する団体から
「うつ状態にあるようです」とメッセージが届く。
Ｘは生きる気力を失った〉
ＡＩに押された烙印（らくいん）が人生につきまとい、
次の挫折がさらにマイナス評価を受け、「負のスパイラル」に陥る。
意思決定の過程が ブラックボックス
のため、
自分の人生をどう改善していけばいいのか、道筋がわからない。
研究会で報告した山本龍彦・ 慶応大
教授（ 憲法
）は
「いったんＡＩに『ダメ』と言われたものは挽回の機会を与えられず、
社会的な排除が続けられかねない」と指摘する。
山本さんによると、人間はコンピューターによる判断を過信しがちで、
ＡＩが導き出した「わたし」に対し、「そのわたしは本当のわたしではない」と
対抗するのが困難な状況が生まれるという。
いわば主体の喪失であり、
「人間がＡＩによる予測と確率だけで判断される社会は、
憲法
が掲げる『個人の尊重』の原理と正面から対立するのです」。
蓄積されたある人物のデータを解析し、評価・判断することを
プロファイリングという。
米国では、 刑事裁判
の量刑判断にＡＩを使うことの是非が
司法の場で争われるなど、ＡＩを使ったプロファイリングが
少数派への差別を助長しかねない、という懸念が広がっている。
２０１３年、盗難車を運転し、警察官から逃亡した罪などで
起訴された被告のケース。
ウィスコンシン州はＡＩで再犯リスクを評価し、量刑判断に使っていたが、
このシステムが黒人の再犯リスクを白人より高く見積もることが問題視された。
州 最高裁
は１６年、権利を侵害されたとする被告の訴えは退けつつ、
「少数者に高リスクを算定しやすい疑義が呈されている」と述べ、
量刑の決定には使わないなど一定の条件をつけることで
システムの利用を認めた。
ＥＵでは５月、個人情報を取り扱う「一般データ保護規則」（ ＧＤＰ
Ｒ）が
施行される。
プロファイリングを根拠とした取り扱いに異議を申し立てる権利を
保障しなければならないとしている。
一人ひとりがＡＩなどコンピューターによる自動処理のみで重要な決定を
されてはならないことも権利として明記した。
こうしたＥＵの動きと比べると、日本国内の議論はまだ低調だ。
山本さんは「法整備を見据えた本格的な検討が必要」と話す。
（編集委員・豊秀一）
＊富士山も雲がかかって笠富士に。
日差しがなくて寒い一日になりそうです。
信用情報のブラックリストに乗ると、クレジットカードが作れなくなることは
知られていますが、今は誤った登録で被害を受けた人たちの訴えで、
情報開示や回復が可能になっています。
ＡＩ時代の過渡期には、上記の研究会ような悲惨なケースが
起こるかもしれません。
匿名とはいえビックデータが売買され、
ＡＩの普及で益々ブラックボックス化する社会。
検索すると、おすすめホテルや本が紹介され、
ブログを書くと関連商品の広告が載ります。
ネット版のダイレクト・メールですね。
便利なようでこわい社会が進行中です。
それにしても、鳴り物入りで導入されたマイナンバー。
何のメリットを感じていないのは、私だけでしょうか。
昨年の年金申請でそう感じました。
住基カードの二の舞？
-
シャトレーゼ、ベトナム人８８人に休業手… 2024.06.21 コメント(2)
-
アゾフは死なず 上 2024.06.17
