■
採用や融資判断、人生左右? 「個人の尊重」と対立も
昨年12月20日、 総務省
の研究会で、AIに関する法的問題が議論になり、
あるシナリオが報告された。
〈Y社は社員の採用でAIを導入している。
大学4年生Xがエントリーシートを送ったが不採用に。
アルバイトを続け、30歳で起業しようと銀行に融資を申し込んだが断られた。
銀行もAIに信用力を判断させていた〉
ここで描かれているのは、学歴や職歴、 SNS
で本人が公開した情報など
様々なデータをもとにAIが個人の能力や信用力を判断し、
人生の重要な場面を左右してしまう世界だ。
シナリオはさらに続く。
〈Xはどこに問題があるかわからないまま、
AIの予測システムを導入している組織から排除され続けた。
孤立を深めていると、健康を管理する団体から
「うつ状態にあるようです」とメッセージが届く。
Xは生きる気力を失った〉
AIに押された烙印(らくいん)が人生につきまとい、
次の挫折がさらにマイナス評価を受け、「負のスパイラル」に陥る。
意思決定の過程が ブラックボックス
のため、
自分の人生をどう改善していけばいいのか、道筋がわからない。
研究会で報告した山本龍彦・ 慶応大
教授( 憲法
)は
「いったんAIに『ダメ』と言われたものは挽回の機会を与えられず、
社会的な排除が続けられかねない」と指摘する。
山本さんによると、人間はコンピューターによる判断を過信しがちで、
AIが導き出した「わたし」に対し、「そのわたしは本当のわたしではない」と
対抗するのが困難な状況が生まれるという。
いわば主体の喪失であり、
「人間がAIによる予測と確率だけで判断される社会は、
憲法
が掲げる『個人の尊重』の原理と正面から対立するのです」。
蓄積されたある人物のデータを解析し、評価・判断することを
プロファイリングという。
米国では、 刑事裁判
の量刑判断にAIを使うことの是非が
司法の場で争われるなど、AIを使ったプロファイリングが
少数派への差別を助長しかねない、という懸念が広がっている。
2013年、盗難車を運転し、警察官から逃亡した罪などで
起訴された被告のケース。
ウィスコンシン州はAIで再犯リスクを評価し、量刑判断に使っていたが、
このシステムが黒人の再犯リスクを白人より高く見積もることが問題視された。
州 最高裁
は16年、権利を侵害されたとする被告の訴えは退けつつ、
「少数者に高リスクを算定しやすい疑義が呈されている」と述べ、
量刑の決定には使わないなど一定の条件をつけることで
システムの利用を認めた。
EUでは5月、個人情報を取り扱う「一般データ保護規則」( GDP
R)が
施行される。
プロファイリングを根拠とした取り扱いに異議を申し立てる権利を
保障しなければならないとしている。
一人ひとりがAIなどコンピューターによる自動処理のみで重要な決定を
されてはならないことも権利として明記した。
こうしたEUの動きと比べると、日本国内の議論はまだ低調だ。
山本さんは「法整備を見据えた本格的な検討が必要」と話す。
(編集委員・豊秀一)
*富士山も雲がかかって笠富士に。
日差しがなくて寒い一日になりそうです。
信用情報のブラックリストに乗ると、クレジットカードが作れなくなることは
知られていますが、今は誤った登録で被害を受けた人たちの訴えで、
情報開示や回復が可能になっています。
AI時代の過渡期には、上記の研究会ような悲惨なケースが
起こるかもしれません。
匿名とはいえビックデータが売買され、
AIの普及で益々ブラックボックス化する社会。
検索すると、おすすめホテルや本が紹介され、
ブログを書くと関連商品の広告が載ります。
ネット版のダイレクト・メールですね。
便利なようでこわい社会が進行中です。
それにしても、鳴り物入りで導入されたマイナンバー。
何のメリットを感じていないのは、私だけでしょうか。
昨年の年金申請でそう感じました。
住基カードの二の舞?
シャトレーゼ、ベトナム人88人に休業手… 2024.06.21 コメント(2)
アゾフは死なず 上 2024.06.17