ITの世界は、AIという人口知能の組み込みが始まった。一段上に進化してゆく。
「保守」が必要だという。精度を確認していくことと、再学習が要るという。
当たり前だと言えば当たり前のような気もするが、以下に現場の記事が出ていたので紹介します。
画像日本経済新聞電子版2021/4/8
「こんなAIは使えない」 現場からダメ出しの理由
日本経済新聞電子版
2021年4月6日 5:00 [有料会員限定]
（日経クロステック/日経コンピュータ 中山秀夫）
［日経クロステック2021年3月25日付の記事を再構成］
「人工知能（AI）の予測は当てにならない」「予測が外れたら誰が責任を取るのか」「このAIは業務で使えない」。AIを業務の現場に導入したところ、ほどなくして業務担当者からこんなネガティブな意見が噴出する——。
ソフトウエアエンジニアリングの研究者である、名古屋大学の森崎修司准教授によると、国内企業でデジタルトランスフォーメーション（DX）の一環としてAIの開発・導入が盛んになる中、こんなケースが起きているという。
業務の検討や合意形成が不十分
なぜそうなるのか。原因として挙げられるのは、AIを導入して業務をどう変えるのかという検討や合意形成が十分ではないことだ。
従来の業務システムであれば、開発は業務現場のニーズが起点になる。IT（情報技術）の担当者が業務現場でのヒアリングや調査によって業務課題を洗い出し、重大な課題を特定。それを解決する新業務フローを業務ルールも含めて設計し、システム要件を定義する。
このうち業務設計やシステム要件の定義では「望んだ機能が盛り込まれるか」「増える仕事を誰が引き受けるか」といった点に関して、往々にして関係者の間で利害対立が生まれる。そのすり合わせの過程で、ITの担当者と業務現場が新業務やシステム要件について検討を繰り返し、納得感を深めていく。ここでのポイントは、新システムを導入した後業務がどう変わるのかについて、関係者がイメージし納得することだ。
一方、AI開発はDX推進という経営戦略のもと、スピードが重視される。そのため「深層学習によってこんな機能を実現できる」といったシーズが起点になりやすい。それが業務現場のニーズと合致してコストが見合えば、優先順位の高いものから開発していくケースが多い。
この進め方では、AIを導入した後業務がどう変わるのかについての議論や納得感の醸成が甘くなりやすい。その状態で、開発したAIを業務現場に導入すれば、無用な混乱を招くのは必定だ。生産ラインを流れる製品から不良品を検出するAIを例に取ると、業務現場の典型的な反応は次のようなものになる。
AI導入後「手戻り」が発生
導入当初は、業務担当者の反応はおおむね良いという。「（AIなのに）これだけの精度で不良品を検出してくれるのか。大したものだ」という驚きがあるからである。
しばらく使っているうちに、実際にどれだけ有用かというシビアな評価が始まり、「AIが不良品を見逃したとき誰が責任を取るのか決まっていない」といった業務ルールの不備が浮上する。さらに「この程度の精度だとAIに任せられない。結局、目視検査も必要になるからAIは要らない」といったダメ出しが起きる。
もちろんこれを出発点として、AIの担当者と業務現場が協力して本当に業務で役立つAIに改善していけばよい。しかし業務現場が前向きになりにくい雰囲気の中で、AIの改善と業務設計を並行して進めることになる。いわゆる「手戻り」が発生し、それだけ時間をロスしてしまう。
「AIの開発でも、現場に導入した後業務をどのように変えないといけないかという観点で精査しておく必要がある」。前出の森崎准教授はこう指摘する。
ここは業務システムの開発経験が豊富なITエンジニアの出番である。AIの開発と並行して業務設計を行い、同時に業務現場の納得感を高めておく。
AIは一度作って終わりではない
森崎准教授によると、AIの開発時には他にも見逃しがちな点があるという。それはAIの保守だ。
「AIの開発で使った学習データと、導入後に業務現場で発生するデータに乖離（かいり）が生じることがある。そうなるとAIの予測精度は低下し、再学習が必要になる」（森崎准教授）
AIは一度作れば終わりではなく、保守が重要だ。予測精度のモニタリングや再学習のための人員・基盤が必要である。AIが稼働するエッジサーバーやカメラ、センサーなどのハードウエアについても保守計画を立てなければならない。
スピードが重視されるAI開発は、こうした保守についても前述した業務設計と合わせて検討しておくべきだろう。
（日経クロステック/日経コンピュータ 中山秀夫）
タグ： AI
【このカテゴリーの最新記事】
