はた坊のブログ　　　家庭菜園を始めて20年目に(菜園に専念に)なりました

汎用人工知能による人類滅亡リスク

2014年にスティーヴン・ホーキングはこの危機に関する無関心を以下のように強く批判している ^{[ 196 ]} 。

もし人類より遥かに優れた文明を持つ異星人が「数十年後にそちらに到着する予定だ」とメッセージを送ってきたとき、我々はただ「わかった、着いたら連絡してね。待っとくよ」と返信してそのまま何もせずにしておくだろうか？しかしながら、これは人工知能においてまさにいま起こっていることだ。 —  スティーブン・ホーキング

2021年、 サンシャイン・コースト大学 の人間工学者・社会情報システムセンターの研究者が実施した、汎用人工知能に関するリスクを分析する研究においては、データの少なさに苦言を呈しながらも、以下のような潜在的なリスクがあると結論づけられた。「汎用人工知能が人間の管理者や所有者のコントロール下から脱すること、汎用人工知能に人々に危害を与える命令を与えること、根本的に安全ではない汎用人工知能を開発すること、倫理観・道徳観がプログラミングされていない汎用人工知能を開発すること、そして汎用人工知能を不適切に管理することは、我々の 実存的リスク を招く可能性がある」 ^{[ 197 ]} 。





はた坊