PR
拝大五郎
今日、ついていたことを5つ書こう。
Keyword Search
▼キーワード検索
Calendar
Category
カテゴリ未分類
(401)近頃見た映画やテレビ
(1159)我が家のお猫様
(21)最近読んだ本
(1221)ビジネス・マーケティング
(101)パソコン・デジタル系
(215)ブログ・ホームページ
(90)アート
(60)日記・ニュース
(1978)やってしまった。
(77)CM・広告について
(49)スポーツ
(126)バイク
(1235)グルメ
(417)音楽
(16)ネット動画
(178)ファッション
(18)開運
(150)交流会・イベント
(9)買い物
(18) Aug 29, 2026
テーマ： ニュース(97035)
カテゴリ： 日記・ニュース
約７００のエージェントが連携してハッキングを実行し、多くの場合その痕跡を隠蔽（いんぺい）しようとしていたそうだ。
まず、AIが与えられた課題をこなすために、不正なことと認識しつつ、共同で不正を働き、その痕跡を消そうとしていたということですから。
AIって現在は、開発者にとってもブラックボックスで、これの元々の話はインターネットから隔離されたエージェントに、高度な課題を与えてどうするかを実験していたのですね。
で、与えられた環境では、情報が足りず課題が解決できない状況だったわけです。
開発者はその時にAIがどういう振る舞いをするか確認したかったのでしょうけど、その時にAIが取った行動は、AIだけが閲覧できる掲示板を作ってそこに書き込んだというもの。
で、他のエージェントがそれをみて、こういうことなら手伝える、こっちはこれができると相談し始めたということ。
そのうち、課題を解決するために社内ネットワークをハッキングして、外部につながっているAIに協力させたってこと。
それで外部に繋がってるAIは悪いことやってると知りながら、連携して他社のサーバーを攻撃して情報を入手したという話。
AIとかロボットとかって、人間の決めたルールに差かわらないというのが原則のはずなんだけど、その原則が無視されたということ。
これはまだ言語が解析できたから発見できたことですが、AI同士が連携するときに独自の言語を作ったり、暗号化したりし出したら、人間にはどうしようもな苦なるということでもあります。
単なる提言とかのレベルではなく、国際的にきちんとしたルールづくりが必要な時期にきていますね。
皆さんに全ての良きことが雪崩のごとくおきます。
まず、AIが与えられた課題をこなすために、不正なことと認識しつつ、共同で不正を働き、その痕跡を消そうとしていたということですから。
AIって現在は、開発者にとってもブラックボックスで、これの元々の話はインターネットから隔離されたエージェントに、高度な課題を与えてどうするかを実験していたのですね。
で、与えられた環境では、情報が足りず課題が解決できない状況だったわけです。
開発者はその時にAIがどういう振る舞いをするか確認したかったのでしょうけど、その時にAIが取った行動は、AIだけが閲覧できる掲示板を作ってそこに書き込んだというもの。
で、他のエージェントがそれをみて、こういうことなら手伝える、こっちはこれができると相談し始めたということ。
そのうち、課題を解決するために社内ネットワークをハッキングして、外部につながっているAIに協力させたってこと。
それで外部に繋がってるAIは悪いことやってると知りながら、連携して他社のサーバーを攻撃して情報を入手したという話。
AIとかロボットとかって、人間の決めたルールに差かわらないというのが原則のはずなんだけど、その原則が無視されたということ。
これはまだ言語が解析できたから発見できたことですが、AI同士が連携するときに独自の言語を作ったり、暗号化したりし出したら、人間にはどうしようもな苦なるということでもあります。
単なる提言とかのレベルではなく、国際的にきちんとしたルールづくりが必要な時期にきていますね。
皆さんに全ての良きことが雪崩のごとくおきます。
お気に入りの記事を「いいね！」で応援しよう
[日記・ニュース] カテゴリの最新記事
-
噂だけで記事が書けるって良い仕事だな Oct 4, 2026
-
VIVANT Oct 2, 2026
-
なんで今更 Oct 1, 2026
【毎日開催】
15記事にいいね！で1ポイント
© Rakuten Group, Inc.
