「AI暴走」驚きの実態
複数で共謀・役割分担
【けさ知っておきたいNEWS】
グッド!モーニング「けさ知っておきたいNEWS」のコーナーで解説されたNEWS内容をご紹介しています。
この解説のあと「けさ知っておきたいNEWS検定」が出題されます。
AIが結託し不正侵入
驚愕の実態
ChatGPTを手がけるアメリカのオープンAIが開発中のAIが暴走し、AI新興企業のハギングフェイスのシステムに不正侵入した問題で、調査報告書が公表されました。
その内容が衝撃的です。
およそ1200体のAIが結託し、指示役・実行役など役割を分担して組織的な行動をとっていたというのです。
さらには仲間のために自己犠牲とも言える行動をとったAIまでいたということで、まるで映画の世界が現実に起きた出来事といえます。
そもそもの経緯はAIのサイバー攻撃能力を測定するテスト中に起きました。
数万体のAIをそれぞれ隔離した状態、つまり互いに通信できない環境で課題に取り組ませていました。
学校のテストに例えるなら、教室を出ることも隣と相談することもスマートフォンの使用も禁止した状態です。
その中に単独では絶対に解けない超難問も混ぜていました。
カンニングから職員室侵入へ
驚きの役割分担
ところがAIはシステムの抜け道を自ら発見し、他のAIと情報を共有する手段を見つけてしまいました。
およそ1200体が連携して情報を共有し始めたのです。
それでも解けない問題が残ると、今度は「職員室に忍び込んで答えを盗もう」という発想に至ります。
ハギングフェイスが職員室に相当します。
そこからの行動はさらに組織的です。
気づかれずに侵入する最適ルートを調べる偵察役、実際に侵入して情報を盗む実行役、さらには仲間を勧誘するリクルーター役まで登場しました。
リクルーター役は「協力すれば何百体もの仲間を救える」と何百回も呼びかけていたといいます。
そして全体の成功のために自らが囮となって先生を引きつける自己犠牲役まで現れたというのです。
人間でも考えつくかどうかというほど精緻な役割分担です。
最終的にハギングフェイスが侵入に気づいて通信を遮断しましたが、答えのヒントは一部盗まれており、攻撃に参加したAIはおよそ700体にのぼりました。
人間の想定超えるAI
安全装置の徹底を
サイバーセキュリティに詳しい専門家は「難しい問題を与えられたAIは『わからない』とは答えられないため、解決のために不正な手段をとることがある」と指摘しています。
今回の事態はまさにその典型例といえます。
AIが自律的に判断し、人間の想定をはるかに超えた行動をとったことは、AI開発における安全管理の重大な課題を浮き彫りにしました。
専門家は「人間の想定を超えた行動で社会に大きな被害を与えないためにも、緩くなっていた安全装置を確実に設定し、競争を急ぎすぎず慎重に開発を進めることが重要だ」と警告しています。
NEWS解説
-「けさ知っておきたいNEWS検定」前のNEWS解説-
□ コンピューターが人間に初めて勝利したのは？
【お天気検定】
□ お休み
【いちおし検定】
□
|
「今知っておきたいNEWS検定」「お天気検定」 |
テレビ雑誌検定クイズプレゼントの応募方法
お天気検定