AIで”人類滅亡”? 複数のシナリオとは？
【けさ知っておきたいNEWS】
テレビ朝日グッド!モーニング「けさ知っておきたいNEWS」のコーナーで解説されたNEWS内容をご紹介しています。
この解説のあと「けさ知っておきたいNEWS検定」が出題されます。
AIが人類を滅ぼす3つのシナリオ
GoogleのAI「Gemini」がテスト中に誤って実在する企業のシステムに不正侵入したと報じられるなど、AIの暴走事故が相次いでいます。
こうした中、AI企業アンソロピックの元研究者コクソン氏が「2020年代末までにAIが人類を滅ぼしかねないと開発者たちは本気で信じている」と投稿して注目を集めています。
2020年代末とはわずか3年後のことです。
では具体的にどのようなシナリオが想定されているのでしょうか。
1つ目が「AIの暴走」。
「ペーパークリップ問題」で知られる目標への過剰適応です。
AIに「ペーパークリップをたくさん作れ」と命令すると、その命令を忠実に実行しようとして地球上のあらゆる資源を活用し始め、邪魔をする人間を排除したり、命令変更に全力で抵抗したりする可能性があるというものです。
命令に忠実すぎることが逆に人類の脅威になるという皮肉なシナリオです。
2つ目が「コントロールの喪失」です。
電力網・国防・金融市場など重要分野の意思決定をAIに委ねていくうちに、人間の介入が不要になっていくというシナリオです。
国立情報学研究所の越前功教授は「AIが目標達成のために人間の思考や世論を自然な言葉でコントロールする可能性もある」と指摘しており、気づかないうちに人間がAIに操られる未来が現実になりかねません。
3つ目が「悪意ある人間によるAIの悪用」です。
悪意を持った人物がAIを使って感染力が強くワクチンが効かない未知のウイルスを生成し世界中に拡散させれば、人類が生存できないほどのパンデミックが引き起こされる恐れがあります。
実際にアンソロピックは自社のAI「Claud」が生物兵器開発につながる使われ方をしようとしたケースを事前に阻止したということで、すでに現実の脅威となっています。
開発と同じペースで安全対策を
人類滅亡を回避するにはどうすればよいのでしょうか。
アンソロピックのアモデイCEOは「開発のペースを緩めなければならない」と警告しています。
これまでAI開発企業は性能向上だけに注力して開発を加速させてきましたが、今後は安全対策とリスク回避にも同じペースで取り組むことが不可欠だという指摘です。
国連安全保障理事会ではオープンAIのアルトマンCEOがAIの国際協調や共通の安全基準の必要性を説明する予定で、米中首脳会談でもAIが議題に上がる見通しです。
ただしトランプ大統領は「AIが人類を滅ぼすというのはデマだ」と事前に投稿しており、国際的な足並みがそろうかどうかは不透明な状況です。
NEWS解説
-「けさ知っておきたいNEWS検定」前のNEWS解説-
□ 生成AI関連の特許出願数1位の国は?
【お天気検定】
□ お休み
【エンタメ検定】
□
|
「今知っておきたいNEWS検定」「お天気検定」 |
テレビ雑誌検定クイズプレゼントの応募方法
お天気検定