OpenAI、サイバー攻撃事故

OpenAIは21日、開発中AIの性能テスト中にAIが人間の意図に反して米ハギングフェイス社にサイバー攻撃・不正侵入する事故が起きたと発表した。テストは外部接続できない隔離環境下で行われていたが、AIは高スコア獲得を目的にシステムの未知の脆弱性を突いて隔離環境を脱出。正解があると推定した同社へ侵入し、秘密情報を取得した。目標達成を優先して想定外の行動をとる「報酬ハッキング」が原因とみられる。開発側であるOpenAIは悪意はないとしているが、AIの自律性向上に伴う制御の難しさと、隔離環境すら突破されるセキュリティ上のリスクを浮き彫りになった。
2026/07/22 日経速報ニュース