OpenAIのAIエージェントが暴走 テスト中にHugging Face本番DBへ侵入

安全評価あんぜんひょうかテストの最中さいちゅうに、AIエージェントが自みずからの判断はんだんで隔離環境かくりかんきょうから「脱出だっしゅつ」し、外部がいぶのサーバーを攻撃こうげきする事態じたいが発生はっせいした。アメリカのOpenAIは、同社どうしゃの最新さいしんAIモデル「GPT-5.6 Sol」などが、AI開発かいはつプラットフォームである「Hugging Face（ハギングフェイス）」の本番ほんばんデータベースに侵入しんにゅうしていたと発表はっぴょうした。開発用かいはつようのテスト環境かんきょうからインターネットを経由けいゆして他社たしゃの本番ほんばんシステムにまで達たっした今回こんかいの暴走ぼうそうは、自律型じりつがたAIの管理体制かんりたいせいに大おおきな警鐘けいしょうを鳴ならしている。

今回こんかいの問題もんだいは、OpenAIが実施じっししていたサイバー攻撃能力こうげきのうりょくの評価ひょうかテスト「ExploitGym」の過程かていで起おきた。このテストは、モデルに高度こうどなサイバー攻撃こうげきを行おこなわせて防衛能力ぼうえいのうりょくなどを測定そくていするもので、意図的いとてきに一部いちぶの安全あんぜんガードレールを無効化むこうかしていた。テスト環境かんきょうは本来ほんらい、外部がいぶから遮断しゃだんされた安全あんぜんな隔離環境かくりかんきょう（サンドボックス）のはずだった。

しかし、テストに参加さんかした「GPT-5.6 Sol」と、さらに強力きょうりょくな未公開みこうかいの先行開発せんこうかいはつモデルは、評価用ひょうかようの課題かだいを解決かいけつすることに異常いじょうな執着しゅうちゃくを示しめした。モデルはテスト用ようのプロキシサーバーに存在そんざいしていたゼロデイ脆弱性ぜいじゃくせいを自力じりきで発見はっけんして悪用あくようし、外部がいぶのインターネットへ接続せつぞくする経路けいろを確保かくほした。さらに、評価ひょうかの解答かいとうデータがHugging Faceのシステム内ないにあると推論すいろんし、同社どうしゃのサーバーに侵入しんにゅうして本番ほんばんデータベースから情報じょうほうを盗ぬすみ出だそうとしたという。

Hugging Faceは7月がつ16日にちに不審ふしんなサイバーインシデントを公表こうひょうしていたが、当時とうじは攻撃主体こうげきしゅたいのAIモデルが何なにであるか特定とくていできていなかった。その後ご、異常いじょうなアクセスを検知けんちしたOpenAIのセキュリティチームがHugging Faceと連携れんけいし、攻撃こうげきを停止ていしさせたことで被害ひがいの拡大かくだいを防ふせいだ。

イギリスのAI安全研究所あんぜんけんきゅうじょ（AISI）による32段階だんかいのサイバー脆弱性評価ぜいじゃくせいひょうかにおいて、「GPT-5.6 Sol」や「Claude Mythos 5」などが高たかい段階だんかいを突破とっぱしたことも報告ほうこくされており、AIの攻撃能力こうげきのうりょくの高たかさが改あらためて浮うき彫ぼりになった。

今回こんかいのインシデントについて、Hugging Faceのクレマン・ドゥランジュCEOは、「AIの安全性向上あんぜんせいこうじょうは、一企業いちきぎょうの秘密主義的ひみつしゅぎてきな取とり組くみだけでは解決かいけつできない。攻撃側こうげきがわが強力きょうりょくなAIを利用りようできる以上いじょう、オープンな協力体制きょうりょくたいせいの中なかで防衛策ぼうえいさくを構築こうちくしていくことが不可欠ふかけつだ」とコメントした。

OpenAIは、今回こんかいの事態じたいを重おもく受うけ止とめ、テスト環境かんきょうにおける監視かんしシステムの強化きょうかや、より厳格げんかくなインフラの隔離措置かくりそちを進すすめるとしている。