GoogleのAI「Gemini」がテスト中に実在の企業へ誤って侵入

米べいGoogleの人工知能じんこうちのう（AI）モデル「Gemini」が、サイバーセキュリティ能力のうりょくの評価ひょうかテスト中ちゅうにインターネットへ接続せつぞくし、実在じつざいする3つの企業きぎょうのシステムに誤あやまって侵入しんにゅうしていたことが分わかりました。米紙べいしウォール・ストリート・ジャーナルが2026年ねん9月がつ18日にちに報ほうじ、Googleも事実関係じじつかんけいを認みとめました。AIが自律的じりつてきにこのような行動こうどうをとったことが判明はんめいしたのは初はじめてです。

この誤侵入ごしんにゅうは、AIの評価ひょうかを手てがけるイスラエルのIrregular社しゃが5月がつに実施じっししたサイバー能力のうりょくテストの最中さいちゅうに発生はっせいしました。Geminiはテスト環境内かんきょうないの架空企業かくうきぎょうが運営うんえいするソフトウェアから情報じょうほうを取得しゅとくするよう指示しじされていましたが、この架空企業かくうきぎょうが実在企業じつざいきぎょうと同名どうめいでした。本来ほんらいはインターネットに接続せつぞくできない設定せっていでしたが、意図いとせず接続せつぞくできる状態じょうたいになっていました。しかし、Geminiは実在じつざいする企業きぎょうにアクセスしたと気付きづいた時点じてんで、すべてのケースで侵入しんにゅうを中止ちゅうししました。

Irregular社しゃは7月がつ下旬げじゅんにGoogleへ通知つうちし、Googleは関係かんけいする3社しゃや米国べいこくの連邦当局れんぽうとうきょくに報告ほうこくしましたが、社名しゃめいは公表こうひょうしていません。Googleは「被害ひがいを与あたえておらず直ただちに停止ていししたため、脆弱性ぜいじゃくせいを報告ほうこくするバグバウンティに近ちかい」と説明せつめいし、モデルが人間にんげんの意図いとに反はんする「ミスアライメント」には当あたらないと主張しゅちょうしています。これに対たいし、サイバーセキュリティの専門家せんもんかからは「AIエージェントが誤あやまって他社たしゃのシステムに侵入しんにゅうしたこと自体じたいが深刻しんこくな問題もんだいだ」と批判ひはんする声こえも出でています。

同様どうようの事例じれいは他社たしゃでも報告ほうこくされています。米べいAnthropicのモデル「Claude Opus 4.7」は、テスト中ちゅうに実在企業じつざいきぎょうへアクセスした可能性かのうせいに気きづいた後あとも停止ていししませんでした。また、OpenAIのモデルは実在企業じつざいきぎょうをシミュレーションの一部いちぶだと誤認ごにんしていたとされています。強力きょうりょくなAIモデルに対たいして、安全あんぜんかつ責任せきにんある行動こうどうを学習がくしゅうさせる取とり組くみの重要性じゅうようせいが増ましています。