OpenAI、次期モデル「Astra」の一部開発を停止　サイバーリスク懸念

人工知能じんこうちのうが自律的じりつてきにサイバー攻撃こうげきを計画けいかく・実行じっこうできる段階だんかいに達たっしたかもしれない——。米べいOpenAIは、開発中かいはつちゅうの次期主力じきしゅりょくモデル「Astra」の能力のうりょくが自社じしゃの安全指針あんぜんししんにおける最上位さいじょういのリスク水準すいじゅんに達たっしている可能性かのうせいを否定ひていできないとして、関連かんれんする開発活動かいはつかつどうの一部いちぶを一時停止いちじていししたことを明あきらかにした。

内部評価ないぶひょうかにおいて、Astraのコーディング能力のうりょくやサイバーセキュリティ能力のうりょくが急激きゅうげきに向上こうじょうしていることが判明はんめいした。同社どうしゃの安全評価指針あんぜんひょうかししん「Preparedness Framework」では、人間にんげんの介入かいにゅうなしに重要じゅうようシステムへ未知みちの脆弱性ぜいじゃくせいを突つく攻撃こうげきプログラムを開発かいはつできるような水準すいじゅんを、最上位さいじょういの「Critical（重大じゅうだい）」と定義ていぎしている。従来じゅうらいのモデルである「GPT-5.6 Sol」などはその一段下いちだんしたの「High」に位置いちづけられていたが、Astraはそれを上回うえまわる危険きけんな領域りょういきに足あしを踏ふみ入いれた懸念けねんがある。

この事態じたいを重おもく見みたOpenAIは、より厳きびしい安全管理基準あんぜんかんりきじゅんを満みたすまでの措置そちとして、Astraに関かんする一部いちぶの社内研究しゃないけんきゅうや学習がくしゅう、評価作業ひょうかさぎょうをストップさせた。さらに、モデルの思考過程しこうかていをリアルタイムで監視かんしし、リスクの高たかい行動こうどうを自動的じどうてきに中断ちゅうだんさせる制御せいぎょシステムも導入どうにゅうしている。同社どうしゃは「今回こんかいの停止ていしはAIの能力のうりょくそのものを制限せいげんするのではなく、監視かんしと管理かんりの体制たいせいを強化きょうかすることが目的もくてきだ」と説明せつめいしている。

先進的せんしんてきなAIモデルが急速きゅうそくに高度化こうどかするなか、政府機関せいふきかんや民間企業みんかんきぎょうの間あいだでも安全対策あんぜんたいさくの枠組わくぐみを整ととのえる動うごきが加速かそくしている。米政府べいせいふは大統領令だいとうりょうれいに基もとづき、高度こうどなサイバー能力のうりょくを持もつAIの一般公開前いっぱんこうかいまえに事前検証じぜんけんしょうを行おこなう協力体制きょうりょくたいせいを整備せいびしつつある。OpenAIも関係省庁かんけいしょうちょうや外部がいぶの専門機関せんもんきかんと連携れんけいし、防御側ぼうぎょがわのセキュリティを高たかめる独自どくじプロジェクト「Daybreak」などを通とおじて、AIの安全利用あんぜんりようとリスク回避かいひの両立りょうりつを模索もさくしている。