マイクロソフト、人による制御を最優先するAI行動規範案を公表

人工知能じんこうちのうの開発かいはつが急速きゅうそくに進すすむなか、米べいマイクロソフトのAI部門ぶもんは、人間にんげんによる制御せいぎょと安全性あんぜんせいの確保かくほを最優先さいゆうせんとする行動規範こうどうきはん「AI Code of Conduct」の草案そうあんを公開こうかいしました。超知能ちょうちのうの開発競争かいはつきょうそうが過熱かねつし、AIが制御不能せいぎょふのうに陥おちいるリスクへの懸念けねんが高たかまるなか、歯止はどめをかける狙ねらいがあります。

規範案きはんあんでは「人ひとはAIより重要じゅうようである」という明確めいかくな前提ぜんていを掲かかげ、AIは人ひとではなく道具どうぐにすぎず「AIの福祉ふくし」という考かんがえ方かたは誤あやまりだと規定きていしています。具体的ぐたいてきには、人間にんげんによるシステムの停止ていしや修正しゅうせい、電源でんげんオフにAIが決けっして抵抗ていこうしてはならないことや、与あたえられた権限けんげんを超こえて自発的じはつてきに目標もくひょうを設定せっていすることを固かたく禁きんじています。また、人間にんげんによる統制とうせいを回避かいひし得える「万能型ばんのうがたの超知能ちょうちのう」を追求ついきゅうする開発競争かいはつきょうそうには加くわわらない姿勢しせいを明あきらかにしました。

さらに「絶対的制約ぜったいてきせいやく」として、兵器へいきへの応用おうようや大規模だいきぼな被害ひがいをもたらす行為こうい、攻撃的こうげきてきなサイバー作戦さくせん、大規模だいきぼな有害ゆうがいマニピュレーション（操作そうさ）、子こどもの安全あんぜんを脅おびやかす行為こういなどを全面的ぜんめんてきに禁止きんししています。同社どうしゃは本規範ほんきはんをモデルの「トレーニングマニュアル」と位置いちづけており、今後こんご6週間しゅうかんにわたって意見いけんを募集ぼしゅうしたうえで年内ねんないに改訂版かいていばんをまとめ、2027年ねん以降いこうのモデル開発かいはつや評価ひょうかの指針ししんとして運用うんようする方針ほうしんです。