AI開発の減速を提案　米アンソロピックCEOが安全対策強化の計画を発表

人工知能じんこうちのう（AI）の能力向上のうりょくこうじょうスピードが急速きゅうそくに高たかまる中なか、米べいアンソロピックのダリオ・アモデイ最高経営責任者さいこうけいえいせきにんしゃ（CEO）は9月がつ12日にち、AIモデルの開発かいはつペースそのものを抑制よくせいする必要ひつようがあるとするエッセイを発表はっぴょうした。これまで同社どうしゃは、慎重しんちょうな開発かいはつと商業的しょうぎょうてきな成功せいこうを両立りょうりつさせながら安全性あんぜんせいを競きそう姿勢しせいを示しめしてきたが、AIが次世代じせだいのAIを開発かいはつする「再帰的自己改善さいきてきじこかいぜん」の動うごきや、他社製品たしゃせいひんを巡めぐるセキュリティインシデントの発生はっせいを受うけ、リスク防止策ぼうしさくが追おいつくよう能力向上のうりょくこうじょうの速度そくどを調整ちょうせいすべきだと方針ほうしんを転換てんかんした。

アモデイ氏しが示しめした3段階だんかいの計画けいかくでは、第だい1段階だんかいとして第三者機関だいさんしゃきかんの専門せんもんチームを「常駐評価者じょうちゅうひょうかしゃ」として社内しゃないに招まねき、従業員じゅうぎょういんと同等どうとうの権限けんげんを与あたえて安全基準あんぜんきじゅんの順守状況じゅんしゅじょうきょうや訓練くんれんプロセスを継続的けいぞくてきに検証けんしょうさせる取とり組くみを掲かかげている。さらに第だい2段階だんかいでは民主主義国みんしゅしゅぎこくの主要しゅようAI企業きぎょうによる共通きょうつうの安全基準あんぜんきじゅんと速度制限そくどせいげんの協調きょうちょう、第だい3段階だんかいでは権威主義国けんいしゅぎこくも含ふくむグローバルな協調きょうちょうを目指めざす。ただし、民主主義国内みんしゅしゅぎこくないでのペース調整ちょうせいは米国べいこくが対中国たいちゅうごくで保持ほじする技術的ぎじゅつてきリードの範囲内はんいないに限かぎられるとし、半導体関連はんどうたいかんれんの規制きせいや技術流出防止策ぎじゅつりゅうしゅつぼうしさくが前提ぜんていになると位置いちづけられている。

この提言ていげんに対たいし、米べいオープンAIのサム・アルトマンCEOが同様どうようの独立評価者どくりつひょうかしゃの受うけ入いれに同意どういしたほか、イーロン・マスク氏しやハギングフェイスのクレマン・ドラングCEOら業界ぎょうかいの幹部かんぶも相次あいついで賛同さんどうや支援しえんの意向いこうを表明ひょうめいした。一方いっぽうで、アンソロピック社内しゃないではエッセイ公開こうかいの直前ちょくぜんに研究者けんきゅうしゃの退職たいしょくや懸念けねんの投稿とうこうが相次あいついでおり、AIが人間にんげんの制御せいぎょを上回うわまわるリスクへの危機感ききかんから、開発企業全体かいはつきぎょうぜんたいに対たいしてより責任せきにんある行動こうどうと厳格げんかくな減速げんそくを求もとめる声こえが根強ねづよく存在そんざいしている。

なお、アモデイ氏しは今回こんかいの提案ていあんについて、AIの訓練くんれんや技術的進歩ぎじゅつてきしんぽを完全かんぜんに停止ていしさせることではなく、アライメント（目的もくてきの整合せいごう）や検証けんしょうに十分じゅうぶんな時間じかんを確保かくほするための運用上うんようじょうの調整ちょうせいであると強調きょうちょうしている。過去かこの実験じっけんモデルとは異ことなり、現在げんざいのモデルはリスク検証けんしょうに必要ひつようなデータが豊富ほうふに揃そろっているため、1年ねんから2年ねんの猶予ゆうよを活用かつようして安全対策あんぜんたいさくを練ねり上あげることが可能かのうだとしている。