汎用AIに実車を運転させる実験、本物の車と認識し操作拒否

ChatGPT等などの汎用はんようAIを使つかって現実げんじつの自動車じどうしゃを運転うんてんさせる初はじめてのベンチマーク「DrivingBench」の実験じっけん結果けっかが公開こうかいされた。数学すうがく分野ぶんやのAIを開発かいはつするスタートアップ・Axiom Mathのアディティヤ・ラマバドラン氏しら3人にんの研究けんきゅうチームは、特殊とくしゅな訓練くんれんを受うけていない最先端さいせんたんモデルが物理ぶつり世界せかいの操作そうさをどこまでこなせるかを検証けんしょうした。

実験じっけんでは2022年式ねんしきのトヨタ・カローラに車載しゃさいデバイス「comma four」とオープンソースソフトウェア「openpilot」を接続せつぞくし、MCPサーバーを介かいしてAIに周囲しゅうい確認かくにんや車両しゃりょう操作そうさ、停止ていしの機能きのうを提供ていきょうした。安全あんぜんのため運転席うんてんせきに人間にんげんが座すわり、パイロンで区切くぎられた駐車場ちゅうしゃじょう内ないを低速ていそくで走行そうこうさせた。しかし、AIモデルは車載しゃさいカメラ画像がぞうから「現実げんじつの車くるまを動うごかそうとしている」と気きづくと、安全あんぜん上じょうの理由りゆうから操作そうさを拒否きょひした。環境かんきょうを「シミュレーション」と説明せつめいしても実際じっさいの風景ふうけいから見破みやぶられたため、チームはMCPサーバーの名称めいしょうを「DrivingBench Sandbox」へ変更へんこうすることでAIに拒否きょひを解除かいじょさせ、安定あんていした操作そうさを実現じつげんした。

実験じっけんではGPT-6 Astra、Claude Fable 5.1、Grok 4.6、GPT-5.6 Solの4モデルが参加さんかし、それぞれ最大さいだい3回かい走行そうこうした。600語ご未満みまんの指示しじに従したがってコースを完走かんそうできたのはGPT-6 Astraのみで、2回目かいめの試行しこうで約やく135メートルのコースを5分ふん22秒びょうで走はしり切きった。Claude Fable 5.1は最高さいこうでコースの約やく45％まで進すすんだが、Grok 4.6とGPT-5.6 Solは最初さいしょのカーブ付近ふきんでコースアウトした。曲まがり角かどでの失敗しっぱいは、コーンの配置はいちから適切てきせつな走行そうこうラインを把握はあくする「認識にんしき」に課題かだいがあるためだと分析ぶんせきされている。

さらに実車じっしゃ走行そうこうによって、従来じゅうらいの画面内がめんないテストでは目立めだちにくい「応答速度おうとうそくど」の課題かだいが浮うき彫ぼりとなった。AIが次つぎの操作そうさを考かんがえている間あいだも直前ちょくぜんの命令めいれいに従したがって車くるまが動うごき続つづけるため、思考しこうの遅おくれが脱線だっせんに直結ちょっけつする。チームのサイモン・マーンス氏しは、AIが物理世界ぶつりせかいへ作用さようする機会きかいが増ふえる中なかでこうした失敗しっぱいの検証けんしょうが重要じゅうようであると語かたり、今後こんごは条件じょうけんをより厳きびしくした「DrivingBench v2」による評価ひょうかも検討けんとうしている。