業務で人工知能(AI)を使う企業が増えるなか、想定を超える利用料に頭を抱える現場が広がっています。調査対象となった企業の3社に1社が、すでに年間のトークン料予算を超過していました。コンサルティング大手のアクセンチュアが世界17カ国の経営層750人を対象に行った調査によると、今後2年間でトークン消費量は78%増える見通しで、企業の負担はさらに重くなる懸念があります。
実は、費用の急増を招いている大きな要因は「過剰な性能のモデル」の利用です。アクセンチュアが米労働省の職業情報データベースをもとに9368件の業務タスクを分析したところ、最先端の「フロンティアモデル」の能力を真に必要とするタスクは全体の約1割にとどまりました。それにもかかわらず、実際にはAIへの依頼の54%が必要以上の高性能モデルに送られており、簡単な作業にまで高価な処理能力が使われている実態が浮き彫りになっています。
こうした無駄を抑える手立てとして注目されているのが、作業の内容に応じて最適なAIモデルへ自動で振り分ける「モデルルーティング」です。経営層の多くがコスト削減に最も重要だと考えているものの、実際に導入している企業は30%にとどまります。アクセンチュアの試算によると、仕事に合わせたモデルの使い分けや、部門ごとの使用責任の明確化などを徹底すれば、今後2年間で見込まれるトークン費用の増加を最大44%抑えられる可能性があるといいます。
AIの利用料を管理することは、単なる費用の節約にとどまりません。今回の調査では、トークン料の支出が定量的な事業成果に結びついていると証明できている企業は2割強にすぎず、投資に見合う効果が得られているか不透明な状況が続いています。高性能なモデルばかりを求めるのではなく、仕事の難しさに応じてモデルを選び、成果につなげる経営の仕組みを作れるかどうかが、企業のAI活用の成否を分けそうです。