AIを使い分ける時代へ…シャープの「LLMモデルルーティング」とは？

2026年9月4日

近年、生成AIを搭載した製品が注目を集めていますが、当社ではクラウドとエッジを組み合わせた独自のAI活用技術「CE-LLM（Communication Edge – Large Language Model）」^※¹をベースとした「人に寄り添う」製品・ソリューションの展開を進めています。

8月25日に公開したブログでは、AIとの何気ない雑談で“心地よさ”を感じてもらう「人に寄り添う心地よいAI会話技術」を紹介しましたが、心地よい対話を実現するには、生成AIの応答速度や運用コストも重要な要素です。当社ではこれらの課題に対する開発を進めており、これらもCE-LLMを構成する技術です。

今回は、本技術の開発担当山本、海老原の両名に、その応答品質や速度、コストとのバランスを最適化するための技術「LLMモデルルーティング」と当社の取り組みについて取材しました。

なお、当社は「2026年度人工知能学会全国大会^※2」で「人に寄り添う心地よいAI会話技術」の評価基準を発表しましたが、「LLMモデルルーティング」についても研究内容を発表していますので、その概要について紹介します。

※1　シャープ独自のAI技術CE-LLM（Communication Edge – Large Language Model）。エッジデバイスにAI技術を搭載し、必要に応じてクラウドAIもシームレスに活用。スムーズで心地よいコミュニケーションを実現します。AIがより身近になり、生活やビジネスシーンに自然に溶け込む世界を実現します。
※2　一般社団法人人工知能学会（JSAI）は、日本におけるAI（人工知能）研究の発展と知識普及を目的とした学術団体。第40回を迎えた2026年度は群馬県高崎市で全国大会が開催されました。当社は2件発表し、本「LLMモデルルーティング」に関しては、「日本語タスクにおけるLLMモデルルーティングの性能評価」というタイトルにて発表。

―　「LLMモデルルーティング」とは？

（山本）LLM（大規模言語モデル）の性能が進化し、より高品質なAI応答ができるようになる一方で、運用コストの増加という課題があり、お求めやすい製品・サービスの提供が難しくなる恐れがあります。また、高性能言語モデルでは計算量が多く、クラウド経由で処理を行うため応答時間が長くなり、会話のテンポが悪くなる場合もあるという課題もあります。つまり、お客様からの問いかけなど、すべての入力を高性能な言語モデルで処理するのが最適とは限らず、入力内容に応じてモデルを使い分けるアプローチが重要です。そのための技術が、複数のLLMから最適なモデルを選択する「LLMモデルルーティング」です。簡単な質問や軽量な処理には低コストで高速なモデル、複雑な推論などには高性能モデルを割り当てることで、応答品質とコストのバランスを最適化するものです。

―　シャープが取り組むアプローチについて教えてください。

（山本）シャープは低コスト・高速なモデルとして、エッジデバイス（端末）に着目しました。PC・スマホ・家電・車載機器などの当社独自のエッジデバイス上で独自のAI処理をするLLMを活用するために、開発を進めているのがクラウドAIとエッジAIを組み合わせた独自技術「CE-LLM」です。

「LLMモデルルーティング」の活用により、独自のハードウェアとAIを組み合わせたエッジLLMとクラウドLLMを、お客様の問いかけに応じて賢く使い分け、低コストかつ高速な応答が実現できると考えています。

―　「2026年度 人工知能学会全国大会」で発表した内容を簡単に紹介してください。

（海老原）「LLMモデルルーティング」は、実は海外では英語での評価による先行研究が進められておりますが、日本語での検証事例はほとんどありません。当社が展開を進めている「人に寄り添う」製品・ソリューションは、日本を最初のターゲットとしていますので、日本語環境での検証・評価を行うことにしました。CE-LLMの開発は数年前から進めていますが、「LLMモデルルーティング」に関する研究成果を対外的に発表するのは今回が初めてです。

■研究内容の概要

本研究は、お客様の質問内容に応じて、**高性能だがコストの高いクラウドLLM（強モデル）**と、**性能はやや低いが低コストなエッジLLM（弱モデル）**を使い分ける「LLMモデルルーティング」の有効性を、日本語環境で評価したものです。

＜目的＞

品質・コスト・応答速度の優れた対話システム構築を目指し、日本語での生成タスクにおいて、LLMモデルルーティングの有効性を検証します。

＜評価方法＞

具体的には、まず過去の質問と、それぞれに対してどちらのモデルが適していたかという評価結果を蓄積します。そして、新しい質問が来た際には、過去の事例を参考にして強モデルと弱モデルのどちらを使うかを選択します。そのうえで、モデル選択によって発生するコストと応答品質を評価し、両者のトレードオフを分析しました。

実験の全体像。過去の類似クエリを参考にして判断を行うkNNベースのルーターを用い、
複数の日本語のベンチマークにおいて、ルーティングによるコストと品質のトレードオフを評価。

＊強モデル：GPT-4o、弱モデル：Lamma3-ELYZAとし、日本語の自由記述型ベンチマーク3種類を使用しました。また、ルーティング判断のための学習データとして、強モデルと弱モデルの回答を直接比較する「ペアワイズ比較ラベル」、弱モデルの回答品質のみから推定する「弱モデル疑似ラベル」の2種類を検証しました。

＜結論＞

日本語の対話タスクにおいても、質問内容に応じて強モデル（クラウドLLM）と弱モデル（エッジLLM）を使い分けるモデルルーティングは有効であり、特に、弱モデルの応答品質をもとにした方法では、コストを抑えながら品質を改善できるケースが見られました。

ルーティングのコスト（横軸）と品質（縦軸）のトレードオフを評価した結果の一部。緑線がルーティング結果。全体の約3割だけ高性能モデル（強モデル）を使うことで、軽量モデル（弱モデル）だけの場合に比べて、性能差の半分程度を取り戻せている。

一方、すべてのタスクで有効というわけではなく、タスクの性質やモデル間の性能差によって効果が大きく変わることも分かりました。ここは今後の課題となります。

―　まだ課題はあるようですが、日本語環境でのクラウドとエッジを使い分けるモデルルーティングが有効というのが検証できたことで、CE-LLMの活用が進みそうですね。最後に、今後の展開や想いなどを教えてください。

（海老原）現在、大規模・高性能なモデルが進化する一方、小型で軽量なエッジAIの開発も活発化しています。この状況の中で、今後は新たなAIモデルを開発するだけでなく、多様なAIを状況に応じて最適に使い分け、組み合わせることが重要になると考えています。今回の研究で取り組んだ「LLMモデルルーティング」は、その第一歩として、質問内容に応じて強いモデルと弱いモデルを切り替える技術ですが、今後はさらに発展させ、使い分けの対象をAIモデルだけでなく、複数のAIやサービスを状況に応じて最適に選択・活用できる仕組みへ発展させていきたいと考えています。そして、最終的には、さまざまなAIやサービスを状況に応じて最適に組み合わせる「統合AI」のようなものへと発展させ、より便利で効率的なAI活用ソリューションを実現したいです。

―　ありがとうございました。

これまでの生成AI製品の中には、こちらからの問いかけに対する回答に時間がかかるものもあり、応答が間延びする印象を受けることもありましたが、CE-LLMの技術が発展し、活用が進むことで、そうした課題も解消されそうです。研究をさらに重ね、人に寄り添うシャープ製品の実用化・進化に貢献して欲しいと思います。

（広報H）　　　　　　

＜関連サイト＞
■note：モデルを「賢く使い分ける」AI対話のアプローチ
■人工知能学会：日本語タスクにおけるLLMモデルルーティングの性能評価（2026年度人工知能学会全国大会（第40回）プログラム）
■SHARP Blog：