企業が生成AIを導入する際、最初に直面するのがLLMの選択です。一度特定のLLMに学習データを投入すると、途中で別のLLMに乗り換えるのは容易ではありません。学習コストが再びかかるからです。
そのため、「このLLMは数年後も最先端でいられるだ ろうか?」という不安を抱えながら、限られた選択肢の中から選ばざるを得ない状況が続いていました。

その様な中で、軽量LLMが注目されるのは、学習量が少なく低コストで開発できる点だけではありません。その他の利点として、プロンプトに対する高速なレスポンス、日本語に特化した学習、業務（コード生成、稟議書作成、総務FAQ等）の専門的な知識を活かしたLLMなどが挙げられます。 しかし最大の強みは、各社が自前で開発したLLMのソースコードを保有しており、オンプレミス環境へのデプロイが可能な点です。これにより、クラウドへのデータアップロードに抵抗のある企業ニーズに応えることができ、大規模データセンターで稼働するクラウドサービス前提のLLMでは実現できない差別化を実現します。

ただし、軽量LLMにも課題はあります。汎用性や知識の広さでは、やはり大規模LLMに劣ります。では、どちらかを選ばなければいけないのでしょうか?ここで登場するのが「AIエージェント」という考え方です。AIエージェントとは、人の代わりにAIが業務を進める仕組みです。具体的には、人がAIに作業を指示し、AIが作成した計画を確認しながら業務を進めていきます。

そしてここで重要なのが、MCP（Model Context Protocol）という新しい技術。これは、AI同士やAIとシステムが連携するためのインターフェースです。
MCPにより、軽量LLMと大規模LLMは連携できるようになりました。つまり、「どちらかを選ぶ」のではなく「両方を使い分ける」ことが可能になったのです。

MCPによる連携で、下図のような使い分けが実現します。

たとえば、社内の機密データを扱う部分は、オンプレミスの軽量LLMが担当し、一般的な業務計画や文書作成は大規模LLMが担当する、といった「良いとこどり」ができるようになります。また、この環境はSIer各社にとっても追い風です。独自のノウハウを蓄積したオリジナルのAIソリューションを開発しやすくなったことが、AIエージェントがトレンド化している背景の一つです。

IBMは以前から、AIエージェントの実現を見据えた「watsonx Orchestrate」というソフトウェアを提供しています。これは、AI同士、AIと業務システム、SaaSなどを連携させて業務を自動化するための基盤です。MCPはオープンソースですが、IBMのサポートを受けながら開発できることは、実装のハードルを下げる大きなメリットです。また重要なのは、AIエージェントによる自動化は、すべてをAIで行うことが最適解ではないという点です。RPAやデータ統合ツールなど、既存技術との組み合わせが鍵を握ります。IBMおよびそのパートナーには、すでに開発経験と知見の蓄積があり、実践的なアドバイスが期待できます。AIエージェントにご興味をお持ちの際は、IBMのVAD（Value Added Distributor）であるネットワールドにご相談ください。