企業が生成AIを導入する際、最初に直面するのがLLMの選択です。一度特定のLLMに学習データを投入すると、途中で別のLLMに乗り換えるのは容易ではありません。学習コストが再びかかるからです。
そのため、「このLLMは数年後も最先端でいられるだ ろうか?」という不安を抱えながら、限られた選択肢の中から選ばざるを得ない状況が続いていました。

その様な中で、軽量LLMが注目されるのは、学習量が少なく低コストで開発できる点だけではありません。その他の利点として、プロンプトに対する高速なレスポンス、日本語に特化した学習、業務（コード生成、稟議書作成、総務FAQ等）の専門的な知識を活かしたLLMなどが挙げられます。 しかし最大の強みは、各社が自前で開発したLLMのソースコードを保有しており、オンプレミス環境へのデプロイが可能な点です。これにより、クラウドへのデータアップロードに抵抗のある企業ニーズに応えることができ、大規模データセンターで稼働するクラウドサービス前提のLLMでは実現できない差別化を実現します。

ただし、軽量LLMにも課題はあります。汎用性や知識の広さでは、やはり大規模LLMに劣ります。では、どちらかを選ばなければいけないのでしょうか?ここで登場するのが「AIエージェント」という考え方です。AIエージェントとは、人の代わりにAIが業務を進める仕組みです。具体的には、人がAIに作業を指示し、AIが作成した計画を確認しながら業務を進めていきます。

そしてここで重要なのが、MCP（Model Context Protocol）という新しい技術。これは、AI同士やAIとシステムが連携するためのインターフェースです。
MCPにより、軽量LLMと大規模LLMは連携できるようになりました。つまり、「どちらかを選ぶ」のではなく「両方を使い分ける」ことが可能になったのです。

MCPによる連携で、下図のような使い分けが実現します。

たとえば、社内の機密データを扱う部分は、オンプレミスの軽量LLMが担当し、一般的な業務計画や文書作成は大規模LLMが担当する、といった「良いとこどり」ができるようになります。また、この環境はSIer各社にとっても追い風です。独自のノウハウを蓄積したオリジナルのAIソリューションを開発しやすくなったことが、AIエージェントがトレンド化している背景の一つです。

IBMは以前から、AIエージェントの実現を見据えた「watsonx Orchestrate」というソフトウェアを提供しています。これは、AI同士、AIと業務システム、SaaSなどを連携させて業務を自動化するための基盤です。MCPはオープンソースですが、IBMのサポートを受けながら開発できることは、実装のハードルを下げる大きなメリットです。また重要なのは、AIエージェントによる自動化は、すべてをAIで行うことが最適解ではないという点です。RPAやデータ統合ツールなど、既存技術との組み合わせが鍵を握ります。IBMおよびそのパートナーには、すでに開発経験と知見の蓄積があり、実践的なアドバイスが期待できます。AIエージェントにご興味をお持ちの際は、IBMのVAD（Value Added Distributor）であるネットワールドにご相談ください。

前回の記事では、「AIエージェント」という新しい仕組みが、LLM選択の常識を変えつつあることをご紹介しました。
ポイントは、「汎用型の大規模LLM」と「特化型の軽量LLM」を組み合わせることで、両者の強みを活かせるという点でした。特に、軽量LLMのオンプレミス対応は、機密データを扱う企業にとって大きな魅力です。

今回ご紹介するネットワールドのサービスは、まさにこの「オンプレミス×軽量LLM」の実力を体感いただける環境です。
1つ目は自社固有のモデル開発が可能 - 自社データで『賢い』AIを育てられる
watsonx.aiは自社が蓄積してきた業務データやドキュメントを活用し、独自のAIモデルを構築できます。具体的な特長として「業界特有の専門用語にも対応した回答が可能」、「社内の過去事例やナレッジを学習させることで、的確な提案を生成」「チューニング→構築・調整→デプロイまで、watsonx.aiのプラットフォーム上で一貫して実行」の3つが挙げられます。例えば、製造業なら「過去の品質トラブル事例」を学習させて不良品予測AIを作る、金融業なら「過去の審査データ」を元にリスク評価AIを構築する、といった活用が可能です。汎用AIでは対応できない、自社ビジネス特有の課題に「ピンポイント」で応えられるAIが手に入ります。
2つ目、オープンソースとIBMモデルの併用 - 『ベンダーロックイン』からの解放
IBMが独自開発したGraniteシリーズだけでなく、Llama（Meta）、Mistral（Mistral AI）などのオープンソースLLMも自由に選択・組み合わせできます。具体的な特長として「用途に応じてモデルを使い分け」「将来の技術進化に柔軟に対応」「特定ベンダーへの依存リスクを回避」の3つが挙げられます。「一つのLLMに縛られる」リスクを避けつつ、常に最新・最適なAI技術を活用できる柔軟性が得られます。
3つ目、エンタープライズグレードの信頼性 - 『本番運用』を見据えた安心設計
watsonx.aiは、Red Hat OpenShift（Kubernetes基盤）上で動作します。これは単なる「開発環境」ではなく、本番運用を前提とした企業向けプラットフォームです。
具体的には「運用管理の容易さ」「ガバナンス対応」「セキュリティ」「スケーラビリティ」の4つが挙げられます。
「PoC（概念実証）では動いたけど、本番運用に耐えられない」という失敗を防げ、最初から本番を見据えた設計で、安心して導入できます。

軽量なLLM（10B以下のパラメータ数）の場合は、GPU1-2基で稼働するモデルもあり、サーバーコストを抑えて導入することが可能です。
また軽量なLLMの中には従量課金ではなく、LLMを使い放題で利用できるモデルもあり、オンプレミス環境なら何度繰り返して利用しても追加コストゼロ。お客様は予算を気にせず、検証を進められます。
watsonx.aiには、IBM独自開発のGraniteモデルをはじめ、Llama、Mistralなど、複数のオープンソースLLMが用意されています。エンドユーザー様の用途に応じて、最適なモデルを選定し、比較検証できる環境が整っています。次々と新しいモデルが追加されており、常に最新のAI技術を試すことが可能です。

ネットワールドの貸出環境では、以下のような実践的な検証が可能になります。
（1）RAG（Retrieval-Augmented Generation）:社内文書を活用した質問応答システムの構築
（2）コード生成:業務アプリケーション開発の効率化
（3）AIエージェント:複数のAIを連携させた自動化フローなど
さらには、生成AIのチューニングや、Red Hat OpenShift（SNO:Single Node OpenShift）のマネージド環境も提供しており、インフラ面の検証も同時に行えます。
このほか、ビルドセンターでのハンズオン対応専用のAIセンターでのNVIDIA GPU搭載サーバーによるPoC環境提供など、フルラック24本を常設した本格的な検証施設で、エンドユーザー様の開発をバックアップします。
AIエージェントにご興味をお持ちの際は、IBMのVAD（Value Added Distributor）であるネットワールドにご相談ください。

オンプレミスAI検証環境トライアル お申し込みはこちら