ローカル生成AIの魅力に迫る 中堅・中小企業が低コスト、低工数で生成AIをビジネスに適用する方法

ビジネスでの生成AIの活用を検討する中堅・中小企業が急増している。しかし、AIに割ける予算が限られる企業には導入が難しいといった現状がある。コストパフォーマンス良く生成AIをビジネスに適用する方法を届ける。

中堅・中小企業でも生成AI導入の機運が高まる

2022年に生成AI「ChatGPT」が登場したことで、ビジネスでの生成AI活用を検討する企業が規模の大小を問わず急増した。デル・テクノロジーズが従業員1000人以下の企業を対象に2017年から実施している「IT投資動向調査」の2023年版でも、中堅・中小企業の9割が生成AIの活用を意識していることが分かっている。

企業は、蓄積している社内データと生成AIを組み合わせて業務を自動化したり効率化したりするといった、高度な活用を目指している。ユースケースとして頻繁に挙げられるのは、社内の問い合わせ業務での利用だ。担当者不在で回答を得られないという問題を解決するため、生成AIを組み込んだチャットbotを導入したいと考える企業は多い。問い合わせ担当者は同じような対応で疲弊しがちなため、生成AIが回答することでモチベーション低下を防ぐこともできる。

専門サービスを提供している多くの企業は、製品の詳細情報やベテラン従業員のノウハウを蓄積し、生成AIが専門性の高い質問に答えられるシステムを作りたいと考えている。ベテラン従業員の定年退職を控えている企業での活用、コールセンター業務の自動化に生成AIを活用したいと考える企業もある。

多くの日本企業が直面している人材不足も、テクノロジーによる解決が期待されている。新たな人材の獲得や育成に苦慮している企業は、ベテラン従業員の退任によって強みの源泉であった知識やノウハウが失われる危機に直面しているためだ。

クラウド版生成AIサービスを導入する懸念

前述のデル・テクノロジーズの調査では、生成AIへの期待の高まりと同時に導入の課題や懸念も浮き彫りになった。企業が生成AIを導入する際に直面する特に大きな懸念はコストだ。

同調査で中堅・中小企業にAIへの投資額を聞いたところ、「1000万円以上」が9%、「500万以上、1000万円未満」が11%、「300万以上、500万円未満」が12%となり、300万円以上の投資意欲を持つ企業が全体の3割強を占めた。しかし、7割近くの企業が300万円未満の投資しか許容できないと答えている。

中堅・中小企業のAIへの投資想定額(出典:デル・テクノロジーズの提供資料)

デル・テクノロジーズによると、一般的なクラウド版生成AIサービスの導入コストは約65万円だ。ただ、社内データの学習領域としてストレージを利用する必要があり、それが3GB当たり月額6.5万円かかると想定される。仮に学習データが300GBまで膨らむと、毎月650万円の負担となる。

社内データと生成AIを組み合わせることでビジネスに特化した回答を得られるため、活用が進むほどAIに利用させるデータ量は大きくなる。クラウド版生成AIサービスの学習に使うデータストレージの契約条件は従量課金であるため、仮に初期コストが安くても、生成AIの活用が進むにつれてランニングコストが増大する。前述したように、AIへの投資額が1000万円を上回る中堅・中小企業が9%しか存在しないことからも、クラウドのコストを負担するのは難しいことが分かる。

クラウド版生成AIサービスの導入に関する懸念は他にもある。まずはセキュリティだ。社内情報を生成AIに学習させることで、そのデータが他社にも利用されて情報が漏えいすることを懸念する企業は多い。

クラウド版生成AIサービスはプラットフォーマーが用意する仕組みに依存することになる。生成AIの技術は日々進化し、新たなサービスが次々と登場する。プラットフォーマーに依存することで、新たな生成AIを使うためにはクラウドごと乗り換える必要が生じるかもしれない。インターネット経由で生成AIを使うためネットワークの品質にも気を配る必要があり、クラウドベンダーのトラブルによって利用に支障が出ることもある。

運用コストの問題を解決する「ローカル生成AIパッケージ」

クラウドで生成AIを利用するのは難しいと考える企業に好適な生成AIサービスが、デル・テクノロジーズの「ローカル生成AIパッケージ」だ。生成AIを搭載したハードウェアを購入してデータセンターに設置することで、システムに生成AIを適用できる。

ローカル生成AIパッケージはクラウドの生成AIサービスに比べてさまざまなメリットがある。特に効果が大きいのはコストが小さい点だ。ローカル生成AIパッケージはハードウェア購入という初期コストが必要だ。しかし、クラウドの場合は学習データの増大に従ってストレージコストが増加するため、ランニングコストでローカル生成AIパッケージの初期コストを上回る。

デル・テクノロジーズのローカル生成AIパッケージは用途や利用規模によって、複数のハードウェア構成から選択できる。PC版は、「Precision 5860 タワー」の筐体にGPU1基と1TBのストレージで83万円から導入できる。導入コンサルティングとPoC(Proof of Concept:概念実証)の実施支援の初期コストは158万円、実稼働時の運用保守費は年間で約53万円であるため、AI予算が少ない中堅・中小企業でも利用できる価格帯だ。

これに対して一般的なクラウド版生成AIサービスは、学習データが300GBに膨らんだ場合、毎月650万円の費用が発生する。学習データが大きくなるとクラウドの費用が数カ月でローカル生成AIパッケージの初期費用を上回るのが分かる。

また、学習データはローカル生成AIパッケージのハードウェアにあるため情報漏えいの心配がない。「学習データが他社に利用されることはない」という安心感もある。

ローカル生成AIパッケージはクラウドよりも開発の自由度が高く、他の生成AIを利用したくなってもソフトウェアの変更のみで済むことが多い。社内ネットワークだけで生成AIを利用できるため、外部要因によるネットワーク品質の低下リスクが少ない。

サーバ版も用意されており「PowerEdge R760」でCPUを2基、ストレージ1TB、GPUを2基搭載しても価格は約650万円、導入コンサルティングとPoCの実施支援の初期コストはPC版と同様だ。

PoC実施から本番運用、拡張まで伴走支援

ローカル生成AIパッケージ導入のPoCは6カ月間を予定し、前半3カ月で環境の構築、残りの3カ月で実証実験を実施する。

最初に顧客と相談して生成AIを適用する業務を決定し、要件定義する。その結果に基づいてデル・テクノロジーズがデータベースのテーブルを設計したりシステムを構成したり、ファイルを配置したりする。並行して顧客はPoCに必要なデータを準備する。ハードウェアは、デル・テクノロジーズがMetaの生成AI「Llama 2」をインストールしてから納品し、顧客がPoC用のデータをインプットする。ここまでが前半3カ月の環境構築だ。

後半の3カ月で、顧客がPoCとして生成AIを利用する。ここではデータの不足や重複を調整し、精度を向上させる。検証と調整を繰り返すことで、どの業務に生成AIが有効なのかを明らかにし、本番稼働に移る。

専門家のサポートによって6カ月で生成AIを導入可能(出典:デル・テクノロジーズの提供資料)

生成AIのPoCで取り組むべきことは多い。デル・テクノロジーズ、協調するパートナー企業の専門家が伴走して支援することで、費用対効果を含めた生成AIの活用方針を決め、本番実装できる。中堅・中小企業にとっては心強いサポートだ。

生成AIを誰でも当たり前に利用できる日が来るだろう。それは企業にとって朗報であると同時に、取り組まなければビジネスで後れを取ることを意味する。生成AIによるイノベーションを自社の競争力につなげるため、ローカル生成AIパッケージを選択肢に加えるのもよいだろう。

インテル® Xeon® プロセッサーを搭載
パフォーマンスと拡張性に優れたミドルタワー Dell Precision 5860 Tower

多彩なグラフィックスオプションを提供するメインストリームモデルのワークステーション。
拡張性のあるミドルタワーが、プロジェクトタイムラインの前倒しや変動するワークロードへの対応を可能にします。
インテル® Xeon® プロセッサーは、VFX、3Dレンダリング、複雑な3D CAD、AI開発、エッジ導入向けに構成可能なタワー型モデルで最適なワークステーション・パフォーマンスを実現します。

>Dell Precision 5860 タワー 製品ページはこちら

この記事は TechTargetジャパン(https://techtarget.itmedia.co.jp)に2024年4月に掲載されたコンテンツを転載したものです。
https://members.techtarget.itmedia.co.jp/tt/members/2404/08/news01.html/

<前の記事へ   次の記事へ>

About the Author: Dell Technologies