コラム

CTC教育サービス・ホーム　＞　コラム　＞　VMware 海外動向　＞　第90回　VMware Private AI：生成AIを身近にして全企業のイノベーションを引き起こす

VMware 海外動向

CTC 教育サービス

[IT研修]注目キーワード Python UiPath(RPA) 最新技術動向 Microsoft Azure Docker Kubernetes

第90回　VMware Private AI：生成AIを身近にして全企業のイノベーションを引き起こす (野田貴子) 2023年10月

こんにちはー。野田貴子です。

VMware vSphere バージョンアップ応援キャンペーン！がはじまっています。本キャンペーンでは、過去バージョンを理解している方のバージョンアップだけでなく、初めてVMwareを学ぶ方もキャンペーン価格にてお申込みいただけます。また、試験バウチャー付コースもキャンペーン対象のため、最新のVCP認定を目指す方にもおすすめです。
興味がある方は以下をご覧ください。
https://www.school.ctc-g.co.jp/campaign/20230704_090641.html

生成AIは、今後10年間で企業を一変させてしまう最大のトレンドの1つです。機械が音楽を作り、人間の創造力を高め、複雑な問題を解決できるようになる事実には計り知れない可能性を秘めています。生成AIの用途は多岐にわたり、コンテンツ作成、コード生成、優れたコンタクトセンターサービスの提供、IT運用の自動化、データ生成のための洗練されたチャットボットなどがあります。AIが生産性向上を促し、新たな体験を可能にすることで、営業、マーケティング、ソフトウェア開発、顧客業務、文書処理など、一般的なビジネスにおける多くの中核機能が一変することでしょう。このAIイノベーションの核となるものは、巨大で多様なデータセットを処理する大規模言語モデル（LLM）です。

S&P Global Market Intelligence傘下の451 Researchは、生成AI市場の収益が2023年の37億ドルから2028年には363億6000万ドルへと驚異的な成長を遂げると予測し、その年間平均成長率は57.9％にもなっています。

fig01

課題

生成AIは大きなイノベーションをもたらすテクノロジーではありますが、企業は生成AIの導入において困難な課題に直面しています。

プライバシー：企業のデータや知的財産は非公開であり、企業独自のニーズに対応するために大規模な言語モデルをトレーニングする際には極めて貴重な資源になります。これらのデータは外部への漏洩を防ぐために保護する必要があります。
選択：企業は生成AIの用途や組織の目的にとって最適な大規模言語モデル（LLM）を選択しなければなりません。そのためには、幅広いエコシステムや多様な選択肢があることが不可欠になります。
コスト：新興ベンダーやSaaSコンポーネント、最先端のAIソフトウェアが次々と生成AIモデルを発表し、急速に進化しているため、そのアーキテクトは複雑でコストがかかります。
パフォーマンス：モデルのテスト中やデータクエリの実行時にインフラの利用量が大幅に増加します。大規模な言語モデルはその性質上、大抵は膨大なデータセットの管理を必要とします。その結果、これらのモデルはインフラに大きな負荷をかけることになり、パフォーマンスの問題につながります。
コンプライアンス：さまざまな業界の組織には、生成AIを利用するエンタープライズソリューションが満たさなければならないコンプライアンスがあります。アクセス制限やIT監査対策は考慮すべき重要なポイントです。

VMware Private AI

本日、私たちはVMware Private AIを発表します。これを使うと、企業データのプライバシーやコントロール、オープンソースや商用AIソリューションの選択、迅速なTTV、統合されたセキュリティと管理ができるようになります。

VMware Private AIでは、NVIDIAのAIソフトウェア、オープンソースコミュニティのリポジトリ、独立系ソフトウェアベンダーなど、さまざまなAIソリューションを柔軟に実行できます。VMwareは主要なAIプロバイダとパートナーシップを構築しているため、安心してこのサービスを導入してください。vSphereとVMware Cloud FoundationのGPUを統合させ、優れたパフォーマンスをみなさまのモデルで実現します。冗長なタスクを排除し、インテリジェントなプロセス改善メカニズムを構築することで、生産性を向上させます。

fig02

VMwareのパートナーネットワークは、NVIDIA、Intel、そしてDell Technologies、Hewlett Packard Enterprise（HPE）、Lenovoなどの主要なサーバーOEMメーカーなど、業界のリーダーを網羅しています。上記の図が示すように、VMwareはAnyscale、Run:ai、Domino Data Labなど、さまざまなAIベンダーやML Opsプロバイダーとも提携しています。また、HCLやWiproのようなグローバルシステムインテグレーターとも提携し、みなさまへのソリューションを提供しています。

メリット

柔軟な選択肢：VMware Private AIを使用することで、NVIDIA AI Enterprise、オープンソースのリポジトリ、ISVの製品など、さまざまな AI ソフトウェアを柔軟に実行できます。みなさまのアプリケーションやユースケースに最適な環境を構築できます。
安心した導入：VMware Private AIはNVIDIAを筆頭にハイテク分野で高い評価を得ている各社とのパートナーシップにより生成AIソリューションを提供します。このため、みなさまのプライベートなデータをセキュアに実行してファインチューニングしたり、推論を実行したり、場合によっては社内トレーニングを行うことができます。
優れたパフォーマンスの実現：VMware Private AIはNVIDIAのGPUテクノロジーをサポートし、これらのGPUをプールすることで、AIワークロードの優れたパフォーマンスを引き出します。最新のベンチマーク調査ではVMware + NVIDIA AI-Ready Enterprise Platform上のAIワークロードをベアメタルと比較しました。その結果、ベアメタルと同程度、場合によってはベアメタルよりも優れた性能が示されました。つまり、このAIワークロードを仮想化ソリューションに載せることで、管理のしやすさやエンタープライズ級のセキュリティといった仮想化のメリットを得ながら、パフォーマンスを維持することができます。
生産性の向上：VMware Private AIを生成AIモデルに活用し、プライベートチャットボットの構築や、反復タスクの自動化、スマート検索、インテリジェントなプロセス監視ツールの構築などを行うことで、組織の生産性を最大化することができます。

主なユースケース

VMware Private AIソリューションは大規模な言語モデルの作成、ファインチューニング、プライベートな企業環境内での展開（推論）をセキュアに実現することで、企業のさまざまなユースケースを可能にします。これらのプラットフォームを使用して企業が実現できる主なユースケースには、以下のようなものがあります。

コード生成：コード生成を可能にすることで、開発者の速度を加速させます。コード生成におけるプライバシーは最大のポイントです。VMwareのプライベートAIソリューションを使用すれば、企業はIP（知的財産）やデータを失うリスクを負うことなく、自社のモデルを使用できます。
コンタクトセンターのサービス向上： VMware Private AIは、コンタクトセンターが顧客に提供するコンテンツや対応を改善し、問い合わせ時に対する精度を向上させることで、顧客体験を大幅に向上させます。
IT運用の自動化： VMware Private AIを使用して、インシデント管理、レポート作成、チケット発行、監視などの運用の自動化を強化することで、IT運用担当者の作業時間を大幅に短縮できます。
高度な情報検索： VMware Private AIに基づくプラットフォームは、ドキュメント検索、ポリシー、手順の調査を改善することで、従業員の生産性を大幅に向上させます。

エキサイティングなオプションメニュー

VMware Private AI Foundation with NVIDIA：VMwareとNVIDIAは完全に統合された生成AIプラットフォームであるVMware Private AI Foundation with NVIDIAを共同で開発する計画を発表しました。このプラットフォームにより、企業はデータセンター内でLLMモデルをファインチューニングし推論ワークロードを実行できるようになり、プライバシー、選択肢、コスト、パフォーマンス、コンプライアンスに関する懸念が解消します。このプラットフォームにはNVIDIA NeMo™フレームワーク、NVIDIA LLM、そしてVMware Cloud Foundation上で動作するその他のコミュニティモデル（Huggingの顔モデルなど）が含まれます。このエキサイティングなプラットフォームは2024年初頭に立ち上げられる予定です。今回の発表は顧客のマルチクラウドインフラの改革を支援するという、10年以上にわたる我々の共同ミッションを拡張するものです。両社は3年以上前に提携し、VMware + NVIDIA AI-Ready Enterprise Platformを提供することで、IT管理者がAI対応インフラを実現し、その上でデータサイエンティストがAI/MLプロジェクトを実施、拡張できるようにし、また組織がすでに慣れ親しんでいるVMwareのテクノロジーとツールセットを活用して最新のワークロードを拡張できるようにします。
VMwareプライベートAIリファレンスアーキテクチャ：VMwareはNVIDIA、Hugging Face、Ray、PyTorch、Kubeflowなどのパートナーと協力し、主要なサーバーメーカーであるDell Technologies、Hewlett Packard（HPE）、Lenovoと検証済みのリファレンスアーキテクチャをお客様に提供しています。こちらのホワイトペーパーでは、これらのリファレンスアーキテクチャの詳細について説明しています。主なコンポーネントは次のとおりです。
- VMware Cloud Foundation - VMware Cloud Foundationはマルチクラウドと最新のアプリケーションのためのターンキーなプラットフォームであり、生成AIモデルを容易に導入できるインフラストラクチャ層を企業に提供します。
- NeMoフレームワーク - このアーキテクチャの重要なコンポーネントの1つは、NVIDIA AI Enterpriseの一部であるNeMoフレームワークです。これは何十億ものパラメータを持つ生成AIモデルを構築、ファインチューニング、展開するためのエンドツーエンドのクラウドネイティブなエンタープライズフレームワークです。NeMoフレームワークは複数のカスタマイズ手法の選択肢を提供し、マルチGPUとマルチノード構成で、言語や画像アプリケーション用LLMのアットスケール推論用に最適化されています。
- 主要なサーバーOEMのサポート - このアーキテクチャは、Dell、Lenovo、HPEなどの主要なサーバーOEMによってサポートされています。
  - Dell Technologies：生成AIで現状を見直しましょう。Dell Technologies、VMware、NVIDIAの共同エンジニアリングにより、企業における生成AIのためのフルスタックを提供します。業界をリードする製品と専門的なプロフェッショナルサービスにより、知的財産のコントロールを失うことなく、データの価値を迅速に引き出すことができます。
  - Hewlett Packard Enterprise（HPE）： HPE、VMware、NVIDIAは、数十年にわたる戦略的イノベーションを共有しています。新しいHPE AI Inferenceソリューションは、VMware Private AI FoundationとNVIDIA AI Enterprise Softwareスイートを新しいHPE ProLiant Gen11システムに統合することで、AIの導入を効率化し、利用者のAIの優位性を加速させます。
  - Lenovo：Lenovo ThinkSystem SR675 V3、VMWare Private AI Foundation、NVIDIA AI Enterpriseを活用したLenovoの最新の生成AI向けリファレンスデザインは、エンタープライズのデータセンター向けに事前に検証され、完全に統合され、パフォーマンスが最適化されたソリューションを使用して、強力な生成AIツールと基盤モデルを導入し、商業化することができます。