コラム

CTC教育サービス・ホーム　＞　コラム　＞　VMware 海外動向　＞　第92回　VMware Private AIにおける新しいコラボレーションのご案内

VMware 海外動向

CTC 教育サービス

[IT研修]注目キーワード Python UiPath(RPA) 最新技術動向 Microsoft Azure Docker Kubernetes

第92回　VMware Private AIにおける新しいコラボレーションのご案内 (野田貴子) 2023年12月

こんにちはー。野田貴子です。

VMware vSphere バージョンアップ応援キャンペーン！を実施してます。本キャンペーンでは、過去バージョンを理解している方のバージョンアップだけでなく、初めてVMwareを学ぶ方もキャンペーン価格にてお申込みいただけます。また、試験バウチャー付コースもキャンペーン対象のため、最新のVCP認定を目指す方にもおすすめです。
興味がある方は以下をご覧ください。
https://www.school.ctc-g.co.jp/campaign/20230704_090641.html

2023年、数十年にわたるニッチな成長と発展を経て、生成AIとAI/MLの活用がメジャーなものになりました。

AIによって生産性が飛躍的に向上し、新たな体験が可能になるにつれ、営業、マーケティング、ソフトウェア開発、顧客業務、文書処理など、一般的なビジネスにおける多くの中核機能が変革されることになるでしょう。

実際、マッキンゼーは、生成AIによる生産性向上によって世界経済に年間4兆4,000億ドル相当をもたらすと予測しています。

しかし、その核となるのは企業データのプライバシーであることに変わりはありません。そこで、私たちは2023年8月にラスベガスで開催されたVMware Exploreで、NVIDIAと共同でVMware Private AIとVMware Private AI Foundationを発表しました。

本日、キーパートナー2社とともにVMware Private AIエコシステムのさらなる拡張を発表できることを嬉しく思います。

VMware Private AI with Intelで全組織でAIを利用可能に

VMwareとインテルは20年以上にわたるパートナーとして、信頼性の高いエンタープライズ向けソリューションの幅広いポートフォリオによって次世代のデータセンター間クラウド機能を実現し、ビジネスの迅速な移行、イノベーションの拡大、効率的な運用を可能にしてきました。

そして今回、VMwareはインテルとのパートナーシップを拡大し、あらゆる組織でAIを活用できるようにします。

この度の提携により、企業はVMware Cloud Foundation上で検証されたインテルのAIソフトウェアスイートを活用することで、AIモデルをあらゆる場所で利用できるようになります。

VMwareとインテルは、企業がVMware Cloud Foundation上で稼働するプライベートかつセキュアなAIモデルを構築・デプロイし、インテルのAIソフトウェアスイート、アクセラレーター内蔵の第4世代インテル^® Xeon^® スケーラブルプロセッサー、インテル^® MaxシリーズGPUを活用することでAIパフォーマンスを向上できるよう支援します。

このパートナーシップから企業はどのような価値を得ることができるのかを掘り下げてみましょう。

AIモデルのプライバシーとセキュリティの実現：VMware Private AIのAIサービス向けアーキテクチャーのアプローチは、企業データのプライバシーと制御、統合されたセキュリティと管理を可能にします。今回の提携により、企業はVCFとそのコンポーネントに統合されたセキュリティ機能を活用して、プライベートでセキュアなAIモデルを構築しデプロイできるようになります。
AIパフォーマンスの向上：VCFとインテルプロセッサー、ハードウェアアクセラレーター、最適化されたソフトウェアに組み込まれた統合機能を使用して、優れたAIやLLMモデルのパフォーマンスを実現します。たとえば、VCFのコアコンポーネントの1つであるvSphereには、Distributed Resources Schedulerが含まれています。このDistributed Resources Schedulerは、ホストをアプリケーションごとにリソースクラスタにグループ化し、VMが適切な量のコンピューティングリソースにアクセスできるようにすることで、AIのワークロード管理を改善し、リソースのボトルネックを防ぎ、リソースの利用率を最適化します。
AIをあらゆる場所で活用：VMwareとIntelは、導入済みのクラスタ上で完全に検証されたAIスタックを企業に提供しています。このスタックにより、企業はオンプレミス環境全体でインテルプロセッサー、ハードウェアアクセラレーター、インテルのAIソフトウェアスイート、VCFを使用してデータの準備、機械学習、ファインチューニング、推論の最適化を行うことができます。

アーキテクチャ

VMware Private AI with Intelは、生成AIと従来のAI/MLの両方のユースケースに対応しています。これはVMware Cloud FoundationとIntelのAIソフトウェアスイート、プロセッサ、ハードウェアアクセラレータのパワーを活用しています。このアーキテクチャーのエコシステムには、VMware、インテル、ML Opsプロバイダー（cnvrg.io、Domino Data Labs、DKube、Kubeflowなど）、主要なOEMサーバープロバイダー（Dell Technologies、Hewlett Packard Enterprise、Lenovoなど）、HCL、Kyndryl、Wiproなどのグローバルシステムインテグレーターが参加しています。

ユースケース

VMware Private AIとIntelとのコラボレーションによって、企業のプライベート環境内で従来のAI/MLや大規模な言語モデル、ファインチューニング、デプロイ（推論）をセキュアに実現することで、様々なユースケースが可能になります。以下は、主なユースケースの説明です。

コード生成：企業は、知的財産（IP）やデータを失うリスクなしにモデルを使用でき、そのコード生成機能で開発者の作業速度を加速できます。
コンタクトセンターの解決経験：企業は、プライベートなサポートデータなどの社内文書やナレッジベース記事に対してモデルをファインチューニングすることができ、サポートやサービスのインシデントに対する人的なやり取りを大幅に削減することで、より効率的なカスタマーサービスとサポートを実現できます。
従来の機械学習：従来のMLモデルは、金融サービス、医療、ライフサイエンス、小売、研究、製造業など、さまざまな実世界のアプリケーションに使用されています。人気のあるMLのユースケースには、カスタマイズされたマーケティングや、製造業における視覚的な品質管理、パーソナライズされた医療、小売業の需要予測などがあります。
レコメンデーション・エンジン：企業は、消費者に追加の商品を提案したり推奨したりすることで、顧客体験を向上させることができます。レコメンデーションは過去の購入履歴、検索履歴、人口統計情報など、様々な基準に基づいて行うことができます。

VMware Private AI with IBMでwatsonxをオンプレミス環境に導入

IBMとVMwareは、VMware Private AIを基盤として、企業がプライベート環境、オンプレミス環境、ハイブリッドクラウドでIBM watsonxにアクセスし、watsonxプラットフォームによるモデルの安全なトレーニングとファインチューニングを行えるようにします。IBMとVMwareの戦略的パートナーシップは、相互の顧客がハイブリッドクラウドを容易に導入し、ミッションクリティカルなワークロードを近代化できるようにすることを目的としています。いつ、どこで、どのように生成AIテクノロジーをVMware Cloud Foundationと統合するかを選択できるためで、企業はデータに対する完全なコントロールとコンプライアンスを維持しながら、企業全体でカスタムAI機能を迅速にトレーニングし、デプロイすることができるようになります。VMwareとIBMのAIテクノロジーに関する今回の提携により、企業は、VMwareのオンプレミス製品から最高のイノベーションを統合スタックに活用し、IBM CloudパートナーのテクノロジーがもたらすデータとAI機能が統合された一貫性のある環境を提供する強力なソリューションから利益を得ることができます。

VMware Private AIでプライベートかつセキュアなAIモデルを実現：企業にとってプライバシーとセキュリティは最重要事項です。VMware Private AI with IBMは、統合されたプライバシー、セキュリティ、マイクロセグメンテーション機能をVCFで使用して、プライベートでセキュアなAIモデルを構築できます。
AI/MLモデルをオンプレミスとクラウドにデプロイ：このパートナーシップにより、企業は、オンプレミスとIBM Cloud 上でプライベートかつセキュアなAI/MLモデルのトレーニング、検証、チューニング、デプロイが可能になります。
オープンソースやIBM独自のモデルを選択：このパートナーシップにより、企業はHugging FaceからIBMが選択したオープンソースモデル、サードパーティーモデル、IBMがトレーニングした基礎モデル群へアクセスして、LLMを選択することができるようになります。以下はwatsonx.aiで利用可能なサポートモデルの一例です。
- オープンソースのモデル：Llama 2 (70b)
- サードパーティーモデル：StarCoder (15.5b)
- IBM 独自のモデル：Granite (13b)

アーキテクチャ

VMware Cloud Foundation上に構築されたこのフルスタックなアーキテクチャーはRed Hat OpenShiftを実行し、生成AIや従来のAI/MLベースのワークロードと、エンタープライズ級のセキュリティのためのIBM watsonxプラットフォームの機能を組み合わせます。このアーキテクチャにより、企業はwatsonx.aiを使用してHugging FaceからIBMが選択したオープンソースモデル、サードパーティーモデル、生成AIのユースケースをサポートするためにIBMがトレーニングした基礎モデル群にアクセスし、従来のAI/MLモデルのトレーニング、検証、チューニング、デプロイを行うことができます。

ユースケース

VMware Private AI with IBMは、大規模な言語モデルのカスタマイズ、ファインチューニング、プライベートな企業環境内でのデプロイ（推論）を安全に可能にすることで、企業向けのいくつかのユースケースを実現します。コード生成の領域では、プライバシーと知的財産をめぐる重大な懸念に対処しながら、開発者の生産性を加速させることに重点を置いています。さらに、IBMとの協業によるVMware Private AIは、コンタクトセンターのインタラクションを強化する重要な機会を提供します。この提携により、顧客向けのコンテンツとフィードバックの品質が向上し、より正確な対応と全体的な顧客体験の向上が約束されます。このパートナーシップは、インシデント管理、レポート、チケッティング、モニタリングなどのタスクを自動化することで、ITオペレーションを大幅に合理化し、最終的にITオペレーション担当者の時間と労力を節約することができます。最後に、この連携によってもたらされる高度な情報検索機能は、文書検索やポリシー調査を合理化することで従業員の生産性を高め、より生産的な職場環境を育むことができようになります。

IBMコンサルティングがVMware固有のソリューションと生成AIの専門知識を顧客に提供

今年初め、IBMコンサルティングは生成AIのためのセンターオブエクセレンス（CoE）を設立し、現在は、生成AIに特化した専門知識を持つ1,000人以上のコンサルタントがITオペレーションや人事やマーケティングなどのコアなビジネスプロセスの生産性を促進し、顧客体験を向上させ、新しいビジネスモデルを創出するために、グローバルな顧客企業に関与しています。

これにIBMのVMwareに特化した専門知識とサービス能力を組み合わせることで、VMware Private AIリファレンスアーキテクチャ上のエンタープライズ級のAIによってお客様のビジネス変革を加速させることができます。

さらに、ワークロードの近代化とトランスフォーメーションを検討している方に、IBMコンサルティングはIBM watsonxとVMware Private AIサービスを独自のIBM Consulting Cloud Acceleratorに統合し、クラウドトランスフォーメーションプロセスの加速を支援する予定です。リリース後、この統合はリバースエンジニアリング、コード生成、転換を支援するとともに、IBMコンサルティングのシームレスなハイブリッドクラウド管理サービスのDay 2以降の運用管理を支援します。