コラム

CTC教育サービス・ホーム　＞　コラム　＞　VMware 海外動向　＞　第56回　vSphere Bitfusionのお知らせ　～AI・機械学習ワークロード向けのエラスティックインフラ～

VMware 海外動向

CTC 教育サービス

[IT研修]注目キーワード Python UiPath(RPA) 最新技術動向 Microsoft Azure Docker Kubernetes

第56回　vSphere Bitfusionのお知らせ　～AI・機械学習ワークロード向けのエラスティックインフラ～ (野田貴子) 2020年7月

本日は、2020年7月末までにみなさんに提供できることになった、vSphere Bitfusionをご紹介します。VMwareは2019年の後半にBitfusionを買収して以来、このリリースを目標にしてきました。vSphere BitfusionはvSphere 7の統合機能であり、vSphere 6.7以降の環境（Bitfusionクライアント側の場合。サーバー側にはvSphere 7が必要です）で動作します。パッケージ化の観点から見ると、vSphere BitfusionはvSphere Enterprise Plusエディションのアドオン機能になります。

私たちのカスタマーはAI/機械学習アプリのデプロイに関して飛躍的に成長しており、これらのアプリの多くは次々とVMwareに配置されています。私たちはこの状況を加速させたいと考えていて、現在は、今までにない方法でGPUなどのハードウェアアクセラレータが使えるようになる最適化されたプラットフォームを用意しています。今やvSphere BitfusionにvCenter Serverプラグインが追加され、vCenter UI内から管理と構成ができるようになりました。

以下に、重要な質問についていくつか取り上げます。

vSphere Bitfusionとは何ですか？

vSphere Bitfusionは、ハードウェアアクセラレータのリソースプールを作成することにより、AI/機械学習ワークロードに柔軟なインフラを提供します。今日最もよく知られているアクセラレータはGPUであり、vSphereを使用して、オンデマンドで使用できるAI/機械学習クラウドプールを作成できるようになりました。GPUはネットワーク全体で効率的に使用できるようになり、可能な限り最高レベルの使用率に引き上げられます。これは、vSphereが何年も前にCPUの共有を許可したのと同様の方法で、GPUの共有を可能にすることを意味します。その結果、非効率的に使用されているリソースの孤島がなくなります。エンドユーザーとサービスプロバイダー（たとえば、GPU as a Serviceをオフにしたいと考えている）は、この新機能で大きなメリットを得られるでしょう。

fig01

BitfusionはどのOSで動きますか？

Bitfusionは、クライアントコンポーネントとサーバーコンポーネントのどちらもLinux上で動作します。クライアント側はRed Hat Enterprise Linux、CentOS Linux、Ubuntu Linuxをサポートしており、サーバー側はVMwareのvSphere 7を搭載したPhotonOS上に構築される仮想アプライアンスとして動きます。

Bitfusionはデスクトップでも機能しますか？

このLinuxベースの技術はTensorFlowやPyTorchの機械学習ソフトウェアを実行するAI/機械学習アプリ用ですので、グラフィックスやレンダリングには適用されません。

自分がBitfusionに適したワークロードか環境を持っているか知りたい

みなさんの運用する環境が適切であるかどうかを確認するために、以下の質問を確認してください。

CUDAアプリケーションを実行していますか？

BitfusionはCUDAアプリケーションです。NVIDIAのCUDA APIを使用して、プログラマがGPUアクセラレーションにアクセスできるようにしています。Bitfusionの技術は、CUDAの呼び出しをインターセプトすることでGPUを使用します。つまり、VDIや画面グラフィックスのユースケースには対応していません。PyTorchやTensorflowなどのAI/機械学習ソフトウェアを使用するAI/機械学習アプリケーションを対象としています。トレーニングと推論に重点を置いた機械学習環境でうまく機能します。
低いGPU使用率（アイドルGPU）や非効率的なGPUの使用（GPUコンピューティングの一部のみを使用するアプリ）に対処することを望んでいますか？

使用率と効率性は、Bitfusionの主な利点です。GPUハードウェアに投資すれば大きな価値を得ることができます。
ネットワーク要件である、アプリケーションノードとGPUノード間のレイテンシが10 Gbps以上かつ50マイクロ秒以下を満たすことができますか？

Bitfusionがカスタマーにとって興味深いのはなぜですか？

さまざまな業界でBitfusionに関する多くのユースケースを見てきました。GPUはさまざまな方法で使用できますが、すべてのAI/機械学習ワークロードにこの種のリソースが必要であることには、ほぼ全ての人が同意しています。さらに、上記の概要で強調したように、これらのリソースを共有できないことが一貫した課題になっています。vSphere Bitfusionは、AI/機械学習ワークロードで使用するGPUのリソースに関して、IT組織が探している共有モデルを作成することができます。

これまでに見てきた市場とユースケースの例は次のとおりです。

金融サービス：最適なローンや住宅ローンの候補を理解する。全体的なリスク分析。
小売：店の棚が空いているかどうかを理解する。画像を使用して買い物客が店内で怪我をしていることに気づく。レジでの詐欺に気づくのに役立つ。
新型コロナウイルス：病院のどこに人工呼吸器があるかを確認する。可能であればワクチン研究も。
製造・出荷：輸送トラックが施設に出入りするときに、中身が空いているかどうかをコンテナを閉めたまま理解する。肉の梱包工場に入っていくトラックが購入可能な動物の数を決める。
高等教育：学生が教室や自宅でエンジニアリングの宿題のためにGPUリソースにアクセスする。
クールで新しいもの：自動運転自動車やスマートシティプロジェクト。
PyTorchやTensorFlowのAI/機械学習ソフトウェアとモデルを使用する古典的な研究アプリケーション