コラム

CTC教育サービス・ホーム　＞　コラム　＞　VMware 海外動向　＞　第52回　vSphereとBitfusion ～AIと機械学習の未来～

VMware 海外動向

CTC 教育サービス

[IT研修]注目キーワード Python UiPath(RPA) 最新技術動向 Microsoft Azure Docker Kubernetes

第52回　vSphereとBitfusion ～AIと機械学習の未来～ (野田貴子) 2020年3月

こんにちはー。野田貴子です。今回も英語が苦手な方向けに海外の人気コラムを意訳したものをご紹介します。 VMwareの研修を検討されている方は、実績も受賞歴も豊富なCTC教育サービスにどうぞ！
※VMware研修コース　
(https://www.school.ctc-g.co.jp/vmware/index.html)

vSphere Tweet Chatの要約をもうひとつお届けします！今回はvSphereとBitfusionを紹介し、この2つの統合がAIと機械学習の未来にとって何を意味するかについて説明します。みなさんからのすべての質問に答えるために、専門家のJim Brogan（@brogan_record）とDon Sullivan（@dfsulliv）に参加を依頼し、内部事情をスクープしてもらいました。彼らは難しい質問にも答えくれたので、ぜひ続きを読んで詳細を見てください。チャットの要約を以下にまとめました。

Q1. Bitfusionとは何ですか？

https://twitter.com/VMwarevSphere/status/1205186546803998721

Jim Broganより

BitfusionはGPUのために（一般的にはハードウェアアクセラレータに対しても）vSphereがCPUに対して行っていること（計算）を行います。

たとえば、AIや機械学習においてGPUは十分に活用されていません（利用率15%が典型的な例でしょう）。BitfusionはGPUを共有できる仮想化で、さらに管理機能や分析機能がいくつかあります。

Q2. なぜvSphereにBitfusionが導入されるのですか？

https://twitter.com/VMwarevSphere/status/1205189096198397952

Jim Broganより

現在の世界ではどんなクラウド、デバイス、アプリケーションにも機械学習やAIアプリケーションが含まれているべきで、アプリケーションにはアクセラレーションが必要です。Bitfusionは、機械学習アクセラレーションが仮想化と柔軟性に関してファーストクラスの待遇を確実に受けられるようにします。

Don Sullivanより

Bitfusionは、vSphereや現代の顧客のニーズに最適です。VMwareはvSphereがCPUを仮想化するのと同じ方法でBitfusionが強力なGPUを仮想化できることを認めました。これは、vSphereを補完する自然な進化です。

BitfusionはvSphereがいつもCPUを仮想化しているのと同じ方法でGPUを仮想化するという点で、vSphereに最適です。Bitfusionは、VMwareのハイテク顧客のニーズに対する自然な進化です。

Q3. AIや機械学習のアプリケーションにGPUや他のハードウェアアクセラレーションが必要なのはなぜですか？

https://twitter.com/VMwarevSphere/status/1205189922459533312

Jim Broganより

これらのアプリケーションは非常に多数の数学演算を実行しています。その計算は並列で処理すれば簡単ですが、シリアルプロセッサでは数日かかります。

GPUはこの並列処理を提供し、これらのアプリケーションを何百時間も高速に実行し、それに伴い消費電力を削減します。FPGAとASICアクセラレーションが近日公開予定です。

Q4. GPUの市場の問題は何ですか？　Bitfusionは何を解決しようとしていますか？

https://twitter.com/VMwarevSphere/status/1205191092762603520

Jim Broganより

GPUは高価なため、GPUを必要とするすべてのユーザーがGPUを購入することはできません。購入したGPUは十分に活用されておらず、ユーザーがGPUをシェアすることは困難です。

それらはvSphere管理者が管理するリソースやその他の仮想化されたリソース（コンピューティング、ストレージ、ネットワークなど）の外側の独自のサイロ（複数）に配置される傾向があります。

より大きなセットやより多くの種類が必要な場合、ユーザーは単一のリソースセットで行き詰まってしまいます。

Don Sullivanより

BitfusionはvSphereに新たな機能の戸口を開き、vSphereのFORCEは大幅に拡張されました。

Q5. Bitfusionは、GPUやAIアプリケーション、機械学習アプリケーションの市場の問題を解決しますか？

htps://twitter.com/VMwarevSphere/status/1205192331558735872

Jim Broganより

もちろんです！ GPUを共有できるため、使用率と効率が向上します。vSphere管理者は、組織のGPUサーバーをプールあるいはvCenterクラスターに配置して管理しやすくすることができますが、すべてのユーザーが必要なものにアクセスできます。

ユーザーは、環境を特定のハードウェアに移植したり、誰かが使用する必要があるときにクリーンアップしたりする必要がなくなります。ユーザーは、さまざまな種類のアクセラレーションのより大きなプールにアクセスできます。

Q6. BitfusionとGPUにとって仮想化とは正確には何を意味しますか？

https://twitter.com/VMwarevSphere/status/1205193587220086784

Jim Broganより

仮想化には2つの直交するタイプがあり、両方とも動的に利用できます。リブート不要のタイプと、移行が必要なタイプです。

ネットワークを介したGPUへのリモートアクセスにより、複数のユーザーが徐々に共有できます。GPUを任意のサイズの断片に分割し、共有や、同時使用を可能にします。

Don Sullivan

複数の方向で直角に交わりますね!!!

Q7. Bitfusion仮想化はどのように行われますか？

https://twitter.com/VMwarevSphere/status/1205194710404304897

Jim Broganより

大きな質問ですが、ハードウェアアクセラレータへのAPIコールをインターセプトしています。この方法により、ハイパーバイザーでの複雑な作業が回避されます。

この方法は、アプリケーションやそのスタック内にあるもの（フレームワーク、CUDA、ドライバー、OS）に変更や再コンパイルがないことを意味します。

これについては、昨年8月に開催されたVMworldカンファレンスでのTech Field Dayで良い講演が行われました。

Q8. Bitfusionはどのような種類のアプリケーションやユースケースに対応していますか？

https://twitter.com/VMwarevSphere/status/1205195864563539969

James Broganuより

AIや機械学習のアプリケーションが主な対象ですが、CUDAを使用するアプリケーションも対象にしています。これにはHPC（GPUの使用が懸念されていても）が含まれます。デスクトップグラフィックスやその他のCUDAを使用しないアプリケーションは対象ではありません。

Q9. Bitfusionには管理機能がありますか？

https://twitter.com/VMwarevSphere/status/1205196619248893952

Jim Broganより

Bitfusionは、GPUサーバーやCPUクライアントベースで、GPUの割り当て、使用率、そしてネットワークトラフィックを、追跡し、グラフ化し、エクスポートします。Bitfusionはクライアントごとに未使用のGPUの割り当てを解除する方針を実施しています。

Q10. #Bitfusionのネットワーク要件は何ですか？

https://twitter.com/VMwarevSphere/status/1205197832677756928

Jim Broganより

10 Gbpsです。つまり、クライアントからGPUサーバーへのレイテンシが50マイクロ秒未満です。

少なくともそれが目標です。このレイテンシは機能の要件ではなく、最高のパフォーマンスを発揮するために望ましい値です。

Don Sullivanより

VMwareは2020年にさまざまな#VMUGで多数のBitfusion関連セッションを提供しています。

Q11. ユーザーは#Bitfusionソフトウェア（POCを実行）をどのように試すことができますか？

https://twitter.com/VMwarevSphere/status/1205198749699473408

Jim Broganより

BitfusionがvSphereに統合されている期間は、Bitfusionは販売されていません。しかし・・・AskBitfusion@vmware.comにメールを送り、POCの承認を受けることができます。

ソフトウェア、ライセンス、アプリケーションスタック、サポート付きのデータセットを備えたOVAを提供しています。みなさん独自のVMやスタックを作成し、同じライセンスを使用できます（ただし、この過程ではインタラクティブなサポートは非常に限定的です）。

オリジナルのBitfusionドキュメントがまだ公開されています。

Don Sullivanより

POCのフォームに記入していただければ、私たちがSWへのアクセスを割り当てます。

Q12. #Bitfusionソフトウェアを実行するためのその他の要件はありますか？

https://twitter.com/VMwarevSphere/status/1205199294296231938

Jim Broganより

今のところ、Linux OS（Ubuntu、RHEL、またはCentOS）が必要です。

Q13. GPUにリモートアクセスする場合、ネットワーク遅延は大きな問題ではありませんか？

https://twitter.com/VMwarevSphere/status/1205200229328310272

Jim Broganより

当然問題ではありますが、Bitfusionの主な仕事は待ち時間に関する懸念を解決することです。

BitfusionがCUDAコールをインターセプトするとき、遅延を隠すために、操作を最適化するチャンスがあります。これらには、並べ替え、パイプライン処理、バッチ処理が含まれます。多くのBitfusion IPが、実際には最適化ドメインにあります。

ボーナスクエスチョン

Q14. BitfusionはNVIDIA GPUソリューションだけですか？

Jim Broganより

この技術は、APIによってアクセスされるすべてのアクセラレーションハードウェアに適用されます。Bitfusionは現在、CUDA APIとOpenCLの実装が作成されています。しかし今のところ、CUDAが市場で唯一のプレーヤーです。

Q15. NVIDIAはvGPU（GRID）を提供していますが、BitfusionはvGPUをどう扱い、どう対抗していますか？

Jim Broganより

BitfusionはGRIDのトップで動作しますが、デスクトップグラフィックスではなく、ユーザースペースアプリケーション（CUDAなどを使用）に対応するために作られています。ハイパーバイザーではなく、ユーザースペースで実行されるため、GPUを動的に割り当ててパーティション分割できます。

vSphereの素晴らしい専門家をゲストに迎えたvSphere + Bitfusion Tweet Chatにご参加いただきありがとうございました。私たちの専門家であるJim Brogan（@brogan_record）とDon Sullivan（@dfsulliv）、そして今日私たちに加わった他の参加者へ大きなエールを送ります。

今後は#vSphereChatハッシュタグを使用して月例の専門家とのチャットを見て、会話に参加してください。次回までの間は、vSphere Tweet Chat発のブログをチェックして、過去のすべてのチャットの要約をご覧いただけます。取り上げたいトピックがあれば、お知らせいただければそのトピックを専門家に伝えて検討します。まずは、Twittersphereでお会いしましょう！

※引用元　 https://blogs.vmware.com/vsphere/2020/01/explore-vsphere-bitfusion-the-future-of-ai-ml.html

※本コラムはVMware社が公式に発表しているものでなく、翻訳者が独自に意訳しているものです。