在vSphere上将GPU与虚拟机使用之概述 - UU实验室
TypechoJoeTheme

UU实验室

统计
登录
用户名
密码

小陈

不怕神一样的对手,就怕猪一样的队友。
网站页面

在vSphere上将GPU与虚拟机使用之概述

0x01 整体概述

该文章提供了可用于在vSphere上为计算工作负载设置GPU的不同选项的技术细节。

贵公司的数据科学家,机器学习从业人员或开发人员已要求您为他们提供具有GPU功能的机器设置以完成工作。他们希望能够执行需要GPU计算能力的工作负载。数据科学家将工作负载描述为机器学习的“训练”,“推理”或“发展”。我们将在本系列文章的后面部分解释这些术语的含义。本开篇文章概述了向您开放的各种选项,以在VMware vSphere上提供所需的基础结构。

最终用户需要GPU功能的原因仅仅是为了更快地获得结果。机器学习模型涉及非常大的矩阵乘法,并且GPU被设计为比CPU更快地计算这些运算。

您的公司可能已经在vSphere上为开发人员/测试人员和数据管理人员使用虚拟机,但是您现在想到的一个关键问题是:

  • 是否可以在vSphere中将GPU用于VDI以外的应用程序?

简短的答案是响亮的“是”。我们在vSphere中将此用例称为“ GPU计算”。以最简单的形式,VMware vSphere允许最终用户以与在任何启用GPU的公共云实例或裸机上使用的相同方式使用VM中的GPU。此外,通过与我们的技术合作伙伴的合作,vSphere允许使用多种灵活的消费和GPU利用率模型,这些模型可以提高此基础架构拥有权的投资回报率,同时为最终用户提供所需的确切信息。

本文将帮助您完成最初的最终用户请求的过程。您将了解向最终用户以及您的硬件和软件供应商提出的要求。它为您提供了各种替代方案供您考虑-因为不同的实现适合不同的使用场景。

  • 性能如何?

通常,vSphere虚拟机中的GPU可以提供接近裸机的性能,尽管确切的性能取决于所使用的技术。在本系列的后续部分中,我们将介绍每种技术的性能特征。要初步了解一些性能数据,请参阅VMware性能工程团队的这篇文章。

  • 虚拟机使用GPU的不同方法

作为系统管理员,您最早期的决定之一就是决定在您的环境中将如何精确使用GPU。如前所述,有多种通过虚拟机使用GPU的方式。您为此决定的方法在很大程度上取决于将GPU用于其应用程序的用户和应用程序的类型。表1中显示了这些选项。

GPU配置及其各自的使用案例,下图显示了适用于这三种不同情况的技术类型。

vSphere上不同GPU用例的决策树

如您所见,VMware合作伙伴的产品启用了某些用例,例如NVIDIA虚拟GPU(也称为“ NVIDIA vGPU”技术)。该家族以前被称为“ NVIDIA Grid”。NVIDIA vGPU集是一系列软件产品,其中包括NVIDIA Virtual Compute Server(vCS)软件产品以及其他产品,例如vDWS。

每种技术都有其自身的优缺点,并提供不同级别的灵活性和最终用户体验,同时利用固有的vSphere技术来实现其产品与vSphere平台之间的协同作用。VMware致力于在硬件加速生态系统中继续与OEM,硬件和软件供应商合作。目标是让客户在简化其管理和消耗的同时,从其现代基础架构中获取最大价值。

VMwareVDIvSpherevGPUNVIDIA
朗读
赞 · 0
版权属于:

UU实验室

本文链接:

https://uulab.org/virtual/164.html(转载时请注明本文出处及文章链接)

评论 (0)