Re: [闲聊] 欸不是,买个显卡还要买驱动= =

楼主: aa210682 (吃脸哥哥)   2023-04-10 12:07:26
看到版上在讨论vGPU
身为vGPU相关的工程师应该是有资格来讨论(?
先来谈谈虚拟化这件事情
虚拟化就是透过hypervisor(如VMware,kvm)之类的平台
在单一主机的环境上面,虚拟出多个作业系统
单机版就如vmware workstation,或是各类模拟器也算是(bluestack)
了解玩虚拟化之后就可以往下讨论
如何让虚拟化之后的作业系统(guest os)拿到GPU
市面上有各种千奇百怪的方式,所以以下只探讨N家有认证的方式
1.Passthrought/直通道/Diretch Path I/O
这三种名称的意思都差不多
将整张GPU卡片直接分配给guest OS,这种方式严格说不是虚拟化
毕竟没有虚拟化GPU的成分,将整张卡片丢给虚拟机,何来虚拟化GPU之称
透过这种方式驱动程式是使用一般家用的驱动程式,所以可以直接使用
2.vGPU
看到前一种方式,有一个很大的限制,就是单一虚拟机单一卡片
这种方式以企业等级的方式来看是非常浪费资源的
Datacenter系列卡片通常都16GB up,并且效能也非常强大
单一虚拟机很难用光其效能
所以vGPU就是将GPU利用虚拟的方式,分给多台虚拟机
让每一台虚拟机都可以有固定份额的GPU
切分方式就是透过GB的方式切分(xGB)
当然这种功能是面相企业的,所以当然会有收费的问题
所以N家就简单粗暴地绑定驱动程式
要购买才能下载特定的驱动,并且驱动程式也会需要输入授权
提完以上可以额外来讲一下vGPU各种授权种类
其中有分成4+1种
vWs拿来做图像运算(这种功能可以让vGPU开启图像渲染、directx 相关功能)
vApp 利用做RDSH
vPC 跟vWs类似,但是关掉图像进阶功能,纯显示
vCs 纯计算,拿来做计算相关
当然,费用不相同XDD
顺便来讨论一下看到文章内提到的有趣问题
1.NVIDIA早期有datacenter系列的卡片(k1/k2/m10)
这种卡片的驱动程式只能使用vGPU的驱动程式
简单说,就算改成直通道模式,依然只能只用vGPU的驱动
没办法使用一般的驱动
印象中在V系列(对照20系列)之后再见过这种模式
P4印象中也是?
2.T4,A2,L4
印象中这几张的效能差不多(明明不同世代,效能也可做得差不多
就我收到的消息时A2的产线大暴死,所以才T4继续顶
应该不是市场接受度的问题,A2定价便宜很多呢XD
3.A100,MIG
MIG这项技术是否可以完全脱离vGPU呢
是,但也不是
MIG是驱动程式自带的操作指令,可以切分成多张GPU
在监控接口下就是看到多张卡片
然后可以进行分配使用
但是前面提到,要在驱动程式的接口下操作
所以必须还是得使用前面提到的方式(直通道orvGPU)
1.直通道给虚拟机之后,再从虚拟机端操作
2.或是直接在hypervisor层进行MIG操作之后,再将切分出来的GPU打出来分配给虚拟机
第二种方式依然还是要购买授权呢
所以是但也不是
4.
这边可以提到N家一个非常复杂的新授权NVIDIA AI Enterprise
严格来说它就是vcs+软件服务的授权
他有着完全不同的驱动以及授权
但是使用方式还是跟vcs一样
这刀法是真的强
以上,想到什么再补充
※ 引述《wei115 (社畜)》之铭言:
: 是这样的
: 最近看对岸有批好便宜的tesla p4
: 一张大概只要NT 2000
: 性能大概有1070-10%等级 功耗不到75w 长期在资料中心吹冷气
: 而且还支援vGPU
: 想说买来装在我的proxmox主机上 玩我心心念念的显卡虚拟化
: 可是查了一些资料发现
: 虚拟化确实很简单,但装进去后 每个虚拟机还要授权
: 如果没有授权 20分钟就限制性能 只能跑15fps
: 阿我都买硬件惹 现在连装个驱动都要收钱喔= =
: https://i.imgur.com/HIy4YHd.jpeg
:
作者: ccbbaa   2023-04-10 12:17:00
感觉是给nvidia now用的@@
作者: arenoe (小锅)   2023-04-10 12:56:00
有点看懂了
作者: jaspergod (神游)   2023-04-10 13:19:00
所以显卡挂给虚拟机后,再从虚拟机切分给不同的程式跑(MIG),应该是可行的吧XD 也不会用到vGPU授权?
作者: wardraw   2023-04-10 13:19:00
推科普 稍微懂了
作者: AKSN74 (AKS-74n)   2023-04-10 13:23:00
推,MIG记得也吃硬件架构,所以只有特定卡才能用然后MIG的初衷是为了给容器,给VM用反倒是其次
作者: cmshow (cmshow1005)   2023-04-10 14:13:00
推,看ptt涨姿势
作者: coffeedemon (coffeedemon)   2023-04-10 15:15:00
T4跟A2效能差不多 不过A2省了一点功耗?
作者: pcfox (京极元狐)   2023-04-10 15:49:00
好文分享堆一个
作者: AI007 (邓林)   2023-04-10 17:09:00
先收藏,晚点研究看看
作者: dmeiki (熊麻吉)   2023-04-10 17:11:00
作者: jychu1132 (厨余)   2023-04-10 18:47:00
A2很烂欸,除了VRAM大小根本是亮机卡等级,只有极少应用能赢T4然后L4以他75W的效能来说其实算很强A2真实性能大概只有T4的1/3
作者: imhanhan (随遇而安)   2023-04-10 19:12:00
推推
作者: MACROSS2K (MACROSS2K)   2023-04-10 19:18:00
感谢分享
作者: wahaha99 (此方不可长)   2023-04-10 19:31:00
方法1 现在Workstation能用了?一般游戏卡也行吗?
作者: Lomonosov (罗蒙诺索夫院士)   2023-04-10 19:35:00
作者: BlackCoal (居士隐埋偏仕)   2023-04-10 21:06:00
推推

Links booklink

Contact Us: admin [ a t ] ucptt.com