※ 本文轉寄自 ptt.cc, 文章原始頁面
標題

Re: [閒聊] 欸不是,買個顯卡還要買驅動= =

時間
留言26則留言,17人參與討論
推噓17 ( 1709 )
看到版上在討論vGPU 身為vGPU相關的工程師應該是有資格來討論(? 先來談談虛擬化這件事情 虛擬化就是透過hypervisor(如VMware,kvm)之類的平台 在單一主機的環境上面,虛擬出多個作業系統 單機版就如vmware workstation,或是各類模擬器也算是(bluestack) 了解玩虛擬化之後就可以往下討論 如何讓虛擬化之後的作業系統(guest os)拿到GPU 市面上有各種千奇百怪的方式,所以以下只探討N家有認證的方式 1.Passthrought/直通道/Diretch Path I/O 這三種名稱的意思都差不多 將整張GPU卡片直接分配給guest OS,這種方式嚴格說不是虛擬化 畢竟沒有虛擬化GPU的成分,將整張卡片丟給虛擬機,何來虛擬化GPU之稱 透過這種方式驅動程式是使用一般家用的驅動程式,所以可以直接使用 2.vGPU 看到前一種方式,有一個很大的限制,就是單一虛擬機單一卡片 這種方式以企業等級的方式來看是非常浪費資源的 Datacenter系列卡片通常都16GB up,並且效能也非常強大 單一虛擬機很難用光其效能 所以vGPU就是將GPU利用虛擬的方式,分給多台虛擬機 讓每一台虛擬機都可以有固定份額的GPU 切分方式就是透過GB的方式切分(xGB) 當然這種功能是面相企業的,所以當然會有收費的問題 所以N家就簡單粗暴地綁定驅動程式 要購買才能下載特定的驅動,並且驅動程式也會需要輸入授權 提完以上可以額外來講一下vGPU各種授權種類 其中有分成4+1種 vWs拿來做圖像運算(這種功能可以讓vGPU開啟圖像渲染、directx 相關功能) vApp 利用做RDSH vPC 跟vWs類似,但是關掉圖像進階功能,純顯示 vCs 純計算,拿來做計算相關 當然,費用不相同XDD 順便來討論一下看到文章內提到的有趣問題 1.NVIDIA早期有datacenter系列的卡片(k1/k2/m10) 這種卡片的驅動程式只能使用vGPU的驅動程式 簡單說,就算改成直通道模式,依然只能只用vGPU的驅動 沒辦法使用一般的驅動 印象中在V系列(對照20系列)之後再見過這種模式 P4印象中也是? 2.T4,A2,L4 印象中這幾張的效能差不多(明明不同世代,效能也可做得差不多 就我收到的消息時A2的產線大暴死,所以才T4繼續頂 應該不是市場接受度的問題,A2定價便宜很多呢XD 3.A100,MIG MIG這項技術是否可以完全脫離vGPU呢 是,但也不是 MIG是驅動程式自帶的操作指令,可以切分成多張GPU 在監控介面下就是看到多張卡片 然後可以進行分配使用 但是前面提到,要在驅動程式的介面下操作 所以必須還是得使用前面提到的方式(直通道orvGPU) 1.直通道給虛擬機之後,再從虛擬機端操作 2.或是直接在hypervisor層進行MIG操作之後,再將切分出來的GPU打出來分配給虛擬機 第二種方式依然還是要購買授權呢 所以是但也不是 4. 這邊可以提到N家一個非常複雜的新授權NVIDIA AI Enterprise 嚴格來說它就是vcs+軟體服務的授權 他有著完全不同的驅動以及授權 但是使用方式還是跟vcs一樣 這刀法是真的強 以上,想到甚麼再補充 ※ 引述《wei115 (社畜)》之銘言: : 是這樣的 : 最近看對岸有批好便宜的tesla p4 : 一張大概只要NT 2000 : 性能大概有1070-10%等級 功耗不到75w 長期在資料中心吹冷氣 : 而且還支援vGPU : 想說買來裝在我的proxmox主機上 玩我心心念念的顯卡虛擬化 : 可是查了一些資料發現 : 虛擬化確實很簡單,但裝進去後 每個虛擬機還要授權 : 如果沒有授權 20分鐘就限制性能 只能跑15fps : 阿我都買硬體惹 現在連裝個驅動都要收錢喔= = : https://i.imgur.com/HIy4YHd.jpeg
Re: [閒聊] 欸不是,買個顯卡還要買驅動= =
: -- : ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 220.134.21.189 (臺灣) : ※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1680955923.A.E6F.html : 推 skyrain1234: 那授權費要5000嗎 04/08 20:14 : 每年收 : 而且只收企業,個人用戶還會掛你電話 : 比5000還值錢= = : ※ 編輯: wei115 (220.134.21.189 臺灣), 04/08/2023 20:16:08 : 推 Fezico: 老黃驅動值5000買越多賺越多 04/08 20:16 : → Fezico: 這東西本來就不是放出來給零售市場的,你怎會期望他屌你 04/08 20:17 : 推 cowboyas0413: 我是覺得對岸論壇翻一翻 找到能用的驅動的機率不小 04/08 20:18 : 驅動要網路認證 但我有看到幾個解決方案 有一個github專案可以使用24小時 然後重啟驅 : 動再用24小時 : 推 sheng76314: 有這種事 難怪便宜沒好貨 04/08 20:18 : 推 DsLove710: 不然你要買AMD嗎 04/08 20:19 : amd顯卡= = : 推 fenix220: 貪小便宜的代價 04/08 20:24 : 推 gameboy0618: 不然你要買AMD嗎 04/08 20:24 : 推 Cubelia: 雖然I的內顯被酸亮機用,但在GVT-g和SR-IOV的vGPU支援 04/08 20:25 : → Cubelia: 給得很大方 04/08 20:26 : 本來也打算組intel方案的 只是那時候pve不怎麼支援大小核+amd礦渣主板很便宜就改裝580 : 0x惹 : → Cubelia: 不過性能就有總比沒有好 04/08 20:26 : → AreLies: 我之前買V520結果發現 我沒有驅動 04/08 20:26 : → Severine: 所以相較之下4090真的太便宜了 04/08 20:28 : → scarbywind: 工商用硬體一堆這樣搞的. 04/08 20:33 : ※ 編輯: wei115 (42.79.242.21 臺灣), 04/08/2023 20:41:12 : → newsnew: 商用很多都這樣 不是買斷制了 04/08 20:45 : 推 keyman2: 賣家沒有先說喔? 04/08 21:07 : → smallreader: 商用本來就要買授權了 04/08 21:24 : → gyannor: 不如買1066 04/08 21:31 : 推 harry886901: 沒辦法虛擬化 那就顯卡直通吧 04/08 21:31 : 我現在主力機就是跑在虛擬機內的R : 分配全部CPU核心、64GB RAM、直通一張大哥3060 12G : → harry886901: 我買海鮮的p104 才1000也是1070同一個核心也不差 04/08 21:32 : 推 harry886901: proxmox base on debian 04/08 21:36 : → harry886901: 我記得某版debian就對大小核有支援了 04/08 21:36 : 我看好像6.0kernel才支援 : 現在pve更新到最新kernel才5.15 : 噓 pcfox: 自己選的 04/08 21:41 : 推 tennyleaz: 不知道可不可以刷vbios破解 04/08 22:25 : 有看用unlock改成quadro來跑 這就不需要授權 : 可是cuda會沒辦法使用 : 推 Transposon: 不知道何時換丟T4 04/08 22:25 : → MACROSS2K: T4大概還要好一段時間,A2前陣子缺貨大概都用T4 04/08 22:40 : → MACROSS2K: L4又剛發,不知道市場接受度如何 04/08 22:40 : 推 ArSaBuLu: 跟百變金剛一樣 雖然預算低 蛋便宜有便宜的辦法 04/08 22:41 : 推 johnson0319: google一下就有各種unlock教學不是 04/08 22:50 : unlock是改id : 主要是主機支援,可是虛擬機還是要另外裝驅動 : ※ 編輯: wei115 (220.134.21.189 臺灣), 04/08/2023 23:16:51 : → lc85301: 不然你要買 AMD 嗎 04/08 23:21 : 推 marunaru: vGPU要買阿 老黃的商法 04/08 23:31 : → marunaru: 如果你是A100那種等級的就不用了 自帶授權 04/08 23:31 : → marunaru: 不想花vGPU的授權你就只能改成Passthrough的方法 04/08 23:32 : → MACROSS2K: 其實AMD我也覺得蠻可惜的,MxGPU其實有出過一波 04/08 23:32 : → MACROSS2K: 但不知道是不是軟體沒跟上,感覺沒有打開市場 04/08 23:32 : → MACROSS2K: 然後MI200其實有出ESXi驅動,但測過好像沒有作用 04/08 23:34 : → MACROSS2K: 也無法開出VF,有點不太理解想要設計成什麼樣子 04/08 23:35 : 推 laeva75: 企業級的常見情況,買一個好像功能很多很強硬體只含最最 04/09 07:33 : → laeva75: 最少最簡單的功能,其他功能的都要另外買授權 04/09 07:33 : 推 corum68972: 恭喜你現在知道企業用戶是怎麼被老黃強姦的了 04/09 07:55 : → winiel559: 還好有這些企業級盤子,不然4090還不一張20萬 04/09 10:01 : 推 kamir: 一個願打,一個願挨 04/09 10:50 : → kamir: 都說是垃圾了,還花錢 04/09 10:50 : 推 Windcws9Z: 難怪賣這麼便宜 04/09 13:11 : → game0502: RTX8000+NLS乖乖付錢的的人路過… 04/09 16:16 : → nOhiTmE: pve 現在有optin 6.2 kernel. 04/09 22:39 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 61.219.70.171 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1681099648.A.512.html

26 則留言

ccbbaa, 1F
感覺是給nvidia now用的@@

arenoe, 2F
有點看懂了

jaspergod, 3F
所以顯卡掛給虛擬機後,再從虛擬機切分給不同的程式跑(

jaspergod, 4F
MIG),應該是可行的吧XD 也不會用到vGPU授權?
沒錯,這種方式很推薦 但是就要花時間維護環境(要很懂MIG架構)

wardraw, 5F
推科普 稍微懂了

AKSN74, 6F
推,MIG記得也吃硬體架構,所以只有特定卡才能用

AKSN74, 7F
然後MIG的初衷是為了給容器,給VM用反倒是其次
目前就我所知A30,A100,H100有支援MIG功能,並且購買單卡有送vGPU授權 看來內部也很競爭
※ 編輯: aa210682 (61.219.70.171 臺灣), 04/10/2023 13:32:49

cmshow, 8F
推,看ptt漲姿勢

coffeedemon, 9F
T4跟A2效能差不多 不過A2省了一點功耗?

pcfox, 10F
好文分享堆一個

AI007, 11F
先收藏,晚點研究看看

dmeiki, 12F

jychu1132, 13F
A2很爛欸,除了VRAM大小根本是亮機卡等級,只有極少應

jychu1132, 14F
用能贏T4

jychu1132, 15F
然後L4以他75W的效能來說其實算很強

jychu1132, 16F
A2真實性能大概只有T4的1/3
根據我手邊有的資料,效能差不多就是了 不過我是沒有實際跑過跑分,不過真實性能這塊還是有很多面向的 繪圖、運算、FP32..等,這些都是,不能單純概括而論

imhanhan, 17F
推推

MACROSS2K, 18F
感謝分享

wahaha99, 19F
方法1 現在Workstation能用了?

wahaha99, 20F
一般遊戲卡也行嗎?
可以,直通道技術跟hypervisor產品有關 講一個更好裡解的部分,要讓CD ROM or USB讓USB讀取的到 邏輯上就是跟直通道一樣的概念

Lomonosov, 21F

BlackCoal, 22F
推推

han880805, 23F
玩過這個 聞聞看 對這個有什麼看法

han880805, 25F
V
看起來是hyper-v專用 本人是不推薦這種作法的,畢竟誰也無法保證效能那些是否在虛擬機上正常(望向VMware Bitfusion)
※ 編輯: aa210682 (61.221.67.195 臺灣), 04/11/2023 13:31:40