※ 本文轉寄自 ptt.cc, 文章原始頁面
作者hugh509
標題

[閒聊] M2Ultra在AI比intel+nVIDIA有架構優勢?

時間
最新2023-07-06 12:50:00
留言255則留言,62人參與討論
推噓48 ( 579189 )
先說我不懂AI運算 只是看了林亦的新影片 https://youtu.be/UsfmqTb2NVY
不想點的,說個大概 意思是 由於M2 Ultra的記憶體是CPU與GPU共用 而且GPU調取記憶體沒啥限制(? 等於有著超大容量和高速頻寬的顯存 對比的是i9 12900+3080TI 中間跑什麼運算什麼訓練,我是不懂 但他的結論、標題 都表明Mac PRO具有極高性價比(他是說最高 可是這套方案要30萬欸 他更是呼籲老黃要出大容量的顯卡 如果蘋果是真的有這麼大優勢 會影響未來PC遊戲卡迭代速度嗎? -- 「我看不到」 「欸 我真的看不到」 「 」 「我還是什麼都看不到啊...」 「我看不到我看不到我看不到!」 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 111.253.194.31 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1688203055.A.F59.html

255 則留言

kivan00, 1F
沒生態你要用什麼跑?手刻API嗎223.138.207.31

kalarotia, 2F
又在吹蘋果,不累嗎42.75.153.202

hugh509, 3F
林亦當然是吹,我關心的是PC卡會不會影響111.253.194.31

SunFox58, 4F
不影響 end111.249.161.157

ducamao, 5F
你如果連他吹的用途都看不懂的話,那換句1.172.237.112

ducamao, 6F
話說。兩個沒交集的領域要怎麼影響1.172.237.112

raider01, 7F
問題兩邊GPU性能差多少,花同樣的錢可以42.72.191.32

raider01, 8F
買到等級不低的運算卡了吧42.72.191.32

raider01, 9F
3080Ti一張也才多少怎麼會拿來比?42.72.191.32

scarbywind, 10F
只比硬體你拿AMD不是更便宜223.141.96.189

E6300, 11F
3080ti回血阿61.227.209.144

as134679258, 12F
互不影響 遊戲卡要的是運算 AI要的125.228.131.13

as134679258, 13F
是大容量跟傳輸帶寬 前面展示的大容125.228.131.13

as134679258, 14F
量帶來得訓練優勢 後面展示大語言模125.228.131.13

as134679258, 15F
型在local執行的能力125.228.131.13

as134679258, 16F
說可以抵8張主要是拿顯存放模型125.228.131.13

as134679258, 17F
跟需不需要那些算力沒直接關係125.228.131.13

fishworm, 18F
你花30萬都已經能買到a100了,好歹也拿114.36.185.115

fishworm, 19F
價格近似的東西來比吧114.36.185.115

s78513221, 20F
老黃的大顯存是資料中心的專業卡114.136.113.95

s78513221, 21F
民用想要的是大顯存的遊戲卡兼學習114.136.113.95

aegis43210, 22F
老黃又不是傻子,為什麼要出大容量的123.204.13.213

aegis43210, 23F
顯示卡,蘋果這個能算的模型又不多123.204.13.213

s78513221, 24F
但目前的務實之選是…接人家現成的114.136.113.95

aegis43210, 25F
能玩的遊戲也少,看不出有什麼競爭力123.204.13.213

hugh509, 26F
所以大容量並不是遊戲卡和計算卡共同方向111.253.194.31

hugh509, 27F
還以為計算卡被打擊,遊戲卡也會間接受益111.253.194.31

hugh509, 28F
因為看到這代頻寬開砍有點傻眼111.253.194.31

hugh509, 29F
價格漲上那麼多規格還有倒退嚕的喔111.253.194.31

Arbin, 30F
SoC在記憶體頻寬上絕對有優勢111.71.218.44

Arbin, 31F
但Core ML的生態系太疲軟了111.71.218.44

tony1768, 32F
先要有人要支援223.139.17.165

aegis43210, 33F
繪圖卡的強項是渲染和成像,這塊才是123.204.13.213

aegis43210, 34F
老黃最大的護城河123.204.13.213

spfy, 35F
30萬比12900+3080ti?203.121.243.239

fishworm, 36F
不過蘋果M2的確是workstation上cp好114.36.185.115

fishworm, 37F
如果有軟體支援,M2目前的確是性價比最114.36.185.115

Alwen, 38F
不過沒人會拿顯卡跑訓練吧= =118.232.100.36

commandoEX, 39F
一張3080不夠強你能上兩張啊118.171.101.225

WiLLSTW, 243F
個人不適合 光debug就飽了……101.12.114.75

pcfox, 244F
喔 挖鼻36.231.111.109

yymeow, 245F
買A100/H100就好了,工具是快且好用,不是114.37.16.120

yymeow, 246F
開車上路前先造車修車114.37.16.120

froce, 247F
啊這就家用思維和商用思維的差異。223.141.184.7

froce, 248F
在家自己研究跑來玩的當然買台MacBook pr223.141.184.7

froce, 249F
o能跑速度可以接受就好,PyTorch裝上去就223.141.184.7

froce, 250F
直接可以跑也不用在那邊跟CUDA安裝奮戰。223.141.184.7

froce, 251F
至於買studio跑大模型…我還沒自閉到要跟223.141.184.7

froce, 252F
AI聊天,除非你工作上需要調教大模型223.141.184.7

puffycat, 253F
對岸連A800都沒辦法買,一般要在本地端42.75.155.192

puffycat, 254F
跑只剩RTX 6000 Ada跟RTX 4090,M2 Ul42.75.155.192

puffycat, 255F
tra出現給了可以在本地端跑大模型機會42.75.155.192

puffycat, 256F
42.75.155.192