※ 本文轉寄自 ptt.cc, 文章原始頁面
標題

[菜單] 100k AI模型訓練機

最新2024-03-26 18:19:00
留言60則留言,8人參與討論
推噓9 ( 9051 )
已買/未買/已付訂金(元):未買 預算/用途:AI模型訓練,希望之後可以擴充雙4090顯卡 有幾個蠢問題 1. 是否DDR4就夠了,不用上5 2. 14700K跟非K會差很多嗎? 如果改用14700F的話,是否FC140就夠了,不用上水冷 3. 雙顯卡插得下嗎? 1500w是否夠,會不會裡面變火球 4. SSD打算一個系統一個跑資料用,是否拿個4tb就夠了? CPU (中央處理器):Intel i7-14700K【20核/28緒】3.4G(↑5.6G)/33M/UHD770/無風扇 MB (主機板):華碩 TUF GAMING Z790-PRO WIFI RAM (記憶體):威剛 64GB(雙通32GB*2) DDR5 6000 XPG Lancer/CL30 VGA (顯示卡):華碩 TUF-RTX4090-O24G-GAMING(2595MHz/35cm/註五年) Cooler (散熱器):微星 MAG CoreLiquid M360 /A.RGB冷頭+風扇/厚:5.2 SSD (固態硬碟): 美光Micron Crucial T500 1TB含散熱片/Gen4/讀:7400M/寫:7000M/3D TLC顆粒 美光Micron Crucial T500 2TB含散熱片/Gen4/讀:7400M/寫:7000M/3D TLC顆粒 HDD (硬碟): PSU (電源供應器):be quiet! Dark Power Pro 12 1500W CHASSIS (機殼):聯力 LANCOOL 216 RGB 黑 MONITOR (螢幕): Mouse/KB (鼠鍵): OS (作業系統): 其它 (自填):酷碼 VGA Holder 顯卡用支架 總價 (未稅/含稅):120000左右 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 1.34.150.62 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1711376665.A.A18.html

60 則留言

Depthsharky, 1F
不想上水就14700/14700F61.228.68.100

Depthsharky, 2F
一張卡用PCIE延長線61.228.68.100

Depthsharky, 3F
DR5大容量貴 看你的用途對ddr5有沒有61.228.68.100

Depthsharky, 4F
硬性需求61.228.68.100

Depthsharky, 5F
T500含散熱片很貴61.228.68.100

Depthsharky, 6F
資料看你會不會用到滿載讀寫61.228.68.100

Depthsharky, 7F
不然也能考慮GEN361.228.68.100
所以其實用14700就夠了 然後DDR4 這樣可以不上水冷

Depthsharky, 8F
接頭的問題不保證61.228.68.100

Depthsharky, 9F
PSU那組有兩個給顯卡的輸出嗎61.228.68.100

Depthsharky, 10F
RTX A6000?61.228.68.100
對阿 沒有甚麼找到有人這樣組 很怕跑不起來

AmigoSin, 11F
借問消費平台用雙顯卡PCIe通道數夠嗎223.140.143.85
好像兩張的話都走PCIE x8
※ 編輯: aces3732 (1.34.150.62 臺灣), 03/25/2024 22:51:34

Depthsharky, 12F
以前有人在板上問過雙4090 後續我忘61.228.68.100

Depthsharky, 13F
了 真的太冷門61.228.68.100

dos01, 14F
D5的問題是插到四條不穩 再加上比較貴182.155.78.98

dos01, 15F
夠不夠用就看你要跑的東西會不會吃到記憶體182.155.78.98

dos01, 16F
的速度 但目前只有少數軟體會有影響182.155.78.98

dos01, 17F
CPU跟SSD的部分也一樣 夠不夠用都是看你182.155.78.98

dos01, 18F
跑的程式會吃多少資源 通常跑AI相關的會吃182.155.78.98

dos01, 19F
的是顯卡 CPU影響比較小 只要不要太老的都182.155.78.98

dos01, 20F
堪用 SSD也是只要資料塞的下就夠了 在這個182.155.78.98

dos01, 21F
前提下 上去全都是浪費182.155.78.98

dos01, 22F
然後你這種組法已經是個人電腦最頂的了182.155.78.98

dos01, 23F
再上去就企業級了 所以只要你跑的程式是有182.155.78.98

dos01, 24F
讓個人使用的東西 這台至少贏九成以上的人182.155.78.98

dos01, 25F
應該是不用擔心不夠用的問題182.155.78.98

dos01, 26F
現在一堆跑AI的拿個I5 4060TI都在跑了182.155.78.98

dos01, 27F
沒理由這台不夠用182.155.78.98

Depthsharky, 28F
跑圖和模型訓練不能類比吧= =61.228.68.100

dos01, 29F
還是能跑啦 就只是速度的問題而已182.155.78.98

dos01, 30F
只問夠不夠是一定堪用 但堪用能不能到達182.155.78.98

dos01, 31F
滿意的效益 這就是要看要求到哪裡182.155.78.98

dos01, 32F
我是覺得原PO有點太焦慮了 組到最頂沒理由182.155.78.98

dos01, 33F
跑不起來182.155.78.98

annboy, 34F
1. 會有差一點 個位數%114.34.37.71

annboy, 35F
2. 基本沒差 FC140就夠114.34.37.71

annboy, 36F
3. 應該插不下 雙4090機殼要底深114.34.37.71

annboy, 37F
主機板要拿x8x8 中間隔四槽 預算會高不少114.34.37.71

annboy, 38F
4. SSD系統1TB 訓練資料 2T足夠114.34.37.71

annboy, 39F
其他資料放HDD或額外買NAS備份114.34.37.71

annboy, 40F
然後不要太樂觀覺得雙4090可以幹嘛114.34.37.71

annboy, 41F
現在大一點的模型都要8卡伺服器起跳114.34.37.71

annboy, 42F
小模型的話1張跟2張差別114.34.37.71

annboy, 43F
就是分布式訓練可以縮短最多一半的時間114.34.37.71

annboy, 44F
可以講一下要訓練什麼模型114.34.37.71

wuyiulin, 45F
能雙卡還是雙卡,我這邊有看到一些解決1.170.119.120

wuyiulin, 46F
方案完全不支援單卡運算的,多買一張省1.170.119.120

wuyiulin, 47F
工時省重新建置時間。1.170.119.120

sino6445, 48F
模型訓練又雙4090,就上D5吧114.32.86.89

sino6445, 49F
不然記憶體速度會變瓶頸,高壓狀態下D5114.32.86.89

sino6445, 50F
有幫助114.32.86.89

sino6445, 51F
這場景D5算是派上用場了114.32.86.89

sino6445, 52F
即使雙顯卡也不需要147k114.32.86.89

dsin, 53F
上D5 D4的板子沒有雙PCIE4x8的 第二根都x4123.194.114.86

annboy, 54F
CPU的需求是依前處理的複雜程度而定114.137.1.123

annboy, 55F
現在有一些開源的前處理做得挺複雜114.137.1.123

annboy, 56F
CPU就會變瓶頸114.137.1.123

sino6445, 57F
帶k多那4%效能,要上水冷沒什麼意義101.10.58.72

sino6445, 58F
不然上149k,核心多一點,降壓比較實在101.10.58.72

mtc5566, 59F
你這用途 SSD都是2T起跳 不要省插槽 電源27.51.42.120

mtc5566, 60F
有海韻TX1600 這筆錢不要省27.51.42.120