[菜單] 25萬 深度學習機

已買/未買/已付訂金（元）：未買 預算/用途：約25萬。Deep Learning & LLM專用，兼大量數據預處理，長時間運作 CPU (中央處理器)：Intel i9-14900K【24核/32緒】3.2G(↑6.0G) $19999 MB (主機板)：華碩 ROG MAXIMUS Z790 DARK HERO $20990 RAM (記憶體)：4 x 金士頓 32GB DDR5-5600/CL36 FURY Beast 黑 $6200 VGA (顯示卡)：2 x 華碩 ROG-STRIX-RTX4090-O24G-GAMING $65990 Cooler (散熱器)：DEEPCOOL ASSASSIN IV 阿薩辛4 導管/雙塔反葉扇/高16.4 $3290 SSD (固態硬碟)：金士頓 KC3000 2TB/Gen4 PCIe 4.0/讀:7000/寫:7000/TLC $4750 HDD (硬碟)：Seagate 16TB【EXOS企業碟】256MB/7200轉/五年保 $12800 PSU (電源供應器)：海韻 PRIME PX-1600 ATX3.0(1600W) 雙8/白金/全模組 $16490 CHASSIS (機殼)：聯力 O11 Dynamic EVO XL 黑 顯卡長46/CPU高16.7 $7200 9 x Fractal Design Aspect RGB 14cm/1700RPM $790 1 x Fractal Design Aspect RGB 12cm/2000RPM $790 總價 (未稅/含稅)：236,309 含稅 雙顯卡共48GB，允許使用更大的LLM，例如Llama-2 70B(要用某些lib拆分模型)。 此機殼允許一張吊掛，一張水平，提高散熱效率。 不用A6000純粹是因為目前預算不足，但未來仍可能會改A6000之類的。 不用水冷，不想承擔爆管風險。若過熱，就透過軟體抑制運算量。 電源1600W應該足夠，屆時也可能會主動限制GPU耗電量，也順便抑制溫度延長壽命。 有任何建議嗎？ --
※ 批踢踢實業坊(ptt.cc), 來自: 140.112.30.187 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1713800404.A.A6C.html

→ Depthsharky: 25萬..好驚人 36.228.211.100 04/22 23:41

→ E7lijah: 插4條DDR5要做好降頻跑的心理準備 有可 27.52.199.205 04/22 23:51

→ E7lijah: 能降到4800或更低 27.52.199.205 04/22 23:51

→ E7lijah: 如果改插48*2=96G跑模型ok嗎 27.52.199.205 04/22 23:52

→ E7lijah: 不然就去買DDR4比較穩 插滿4條問題不大 27.52.199.205 04/22 23:52

→ E7lijah: 149K長時間運作又不上水 就真心建議你去 27.52.199.205 04/22 23:54

→ E7lijah: 學一下進BIOS降壓 27.52.199.205 04/22 23:54

→ E7lijah: 不然你這整台最快壞掉的可能是CPU 27.52.199.205 04/22 23:54

→ E7lijah: 然後長時間運行 還有預算看要不要補個UPS 27.52.199.205 04/22 23:57

→ Depthsharky: 或者放PC的環境非常低溫 36.228.211.100 04/22 23:57

推 johnjohnlin: 燒毀！ 1.34.40.114 04/23 00:05

→ Zenryaku: 14900k別買 問題一堆 220.136.87.109 04/23 00:10

→ Zenryaku: 這缺陷產品用久了肯定出事 220.136.87.109 04/23 00:10

→ Zenryaku: 而且空冷根本壓不住 220.136.87.109 04/23 00:11

→ Zenryaku: DDR5插四條會烙賽，可能跑不到4000 220.136.87.109 04/23 00:11

→ Zenryaku: 建議你去買顯卡直立架跟垂直架，兩張錯 220.136.87.109 04/23 00:13

→ Zenryaku: 開來裝才不會散熱不良，都橫插的話上面 220.136.87.109 04/23 00:13

→ Zenryaku: 那張根本沒辦法散熱 220.136.87.109 04/23 00:13

→ Zenryaku: https://i.imgur.com/Ve9Inru.jpeg 220.136.87.109 04/23 00:15

推 sadsumo: 跑什麼軟體呢? 114.36.243.99 04/23 00:15

→ Zenryaku: 這是舊版的O11Devo，XL更大空間更足，然 220.136.87.109 04/23 00:15

→ Zenryaku: 後這樣裝一定要上水冷 220.136.87.109 04/23 00:15

推 a68096809: 實驗室有一台兩張A6000，之前讓他跑看 219.86.1.155 04/23 01:49

→ a68096809: 看簡單的Classification 跟Image Segme 219.86.1.155 04/23 01:49

→ a68096809: ntati訓練都超慢…不知道是環境有問題 219.86.1.155 04/23 01:49

→ a68096809: 還是軟體上有哪些要設定，蠻頭痛的…甚 219.86.1.155 04/23 01:49

→ a68096809: 至跑得比一張3090慢 219.86.1.155 04/23 01:49

推 mmonkeyboyy: 3090 本來就比6000快的... 73.70.62.211 04/23 06:07

推 mmonkeyboyy: 6000 2x 是模型可以大點 73.70.62.211 04/23 06:10

推 mmonkeyboyy: 但a6000真的很不值 ada 6000好點 73.70.62.211 04/23 06:15

推 giantwinter: 12900kf就對了 220.133.252.6 04/23 06:58

推 op15678900: 13 14代 有新的bios 看翼王的影片 36.228.179.144 04/23 07:26

→ op15678900: 調一調 溫度應該就下來了 36.228.179.144 04/23 07:26

→ Zenryaku: 只是不會電死自己而已 溫度怎麼可能下 27.247.194.39 04/23 07:33

→ Zenryaku: 來 27.247.194.39 04/23 07:33

→ leviva: 14900K要風冷, 253W還是勉強, PL降到230~111.243.149.193 04/23 08:02

→ leviva: 240W, IccMax設400, ACLL設0.6111.243.149.193 04/23 08:04

推 sma1033: 把149k最高頻限定在5.2G再搭配降壓就ok啦 111.241.136.69 04/23 08:04

→ leviva: 然後用FC140或D15雙塔111.243.149.193 04/23 08:05

推 mrme945: 14900K一定要進BIOS調，不然遲早電死自己 111.71.212.52 04/23 09:06

→ mrme945: ，四條DDR5不一定能穩，先上兩條64G，不 111.71.212.52 04/23 09:06

→ mrme945: 夠再加，散熱最好能上420水冷，如果不想 111.71.212.52 04/23 09:06

→ mrme945: 上水至少也用個D15，SSD我建議T500、Exce 111.71.212.52 04/23 09:06

→ mrme945: ria Pro，記得買兩種顯卡直立套件 111.71.212.52 04/23 09:06

→ mrme945: 打錯了，兩條48G 111.71.212.52 04/23 09:07

→ dcsyun: 25萬 乾爹吃早餐了嗎@@ 49.216.162.24 04/23 09:14

推 mrme945: 話說你這個預算有沒有考慮上TR或TR pro呀 111.71.212.52 04/23 09:14

→ mrme945: ，這樣記憶體大又穩多了 111.71.212.52 04/23 09:14

→ YouCantGetME: 預處理跟一些環節很容易單執行緒在114.136.247.155 04/23 10:05

→ YouCantGetME: 扛 沒tune的話多核U反而慢114.136.247.155 04/23 10:05

→ Sartanis: 為啥不選7950X3D?118.166.204.146 04/23 10:36

→ Sartanis: 7950X這種全大核的?118.166.204.146 04/23 10:36

→ kkcity59: 深度學習的軟體來說CPU重要性非常非常低 114.36.243.99 04/23 17:32

→ kkcity59: 弄各14900K增加各不穩定因素不如用14900 114.36.243.99 04/23 17:33

→ kkcity59: 這麼多RGB燈高頻雜訊也很高主版的HPF 114.36.243.99 04/23 17:34

→ kkcity59: 沒過濾好一樣增加一個不穩定因素何苦？ 114.36.243.99 04/23 17:35

→ promaster: 這預算一定可以學很深 180.217.225.29 04/23 17:39

推 mtc5566: 哥 當今是7950X3D的時代了 27.242.128.173 04/23 20:24