作者 Lastwaltz (終焉華爾滋)
標題 [菜單] 110K AI,LLM計算機
時間 Tue Jan  9 13:55:39 2024



已買/未買/已付訂金(元):未買

預算/用途:LLM(AI語言模型)計算+玩遊戲

CPU (中央處理器):Ryzen5 7500F                                  ($5250)
MB      (主機板):華碩 ProArt B650-CREATOR                      ($7990)
RAM     (記憶體):威剛 ADATA XPG LANCER DDR5-6000 64G(32G*2)    ($5999,金士頓
缺貨)
VGA     (顯示卡):技嘉 RTX 4090 WINDFORCE V2 24G                ($61090)
                + EVGA GeForce RTX 3080 FTW3 ULTRA GAMING 10G   (原有)
Cooler  (散熱器):利民 FC140                                    (原有)
SSD   (固態硬碟):美光 Crucial MX500 1TB                        (原有)
HDD       (硬碟):Toshiba 4TB , Toshiba 2TB                     (原有)
PSU (電源供應器):EVGA SuperNOVA 1000 G6, 80 Plus Gold 1000W    (原有)[2~
                    (按照建議,會再補一顆或是換高瓦數的)
CHASSIS   (機殼):聯力 O11 動態 EVO XL   (暫時沒找到更好的選擇) ($7200)
MONITOR   (螢幕):
Mouse/KB  (鼠鍵):
OS    (作業系統):

其它      (自填):聯力 GB-002 顯示卡支撐架                      ($299)
                  利民 TL-C12C 風扇*6                           ($64*6,京東)
                   顯卡直立支架&排線(等機殼決定再買)
總價 (未稅/含稅):90,921

LLM運算需求:
主板:   2x PCIe 4.0 支援 雙顯卡 x8/x8 Bifurcation
VRAM:   24G~48G 越多越好(2.4bpw exl2 ~ 4.65bpw exl2)
記憶體: reddit看到有人說有差 有人說沒有 所以乾脆直上吧
        畢竟新板子有x8/x8基本都有DDR5

升級主要是為了4090 換掉主板/記憶體/顯卡/機殼 剩下都用現成的
CPU: 我個人其實更偏好Intel 13600K 但是x8/x8 的Intel板都超貴的 我根本用不上
機殼: 我看能塞下雙顯卡的基本都是玻璃機殼,想問有沒有沒玻璃側板的推薦

之後可能會把3080 換張 3090 24G + 水冷
散熱/供耗: 3090只需要壓到280W LLM就有91.5%速度,加上LLM是交替輪用兩張卡 應該
是不會變烤箱(吧)

有其他好選擇也拜託大家推薦,感謝
-偏向用空冷
-風扇越強越好 噪音無所謂
-不要RGB光汙染
-不要重得要死的玻璃機殼 (不知道為什麼聯力的大機殼都是玻璃的)

--------------
小抱怨 突然發現這半年顯卡漲了 記憶體漲了 真的是挑個爛時候升級

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 118.160.141.30 (臺灣)
※ 作者: Lastwaltz 2024-01-09 13:55:39
※ 文章代碼(AID): #1bdD_TuV (PC_Shopping)
※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1704779741.A.E1F.html
※ 編輯: Lastwaltz (118.160.141.30 臺灣), 01/09/2024 13:57:27
mrme945: 你確定1000W夠嗎?1F 111.71.216.3 台灣 01/09 13:57
Zenryaku: 不要光害不要水冷 你買O11系列做啥2F 39.9.37.209 台灣 01/09 13:58
mrme945: 噪音無所謂的話你應該要直接上機櫃吧
直接配工業扇了3F 111.71.216.3 台灣 01/09 13:58
Zenryaku: 也不要玻璃 那你還買O115F 39.9.37.209 台灣 01/09 13:58
mrme945: 我猜他是想要一張吊豬肉之類的吧6F 111.71.216.3 台灣 01/09 13:59
otosaka: 4090+3090 拿1000W確定嗎
他要兩張卡 只能吊起來吧7F 42.73.148.23 台灣 01/09 14:00
目前確實是打算吊起來 畢竟ProArt B650 兩個PCIe太近了 這樣基本散不到熱量
Zenryaku: 他這個要雙電源吧,O11D evo xl不能雙電9F 39.9.37.209 台灣 01/09 14:03
MK47: 不要拿7600X啊 7500F用起來有九成五像 要就11F 36.235.212.83 台灣 01/09 14:05
kaj1983: AM5主板不要選華碩啊...12F 218.166.9.234 台灣 01/09 14:05
我個人也不喜歡華碩板 但是找不太到其他能切PCIe x8/x8 的便宜板子
MEG X670E GODLIKE 就要兩萬up了
MK47: 7950X不然拿7500F就好了13F 36.235.212.83 台灣 01/09 14:05
Zenryaku: 而且你要吊顯卡怎麼沒有買排線14F 39.9.37.209 台灣 01/09 14:05
主要是還沒確定要哪個機殼 到時候會一並購入直立架和排線
kaj1983: 你記憶體又是32g*2...自檢應該會等很久15F 218.166.9.234 台灣 01/09 14:06
mrme945: 電源的部分可以直接再買一顆ATX3.0 1000W,新的電源接4090和其他東西,舊電源接3080,然後用同時啟動線連兩顆電源,不過機殼要改非XL才有雙電源倉16F 111.71.216.3 台灣 01/09 14:07
電源部分大家好像都是支持再買一個電源 而不是換一個1600W的PSU?
這樣能裝得下的機殼應該很有限吧
※ 編輯: Lastwaltz (118.160.141.30 臺灣), 01/09/2024 14:14:26
mrme945: 顯卡支架要買O11D EVO UPRIGHT GPU KIT,裡面有延長線20F 111.71.216.3 台灣 01/09 14:11
Zenryaku: 最好再加購前網版套件,前面再加三顆進22F 39.9.37.209 台灣 01/09 14:17
※ 編輯: Lastwaltz (118.160.141.30 臺灣), 01/09/2024 14:18:52
Zenryaku: 前三下三進 側三出上三後一出24F 39.9.37.209 台灣 01/09 14:17
mrme945: SSD我建議你順便再加一條m.225F 111.71.216.3 台灣 01/09 14:18
※ 編輯: Lastwaltz (118.160.141.30 臺灣), 01/09/2024 14:21:50
※ 編輯: Lastwaltz (118.160.141.30 臺灣), 01/09/2024 14:23:53
Zenryaku: 你換不是XL的版本就能雙電源了
不然就是像上面說的買機櫃
或是買開放式機殼直接用電風扇吹26F 39.9.37.209 台灣 01/09 14:23
sino6445: 用AI,LLM最好用intel,避免奇怪的問題發29F 125.227.161.97 台灣 01/09 14:27
目前只打算跑GPTQ/EXL2 只會在GPU上計算 應該不會動用到CPU吧
※ 編輯: Lastwaltz (118.160.141.30 臺灣), 01/09/2024 14:31:37
otosaka: 好奇問一下 不能用一個更大的電源就好嗎31F 42.73.148.23 台灣 01/09 14:32
mrme945: 也可以啊,只是1300/1600W都蠻貴的,現在又有現有還不錯的1000W電源,所以我才推雙電源32F 111.71.216.3 台灣 01/09 14:35
otosaka: 喔對吼 他已經有一顆G6 那再買一顆ATX3.0 1000W的接4090就好了 買更大瓦反而要多花錢 還要處理舊電源35F 42.73.148.23 台灣 01/09 14:37
mrme945: 突然發現台達1300W價格還不錯,不過沒那麼充裕就是了38F 111.71.216.3 台灣 01/09 14:37
研究一下發現更高的電供需要220V 我的座位附近偏偏沒有 還是老實用兩顆1000W..
※ 編輯: Lastwaltz (118.160.141.30 臺灣), 01/09/2024 14:42:42
otosaka: 他說是兩張輪流用 應該也不用吃太多電吧40F 42.73.148.23 台灣 01/09 14:40
sino6445: CPU看你,專業領域連i+n有的都容易被出問題了41F 125.227.161.97 台灣 01/09 14:47
※ 編輯: Lastwaltz (118.160.141.30 臺灣), 01/09/2024 14:54:30
sino6445: 歷史經驗,我會覺得那個價差,去搞那些不值得43F 125.227.161.97 台灣 01/09 14:48
上面也有人不支持華碩amd板 我來找找看有什麼Intel板可以用好了 畢竟我也沒用過AMD 爆了不會修= =
jeffguoft: 我已經能想像在電腦旁會有多熱了XD45F 180.217.148.240 台灣 01/09 14:52
※ 編輯: Lastwaltz (118.160.141.30 臺灣), 01/09/2024 14:56:09
comipa: Asus AMD板讚阿 特別是裝AC後 不能只有我46F 114.36.182.193 台灣 01/09 14:57
mrme945: 其實到1600W都還可以用110V啦,只是滿載就會占滿整個迴路了,而且效率也沒220V好47F 111.71.216.2 台灣 01/09 15:02
bettle1461: 我曾經跟你有類似的顧慮,後來也準備好了可以 x8/x8 + dual 4090 的配置。不過現在回頭看,在意主板能不能做 PCIE 通道拆分好像沒太大必要(可網參通道數變化對應效能損失),你的情況是 4090+3080or90,x16+x4 跑似乎也行?49F 140.109.135.164 台灣 01/09 15:02
sino6445: 4090降壓去跑90%負載,其實沒什麼熱的感55F 125.227.161.97 台灣 01/09 15:02
bettle1461: 如此一來配單可以更加彈性57F 140.109.135.164 台灣 01/09 15:04
johnjohnlin: 以前拿epyc+nv的經驗amd是沒啥問題58F 101.12.21.254 台灣 01/09 16:12
※ 編輯: Lastwaltz (118.160.141.30 臺灣), 01/09/2024 16:56:15
y40103: 現在資料中心AMD也沒少買吧59F 118.231.184.179 台灣 01/09 17:17

--