回看板
Disp BBS
看板 PC_Shopping
作者 Luxus (奢望)
標題 [請益]AI大模型記憶體不足，市面上128G RAM?
時間 Sun Aug 31 10:25:37 2025

各位前輩大家好:

老弟又又又又又來打擾大家了(真不是洗文)

是這樣的，自從我可愛的新電腦啟動組完後，經過多次嘗試(幹你的GROK 不跟我說直接下.GGUF的類型就好，讓我下載.safetensors類型，害我浪費了好多天)

然後昨天好不容易DeepSeeK V3.1 Q4版本下載完，開始要運行起來時，就給我出現:
Error: 500 Internal Server Error: model requires more system memory (326.4
GiB) than is available (252.3 GiB)

就是記憶體不足，經過多番嘗試，最後只能無奈用較低版本的Q3L，想了一下後，覺得錢都在花了，要不乾脆把兩條64G換成兩條128G的，在加兩條64也有考慮，但這樣好像不太好

但是剛剛上了實價屋的網站查了一下，似乎沒有128G單條的，然後又去對岸的掏糞上查，是有的，但老弟我對這方面較不熟悉，不知道各位有甚麼推薦的品牌型號嗎?

謝謝各位

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 122.100.85.163 (臺灣)
※ 作者: Luxus 2025-08-31 10:25:37
※ 文章代碼(AID): #1eixAZI4 (PC_Shopping)
※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1756607139.A.484.html
→ sachialanlus: 你有算過即使真的跑得起來 速度比你可以接受嗎？1F 150.117.132.227 台灣 08/31 10:29
→ spfy: 單條128就算中國品牌也不多吧 很多能選嗎?3F 39.10.65.34 台灣 08/31 10:30
→ d0178411: 好像鬼島沒啥地方賣吧4F 218.166.6.130 台灣 08/31 10:35
是阿 我們國內真找不到~XD
※ 編輯: Luxus (122.100.85.163 臺灣), 08/31/2025 10:38:27
※ 編輯: Luxus (122.100.85.163 臺灣), 08/31/2025 10:38:49
推 aabbcc840526: U DIMM目前顆粒最大應該就32Gb所以兩面最多64GB, 如果你要128那就是要3DS(一種可以塞兩個或以上晶片的技術), 成本較高所以極少廠商願意出這種產品,這種技術目前僅大規模應用server市場而已
另一條路就是跟server一樣用x4顆粒（這樣可以多貼一倍的顆粒）,但一樣我不確定PC市場有沒有人出這種產品5F 118.233.240.7 台灣 08/31 10:49
掏糞上有看到在賣 之前FB好像也有看到介紹 但是我們國內就好像一直沒找到~那如果插4條64G是否也是能考慮的方案呢?
※ 編輯: Luxus (122.100.85.163 臺灣), 08/31/2025 10:55:36
→ chenzu740125: 讓我想到8299董狂吹adaptive.不過這是笑話XD15F 111.82.54.96 台灣 08/31 11:00
推 widec: 現在主板支援的單支DIMM上限是多少容量17F 1.165.18.58 台灣 08/31 11:02
奴家真的不知道~所以才上來請教各位前輩~
※ 編輯: Luxus (122.100.85.163 臺灣), 08/31/2025 11:12:07
推 smallreader: 別浪費時間搞這種
單條DDR5現在是64G 支援度基本沒問題兩條就128 四條就256 但筆電型就兩條18F 111.254.137.17 台灣 08/31 11:21
我是台式機 上上週剛啟動完5090~組好使用中
※ 編輯: Luxus (122.100.85.163 臺灣), 08/31/2025 11:24:03
→ smallreader: 64G也是今年剛出的 沒有更高容量了21F 111.254.137.17 台灣 08/31 11:24
→ jkiu: 先撇開龜速問題，想跑這麼大的模型不該用家用主機板，要用上伺服器用的，光記憶體插槽跟pcie插槽就可以多出很多條22F 49.216.161.232 台灣 08/31 11:26
推 ttmm: 去用雲端...不要本地跑啦25F 111.243.8.229 台灣 08/31 11:27
感謝大大指教 是我想得少了~ 那請問現在彌補的方式 我若加上兩條64的可行嗎?
※ 編輯: Luxus (122.100.85.163 臺灣), 08/31/2025 11:28:17
→ smallreader: 要不要試試看swap到optane來增加容量速度可能會降好幾倍 但至少容量夠(x26F 111.254.137.17 台灣 08/31 11:28
推 ziggs8308: deepseek 都忘記這個東西了 原來還有呼吸 爆紅一個禮拜就直接消失28F 42.72.89.9 台灣 08/31 11:29
推 pcfox: 問就直上Pro WS WRX90E-SAGE SE30F 36.231.103.105 台灣 08/31 11:31
→ smallreader: 900P / 905P / DC 4800X / 5800X31F 111.254.137.17 台灣 08/31 11:34
→ commandoEX: 買TR啊，4通道8DIMM頻寬更高32F 118.171.169.247 台灣 08/31 11:35
推 odanaga: 905p還買的到嗎？
上次新蛋300美買一個 太美了33F 42.70.31.206 台灣 08/31 11:35
推 Lightee26: 普通板子有支援單條128？35F 1.169.206.33 台灣 08/31 11:38
推 benen: 其實我也蠻好奇www家用這樣用起來速度真的ok嗎？36F 101.9.98.234 台灣 08/31 11:41
STABLE DIFFSTION 改5090後用起來是真有感 出圖快了很多~
推 bunjie: 我覺得如果AI模型只是玩票性質的話  就線上租一租就好 高階機當作打電動舒壓用
其實AI模型現在也差不多飽和了 卷成那樣等應用就好
現在進場想要玩出什麼新花樣 其實蠻難的38F 182.155.197.16 台灣 08/31 11:46
※ 編輯: Luxus (122.100.85.163 臺灣), 08/31/2025 11:50:10
推 ttmm: 你有灌 linux?43F 111.243.8.229 台灣 08/31 11:54
→ jkiu: 留著打電動跟生生玩票性質的圖就好，這麼大的模型本地想跑q4跟速度可以接受~20tps，預算先x3,x4，但花這麼多錢還只不過買api來用效果44F 36.224.160.202 台灣 08/31 12:00
推 kanding255: 要不要試試 virtual memory 只是效果不知道是不是你要的48F 49.217.126.242 台灣 08/31 12:03
→ newforte: 買虛擬機 要多大有多大50F 106.1.219.206 台灣 08/31 12:07
→ game0502: 上機架2-4U的24條隨便你插還能上顯卡51F 220.133.127.4 台灣 08/31 12:12
→ sino6445: 討論板不要用太不雅的字，即使是吃飯飯時看到也很不舒服，即使是中國品牌，把別人品牌用ㄈㄣˋ這個字，只是貶低自己忘了給噓52F 123.195.160.154 台灣 08/31 12:13
推 Ron51320: 弄些虛擬的跑跑看，騙不過嗎？56F 101.10.238.253 台灣 08/31 12:18
推 pxhome: DDR5 5600 64GB一條5000兩條1萬
128GB 只有eco但你的主機板不支援
DDR5 ECC的腳位不一樣了
原來對岸來的小弟弟不知道有鹹魚57F 101.12.146.195 台灣 08/31 12:23
我是不知道您用了多少次鹹魚，依我在上海住了7年的經驗來說 鹹魚比拚夕汐還坑 平常買些無關緊要的還行 高價的東西不敢在上面買
→ widec: 我也覺得等應用就好61F 1.165.18.58 台灣 08/31 12:42
推 camry2338y: 一般家用的主機板 ram最高就支援到256G 就算你的到也還是不夠啊62F 111.71.9.9 台灣 08/31 12:45
→ linkt0: d4幾年前就裝過128g*4=512g 標256g參考用udimm 128g*4
x99時代ram還被小石頭rd借去改bios64F 223.136.170.24 台灣 08/31 12:56
推 lordmi: 最近被問到煩了剛好寫過一篇到底什麼硬體可以跑入門AI https://www.lordmi.com/2025/08/2025ai  不過我還是建議你真的沒必
要跑localA I除非你的預算有300k以上67F 223.136.238.116 台灣 08/31 13:05
→ nrsair: 插四條71F 49.217.195.125 台灣 08/31 13:14
→ narukaza: 這還不簡單，直接換主板CPU，WRX90+9995WX，插滿8條64G跑6000輕輕鬆鬆
兩條128G都要快60K了，真能用你會買？72F 114.34.174.204 台灣 08/31 13:19
推 DrGun: https://reurl.cc/jrVGVy
對岸騰訊玄武實驗室發在微信上der實測文章標題：「不到 4 万元的 DeepSeek-R1-671B-Q8 部署方案」 這邊4萬4人民幣 實際總花費35686 rmb 這篇der重點4純粹用Amd Epyc 9005系列cpu搞一台local ai 峰值生成速度 7.17tokens/s 已經在可用範圍der下限 連結點進去有實際運行影片 尼如果換成Q4 der話token數大概直接變乘以2 記憶體容量可以再減 預算更省 有機會壓在10萬台幣以下75F 118.168.245.126 台灣 08/31 13:37
→ linzero: 目前一版主板是64*4=256G吧，不過9950X3D上限好像是192G，Win11家用版是128G85F 36.228.126.250 台灣 08/31 13:38
→ lhhjimmy: 不知道有沒有人玩過CXL
前提是主機板/CPU要support87F 42.70.191.223 台灣 08/31 13:45
→ rasen9: 沒 我9950x3d icu285k都插過4條64沒問題89F 126.179.104.115 日本 08/31 14:43
推 skywgu: 有隱私需求本地ai還是有市場啦90F 49.218.145.250 台灣 08/31 14:53
推 E7lijah: AMD官網標示7000/9000只支援128/192GB，是因為發售時的記憶體只出到單條32/48GB或已經出了更大的容量但還來不及驗證91F 27.240.224.143 台灣 08/31 15:05
推 s900527: 一堆人在那邊api就是完全不懂本地的好
速度更不是重點 放著給他跑就好了急什麼94F 61.227.240.64 台灣 08/31 15:05
→ E7lijah: 你要單條128GB要上RDIMM(不一定要3DS)
RDIMM消費級平台不支援，要上到TR/EPYC上面說DDR4 UDIMM 128GB的是哪條
有這種東西??96F 27.240.224.143 台灣 08/31 15:06
→ AlvisBarhara: udimm買新的比較便宜,撿垃圾的話比較貴,大概是server用量比rdimm少吧224F 27.51.129.132 台灣 09/01 08:09
推 kuninaka: 太折騰了226F 211.20.234.13 台灣 09/01 09:21
推 Narok: 開memory context restore之後，MT6000變成3600...227F 218.173.26.33 台灣 09/01 09:21
→ nrsair: 64GB*4=229F 125.224.121.180 台灣 09/01 10:26
※ 編輯: Luxus (220.129.195.119 臺灣), 09/01/2025 11:19:26
--
作者 Luxus 的最新發文:
點此顯示更多發文記錄