作者:
justloveit (輝仔)
218.161.55.143 (台灣)
2025-03-02 21:57:02 推 Ghosts: 在那邊亂算,好像塞完模型權重就沒事
KV Cache 都不用算嗎... 16G極限27B Q4
FP4又沒比INT4小...
16G 訓練小模型夠用了,更大就伺服器跑 27F 140.118.155.56 03-03 05:02
作者:
douge (樹大便是美)
140.112.175.204 (台灣)
2025-02-25 10:34:41 推 Ghosts: 講句實話,誰有心情等廠商提供服務
哪裡壞拆哪裡出保,然後去買新的換 8F 101.139.28.172 02-25 11:17