作者:
EfiwymsiAros (認真發廢文)
125.224.81.133 (台灣)
2025-07-16 17:12:51 噓 invoid: 領導 ? 10F 140.113.215.179 (台灣) 07-16 17:23
作者:
TFGlajumbo (拉醬爆的集食行樂)
223.137.83.91 (台灣)
2025-07-16 14:23:12 推 invoid: 如果只是 LLM 推理的話，確實RAM多比較好只需要把部分功能 offload 到顯卡VRAM即可其他參數就丟到一般 RAM
但如果要 train LLM 那還是要在顯卡跑 8F 140.113.215.179 (台灣) 07-16 14:35
作者:
MoreLight (大文)
219.71.219.140 (台灣)
2025-05-29 19:08:37 推 invoid: 8F 140.113.215.179 (台灣) 05-29 19:15
→ invoid:
10F 140.113.215.179 (台灣) 05-29 19:15
作者:
grayyoung (灰狼)
42.72.159.184 (台灣)
2025-05-02 17:08:03 推 invoid: openwebui 之類的？但他是網頁，我不知道有沒有 app 9F 05-02 18:47