---

※ 引述《sxy67230 (charlesgg)》之銘言：
: 有沒有DeepSeek V4屌爆的拔掛啊？

我這兩天在想要怎麼講 DeepSeek V4 對於中國的意義與價值,
但實際上,這個進展,不只是 DeepSeek,還包括華為、Kimi

DeepSeek:

1.V4 用 FP8+FP4(MoE) 訓練

2.CSV + HBA 暴力壓縮 KV Cache 耗用

3.降低每次啟動參數量

4.MoE 的通訊與計算切更細,改寫算子,做到精度對齊,
  在 NV 及華為上可跑出相同的數學結果

達到 unbinding CUDA,使內文視窗可達到 1M tokens

以上,在為以下鋪路

華為:

1.CANN 在 DeekSeek 的支持下有了代表實績可以對抗 CUDA

所以,只需要用華為 950PR 的 NPU(推理用),就能滿足用戶使用,因此

2.950PR 從四月開始到明年,會是 NV 以外,最搶手的中國 LLM 卡.

DeepSeek 破壞性價格,也源自於推理使用時的硬體成本降低(不需 H200 或更高).

Kimi:

1.Prefill-as-a-Service
  在 DeepSeek,已經對 KV Cache 的節省做到暴力的降低,
  Kimi 做到 KV Cache 的 Prefill 與 Decode 的 Decoupling,
  可以讓 Prefill(高算需求) 與 Decode(快速反應)跨節點、跨機房甚至跨低區傳輸,
  不再必備 400G 以上的 RDMA,在 100G 的乙太網路,就可運作.
  (實測在 20G 以內即可滿足基本使用需求)

中系廠商用 做黑手 的硬幹方式,繼續向其他人展現不輕易向國際土匪低頭的韌性 (~誤


--
※ 編輯: freeunixer (60.250.90.238 臺灣), 04/30/2026 04:50:04

--