※ 本文轉寄自 ptt.cc 更新時間: 2025-03-19 18:34:24
看板 Stock
作者 標題 [新聞] 英偉達宣布創造滿血 DeepSeek-R1 模型 AI 推理性能的世
時間 Wed Mar 19 08:45:05 2025
原文標題:英偉達宣布創造滿血 DeepSeek-R1 模型 AI 推理性能的世界紀錄
原文連結:https://finance.eastmoney.com/a/202503193349461511.html
英伟达宣布创造满血 DeepSeek-R1 模型 AI 推理性能的世界纪录 _ 东方财富网 【英伟达宣布创造满血 DeepSeek-R1 模型 AI 推理性能的世界纪录】英伟达在今日举行的 NVIDIA GTC 2025 上宣布其 NVIDIA Blackwell DGX 系统创下 DeepSeek-R1 大模型推理性能的世界纪录。据介绍,在搭载了八块 Blackwell GPU 的单个 ...
記者署名:
原文內容:
3 月 19 日消息,英偉達在今日舉行的 NVIDIA GTC 2025 上宣布其 NVIDIA Blackwell DGX 系統創下 DeepSeek-R1 大模型推理性能的世界紀錄。
據介紹,在搭載了八塊 Blackwell GPU 的單個 DGX 系統上運行 6710 億參數的滿血 DeepSeek-R1 模型可實現每用戶每秒超 250 token 的響應速度,系統最高吞吐量突破每秒 3 萬 token。
英偉達表示,隨著 NVIDIA 平臺繼續在最新的 Blackwell Ultra GPU 和 Blackwell GPU 上突破推理極限,其性能將會繼續不斷提高。
英偉達表示,通過硬件和軟件的結合,他們自 2025 年 1 月以來成功將 DeepSeek-R1 671B 模型的吞吐量提高了約 36 倍。
與 Hopper 架構相比,Blackwell 架構與 TensorRT 軟件相結合可實現顯著的推理性能提升。
英偉達表示,包括 DeepSeek-R1、Llama 3.1 405B 和 Llama 3.3 70B,運行 TensorRT 軟件並使用 FP4 精度的 DGX B200 平臺與 DGX H200 平臺相比已經提供了 3 倍以上的推理吞吐量提升。
精度 MMLU GSM8K AIME 2024 GPQA Diamond MATH-500
DeepSeek R1-FP8 90.8% 96.3% 80.0% 69.7% 95.4%
DeepSeek R1-FP4 90.7% 96.1% 80.0% 69.2% 94.2%
英偉達表示,在對模型進行量化以利用低精度計算優勢時,確保精度損失最小化是生產部署的關鍵。IT之家註意到,在 DeepSeek-R1 模型上,相較於 FP8 基準精度,TensorRT Model Optimizer 的 FP4 訓練後量化(PTQ)技術在不同數據集上僅產生微乎其微的精度損失。
心得/評論:
NVDIA的GTC開兩天,暴跌兩天。真慘啊
昨天是china ai日,deepseek今天又成爲了舞臺中央的角色
世界AI人才半數是華人,嗯哼。
輝達會在GTC第幾天終止跌幅呢
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 123.52.231.181 (中國)
※ 作者: icrose 2025-03-19 08:45:05
※ 文章代碼(AID): #1dsXEKOL (Stock)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1742345108.A.615.html
※ 編輯: icrose (123.52.231.181 中國), 03/19/2025 08:47:20
--
→ : OGC1F 03/19 08:46
→ : 嘻嘻 吹支者 吹起來2F 03/19 08:46
推 : 講太多技術細節,華爾街聽不懂啦3F 03/19 08:47
推 : AI是華人的世代4F 03/19 08:48
推 : ????5F 03/19 08:49
推 : 已反映6F 03/19 08:52
噓 : 所以在講什麼?7F 03/19 08:53
推 : 自信點 ai就是我們中國人的世代 鹿港又要一路噴了8F 03/19 08:54
→ : 中吹又來了,可以限制中吹發文嗎?9F 03/19 08:55
噓 : itrose 不貼去政黑板 貼在這邊幹嘛10F 03/19 08:58
→ : 一早起床就被塞嘴中國大便的感覺真差…誰跟你我們11F 03/19 08:58
→ : 中國人
→ : 中國人
→ : 同路人?13F 03/19 08:58
→ : 政府說那個DS有資安風險!
→ : 政府說那個DS有資安風險!
噓 : 中國贏三次!咦?蘇媽、老黃來自?陳立武?15F 03/19 09:00
推 : 聽說中國還在搞存算一體,成功的話高階晶片需求可能16F 03/19 09:05
→ : 會下降
→ : 會下降
推 : 看成滿手血18F 03/19 09:05
推 : 百萬NV吹站出來!19F 03/19 09:05
推 : 一早就有人崩潰好可悲20F 03/19 09:06
推 : 向下正常 原本吹高階GB現在剩下B21F 03/19 09:07
推 : 中國牛逼22F 03/19 09:08
推 : 雖然我恐支 但DS不敏感問題的精準度比OPEN高太多了23F 03/19 09:08
推 : 還是要靠 DS24F 03/19 09:08
推 : Deepseek是真貨25F 03/19 09:08
噓 : ?26F 03/19 09:10
推 : 認清點 你台灣做的出deepseek在說 人家很強的27F 03/19 09:10
→ : 對比grok ds ,open比較像是撈錢28F 03/19 09:11
→ : 整天自吹自擂 認清點 沒這麼困難 吹到自己世界ㄧ29F 03/19 09:11
→ : 看了很想吐 自我認識跟吹噓是兩回事
→ : 看了很想吐 自我認識跟吹噓是兩回事
推 : 但一台B只要兩台H的2/3價31F 03/19 09:12
推 : 鹿港噴32F 03/19 09:12
→ : 反觀33F 03/19 09:13
→ : 你強 人家也強 為了意識行態 整天矇眼 不會進步啦34F 03/19 09:13
推 : 鬼島政府:啊啊啊 禁止禁止(玻璃破碎35F 03/19 09:13
→ : 跟滿清政府鎖國禁西方事物一個樣
→ : 跟滿清政府鎖國禁西方事物一個樣
推 : 滿血版的 打得贏ChatGPT嗎?37F 03/19 09:14
推 : 不管你發明了多省力的方式 最終你還是得買鏟子..38F 03/19 09:15
推 : 看成英業達39F 03/19 09:15
推 : 硬體軟體互相加分 破除硬體獨大的夢 吹不起來了40F 03/19 09:16
噓 : Design in USA, made by Taiwan41F 03/19 09:16
→ : 笑死,蒸餾中國模型42F 03/19 09:17
推 : 說真的美國AI領域很多也是華人面孔了43F 03/19 09:21
→ : 完了 他還能進來台灣嗎44F 03/19 09:22
→ : LLVM真的被玩爛了..繼續玩數字效能遊戲 遲早再次泡45F 03/19 09:24
→ : 沫化
→ : 沫化
推 : 青鳥哭暈了47F 03/19 09:24
→ : 就說了DS只會讓大家繼續軍備競賽48F 03/19 09:26
→ : 現在跌大多是關稅的不確定性49F 03/19 09:27
推 : 敢用deepseek難怪砍殺股價,看白人沒有嗎?50F 03/19 09:27
推 : 玻璃碎了51F 03/19 09:28
→ : 開始在刷分了 Android既視感52F 03/19 09:28
推 : 猶太人不喜歡這篇文章53F 03/19 09:31
→ : 別再吹啦54F 03/19 09:31
推 : 我蒸餾你的蒸餾55F 03/19 09:31
→ : 之後AI世界會分裂成cuda和tensor兩大陣營56F 03/19 09:32
→ : 慢慢擠牙膏吧你57F 03/19 09:32
推 : 美國也很敵視中國,但他們也沒排斥他們的科技58F 03/19 09:40
→ : 一直排斥或獵巫 怎麼讓自己進步= =
→ : 一直排斥或獵巫 怎麼讓自己進步= =
推 : 還不是在蹭DS 反中磚家摳憐60F 03/19 09:41
推 : 也沒人阻止歐美蒸餾 就你台灣人看最透61F 03/19 09:41
噓 : 人家在打你臉 你認為在吹屌62F 03/19 09:43
推 : 支那只要不是世界第一就酸 殊不知科技島連起跑線都63F 03/19 09:43
→ : 還沒站上
→ : 還沒站上
→ : 台灣人對這篇新聞會不高興 嘻嘻65F 03/19 09:43
→ : 不選其他AI偏偏選DS 懂得都懂
→ : 連NV疑似都替DS打造了 DS可沒付錢叫NV做呢
→ : 不選其他AI偏偏選DS 懂得都懂
→ : 連NV疑似都替DS打造了 DS可沒付錢叫NV做呢
推 : 無庸置疑中國的確很強阿,但多數產業一樣慘,被自68F 03/19 09:46
→ : 己卷死...沒啥利潤沒錢請更多人,失業或是薪水被壓
→ : 低的沒錢消費
→ : 己卷死...沒啥利潤沒錢請更多人,失業或是薪水被壓
→ : 低的沒錢消費
推 : DS還有誰沒抄作業CC71F 03/19 09:47
推 : AI的大艦巨砲主義短時間不會停下72F 03/19 09:48
推 : 滿血卡..真香...拿不到也只能繼續捲73F 03/19 09:49
推 : 他們卷 你才有便宜的東西可以用 美國研發 中國平民74F 03/19 10:04
→ : 化 ㄧ直是這樣運行的
→ : 他卷他家的事 你不住中國 但不要逢中就蒙眼 怪
→ : 化 ㄧ直是這樣運行的
→ : 他卷他家的事 你不住中國 但不要逢中就蒙眼 怪
推 : 歐歐印77F 03/19 10:05
→ : 苦的是他們的人民 爽到全球不好嗎 只是破除ㄧ方股78F 03/19 10:05
→ : 票霸權你不開心而已
→ : 票霸權你不開心而已
推 : 很多事爛在肚子裡都不能說出來,安靜看世局變化,de80F 03/19 10:08
→ : epseek這件事沒有這麼簡單
→ : epseek這件事沒有這麼簡單
推 : 抵制NV啦 危害民主82F 03/19 10:08
推 : 這件事本來就不簡單 背後牽扯的是民主共產政營角力83F 03/19 10:10
→ : 拉扯
→ : 但你只是散戶要賺錢 看懂在幹嘛就好
→ : ㄧ昧的用自己的錢去投意識概念 是要賺錢而不是投票
→ : 拉扯
→ : 但你只是散戶要賺錢 看懂在幹嘛就好
→ : ㄧ昧的用自己的錢去投意識概念 是要賺錢而不是投票
推 : 不只是民主共產角力還有種族87F 03/19 10:13
噓 : id正確88F 03/19 10:13
推 : 也有喔 但那是大人的事 我只是小散戶要賺錢沒這麼89F 03/19 10:14
→ : 偉大
→ : 偉大
推 : 2025了,還有人相信中國真的QQ,過幾年Ds RD全部變91F 03/19 10:15
→ : 成美國人惹啦
→ : 成美國人惹啦
推 : 就是有中國做出便宜好用的,造福全球93F 03/19 10:15
推 : 我開源你的開源94F 03/19 10:16
推 : 不要強加意識形態看懂就好,跟著趨勢賺錢沒錯95F 03/19 10:16
→ : CUDA可以下去96F 03/19 10:16
推 : 對的!97F 03/19 10:17
推 : 冷菜熱炒,火要開大一點~~98F 03/19 10:22
噓 : 中國贏麻99F 03/19 10:28
→ : 美國軟體就都外包阿三 早就爛掉了100F 03/19 10:43
推 : NVDA變中吹,反中的崩潰囉101F 03/19 10:50
![[圖]](https://i.imgur.com/GJpLoozh.jpeg)
推 : 老黃以後無法皮衣逛夜市了?103F 03/19 11:06
推 : 英業達噴噴104F 03/19 11:07
推 : 為什麼不用台灣的模型105F 03/19 11:10
→ : 要禁止NVIDIA這中吹了吧106F 03/19 11:15
噓 : 依照你的邏輯黃仁勳算華人還非華人?阿你又喊輝達慘107F 03/19 11:20
→ : 前後矛盾好錯亂啊
→ : 前後矛盾好錯亂啊
推 : CloseAI已經被DS打到崩潰要求美國及盟友各國禁止DS109F 03/19 11:22
→ : 了
→ : 了
噓 : 看成滿手血111F 03/19 11:23
→ : 然後CloseZI的付費訂閱續約狂跌9成,終於凍未條了112F 03/19 11:24
推 : 美國盟友要禁DS然後用貴森森的Close AI?別鬧了113F 03/19 11:29
推 : DS可是開放讓大家魔改的
推 : DS可是開放讓大家魔改的
→ : 經得起前某艾踢大臣64題目測驗嗎115F 03/19 11:36
推 : DS真的強啊,學起來幹回去116F 03/19 12:08
推 : 講這些話的是不是不懂AI117F 03/19 12:22
推 : 沒人理chatgpt了..118F 03/19 12:47
推 : DS勝在open啊,擔心資料外流可以自己架設119F 03/19 12:53
→ : 中國ai要到海外才有發展機會 之後就是ai人才移民潮120F 03/19 12:54
→ : 現在監理才開始 當人才碰到天花板後 就會另謀發展
→ : 現在監理才開始 當人才碰到天花板後 就會另謀發展
→ : 121-->115哪算暴跌?? 又不是套 特斯拉?122F 03/19 15:10
噓 : 還不是靠 Deepseek123F 03/19 15:49
--
※ 看板: Stock 文章推薦值: 0 目前人氣: 0 累積人氣: 64
→
guest
回列表(←)
分享