回看板
Disp BBS
看板 PC_Shopping
作者 yymeow (ㄚㄚ喵)
標題 [情報] 英特爾推出搭載P-core效能核心的Xeon 6
時間 Fri Sep 27 01:49:23 2024

英特爾推出搭載P-core效能核心的Xeon 6處理器，更新AI加速器Gaudi 3


搭載P-core效能核心的Xeon 6處理器，最高擁有128個核心，504MB快取記憶體，鎖定
邊緣、資料中心到雲端的AI，以及HPC高效能運算需求。

文/蘇文彬 | 2024-09-25發表

英特爾在今年Computex電腦展發表Xeon 6處理器，由搭載效率核心(E-core)版本的
Xeon 6處理器先打頭陣，本周英特爾再補齊Xeon 6處理器產品線，推出搭載效能核心
(P-core)版本，提高核心數及記憶體頻寬，最高至128個核心。

Xeon 6為伺服器專用處理器，是英特爾首款採用Intel 3節點設計的產品，其中分為搭
載E-core效率核心版本（代號Sierra Forest），以及搭載P-core效能核心版本（代號
Granite Rapids）。今年6月，英特爾先推出E-core版Xeon 6處理器，鎖定超多核心需
求，最高擁有144個E-Core核心，主要鎖定高密度、高能源效率資料中心使用需求，適
用於雲原生、CDN、微服務架構等應用。


至於新推出的P-core版本Xeon 6處理器，鎖定密集型工作負載需求，AI及高效能運算
市場，不僅增加核心數，並且將AI加速功能嵌入到每個核心，記憶體頻寬也加倍。英
特爾稱該處理器適用於邊緣、資料中心到雲端的AI運算需求，強調能在不需獨立加速
器之下，執行數十億參數的AI模型。


根據官網的訊息，Xeon 6900P系列搭載的P-core為超執行緒核心，針對AI、HPC、資料
等工作負載需求，採用矩陣引擎，最高擁有128個核心，最多504MB的快取記憶體；而
E-core版本的Xeon 6700E系列，使用單執行緒提高核心密度，並且省略矩陣引擎，單
處理器最高擁有144個核心，英特爾計畫今年底再推出更高核心數，將單插槽核心數推
升至288個核心。


除了P-core版Xeon 6的推出，英特爾也更新旗下的AI加速器Gaudi 3，強調為大規模生
成式AI需求設計的Gaudi 3，擁有64個張量處理器核心、8個矩陣乘法引擎，內建128GB
HBM2e記憶體，支援24個200Gb的網路埠，使新的Gaudi 3 提升20%的吞吐量，英特爾強
調和Nvidia的H100相比，在Llama 2 70B推論時，同樣成本下提供2倍的效能。


英特爾指出，Gaudi 3支援PyTorch框架、Hugging Face Transformer、Diffuser模型。
目前英特爾已和合作夥伴聯手，針對生成式AI最佳化的方案，例如戴爾合作規畫設計
RAG方案。

來源：
https://www.ithome.com.tw/news/165180
英特爾推出搭載P-core效能核心的Xeon 6處理器，更新AI加速器Gaudi 3 | iThome
[圖]
搭載P-core效能核心的Xeon 6處理器，最高擁有128個核心，504MB快取記憶體，鎖定邊緣、資料中心到雲端的AI，以及HPC高效能運算需求。 ...

 

心得：
好像真的有點強，所以這兩天INTC漲上去不是因為Lunar Lake解禁，而是因為6900P
發表喔?

實測其實有，在這個影片：
https://www.youtube.com/watch?v=-Pq_nFLL9n0

https://i.imgur.com/96Chmed.png
[圖]
不過AMD很快也要發布新一代的EPYC，鹿死誰手還很難說。

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.37.34.80 (臺灣)
※ 作者: yymeow 2024-09-27 01:49:23
※ 文章代碼(AID): #1czPwbBe (PC_Shopping)
※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1727372965.A.2E8.html
推 luvstarrysky: 筆電 桌電 伺服器 全面反攻
LNL已經用超低續航把AMD的Strix
point打得滿地找牙了 即將上市的
ARL-S跑分洩漏更是直接輾壓 伺服器也要追上了嗎
打錯 LNL用超低功耗1F 36.225.176.169 台灣 09/27 01:55
→ yymeow: 我是持保守態度啦，並竟6900P有沒有比對手省電，沒有被提到
Arrow Lake就算跑上有稍稍贏過對手，如果7F 114.37.34.80 台灣 09/27 01:57
→ luvstarrysky: 能追上就不錯了 畢竟伺服器這塊已經算是被輾壓了 桌上和筆電至少還小贏10F 36.225.176.169 台灣 09/27 01:57
→ yymeow: 又是靠電上去的，一樣會被酸能耗比差12F 114.37.34.80 台灣 09/27 01:58
→ luvstarrysky: 如果性能差不多 INTEL支援性會比較好 那續航差一點也沒差13F 36.225.176.169 台灣 09/27 01:58
→ yymeow: 不過這的確是我近年第一次看到xeon贏過15F 114.37.34.80 台灣 09/27 01:59
→ luvstarrysky: 前提是能耗比要先追近16F 36.225.176.169 台灣 09/27 01:59
→ yymeow: EPYC17F 114.37.34.80 台灣 09/27 01:59
→ eric13141230: 先準時出貨再說吧18F 42.72.94.19 台灣 09/27 02:00
推 sigma9988: 股價重返農藥19F 36.229.19.219 台灣 09/27 02:41
→ yymeow: 還早得很呢。不過如果是在被笑跟高露潔比下去那天買INTC的人，現在應該還蠻雀躍的20F 114.37.34.80 台灣 09/27 02:43
推 yeeouo: 這得多少瓦啊22F 124.213.115.96 日本 09/27 02:53
→ eric13141230: 裁員沒砍掉印度冗員 反彈完還是要下去23F 42.72.94.19 台灣 09/27 02:56
→ yymeow: 帳面數據是128C256T，500W
而EPYC 9754也是256T，360W25F 114.37.34.80 台灣 09/27 02:56
→ justice2008: 我對E-core比較有興趣 當年12代出的時候 一堆人在狂吹 不曉得效能如何27F 114.32.14.43 台灣 09/27 03:15
→ pcfox: 剛出桶就整天發作 有夠吵29F 36.231.96.188 台灣 09/27 03:17
推 sachialanlus: 是因為要被收購30F 111.248.230.117 台灣 09/27 03:37
→ amd7356: 他都快被永桶了31F 101.12.22.86 台灣 09/27 05:23
推 kkcity59: 真慘啊...一拖拉古新創公司拿H100做比對都是說自己的方案可以快各五倍十倍的
i皇只敢說是兩倍...嘻嘻
隨便找一個Etched的Sohu就說快了20倍
換句話說也就是Intel的十倍32F 114.24.103.147 台灣 09/27 05:28
你說的是gaudi 3，這個還沒出。現在出的是xeon 6。
gaudi 1/2都沒有賣的很好，據說gaudi 3主打便宜，應該不用指望太多。
→ narukaza: 這感覺就像我看到蟖unar Lake NPU可以跑超過40TOPS，原以為好像很厲害，結果仔細一查發現4090可以跑1321TOPS一樣...37F 114.34.174.204 台灣 09/27 07:04
推 soapmactony: 星空大濕信心滿滿41F 27.53.25.253 台灣 09/27 07:20
推 ayuhb: 自製的？
CPU的NPU就是讓你加減玩的，誰不知道顯卡算力比較高...42F 42.73.198.176 台灣 09/27 07:22
→ narukaza: 說反了吧...是GPU加減玩就能輕鬆超過NPU算力...那為何要特別強調NPU，還吹得好像超過50TOPS多高似的...
如果你要說用了新CPU，你的算力就會是1321+50UP，那我沒話說45F 114.34.174.204 台灣 09/27 07:43
推 ayuhb: 那輕薄本的1321TOPS怎麼來50F 42.73.198.176 台灣 09/27 07:55
噓 roy33456: 1.5v電死51F 118.163.63.243 台灣 09/27 08:09
推 Transposon: Intel 3歐，保重欸52F 223.138.5.112 台灣 09/27 08:14
→ spfy: 我以為那個40T是當初為了Elite量身打造的規格 主打WOA不用獨顯超高續航也能用AI 結果高通拖到IA兩家競品都出來了才上 這個專屬規格就沒用了53F 223.137.133.200 台灣 09/27 08:15
→ narukaza: 說桌面端扯筆電，那接下來是不是要扯掌機？
算了，算我輸，別扯了57F 114.34.174.204 台灣 09/27 08:20
→ spfy: 不然實在不懂沒有終端應用也沒有硬體的時候開一個40T標準到底是幹嘛的 納德拉夢到的？60F 223.137.133.200 台灣 09/27 08:20
推 ayuhb: 啥？Lunar lake你自己提的欸，那是筆電CPU62F 42.73.198.176 台灣 09/27 08:22
推 tony1768: 印特爾從來不弱，只是太傲嬌63F 210.242.222.220 台灣 09/27 08:35
推 MusicD: 能耗比慘慘  繼續用AMD64F 211.72.116.78 台灣 09/27 08:38
推 mrme945: 是不是急了 最近發那麼多篇I的文章65F 111.71.215.102 台灣 09/27 08:41
→ narukaza: 那我說錯了，應該說 Arrow Lake才對，這就吹更大了，相比Raptor Lake，CPU TOPS提升幅度為87.5%，總TOPS來到了驚人的37，這樣你滿意了吧66F 114.34.174.204 台灣 09/27 08:45
→ PolarClover: 對依照核心數計價的商用軟體方案，用E-Core架構感覺血虧70F 111.71.109.116 台灣 09/27 08:47
推 ayuhb: 自己搞不清楚狀況講錯嘴臭還成這樣= =72F 42.73.198.176 台灣 09/27 08:48
推 mayolane: Arrow Lake不會有40 TOPS吧73F 118.161.1.223 台灣 09/27 08:51
→ yymeow: 我一開始以為xeon 6就是gaudi 3，結果是不一樣的東西。這次出的是xeon 6，至於
AI晶片gaudi 3還沒出。gaudi 3用了TSMC 5說來說去還是要靠GG74F 114.37.34.80 台灣 09/27 08:57
→ william456: 如果用GG還能縮缸，大英真的賣掉好了，連設計都輸的話78F 36.235.132.228 台灣 09/27 09:00
※ 編輯: yymeow (114.37.34.80 臺灣), 09/27/2024 09:10:42
→ amos30627: AI卡跟GPU部門早就是GG的形狀了
有intel 3也不要 要用N580F 61.218.213.43 台灣 09/27 09:17
推 sharkbay: ARL-H: 90, -U: 22.5, -S: 35 TOPS
都是合計 怎麼沒有90？82F 39.14.34.94 台灣 09/27 09:27
→ narukaza: 雖然我一開始講錯，但仔細一查桌面端CPU TOPS比行動端還低，這不就回到原來的比較了不是...
是說I粉真的有夠玻璃心，被點破就說人嘴臭，我上面言論有帶半個髒字嗎？84F 114.34.174.204 台灣 09/27 09:30
→ AmibaGelos: 真的好強 可這耗電傳統機房吃得下嗎89F 104.129.17.131 美國 09/27 09:31
→ friedpig: NPU就ASIC 為了能效用的 有續航問題的平台才比較在意拉 不過以微軟要求的
40 TOPS ARL理論上應該也得配個差不多的NPU比較合理拉 不然都得去搶GPU資源
微軟要求40就只是他們測過覺得他們要推的Local Model最低限度就40的算力夠 也不可能無上限要求 NPU都是要$$換來的
應該是盡量壓低以後的結果了90F 118.163.149.125 台灣 09/27 09:33
推 oopFoo: npu主要是筆電用的，能效比高。桌上型npu就比較不重要。主要還是微軟主導，不然gpu一直加上去還比較合理。微軟要copilot在背景一直跑，所以才需要npu。98F 36.224.209.165 台灣 09/27 09:38
→ friedpig: 我是覺得拉 微軟都喊這樣了 DT還是得輔合 不可能預設要吃GPU效能 ARL 87%來不急改才這樣 下代規模絕對會加到超過40102F 118.163.149.125 台灣 09/27 09:41
推 oopFoo: 是這樣沒錯，反正amd的桌面也沒有，就先把xmx加在igpu上。ARL的igpu還不錯。105F 36.224.209.165 台灣 09/27 09:50
→ friedpig: 我只能說 ARL上不合規的NPU有可能是扣分項 除非優化的很好能隨時混合使用
不然搞到最後NPU永遠在那發呆也很好笑純浪費面積
要看MS的開發 還有牙膏的One API有沒有處理好了107F 118.163.149.125 台灣 09/27 09:52
推 mayolane: 「LNL的超低續航」，星空實際上是反串成I吹的A粉吧113F 223.137.71.252 台灣 09/27 09:57
→ kuninaka: 挖靠 這要500W想也知道怎麼選= =115F 1.174.85.3 台灣 09/27 10:01
→ friedpig: 這個比較其實沒啥意義拉 牙膏現在贏是128P打贏96P or 128E(C)
AMD的128P要等Zen5 也沒多久之後的事情116F 118.163.149.125 台灣 09/27 10:08
→ mayolane: 至於價錢多少呢119F 223.137.71.252 台灣 09/27 10:10
→ friedpig: AMD的128P應該也是500W拉 雖然還沒公佈400W的128應該是Zen5c120F 118.163.149.125 台灣 09/27 10:12
→ twosheep0603: (ﾟω。)沒關係就繼續吹LNL吧122F 42.73.92.217 台灣 09/27 10:13
→ friedpig: 牙膏這代的重點是核心數終於能打平AMD了123F 118.163.149.125 台灣 09/27 10:14
→ tactics2100: 越來越長
為什麼不做成更方一點124F 39.12.56.223 台灣 09/27 10:25
推 ZengMaktub: 有人可以講解一下樓上們在爭什麼嗎126F 1.162.172.29 台灣 09/27 10:29

--
作者 yymeow 的最新發文:
點此顯示更多發文記錄