回上層
Disp BBS
看板 PC_Shopping
作者 hugh509 ((0_ 0))
標題 [閒聊] M2Ultra在AI比intel+nVIDIA有架構優勢?
時間 Sat Jul  1 17:17:31 2023

先說我不懂AI運算
只是看了林亦的新影片
https://youtu.be/UsfmqTb2NVY

不想點的，說個大概
意思是
由於M2 Ultra的記憶體是CPU與GPU共用
而且GPU調取記憶體沒啥限制(?
等於有著超大容量和高速頻寬的顯存

對比的是i9 12900+3080TI
中間跑什麼運算什麼訓練，我是不懂

但他的結論、標題
都表明Mac PRO具有極高性價比(他是說最高
可是這套方案要30萬欸
他更是呼籲老黃要出大容量的顯卡

如果蘋果是真的有這麼大優勢
會影響未來PC遊戲卡迭代速度嗎?

--
「我看不到」
「欸 我真的看不到」
「                 」
「我還是什麼都看不到啊...」
「我看不到我看不到我看不到!」

--
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 111.253.194.31 (臺灣)
※ 作者: hugh509 2023-07-01 17:17:31
※ 文章代碼(AID): #1ad-ylzP (PC_Shopping)
※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1688203055.A.F59.html
→ kivan00: 沒生態你要用什麼跑？手刻API嗎1F 223.138.207.31 台灣 07/01 17:19
→ kalarotia: 又在吹蘋果,不累嗎2F 42.75.153.202 台灣 07/01 17:22
→ hugh509: 林亦當然是吹，我關心的是PC卡會不會影響3F 111.253.194.31 台灣 07/01 17:23
推 SunFox58: 不影響 end4F 111.249.161.157 台灣 07/01 17:27
推 ducamao: 你如果連他吹的用途都看不懂的話，那換句話說。兩個沒交集的領域要怎麼影響5F 1.172.237.112 台灣 07/01 17:35
推 raider01: 問題兩邊GPU性能差多少，花同樣的錢可以買到等級不低的運算卡了吧
3080Ti一張也才多少怎麼會拿來比？7F 42.72.191.32 台灣 07/01 17:37
→ scarbywind: 只比硬體你拿AMD不是更便宜10F 223.141.96.189 台灣 07/01 17:39
推 E6300: 3080ti回血阿11F 61.227.209.144 台灣 07/01 17:41
→ as134679258: 互不影響 遊戲卡要的是運算 AI要的是大容量跟傳輸帶寬 前面展示的大容量帶來得訓練優勢 後面展示大語言模型在local執行的能力
說可以抵8張主要是拿顯存放模型
跟需不需要那些算力沒直接關係12F 125.228.131.13 台灣 07/01 17:46
→ fishworm: 你花30萬都已經能買到a100了，好歹也拿價格近似的東西來比吧18F 114.36.185.115 台灣 07/01 17:48
推 s78513221: 老黃的大顯存是資料中心的專業卡
民用想要的是大顯存的遊戲卡兼學習20F 114.136.113.95 台灣 07/01 17:50
推 aegis43210: 老黃又不是傻子，為什麼要出大容量的顯示卡，蘋果這個能算的模型又不多22F 123.204.13.213 台灣 07/01 17:52
推 s78513221: 但目前的務實之選是…接人家現成的24F 114.136.113.95 台灣 07/01 17:53
→ aegis43210: 能玩的遊戲也少，看不出有什麼競爭力25F 123.204.13.213 台灣 07/01 17:54
→ hugh509: 所以大容量並不是遊戲卡和計算卡共同方向還以為計算卡被打擊，遊戲卡也會間接受益因為看到這代頻寬開砍有點傻眼
價格漲上那麼多規格還有倒退嚕的喔26F 111.253.194.31 台灣 07/01 17:54
推 Arbin: SoC在記憶體頻寬上絕對有優勢
但Core ML的生態系太疲軟了30F 111.71.218.44 台灣 07/01 18:00
推 tony1768: 先要有人要支援32F 223.139.17.165 台灣 07/01 18:01
推 aegis43210: 繪圖卡的強項是渲染和成像，這塊才是老黃最大的護城河33F 123.204.13.213 台灣 07/01 18:02
→ spfy: 30萬比12900+3080ti？35F 203.121.243.239 台灣 07/01 18:12
→ fishworm: 不過蘋果M2的確是workstation上cp好
如果有軟體支援，M2目前的確是性價比最36F 114.36.185.115 台灣 07/01 18:14
→ Alwen: 不過沒人會拿顯卡跑訓練吧= =38F 118.232.100.36 台灣 07/01 18:17
→ commandoEX: 一張3080不夠強你能上兩張啊39F 118.171.101.225 台灣 07/01 18:19
噓 kira925: 老黃跟蘇媽：歐40F 42.72.32.24 台灣 07/01 18:19
→ commandoEX: M2Ultra就沒有擴充性了41F 118.171.101.225 台灣 07/01 18:19
→ Alwen: 然後一般用戶也買不起也拿不到Grace hopper42F 118.232.100.36 台灣 07/01 18:20
→ fishworm: 如果你的模型夠輕量就可以用消費級跑
通常在於概念驗證，或是edge端上使用
蘋果這格會影響的是小型工作站原本會買1~2張消費級顯卡，現在改買M2
但要說動搖老黃AI霸權，或消費級PC
可以說幾乎沒有43F 114.36.185.115 台灣 07/01 18:22
→ Alwen: 其實真能幹翻老黃，新聞早就滿天飛惹= =
現在消費級PC端 老黃都快一統天下= =
影片測試AI繪圖...M2好慘..49F 118.232.100.36 台灣 07/01 18:31
推 raider01: 可是拿a100打遊戲也不會弱到哪去，肯定比m2ultra好= =
就上上面說的CP值真的那麼高那些搞資料中心的早就多買幾台插滿RAM就好了
然後原本用N家的也幾乎不太可能轉，光是系統轉換就有問題了，運算程式還要重寫52F 42.72.191.32 台灣 07/01 18:56
→ iuytjhgf: 就特定用途而已啊 模型不夠大還沒優勢58F 111.252.228.72 台灣 07/01 19:03
推 qwe753951: mi300: hello59F 111.71.45.226 台灣 07/01 19:12
推 aegis43210: 工作站要拿RTX 6000 ada來比才能真的比較CP值60F 123.204.13.213 台灣 07/01 19:12
推 tututoto: https://i.imgur.com/12XEA01.jpg62F 122.118.14.68 台灣 07/01 19:28
[圖]
推 comipa: 只能玩到沒有hopper的 哭哭~
GraceHopper最大是480+96GB, NV:M2Ultra?63F 220.133.98.140 台灣 07/01 19:35
推 Rust: 有沒有可能NV轉身就推出MacPro的專用顯示卡65F 123.241.92.153 台灣 07/01 19:43
→ Alwen: 不可能 水果行封閉不是一兩天的事情66F 118.232.100.36 台灣 07/01 19:55
→ hugh509: MacPro不是不能插顯卡了67F 111.253.194.31 台灣 07/01 19:59
推 nextpage: 上個月他們開發步會出新桌機時就特別強掉插槽不能用來插顯卡了,鐵了心要分道揚彪68F 136.23.35.40 台灣 07/01 20:15
→ scarbywind: 蘋果現在最主要的問題是你一定會在工作流程中的某個環節斷鍊
x86頂多就是跑起來效能不太好 貧果是完全不能跑71F 223.141.96.189 台灣 07/01 20:23
推 aigame: 有cuda嗎沒有啊花30萬結果這也不能裝那也不能玩,本地安裝還要找大神有沒有做就算有算圖速度也不行,組4090十二萬算很頂了上個廁所回來高解析運算跑了四十圖以上不用高解析洗個澡算個三百圖算基本款而已
還有sd一堆插件能不能安裝都是問題就樓上說的一定會斷鍊為何我不用完全沒相容問題的4090?75F 111.82.162.195 台灣 07/01 20:28
推 alvistan: 蘋果說已經太強了 不需要插顯卡83F 125.229.106.95 台灣 07/01 20:33
噓 a27417332: 先噓他，影片越來越沒料84F 61.231.12.41 台灣 07/01 20:43
噓 NoneWolf: 價格都不用統一下？那乾脆拿1030比好了 我也用Mac 但這完全就是無腦果粉zzzz85F 1.200.48.70 台灣 07/01 20:48
推 a28200266: 蛤87F 36.224.242.164 台灣 07/01 20:49
→ justicebb: 水果就是用封閉換取效率
比較類似遊戲主機的優化概念88F 123.110.214.163 台灣 07/01 20:51
→ a28200266: 這論點太迷幻了90F 36.224.242.164 台灣 07/01 20:54
推 raider01: 而且想到另一個重點，如果用內顯都可以的話，又不太需要顯卡效能，那我隨便找一顆有內顯的CPU把RAM插好插滿不久好了?結論就是M2跑AI有CP根本假議題91F 42.75.199.171 台灣 07/01 21:21
推 EAFV: 果粉價值點滿+錢太多+不急著生出成果才會選這個吧95F 49.216.133.17 台灣 07/01 22:03
噓 jacklin2002: 這傢伙跟鐘文澤就同一個路線的97F 114.24.221.204 台灣 07/01 22:04
推 Gauss: 他整部影片都在講Mac Studio 吧？哪來Pro177,999 台幣就能用上192g的vram很香吧？也不用core ML，PyTorch已經原生支援MPS了連我的老AMD顯示卡MacBook都能煉丹了
（只是用AMD效率很差）98F 111.250.209.193 台灣 07/01 22:47
→ sableangle: 說30萬怎麼不去買A100的大概也覺得只要有A100 CPU 主機 電源什麼都不用的就可以開始算了 大概對要買到可以開機要花多少錢沒什麼概念220F 49.158.21.172 台灣 07/02 21:50
推 airken99: 只關心到移動端AI的發展，一體化架
構應該有優勢224F 111.83.23.157 台灣 07/02 22:42
→ Alwen: 這個在B站被噴翻欸= =226F 118.232.100.36 台灣 07/02 22:48

--
--
作者 hugh509 的最新發文:
點此顯示更多發文記錄
(hugh509.): [閒聊] M2Ultra在AI比intel+nVIDIA有架構優勢? - PC_Shopping板