顯示廣告
隱藏 ✕
回列表(←)
Disp BBS guest 註冊 登入(i) 線上人數: 868
首頁(home) 上頁(↑) 下頁(↓) 末頁(end)
※ 本文轉寄自 ptt.cc 更新時間: 2023-05-30 11:19:33
看板 Stock
作者 mooto (退出會比較好, 就退出)
標題 Re: [請益] AI伺服器成本分析——記憶體是最大的輸家
時間 Mon May 29 23:49:51 2023

※ 引述《neone (neone)》之銘言：
: 剛看到半導體產業分析機構semianalysis的這篇新文章:
: https://www.semianalysis.com/p/ai-server-cost-analysis-memory-is
: 雖然沒付費只能看到部分
: bing摘要:
: 這篇文章的核心內容是分析人工智能伺服器的成本。文章指出，隨著數據中心建設的瘋狂
: ，市場也隨之瘋狂。但是，有許多公司並不應該因此而受益。文章還提到，IT預算有限，
: 因此Nvidia銷售額的增長主要來自於購買較少的非GPU伺服器。文章中還提供了一個標準
: CPU伺服器的成本分解，顯示內存佔伺服器成本的近40%。文章最後指出，在人工智能時代
: ，普通伺服器的百分比將會下降，並且在數據中心轉向加速計算時，各組件的成本分配也
: 會發生重大變化。

老黃今天展示的那櫃 Grace Hooper
就用了144TB GPU Memory 透過NVLink共享
(NVLink是他們自研的SERDES
 簡單來說就是PCIe更快的介面)
所以重點只是高速 共享
記憶體還是存在的

還有也不用擔心大家嫌貴不買啦
老黃今天不就列了1600家要做AI的公司
挖不挖得到金礦又不關他的事
只要鏟子賣得出去就好了

這種時候大家都爭搶先當第一個啦
有機會變成AI界的m$, adobe誰不幹
在那邊省小錢 到時候就看別人鼠錢
反正新創花的也不是自己錢
燒光當然是再繼續吹

話說老黃真的值得領那個錢
美國人訓練不是蓋的
相比之下今天下午發哥找他來蹭
那些高層講話的台風  投影片的格局 真的差好多喔

--
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 218.161.53.112 (臺灣)
※ 作者: mooto 2023-05-29 23:49:51
※ 文章代碼(AID): #1aTCcX9v (Stock)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1685375393.A.279.html
※ 同主題文章:
　 05-29 22:13 neone. ■ [請益] AI伺服器成本分析——記憶體是最大的輸家
● 05-29 23:49 mooto. ■ Re: [請益] AI伺服器成本分析——記憶體是最大的輸家
推 stlinman    : 老黃是創業家，以前可是要自己找風投搞錢的。1F 05/29 23:52
推 Liberl      : 應該是說 台灣的高管把自己定位在管理者 而不是業務2F 05/29 23:55
→ WYchuang    : Nvidia的Chiplet是不是拿MTK練經驗？3F 05/29 23:55
→ Liberl      : 但整間公司最大最應該做業務的是高管4F 05/29 23:56
→ Liberl      : 我在某間大型上市公司(0050前半的)當CEO幕僚
→ Liberl      : CEO幾乎都在辦公室裡批公文 開會 很少出去拜訪
→ Liberl      : CEO不在公司裡 VP沒一個人敢做決定
推 freeclouds  : 因為有業務副總阿 嘻嘻8F 05/29 23:58
→ freeclouds  : CEO都是等別人來公司拜訪的啦
→ Liberl      : 這是台灣企業的陋習 越到高管越不接觸公司業務10F 05/29 23:59
→ freeclouds  : 有的公司的CEO 是熱愛批簽呈跟支出單11F 05/30 00:00
→ freeclouds  : 你以為5萬小錢頂多批到副總 結果竟然要到CEO
推 goodjop     : 大部分第一代CEO 都是業務起家13F 05/30 00:00
推 Liberl      : 張忠謀就說過CEO要是個生意人14F 05/30 00:01
→ Liberl      : 魏哲家很明顯被他訓練得還算不錯
→ freeclouds  : 家族企業第二代以後的CEO幾乎都是財會出身 真奇怪16F 05/30 00:01
→ goodjop     : 白手起家 不會業務 早就倒閉了17F 05/30 00:01
→ goodjop     : 因為都送歐美學財經管理
→ goodjop     : 我爸就是業務起家 但我沒接他的事業 我自己創業
→ goodjop     : 從技術專業 再轉業務 然後創業
推 Shepherd1987: 庫克蘇媽發表會都很尬, 體制內的乖寶寶21F 05/30 00:03
→ bobjohns    : 台積電金融海嘯時，張忠謀還不是自己飛美國拉業務，22F 05/30 00:06
→ bobjohns    : 根本是台灣CEO實力太差，表達有問題才一直在管理。
→ TaiwanUp    : 我覺得跟Chairman互補就好 如果Founder都會 就隨便24F 05/30 00:07
→ TaiwanUp    : 學馬斯克 曾經考慮找BTS當推特CEO
推 ck326       : 現在新創想搞錢沒有之前0利率時代容易ㄅ，呵呵26F 05/30 00:11
→ TaiwanUp    : 而且台積電的成功我不覺得是靠業務 純粹是算力需求27F 05/30 00:13
→ TaiwanUp    : 就如同張忠謀曾經驚嘆 礦卡怎麼會下那麼多單
→ TaiwanUp    : 這難道是他自己找來的客戶嗎
推 ppuuppu     : 老黃領袖特質明顯，台廠高管有幾個能這樣講話吸引30F 05/30 00:15
→ ppuuppu     : 人聽
→ TaiwanUp    : 蘇媽的背景和人格特質有自帶業務buff 還有obov力場32F 05/30 00:15
噓 a000000000  : 蘇媽就很不會吹   就這點明顯輸給老黃33F 05/30 00:17
→ a000000000  : 其他地方夠強惹
推 ALAHAKBAR   : 西方ceo光身材就屌打了...35F 05/30 00:21
推 Argos       : 業務型CEO是賈柏斯帶出來的風氣吧36F 05/30 00:22
推 easyman     : 平平都是講省電, 蘇嬤只會講比業界快20%37F 05/30 00:22
→ easyman     : 老黃就很會吹, 買越多賺越多
推 dagehoya5566: 發弟高官格局根本笑話39F 05/30 00:24
推 goodjop     : K董的人格特質 就比其他哥哥好40F 05/30 00:24
→ goodjop     : 白手起家 又有技術 自然言之有物 業務不是問題
推 b0117       : 蘇媽打工打的很不錯，感覺老黃是真的從自己的visio42F 05/30 00:32
→ b0117       : n出發，drive整個公司的走向
→ b0117       : 蘇媽是管理者，老黃是創業家，格局還是差蠻多的
→ mooto       : 雖然老黃是受邀來computex 但一場演講 只花一部分45F 05/30 00:34
→ mooto       : 捧自家產品 剩下的是用(潛在)客戶的產品展示 這我
推 loveponpon  : Morris不就說過 執行長要拉業務要會說47F 05/30 00:35
→ mooto       : 真的覺得很厲害 兩小時的show不會太無聊48F 05/30 00:35
推 b0117       : 老黃還有一個最強的點，就是他用了很多台灣人49F 05/30 00:36
→ loveponpon  : 庫克的發表會 更尷尬哈哈哈50F 05/30 00:36
→ b0117       : 這光研發成本就不知道省多少了51F 05/30 00:36
→ b0117       : 不像牙膏一堆印度人佔據，靠嘴巴做事應該不少
→ mooto       : 台灣人好用R  NV比起碼農還是比較血汗的53F 05/30 00:38
噓 a000000000  : 老黃講那些東西gtc一值都這樣惹54F 05/30 00:40
推 b0117       : 務實做研發，節省研發成本，根本神之正迴授55F 05/30 00:41
推 neone       : 老黃的人格魅力和演講技巧 真的CEO少有56F 05/30 00:42
推 mamorui     : 今天keynote還不錯57F 05/30 00:47
推 Amulet1     : 亞洲都一樣 靠關係就能上去58F 05/30 00:56
→ mooto       : 沒有啦 豬屎屋還是很硬核的 台灣比較少在走雙軌制59F 05/30 01:00
→ mooto       : 多數主管還是技術職升上去的 這就會碰到彼得原理
→ mooto       : 說的問題 因為懂技術的人不見得擅長管理或業務
推 linbryan    : 台灣只有function manager. 沒有純manager.你知刺針62F 05/30 01:02
→ linbryan    : 飛彈.不是由工程師或戰鬥人員開發/想出來的.是由pro
→ linbryan    : ject manger開發/想出來的
→ SILee       : 蘇媽豈止不會吹而已，之前還曾經AMD內部all hand被65F 05/30 01:03
→ SILee       : 問問題問到自己惱羞失言搞到犯眾怒，幾個月後一堆工
→ SILee       : 程師跟著主管整組一起走人跳槽 ㄎㄎ
噓 a000000000  : 蘇媽跟老黃出包史尼要去找都是一大串68F 05/30 01:04
推 mynumber55  : 賈伯斯也弄出很多包啊，沒什麼69F 05/30 01:07
推 wei9898     : 發哥的行銷能力跟高通比如何？70F 05/30 01:10
→ mooto       : 發哥顯然不行阿 你看光是去年 對手都出包了 還是有71F 05/30 01:11
推 kkkkk9      : ai+vr宏達電要飛了72F 05/30 01:12
→ mooto       : 一堆陸廠把它當小的 像發哥這樣的公司 或者說是台灣73F 05/30 01:12
→ mooto       : 公司 狼性都不夠 只能穩扎穩打直到對方覺得沒賺頭
→ mooto       : 自己退出 才拿的下市場 就勞碌命
※ 編輯: mooto (218.161.53.112 臺灣), 05/30/2023 01:14:37
→ TaiwanUp    : 其實改成英語系國家就會好很多 可惜這76F 05/30 01:20
推 TaiwanUp    : 同時要捨棄更多我們原本熟悉的事物 可能剩下麻花捲
推 snd         : 業務型CEO就是創業過來的人阿78F 05/30 01:41
推 yoshilin    : chatBot根本文創業79F 05/30 01:48
推 Heedictator : 中文就是一坨大便80F 05/30 01:57
推 kumabartho  : 因為二代都是學商管啊81F 05/30 05:19
→ Armag       : 講的好像業務出身的就懂技術？我不是歧視文組，高82F 05/30 07:04
→ Armag       : 階主管的價值本來就必須跨足多領域，理工生跨業務
→ Armag       : 、財務比較簡單還是管理跨理工比較容易不用多說大
→ Armag       : 家自有一把尺衡量
→ tctv2002    : 先有技術才有資格談業務好嗎 你什麼都不懂問題在哪86F 05/30 07:50
→ tctv2002    :  憑什麼讓客戶相信你
推 s800525     : INTEL G叔也是技術出身，還不是很嘴XD88F 05/30 08:20
→ s800525     : 科技業技術就是底，就連庫克也是工業工程出身的
→ faniour     : 庫克（冷笑90F 05/30 08:22
→ CORYCHAN    : 老黃是創辦人91F 05/30 08:44
推 zhi5566     : i社也很會吹啊 吹到把股東套死死 嘻嘻92F 05/30 09:21
推 Mtcat       : 1193F 05/30 09:26
→ Severine    : Pat:Intel 4要出啦!要上車的趕快上阿94F 05/30 09:51
推 aegis43210  : Q4再上車，現在能買的公司漲完才會輪到i皇95F 05/30 10:11

--
※ 看板: Stock　文章推薦值: 0 目前人氣: 0 累積人氣: 105　
分享網址: 複製 已複製
→
guest
x)推文 r)回覆 e)編輯 d)刪除 M)收藏 ^x)轉錄 同主題: =)首篇 [)上篇 ])下篇