看板 Stock
作者
標題 Re: [閒聊] 傳Coreweave是Nvidia和Blackroc
時間 Fri Sep 8 08:40:40 2023
作者
標題 Re: [閒聊] 傳Coreweave是Nvidia和Blackroc
時間 Fri Sep 8 08:40:40 2023
先說結論: 珍惜生命, 遠離妖股
你不看好空手就好,
不要去放空,
妖股的漲跌是華爾街早餐桌上聊天決定的
再來說Coreweave這家公司,
對,
這就是家空殼公司,
這是crunchbase 裡頭的資訊,
過幾天可能會被刪掉避風頭,
所以我先在這裡備份資訊,
https://www.crunchbase.com/organization/coreweave/people
Brian Venturo
Co-Founder and CTO
https://www.linkedin.com/in/brian-v-6719b812/
Haverford College
Bachelors, Economics
Partner
Hudson Ridge Asset Management LLC
Michael Intrator
Co-Founder and CEO
CTO 是經濟系畢業,
前一份工作是在華爾街賣CDO,
CEO 歷史系/人資系畢業,
前一份工作在華爾街賣CDO,
整間公司沒有任何一個人懂技術,
不過我相信這公司一定跟華爾街關係很好
Coreweave 之前是作加密貨幣,
應該就是做雲端挖礦機出租,
現在用一模一樣的概念跟同樣NVDA 的機器,
把挖礦機改名成為AI 機器繼續做雲端出租,
這種東西是投機到不行的,
基本上碰CDO, 加密貨幣, 挖礦機這些東西都是超級投機
我們就來談技術,
這是他們的官網: https://www.coreweave.com/
基本上就是用open source 的 kubernetes (我前面文章有解釋),
這樣要跟其他雲端大廠競爭?
更何況kubernetes 是GOOG 開發的
三大廠AWS/MSFT/GOOG 現在之所有用 H100 並不是真的無法取代H100,
而是跟華爾街以及炒股大戶的AI 科學家們妥協,
不用H100 就會被華爾街認為沒有 AI 競爭力,
公司股價暴跌,
不用H100 就會被AI 科學家們認為平台難用難開發,
但是這只是目前的妥協
其實如果底層不要用CUDA,
可以有非常多的其他選擇,
像是OpenCL/OpenGL 等,
硬體可以用TPU, AMD, 自製ASIC 等等,
真的不是非用H100 不可
我在雲端市場研發也算是有一段時間,
雲端市場很難打進去的, 一大堆奧客,
就像我前面說的AI 科學家們沒有CUDA 就不會寫代碼,
我跟他們解釋半天用OpenCL 用Tensorflow,
他們就是不願意接受,
誰叫我是開發雲端AI 平台給人使用,
然後很多客戶要求一堆的support,
還有一堆鳥問題跟急單,
最好再送sample code, sample or reference model,
最好是可以直接套用,
這樣一家空殼公司,
根本無法處理這些事情
※ 引述《LDPC (Channel Coding)》之銘言：
: 我有在follow coreweave 但是朝另外一個方向 Coreweave現在規劃就是死抱老黃和
: 微軟大腿 他提供的就是第三方租借算力 其他類似的公司有Amazon/Google/Lambda
: 然後Coreweave也有跟微軟簽約提供算力
: 老黃這陣子看得出來 他有在朝算力租借這邊佈局
: 在講這些玩家之前 先科普一下如果踏入AI產業 你大概會選擇三個方向其中一個
: AI開發者有大概三個族群
: 1.Train From Scratch (大公司玩家 每年AI頂會三大會 會看到他們出現刷存在感)
: 代表產物:BLIP(Saleforce)/CLIP(OpenAI)/DALLE-2(OPENAI)/LLAMA(Meta)/Palm-e(Google)
: 2.Fine Tune/Adapter Design: 就是拿上面幾家公司開源的大模型作微調 或者增加套件
: 來整合下游任務 就算是如此也是吃一堆GPU運算 但比上面動輒百顆千顆GPU 小許多
: 3.Deployment (通常是Inference族群)
: 開發者就是把模型部署在終端 針對各種特別User Scenario來做優化AI模型 這塊會是
: AMD將來的市場 目前市值估計是1跟2的10倍 需要的人就是做c code和模型轉變(ONNX)
: Meta目前也在這佈局
: 在Foundation Model大放異彩後 以及開源平台後Hugging Face興起
: (Hugging Face 這家如果有股票 一定要買爆他) 造成許多優秀AI相關人才
: 包含工程師 都想跳入2跟3的領域 來做面對B2C的AI產業
: 這部分都屬於Foundation Model下游任務 在早期李飛飛ImageNet時代
: 這些特製化面向產業的 以前還可以用GTX/RTX這類遊戲顯卡 去做測試和開發和部署
: 現在你大概得要有V100/A100/H100才行 但這些玩意只有大公司有
: 於是老黃目前看來想幹的就是 解鎖這門檻 讓全世界新創 小型公司 任何優秀人才
: 能加入這產業 在透過Hugging Face 你現在想做LLM 只要套用幾個現成模板
: 你就可以做下游特制化產物 老黃開發了一堆套件諸如AI WorkBench 就像你在用SAAS
: Matlab這類軟體 搭個幾個套件 你就可以開發屬於你自己需求下游產物模型
: Pytorch ENG Head也跑去開了一個Firework公司 走這條路
: 原本老黃是寄望雲端三大(Google/MS/Amazon)幫他推租借算力平台 但Amazon已經前後表明
: 他們更希望開發自己的算力平台 而Google/MS隨時都有可能會跳船 那老黃目前感覺就是
: 想養一個親兒子跟他們對幹又或者當替代方案...Coreweaver據傳已經要在德州蓋DGX
: Cloud 做開放AI平台和算力租借整合 據理解DGX這類型Cloud就算是上面三大雲玩家也是需要重新蓋機房
: 無法拿以前的infra來升級 因此上面三個玩家也是需要花錢蓋廠 就某種意義 並沒有
: 比Coreweave來的更領先
: 但只要是聰明人都會注意到 這塊租借算力市場的矛盾性 大公司不會希望上面事情發生
: 最糟糕情況就是3這塊會各家公司分走 甚至危機到1這個Training市場
: 也就是老黃不想看到的 挑戰cuda權威 而老黃感覺是要去搶雲市場租借算力這事情
: 讓更多小資本玩家進入這市場 讓他資本做大 更依賴老黃開發工具體系 打破大公司壟斷
: 大模型 進而在算力租借市場開發新的賺錢項目 越多玩家 他就能賣越多鏟子
: 如果老黃成功打造自己的算力租借軟硬整合雲平台(雖然我不看好) 那我會去解鎖我CD帳戶繼續加碼
: 但我也能理解老黃 如果他不這樣幹 他沒辦法持續壟斷這領域 QQ 總之 繼續在旁邊吃瓜
: 看這群大佬互打
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 76.103.225.6 (美國)
※ 作者: waitrop 2023-09-08 08:40:40
※ 文章代碼(AID): #1a-csDvQ (Stock)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1694133645.A.E5A.html
※ 同主題文章:
09-08 00:16
Re: [閒聊] 傳Coreweave是Nvidia和Blackroc
09-08 08:40
※ 編輯: waitrop (76.103.225.6 美國), 09/08/2023 08:42:35
會是一家正常公司?
一個CTO 連代碼都不會寫也看不懂代碼,
甚至連AI 算法與模型都不懂,
你覺得這樣的AI公司很正常?
※ 編輯: waitrop (76.103.225.6 美國), 09/08/2023 08:54:54
一堆像是tensorflow, opencl 等等,
TPU 搭配tensorflow,
你看有哪幾個科學家願意用, 每個都嫌難用,
不需要合作關係,
是老闆跟下屬關係,
公司要求你用什麼程式語言用什麼工具,
一般員工是不能有意見的,
就算難用也是要學著用,
但是科學家不一樣,
科學家可以跟公司說沒有CUDA 就不會寫代碼,
我遇到好幾次,
我出AI 平台給公司內部科學家,
公司想省錢用自製的TPU 或是ASIC,
公司內部科學家嫌難用, 沒有CUDA不會寫代碼,
我苦口婆心勸用tensorflow, opencl, 還是沒用,
我反而被老闆嫌說花錢開發平台沒人願意用
※ 編輯: waitrop (76.103.225.6 美國), 09/08/2023 09:10:58
拿網咖跟AI 雲端平台比較是很怪的事情,
你做AI 雲端平台全公司沒有任何技術背景,
跟詐騙集團差不多了,
這樣的公司你還敢信
就是你科學家開發模型會比較麻煩,
但是公司是給薪水的人
不是自己可以決定的,
我們在說的是工作上的事,
牽涉到公司利益與成本,
我工作20年,
大部分公司都是用Linux, 除了微軟用Win
科技業頭頭大部分是技術底出身,
尤其是CTO 是公司技術的證明,
用sales 當CTO,
這樣的科技公司算是第一家,
更何況是新創公司開公司的人,
99%的科技業開公司的人都是技術出身,
MSFT, GOOG, META/FB, Intel, NVDA, YAHOO, ... 等
你要問為何科技公司開公司的人全都不會寫代碼也沒有技術底,
CTO 還是 sales,
這公司這正常嗎?
※ 編輯: waitrop (76.103.225.6 美國), 09/08/2023 09:28:49
效能也是最好的那一級別,
生態系領先別人好幾年,
的確是
但是為了公司省錢還有保住我的飯碗,
要求科學家們用其他的工具+語言,
但是就是不願意接受,
我工作就沒這麼好命了,
公司要我用什麼工具我都只能接受,
還要去學Go, Rust, 痛苦!
還有微軟硬是要用Win 系統去寫代碼跟RTL 設計環境, 超痛苦!!!
※ 編輯: waitrop (76.103.225.6 美國), 09/08/2023 09:43:52
--
→ : ai大軍即將抵達1F 09/08 08:44
推 : CUDA現在就是無可取代呀2F 09/08 08:50
推 : W大覺得什麼時候會改變這生態呢?3F 09/08 08:51
→ : 所以你覺得頭頭都不是本科系的就覺得是空殼公司？4F 09/08 08:52
你覺得CTO 不是本科系也沒做過任何技術職,會是一家正常公司?
一個CTO 連代碼都不會寫也看不懂代碼,
甚至連AI 算法與模型都不懂,
你覺得這樣的AI公司很正常?
※ 編輯: waitrop (76.103.225.6 美國), 09/08/2023 08:54:54
→ : 感覺你的空殼公司的定義怎麼好像跟市場上不太一樣5F 09/08 08:55
推 : 看這家公司在整條利益鏈裡面有沒有分到錢囉
老黃就學界用了十幾年 跑模型都用CUDA 用習慣了6F 09/08 08:55
老黃就學界用了十幾年 跑模型都用CUDA 用習慣了6F 09/08 08:55
→ : 都有WSJ專訪了刪什麼8F 09/08 08:57
推 : 不是法律系 空殼確認9F 09/08 08:58
→ : 你真的想推廣就自己發一篇paper比較不同訓練工具10F 09/08 08:58
→ : 訓練系統精華是mulit-node interconnect11F 09/08 08:59
推 : 我也越看越覺得扯….這家才兩三億可以買二十幾億的晶片，然後錢是拿晶片抵押貸款來的，意思就是用NVDA的晶片抵押貸款去買NVDA的晶片，這邏輯跟FTX當初抵押自己的代幣去套錢根本一模一樣，有人說Blackrock的角色是安排公司貸款給Coreweave ，這部分不知道怎麼查出來的12F 09/08 09:00
→ otaku690 …
→ : 或是用你的工具做個開源的code給大家跑19F 09/08 09:01
→ : 不是人資吧 CEO之前是做避險基金管理的
CTO資歷跟CEO重疊 大概是從以前跟到現在的親信20F 09/08 09:01
抱歉, 眼睛不好看錯, 右眼快瞎了CTO資歷跟CEO重疊 大概是從以前跟到現在的親信20F 09/08 09:01
→ : 沒有長期經營的合作關係 不能天天酸科學家不用你的22F 09/08 09:02
open source 跟工具當然有呀!一堆像是tensorflow, opencl 等等,
TPU 搭配tensorflow,
你看有哪幾個科學家願意用, 每個都嫌難用,
不需要合作關係,
是老闆跟下屬關係,
公司要求你用什麼程式語言用什麼工具,
一般員工是不能有意見的,
就算難用也是要學著用,
但是科學家不一樣,
科學家可以跟公司說沒有CUDA 就不會寫代碼,
我遇到好幾次,
我出AI 平台給公司內部科學家,
公司想省錢用自製的TPU 或是ASIC,
公司內部科學家嫌難用, 沒有CUDA不會寫代碼,
我苦口婆心勸用tensorflow, opencl, 還是沒用,
我反而被老闆嫌說花錢開發平台沒人願意用
※ 編輯: waitrop (76.103.225.6 美國), 09/08/2023 09:10:58
推 : CUDA 整個生態鍊都起來了，現在有點難被取代23F 09/08 09:05
→ : 就跟現在顯卡有點像R，其實你拿AMD的卡去跑遊戲 真的沒差多少
但一堆單子還是指定N卡24F 09/08 09:06
但一堆單子還是指定N卡24F 09/08 09:06
推 : 公司內部的話 就跟科學家證明你的比老黃現有的更好27F 09/08 09:06
→ : 儘管兩邊卡的遊玩體驗真的沒差多少28F 09/08 09:07
→ : 跑出來的模型要跟CUDA跑的一樣29F 09/08 09:07
→ : 也要看perf吧 跑三天才出來 你要怎麼說服使用者用30F 09/08 09:09
→ : 跑在單一機器都很容易啦 你8台串聯訓練看看
opencl那垃圾driver看看31F 09/08 09:09
opencl那垃圾driver看看31F 09/08 09:09
推 : 照妳的說法，網咖老闆只能是資工系？33F 09/08 09:11
不要亂比喻,拿網咖跟AI 雲端平台比較是很怪的事情,
你做AI 雲端平台全公司沒有任何技術背景,
跟詐騙集團差不多了,
這樣的公司你還敢信
推 : 你這樣就是要從小用iphone的人跳安卓34F 09/08 09:12
對, 差不多一樣的意思→ : 之前教主就有說啊 一堆AI大頭手上一堆NV股票，整個利益集團間接會鞏固老黃那邊的優勢35F 09/08 09:12
→ : 本來就是個不只要做出好工具 還要去花時間推廣37F 09/08 09:12
因為可以幫公司省很多錢, 效能不輸NVDA,就是你科學家開發模型會比較麻煩,
但是公司是給薪水的人
推 : OS很好用，為什麼7成人類用Win?38F 09/08 09:13
我到每一家公司都有規定要用特定的OS, 跟特定的工具+程式語言,不是自己可以決定的,
我們在說的是工作上的事,
牽涉到公司利益與成本,
我工作20年,
大部分公司都是用Linux, 除了微軟用Win
→ : 老黃真的很像iphone水果行，安卓說真的也不是不能取代，但底下的人不想離開= =39F 09/08 09:13
※ 編輯: waitrop (76.103.225.6 美國), 09/08/2023 09:19:35→ : TPU就估狗自己想搞自己的特規 那要教人怎麼用41F 09/08 09:14
推 : 優文42F 09/08 09:14
→ : 你公司內要推 你就要上面的人去跟科學家攤牌
兩邊要認真直球對決一下 該罵哪邊不好用就改43F 09/08 09:15
兩邊要認真直球對決一下 該罵哪邊不好用就改43F 09/08 09:15
推 : 自己的晶片高價賣給自己的子公司製造缺貨的假象45F 09/08 09:16
→ : 就算你真的安卓做的比iphone好又如何 人家用不慣46F 09/08 09:16
→ : 子公司再拿高價晶片去融資繼續高價買晶片
好熟悉的套路啊 XDD47F 09/08 09:17
好熟悉的套路啊 XDD47F 09/08 09:17
→ : 那結果就是上面要用力推 要讓內部科學家強迫用你的阿如果模型不如預期也會全推給你的套件沒寫好不好用當然知道用公司自己的不要用老黃的可以省非常多錢科學家可以不要公司的錢 跳去另一家CUDA的公司就好49F 09/08 09:17
推 : 科技業頭頭常常是sales，你說阿庫會coding?53F 09/08 09:23
錯,科技業頭頭大部分是技術底出身,
尤其是CTO 是公司技術的證明,
用sales 當CTO,
這樣的科技公司算是第一家,
更何況是新創公司開公司的人,
99%的科技業開公司的人都是技術出身,
MSFT, GOOG, META/FB, Intel, NVDA, YAHOO, ... 等
你要問為何科技公司開公司的人全都不會寫代碼也沒有技術底,
CTO 還是 sales,
這公司這正常嗎?
※ 編輯: waitrop (76.103.225.6 美國), 09/08/2023 09:28:49
→ : 這種公司內部要推的 都是要很上層的表態用力支持54F 09/08 09:25
噓 : CUDA把生態系建起來，大家懶得換也合理吧55F 09/08 09:25
→ : 不然都是吃力不討好的工作
上層用力支持也不一定能成功56F 09/08 09:25
上層用力支持也不一定能成功56F 09/08 09:25
→ : 就像word、excel有替代品，但多數人還是用微軟的58F 09/08 09:25
推 : 科學家有底氣 公司要他們拼出下一代模型
如果他們好找替代人選 公司也不會這麼順從科學家59F 09/08 09:29
如果他們好找替代人選 公司也不會這麼順從科學家59F 09/08 09:29
推 : 我覺得抱怨生態系沒什麼意思 不然我們也來抱怨為何iOS開發平台一定要鎖Swift跟Xcode啊 尤其XCode爛死61F 09/08 09:32
→ : 科學家的頭頭沒有強迫他們用 就代表公司沒有要求
你就不能抱怨公司發錢給科學家 他們還不配合63F 09/08 09:33
你就不能抱怨公司發錢給科學家 他們還不配合63F 09/08 09:33
噓 : 這篇就不專業了65F 09/08 09:33
→ : XCode根本就IDE中的恥辱 但你靠北Apple也沒用
人家前面花了多少成本在推生態系 才有今天壟斷局面要開發iOS應用也有一堆替代方案 但就不好用R66F 09/08 09:33
人家前面花了多少成本在推生態系 才有今天壟斷局面要開發iOS應用也有一堆替代方案 但就不好用R66F 09/08 09:33
推 : 我以前一直不懂為何中國很興起黑蘋果這套件...
原來安裝黑蘋果一大半為了Xcode 的編譯器69F 09/08 09:35
原來安裝黑蘋果一大半為了Xcode 的編譯器69F 09/08 09:35
推 : 說不專業的來發一篇啊 廢魯蛇71F 09/08 09:36
→ : 黑蘋問題有夠多 麻煩死了
生態系這種東西 就是人家佈局得早 而且成功了 人家72F 09/08 09:38
必須承認CUDA 生態系做得最好,生態系這種東西 就是人家佈局得早 而且成功了 人家72F 09/08 09:38
效能也是最好的那一級別,
生態系領先別人好幾年,
的確是
但是為了公司省錢還有保住我的飯碗,
要求科學家們用其他的工具+語言,
但是就是不願意接受,
我工作就沒這麼好命了,
公司要我用什麼工具我都只能接受,
還要去學Go, Rust, 痛苦!
還有微軟硬是要用Win 系統去寫代碼跟RTL 設計環境, 超痛苦!!!
※ 編輯: waitrop (76.103.225.6 美國), 09/08/2023 09:43:52
→ : 就有本事擺態 哪間科技大廠不是這樣 蘋果微軟亞麻造局造了甚至幾十年 NV也是如此而已74F 09/08 09:39
→ : 這篇給的資訊很多捏，一般新聞根本看不到這種資訊，股版優文
大家都有認真在討論事情76F 09/08 09:41
大家都有認真在討論事情76F 09/08 09:41
推 : opencl/opengl這open source要花多少人多久才能達到79F 09/08 09:45
→ : 承認cuda做最好就好了 扯什麼AI科學家利益相扣幹麻80F 09/08 09:45
→ : CUDA的效能...還要用其它家TPU 根本-50%後再減50%81F 09/08 09:46
→ : 完了 一人公司82F 09/08 09:47
推 : 上面那個安卓跳蘋果的比喻好貼切83F 09/08 09:49
→ : 現在AI生態裡連那個"安卓"都沒有 當然用"蘋果"
後面一堆陰謀論扯CUDA利益相扣 根本在腦補84F 09/08 09:50
後面一堆陰謀論扯CUDA利益相扣 根本在腦補84F 09/08 09:50
推 : 以前寫扣在公司內是第一層 現在被科學家擠下去了86F 09/08 09:58
推 : 絕大部分的公司都還是用Windows吧 科技業還有能力搞87F 09/08 10:01
噓 : nv這樣就變妖股也是好笑88F 09/08 10:01
→ : Linux ㄧ般公司應付電腦白癡就來不及了還Linux
這種東西都嘛是免錢的最貴 用便宜的整天debug就飽了89F 09/08 10:02
這種東西都嘛是免錢的最貴 用便宜的整天debug就飽了89F 09/08 10:02
→ : 33樓 2ㄏ91F 09/08 10:06
推 : Linux架Server好用 但一般PC還是windows首選92F 09/08 10:10
推 : 不爽不要做 寫扣打工仔也該離職跟公司抗議(反串)
科學家就是敢跟公司嗆離職所以才這麼拿翹(X
不過你自己都說了CUDA是最好用的工具
用"公司政策"講 科學家的老闆要去施壓才會有用
你說公司政策 公司付薪水 他們只對自己的老闆負責93F 09/08 10:16
科學家就是敢跟公司嗆離職所以才這麼拿翹(X
不過你自己都說了CUDA是最好用的工具
用"公司政策"講 科學家的老闆要去施壓才會有用
你說公司政策 公司付薪水 他們只對自己的老闆負責93F 09/08 10:16
→ : 上面說得很好啊 也是有能取代excel ppt的東西
但大家最後還是用微軟壟斷的excel ppt98F 09/08 10:18
但大家最後還是用微軟壟斷的excel ppt98F 09/08 10:18
→ : 這就好像你公司找iOS工程師進來 跟他說蘋果電腦太貴了公司要省錢我們去光華弄一台兩萬塊的桌機我幫你搞黑蘋開發環境一樣 你看哪個工程師不會爆炸100F 09/08 10:19
推 : 會爆炸的是 iOS工程師 組電腦的想說明明省錢效能好103F 09/08 10:21
--
--
作者 waitrop 的最新發文:
- 週末閒聊等比賽開打, 其實All in 的定義很模糊, 我個人看法把"All in" 換成"100% 市場參與度" 會比較正確, 有讀過正二哥的槓桿ETF 理論 …61F 27推 1噓
- 15F 6推
![]()
以上論點在拜登-賀錦麗政府時期是正確的論點, 尤其賀錦麗上台的話會更加大亂花錢亂開支票, 所以之前黃金一路漲就是建立在拜登-賀錦麗執政的前提, 但是川普會修好這個問題, 所以黃金已經沒有之前買入的理 …135F 35推![]()
選前各種恐嚇, 要是川普當選就要通膨,赤字,不降息, 美股崩盤,台股崩盤,台積電崩盤,台積電被制裁, 結果選完美股噴爆, 台股噴爆, 台積電噴爆 說這些恐嚇的人實在是太沒良心了, 不過我也因為怕華爾 …110F 40推 7噓- 42F 7推 5噓
點此顯示更多發文記錄
(waitrop.): Re: [閒聊] 傳Coreweave是Nvidia和Blackroc - Stock板