看板 Stock作者 a0808996 (dammmmm)標題 [心得] 探討無腦堆算力 是不是到盡頭了時間 Wed Jan 29 17:18:31 2025
我先聲明 我沒有買美股 也沒有買台積電 ai等類股
只是過年吃飽閒著沒事幹 無聊想找話題而已
___________________________________________________
大家都知道 算力= 硬體 + 模型
中國應為硬體限制下 開始瘋狂近來捲模型了
最近出DS討論很大 先不管他們訓練成本如何
是不是偷的 還是靠補助的
但是開出的token 是真的低
要是對岸好幾間都這樣搞
讓低階AI迅速白菜價
______________________________________________
再回到美股
假設你是那些巨頭的股東
看到低階需求AI 被對岸迅速攻占
還沒開始就變成紅海了
然後每年還要繼續燒錢買大量的卡
未來根本還看不到AI奇異點 會怎麼想
靠資本挖的護城河 終究是很淺的
電腦每升級一代 一樣的錢 可以買更高的效能
老黃刀法精準 每年都出強一點的卡
現在買的卡 幾年就變垃圾了
現在高端AI賺不到錢 低端AI中國靠著捲模型
賣白菜價 讓你賺不了錢
老黃的卡又一直出新的 不買又不行
但是舊的卡 一毛成本都收不回
未來折舊 在財報上 是會很巨大的
到底還要不要繼續把錢丟進無底洞
還是這路是錯的 應該把資本拿去 捲模型才是對的
大家可以開始討論了
說個笑話
矽谷菁英工程師是全世界最好的 但沒想到是硬體圈了最多投資人的錢
你說可笑不可笑XD
--
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 123.194.128.122 (臺灣)
※ 作者: a0808996 2025-01-29 17:18:31
※ 文章代碼(AID): #1dcV9fGJ (Stock)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1738142313.A.413.html
→ linzero: 自駕這種目前還沒完善吧,應該還有其他領用的AI應用還有待砸錢硬幹1F 01/29 17:20
→ cpblgu …
推 cpblgu: 美國玩不起 就別玩3F 01/29 17:20
→ linzero: 像翻譯看過一些成果,感覺還是有待加強5F 01/29 17:21
推 pt993526: 沒錯 NV無腦空 送分題沒人不會做吧6F 01/29 17:22
→ zer0319: 軟體追不上更要堆算力吧7F 01/29 17:23
→ skyhelp: 先不管成本如何?然後就說會變白菜價?不會覺得邏輯不通嗎?8F 01/29 17:23
噓 Sianan: 你就沒有想過兩者根本沒衝突?10F 01/29 17:24
→ lpmybig: 不懂寫程式 但是開源應該就是有了參考書跟sop的意思 但是參考書大家有 考生也一樣參差不齊11F 01/29 17:24
推 poeoe: 都有人帶頭算法減成本了 美國那些軟體菁英很快就能跟上啦 不要小看他們13F 01/29 17:24
→ lpmybig: 不過米國跟西台灣都有菁英 這是他們該想的問題 不是股東16F 01/29 17:25
推 harpuia: 重點在挖到金礦,用金鏟子的人沒挖到金礦就是爆掉18F 01/29 17:25
希望大家 以股東的角度去想 年年燒巨量的虧損 還看不到盡頭 可以接受嗎
※ 編輯: a0808996 (123.194.128.122 臺灣), 01/29/2025 17:26:55
→ b9513227: 哈欠 我只問低配版ai要不要硬體19F 01/29 17:25
→ harpuia: 鐵鏟子是甚麼東西都可以挖,兩個風險就差很大
資本多去選金鏟子投資,本少的人選風險低的鐵鏟子20F 01/29 17:26
→ harpuia: 現在市場上資產開始流動,就是朝這方向走23F 01/29 17:27
推 aegis43210: 每年仍是會有四千億美元的鏟子市場,但很難再成長了24F 01/29 17:28
噓 binco: 才幾天而已這麼早下定論幹嘛?25F 01/29 17:28
→ harpuia: 如果把資產都投到硬體AI股,風險就變超高26F 01/29 17:28
推 pansquarl: 其實還好,以前網路泡沫時代也是硬體先賺一波,然後投資人因為看不到收入上升崩潰一波,等到過幾年會賺錢的軟體服務才出來,不是嗎27F 01/29 17:29
推 kuan870704: 你是不是很容易被媒體影響,沒有自己的判斷力30F 01/29 17:30
→ harpuia: 以前沒內地卷力,現在條件不一樣,不能一概而論
以前美債公認避險商品,現在不也變成垃圾商品31F 01/29 17:30
推 Gipmydanger: 你以為微軟還會重蹈一次放棄windows phone嗎?33F 01/29 17:31
噓 sean667cd: 沒買你還討論個毛。 討論完你還是不會買。 也不會獨立思考34F 01/29 17:32
→ ActionII: 文字客服ai 到極限了,又不代表其他類型的到極限了36F 01/29 17:33
推 n555123: 我感覺這篇中間的推演在「投入硬體/軟體」跟「AI的高階/低階市場」好像太二元了,我同意終究會開始卷模型,但這兩個東西應該會是輪流撞墻,你這樣推演出來的結論我總感覺哪邊怪怪的
剛講到客服就出現客服小祥,這是巧合嗎,我不這麼41F 01/29 17:35
推 pico80286: 你沒看川皇那群MAGA在說什麼嗎?AI是戰爭46F 01/29 17:36
硬體升級算力變更高 對岸也能靠捲模型提高算力 但是成本不一樣
※ 編輯: a0808996 (123.194.128.122 臺灣), 01/29/2025 17:37:08
推 s213092921: 這就是中國陽謀啊,逼美國矽谷只能繼續砸錢堆算力48F 01/29 17:38
推 littlefalcon: 算力是硬體的問題,算法是模型看軟體,這個講法把算力當成是處理的結果,應該不是算力原本的意思吧49F 01/29 17:38
→ crybaby2516: 沒買科技股 然後同套言論一直洗閒聊洗不夠 還發文XD53F 01/29 17:48
→ matlab1106: 基金股東開始縮手了 本來畫的獨佔餅瞬間沒了54F 01/29 17:49
推 Falagar: 模型看天份 但是硬體還是硬功夫55F 01/29 17:49
推 SuGK: 你的算力怎麼跟大家不一樣56F 01/29 17:49
推 boy1031: 一百噸的鑽石鏟子,怎麼可能挖不到上兆美金,我不信,哭啊57F 01/29 17:49
→ Feting: 去年出貨一直遞延就注定用刀法割科技巨頭這招會開始出問題,大家會想我還沒拿到舊的就出新的,那要不要乾脆把舊的訂單取消一些改新的,所以老黃早早把新賽道轉換到機器人59F 01/29 17:51
→ z7956234: 過年就好好的放假,真要研究,六日開盤前再研究就好,現在就好好的出去逛街,不然就看A片尻槍尻到初563F 01/29 17:51
→ Feting: 也許以後會出一款遊戲,你以為自己在玩遊戲,其實是在幫別人train ai65F 01/29 17:52
推 tinkle: 算力還是有需要的 但資金不是無限阿 就看什麼取捨了67F 01/29 17:56
推 kilva: 原本還在想project digit會不會只是教育版,現在配上deepseek,邊緣AI說不定真有些搞頭68F 01/29 17:56
→ Feting: 現在真的開卷是好事,會更快普及跟降低消費者使用成本,算力需求一樣會有只是從無腦堆硬體轉向多方並進70F 01/29 17:59
→ CCH2022: 事實就是這樣,開始普及就要大量硬體來支援。有錢的要夠大的算力模型就買好的硬體配軟體,想省成本在特定運算的就買配置低的硬體,國家、學術、軍用、醫療、品牌企業、中小企業、特殊用途。你總是要買NV的。73F 01/29 17:59
推 jamesho8743: 講得好像美國不能抄 知識的事情有了起頭很快就會普及了 LLM不是中國發明的現在不是也一堆?78F 01/29 18:00
推 FRONTPEOPLE: 我覺得巨頭應該軟硬體都會抓 回收方式應該走專業AI方面比如法律、金融 更重視精準度之類的 低階就放棄81F 01/29 18:06
推 matlab1106: 沒那麼專業市場可以撈啦 最有賺頭的手機平價AI看來這餅是沒了84F 01/29 18:09
噓 catboost: 你有華爾街聰明還不趕快亮單87F 01/29 18:13
→ a0808996: 我希望你們用股東的角度 去看錢收不回來的問題88F 01/29 18:18
→ lusifa2007: 你有想過老黃每幾年推一次顯卡為啥大家還是一直買?89F 01/29 18:18
→ a0808996: 不是未來不需要卡 是短期不需要一直買這麼大量的卡91F 01/29 18:19
→ lusifa2007: CPO一直在燒錢 聯亞全年虧損為啥股價一直飆?
你不買別人會買的 算力儲備越多越好92F 01/29 18:20
→ a0808996: 我的觀點都說出來了 算力無限 資金有限 現在是不是應該把每年買卡的錢 拿去研發優化模型95F 01/29 18:22
推 lpmybig: A08這就跟汽車 電動車競賽一樣 一開始百年老廠不是每個都臭屁不屑做電動車 結果特斯拉快成功後 每個都真香預告 全部跑來跟著做
不跟著做 落後就沒市場 沒人想變下一個nokia97F 01/29 18:22
→ a0808996: 拿一些去研發優化模型
而不是把大量資金都拿去買卡
軟體本來就是矽谷的強項 都拿去買卡不是本末倒置101F 01/29 18:23
推 fajita: 老黃的舊卡不就有出路了嗎?104F 01/29 18:25
推 mamorui: 軟體這塊很多都玩到極限,連中國也是,直到生成式AI才像春筍噴發般開始有新的突破105F 01/29 18:26
→ a0808996: 軟體研發成功就是高毛利 買卡堆算力就是低毛利107F 01/29 18:26
→ mamorui: 軟體也影響很多應用,只是大部分人不知道已經有用AI改善服務了109F 01/29 18:27
推 jiansu: 還是需要算力 只是要降低算力成本 目前太貴了 應用開發買不起 大陸買不到 現在是軟體和算法優化 可能還有硬體 deepseek公開支援Amd和華為了 中國不可能放棄ai又被限制 那只能想辦法突破目前框架111F 01/29 18:28
推 good10740: 類似ETH降門檻,大家能拿算力換錢。現在問題在怎麼換錢115F 01/29 18:29
→ a0808996: 所以我才說希望大家用股東的角度思考 硬體未來的折舊是巨量的 靠資本挖的護城河是很淺的117F 01/29 18:31
推 lu19900217: 和挖礦時期一樣 就A卡I卡不夠力 才用N卡 所以這幾年皮衣刀客才這麼春風 N卡死貴死貴還是有人買的原因119F 01/29 18:32
→ a0808996: 研發優化模型是高毛利 堆硬體是低毛利121F 01/29 18:32
→ microtv2000: 當大家軟體都一樣的時後最後還是再比蒜粒美國終究還是贏家122F 01/29 18:34
推 sweetantt: 對 變成有腦堆算力 共同點還是要堆算力125F 01/29 18:38
推 mopa: 你講得優化模型很簡單,現在大家捲,是越來越難。最後大家拼的還是硬體。127F 01/29 18:40
推 n555123: 短期不需要這麼多卡的話感覺有可能,我覺得樂觀悲觀兩套邏輯好像都有點道理,應該大家都在等開獎吧129F 01/29 18:41
→ dferww55: 股東要看是誰阿,如果我是股東我有錢我就會繼續幹,當然要是沒錢就沒辦法了,要是你是股東我猜你會不想投錢131F 01/29 18:42
→ dferww55: 你一直叫人家用股東的想法去想,其實只是要人家用你的想法去想,但仔細想想你目前空手對吧?你本來就是怕東怕西不敢投入的人了,這些喜歡搞創新投資的股東想法會跟你一樣嗎?135F 01/29 18:44
噓 yomo2: 沒單 你講個毛….沒單講話就是來帶立場跟投資無關139F 01/29 18:47
→ a0808996: 能決定預算案的是董事會啊 所以才說要以股東角度
要是董事會決定把買硬體的錢減少 拿去研發模型 有沒有想過短期內對硬體股的影響140F 01/29 18:50
→ metallolly: 怎麼不說董事會決定硬體也買 研發預算也加大?143F 01/29 18:52
→ a0808996: 這也是有可能的 你這樣說我不反對 但是股東要能堅持繼續燒錢
燒更多的錢144F 01/29 18:53
→ skyhelp: 你要不要直接說我不贊成繼續買硬體就好147F 01/29 18:54
→ a0808996: 能決定預算的不是散戶 是董事會148F 01/29 18:57
推 Latte7: 七巨頭哪來鉅額虧損,這世界真的不缺被收割的韭菜149F 01/29 18:58
→ loveadu: 你要100個留美的還是1個馬斯克150F 01/29 18:58
推 spa41260: 同樣是燒錢,買硬體對算力股價會繼續創高,轉向去研發模型算法,股民不見得買單。除非股民不買單繼續堆算力,到時候也會反應在股價上。
現在是造夢吹泡泡階段,股價能不能繼續創高比它賺不賺錢更重要151F 01/29 18:59
推 Latte7: 你是大科技的執行長敢減少對AI投資? 現在大科技之間的差距可能不到三個月… 到時候落後被幹掉,怎麼對股東交代?156F 01/29 19:02
→ a0808996: 現在你買卡的折舊還沒反應在財報上
未來ai沒辦法創造獲利 折舊會是巨量的159F 01/29 19:02
推 etset: 先搞定P=NP就不用堆算力了161F 01/29 19:03
→ spa41260: 你把它想像成生技新藥就懂了,股民投資難道是因為研發新藥帶來的真實獲利嗎?還不是想搭吹泡泡的便車,讓資產翻倍再翻倍162F 01/29 19:04
→ a0808996: 我也只是討論這個可能性而已165F 01/29 19:07
推 n555123: 感覺把自己當股東這句有歧異,是說你們兩個剛好就是樂觀派跟悲觀派的說法耶,反正資本支出開獎就知道了,我覺得根據下檔調整風控蠻合理的,或者那種控好部位大長投反正公司不死就一股不退的也沒差166F 01/29 19:07
→ a0808996: 不認同 就當我說廢話就好170F 01/29 19:07
推 fukku100: 在運算的領域硬體軟體是分不開的171F 01/29 19:08
→ a0808996: 中國已經準備好靠低價ai來搶市場了 還要自己投資這麼多硬體 然後回收不回來172F 01/29 19:08
→ Callus: AO8急了 這種問題沒答案的 只是讓妳心安174F 01/29 19:09
→ a0808996: 我沒有買 我急什麼 只是無聊在思考這問題
你們就當無聊討論就好了175F 01/29 19:09
推 j0987: 推177F 01/29 19:11
→ water6: 可以去x看一下ai大神怎麼說的,至少比一堆鄉民有參考價值178F 01/29 19:13
噓 fewhy: 你開頭就寫錯 算力就是算力 就是硬體 跟模型沒關係181F 01/29 19:16
→ a0808996: 改成全力發展模型 也是投資啊 不是只有一直堆硬體調整資出比例為什麼不可能182F 01/29 19:16
→ a0808996: 公式錯了 堆再多算力 還是算輸人185F 01/29 19:19
→ jason1836: 我覺得你的看法沒錯,但是太早了,如果現在巨頭已經堆硬體堆兩三年還沒有成果,才會有你那個想法吧186F 01/29 19:21
→ a0808996: 董事會是以長期發展來看 又不是看股價來決定的 能決定預算的是董事會 不是散戶
股價漲再高 也要賣了才行
我知道股版很多人 輝達 台積電砸很大 看到我說這些只會不開心 我能理解188F 01/29 19:21
推 Phamalpha: 沒買的屁話一堆 不知道在幹嘛
是過年太閒忙著發表一下高間嗎193F 01/29 19:29
→ dferww55: 希望喊盤能讓他上車吧
他若完全不想買,拼命喊空是幹嘛?想放空嗎?不會去關心自己想買的股票就好195F 01/29 19:30
推 kuan870704: 你講的不就是intc的董事會,都是非專業的來當,然後跟你一樣覺得很多東西都浪費錢不用投資,下場你也知道了198F 01/29 19:31
→ a0808996: 發展模型也是投資啊 你再顧100個團隊來優化 不用錢嗎
難道只剩買硬體 才是投資嗎
我沒說不投資啊 只是軟/硬體比例是不是該修改了201F 01/29 19:33
推 ohlong: 剛好相反 會closed 的更用力 讓別人不能搭順風車只能自己堆算力205F 01/29 19:37
推 kuan870704: 科技巨頭的錢多到輝達的晶片不夠賣,離要調整比例還很遠吧207F 01/29 19:38
→ a0808996: 大量堆硬體的前景是 獨佔市場 但是現在中國已經要進來了
消費性市場中國已經要進來卷了
能回收成本的手段 少了一大塊209F 01/29 19:39
推 as6633208: 按你的公式,算力=硬體+模型,兩個都正相關,怎麼可能看空某個,長期來看兩個都會上漲好嗎,自己列了個兩項正相關的公式卻說得好像要空某個,邏輯呢xD213F 01/29 19:43
推 kuan870704: 想太多,跟以前的iphone殺手一樣,都會號稱自己cp值很高,但最後賣最好的還是iphone216F 01/29 19:44
推 ohlong: 但是就算不開源 你付費用api一樣可以拿來訓練 所以無解 你token跟電費一樣用越多費用級距越高 我就玩218F 01/29 19:44
→ ohlong: 化整為零多開幾台來訓練就好221F 01/29 19:44
→ a0808996: 以成本來說 2個不一樣啊 軟體研發成功就是高毛利222F 01/29 19:45
推 spa41260: 資本支出是列在資產項目,研發算法的人事開支是列在費用項目,同樣的開支,財報上會比較好看。特別是你一邊提升資本支出,一邊裁員。223F 01/29 19:45
→ a0808996: 好的數學公式 讓你算答案更輕鬆226F 01/29 19:45
→ spa41260: 好的財報能讓你股價創新高227F 01/29 19:46
推 kuan870704: 照你這樣講蘋果也不用跟台積電合作搞高端的m系列晶片了,反正軟體無敵228F 01/29 19:47
→ a0808996: 靠軟體創新研發 不是題材更好
我沒說不要硬體啊... 我只是說預算有限比例應該調整230F 01/29 19:47
→ as6633208: 人類未來發展不管是基因改良壽命延長,還是機器人普及,甚至星際探索,怎麼想算力需求都只會更高,算力極限就是個井底之蛙的假命題233F 01/29 19:48
→ a0808996: 為什麼一直把我打成硬體不重要236F 01/29 19:51
噓 AniOAO: 覺得AI變便宜=算力夠?237F 01/29 19:52
→ a0808996: 你們想要是發表ds的 是mate那看法是不是就不一樣了這樣想就好了239F 01/29 19:55
推 itwt: 機體強就是強,不用耍什麼小手段走捷徑241F 01/29 19:56
推 ohlong: 投資很現實的 隔壁商店token比較便宜 不要哪天尬不過來倒店就好笑了 自己搞濃縮版本綁edge獲利才是真的戰場 硬體還是不會缺席的 接下來就是機器人edge大亂鬥了243F 01/29 20:08
→ jacky40383: openAI有家底可以揮霍 硬體花錢不手軟247F 01/29 20:10
→ a0808996: 你是,老闆 當然會傾向往高毛利的發展248F 01/29 20:11
→ a0808996: 你看到別人成本比你便宜 不可能不會想轉向吧250F 01/29 20:12
→ jason1836: 大家成本都低,進入簡單,到後面毛利會高嗎?255F 01/29 20:14
→ a0808996: 你需要新增專案 就需要新的人員
現有人才又不一定是ai專業256F 01/29 20:14
→ jacky40383: AI公司的研發人員不就是專長AI嗎XD 擔心什麼258F 01/29 20:16
→ a0808996: 又不是全體工程師都是搞ai的...259F 01/29 20:17
→ jacky40383: 本來硬堆算力就不對了 軟體優化早該要有人做260F 01/29 20:17
推 mamorui: 學了就會了 公司都有課程261F 01/29 20:18
→ a0808996: 需要的是突破創新 不是把命運交給老黃
買越多卡 就需要越多的電 和土地 都是成本啊262F 01/29 20:18
→ mamorui: 總之不會全部重新找,外加現在研所大學都有相關課程264F 01/29 20:19
→ a0808996: 那也要時間吧
培養新的人的時候 後面已經有人在追了266F 01/29 20:19
→ mamorui: 不會太多時間半年就熟悉了268F 01/29 20:20
→ a0808996: 要人轉專業原本業務怎麼辦270F 01/29 20:21
推 mamorui: 原本就看公司 穩定的沒擴大業務就不用那麼多人搞
每家公司怎麼配置工程師,軟體業的機動性其實超高271F 01/29 20:22
→ mamorui: 不知道耶 要問老闆 @@274F 01/29 20:24
→ necrophagist: 硬體和模型是相乘關係不是相加 能相加代表的是你能完全拋棄一項來堆另一項來補=錯誤理解275F 01/29 20:29
推 Boyzone: 台灣在軟體戰這局完全被排除在外277F 01/29 20:29
噓 sustto: 一張抵100張垃圾卡 懂惹吧278F 01/29 20:37
→ a0808996: 更好的模型可以永久使用 設備只會更新換代 哪個更實用279F 01/29 20:44
噓 LiamTiger: 距離AGI還差這麼多,你不堆算力+強化模型要怎麼達成281F 01/29 20:53
→ MVPkobe: 趴懶替爾準備噴上天283F 01/29 20:53
噓 richaad: 是要多無知才會覺得NVDA只是硬體商
汽車愈做愈省油,石油用量有愈來愈少嗎?284F 01/29 20:53
噓 LiamTiger: 就算有模型可以降低算力,但最終你還是需要更多的算力才能支撐更強的功能
你看你還能用10年前的顯卡CPU跑效能全開的2077嗎?286F 01/29 20:55
推 littlefalcon: 在賈維斯跟霹靂車出現之前,軟硬體都沒有追求的極限巨頭們之前就說過了,無法承受被對手甩開的沒落風險289F 01/29 20:56
→ a0808996: 我當然之後長期還是需要大量硬體阿
那短期就不會更改 預算使用的分配嗎291F 01/29 20:58
→ a0808996: 長期是長期 短期是短期 有更好的模式 再配更好的硬有更好的模型再去搭配更好的硬體294F 01/29 20:59
推 LiamTiger: 調整預算跟落後對手,你自己想想博弈論297F 01/29 21:00
→ a0808996: 不是模型還沒發展到頭 就一直砸錢買硬體299F 01/29 21:00
→ LiamTiger: 你算力根本沒辦法落後對手,落後了就很難追上300F 01/29 21:00
→ a0808996: 就說了 用硬體挖的護城河 很淺了
要是巨頭都有這想法 是不是會一起喊停302F 01/29 21:01
→ LiamTiger: $$$$就是護城河啊老哥,除非你跟APPL一樣是做平台304F 01/29 21:01
推 mopa: 更有效率的算法雜錢不一定出得來,打水漂的機率是很大的,但是砸硬體是買多少算多少,也是最簡單的。305F 01/29 21:02
→ a0808996: 你設備更新速度很快 幾年就落伍了307F 01/29 21:02
→ LiamTiger: 一起喊停? 就說了你去看一下囚徒困境,然後再想想有可能嗎308F 01/29 21:02
→ LiamTiger: 你真以為可以你不買我不買大家都不買然後就降價了嗎? 今天是我看到你不買我更快樂,把你份額吃掉你就出局了,而且還可以把資源更精準使用在一些專用晶片
而且這些算力又不是只能用在AI上== 不要搞錯了313F 01/29 21:03
→ mopa: 那一家CSP縮手投資就準備出局318F 01/29 21:04
→ littlefalcon: 基本上先拿到AGI的很可能直接天下無敵,其他人買的伺服器直接變垃圾,除非證明AGI不可能不然都要衝319F 01/29 21:04
推 q541700: 都還沒普及應用就在考率過剩是不是太早了點321F 01/29 21:05
→ littlefalcon: 主要是算力現在不是無限供應,還有功耗跟其他外在限制,不然NV不會這麼囂張,AMD不會扶不起來323F 01/29 21:06
推 waeting: 拜託你先空TSM年後我想買325F 01/29 21:07
→ a0808996: 反正你們論點就是 短期內 不可能修正了嗎
還是繼續一直買硬體326F 01/29 21:11
推 ck6m454: 直接看七巨頭財報後是增加資本支出還是砍資本支出就知道了328F 01/29 21:11
→ a0808996: 就算未來可能會翻車 也不會停330F 01/29 21:12
噓 LiamTiger: 沒人敢說不可能啦,半導體也會有週期332F 01/29 21:12
→ a0808996: 輝達為什麼會飆 不就是巨頭的支本支出嗎334F 01/29 21:12
→ LiamTiger: 但你不能用錯誤的因去導正確的結果335F 01/29 21:13
→ a0808996: 那將來巨頭支出修改 那股價下跌不也是必然的336F 01/29 21:13
→ littlefalcon: 做的宣告才會這麼有殺傷力,但是DS建模開源是不是真的只要這種成本還要繼續檢視,不然巨頭還是要花錢337F 01/29 21:13
推 q09701023: AI廣泛使用受惠的是什麼應該不難想,就是找下一個Ai浪潮339F 01/29 21:14
→ a0808996: 初期建置期 大量建置是正常的 但未來還要無限堆疊嗎341F 01/29 21:14
推 ck6m454: 資本支出有沒有改變,可以看出方向是繼續堆算力還是轉往先優化軟體343F 01/29 21:14
→ a0808996: 土地 跟 電 都是很大負擔 不是只要買卡而345F 01/29 21:15
→ littlefalcon: 而且DS的方法如果可以讓AI更普及,其實算力需求會更高,只是到時候小東西可以不用老黃出刀而已346F 01/29 21:15
→ a0808996: 我支持長期發展會需要大量硬體 但那也是好幾年後了我講的是這1~2年
而且中國已經進來搶了 未來獲利已經縮減了
不再是獨佔348F 01/29 21:16
噓 LiamTiger: 你的設備就是會跟著你的產出持續成長啊== 你看台積電還不是會隨著製程不斷買新設備,到底==
怎麼會覺得這些算力就這樣要過幾年才再繼續成長,是滾動式的持續成長啊352F 01/29 21:18
→ a0808996: 你10年內要買1000萬張卡
你靠著模型變成15年買1000萬張卡
我的意思是這樣356F 01/29 21:19
→ a0808996: 可是agi的成本 照這樣堆疊硬體 會無限大362F 01/29 21:21
→ a0808996: 都沒有轉向可能嗎
好的數學公式能 加快科技進成 ai同理
不是顧一堆人 去應算
硬算366F 01/29 21:22
→ littlefalcon: 反正大家就在看誰能先變超賽,但是不知道怎麼變超賽也只能拼命練功,堆算力就是這樣吧370F 01/29 21:23
→ littlefalcon: 你想的這些巨頭怎麼會想不到,但是這些人就是還沒有試出最佳解,也不知道最佳解要的算力,當然先搶再說373F 01/29 21:24
→ a0808996: 天價的自駕服務 也沒人用 不如顧司機375F 01/29 21:25
推 mopa: 無人駕駛北美幾個城市已經大量上路了,還在沒人用?376F 01/29 21:26
→ ck6m454: 所以才會說看資本支出變化,如果跟之前喊的數目不同有減少377F 01/29 21:26
→ a0808996: 舉例而已 太貴的成本 售價只會很貴379F 01/29 21:26
噓 LiamTiger: 好的模型速度加快,維持相同投入更快達到AGI不是嗎380F 01/29 21:26
→ a0808996: 但是你好的模型還沒升出來381F 01/29 21:27
→ ck6m454: 代表巨頭對於無腦堆算力的方向可能也有疑慮382F 01/29 21:27
噓 LiamTiger: 更不用說現在距離目標搞不好還要20年383F 01/29 21:27
→ a0808996: 誰先 生出更好的模型 未來優勢不是更大
所以我才說 可能要轉向了
我覺得未來要開始捲的是模型不是 比誰買更多硬體384F 01/29 21:28
→ LiamTiger: 好啦你這樣覺得那趕快空TSMC NVDA AMD
你這樣說短期空應該睏飽數錢387F 01/29 21:29
→ ck6m454: 打斷一下說個笑話,AI有AMD的份嗎389F 01/29 21:31
推 LiamTiger: MI300可能或許有點maybe嘻嘻390F 01/29 21:32
→ a0808996: AMD...還在發現火的時期391F 01/29 21:36
→ a0808996: 樓上這 不就完美展示 短 中 長期嗎xd
但前期是要有成本更低的ai393F 01/29 22:19
推 tomdavis: 質疑ai算力必要性 只要回一句快要輸給中國了要再拼美國公司就會繼續掏錢了 絕對不能輸中國!395F 01/29 22:23
推 Toge: 這種說法跟當初一堆人批評安卓手機堆硬體不是一樣能最佳化當然是好事,但硬體還是會有升級需求397F 01/29 22:29
→ a0808996: 主要還是想探討顧大量人員優化或發現更好的模型
那個才是聖杯 先找到的 得天下
大量堆硬體就算得到agi了 但是成本會很高
難道不是下一個協和號399F 01/29 22:44
推 AirLee: 所以不需要鏟子了 下去403F 01/29 22:56
推 ksjr: 還好捲的是"全世界"投資人的錢 嘻嘻404F 01/29 23:06
推 applejone: 硬體從來沒有過剩問題,只有應用跟不上405F 01/29 23:54
推 kotorichan: 堆算力只能祈求AGI的出現了 不然對一般人,deepseek就夠用了
DS那套還可以離網本地部署
我看堆算力AGI還沒出來 成本一直沒回收 就被DS打垮了407F 01/30 00:15
→ potionx: 越聰明的人需要的算力越多 因為他們的問題越困難
普通人普通問題用便宜模型解決 省下資源給聰明人用這才是合理分配資源的方式412F 01/30 00:49
→ ActionII: 離網本地部署,一狗票開源的都可以,meta 的拉馬去年就給你爽用了,只要用丐版mac 就能跑,為啥猛吹這個啊…
Ds 牛的地方在成本低廉,亂吹開源沒啥意思啊415F 01/30 01:16
→ welkin002: 雖然我很討厭你的說法,但你講的這些是真話,有時候實話往往是傷人的,所以我剛剛已經停損NV了419F 01/30 01:28
推 AirLee: 好啦 誰來幫系統硬體 debug ?421F 01/30 02:07
推 Rucca: 圈了最多錢不代表就會最好阿XD422F 01/30 03:53
推 mimiasd0722: 用算力堆性能 之前對模型開發商來說是手段之一 但不是最有效的(基建成本高)專注於模型/演算法的計算才是最佳解 DS可能會讓大家更注重於算法本身 而非堆算力訓練 當然這狀況下還是會需要更多算了來支撐演算法開發 但如之前那樣的算力指數型成長可能沒了423F 01/30 06:49
推 jamesho8743: 真的很好笑 在那邊說算力夠的 算力夠不夠不是你認為 是微軟 openai 決定428F 01/30 11:32
→ potionx: 投入資本要回收啊 花大錢做出保時捷給普通人太浪費便宜訓練出來的就是裕隆等級的 讓普通人開剛剛好430F 01/30 13:17
--