看板 Stock
作者 kobebrian (bryant)
標題 Re: [新聞] DeepSeek R1來了,追平o1!它現在不但比OpenAI開放,也
時間 Mon Jan 27 20:15:23 2025


先說 我完全不懂DS的算法 也不懂open ai的算法

但既然DS開源 那大家都能使用的情況下 未來AI迭代肯定加速

有人說我用1/50的算法就可以做到一樣的功能...是啊大家都可以用這套算法的情況下 那
還是得拼硬體

我用更強大的硬體可以推出更好的產品、服務 除非今天硬體本身的上限到了 沒辦法再有
更好的硬體來加速運算

不然這些大公司要怎麼贏過有同樣效率、算法的對手?我硬體先用到頂規 再來用軟體拼
贏 還是有人覺得這些大公司挖金礦敢用次級鏟子?

就是那些小公司現在也「可能」有本錢下來市場玩 他們可能可以用次一等的鏟子來挖 推
出沒那麼好但便宜的產品 這會讓整個硬體的市場擴大 以前只能是最頂規的硬體跟AI有關
 現在不是




而且也就是「可能」而已
-----
Sent from MeowPtt on my iPhone


--
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 49.216.41.178 (臺灣)
※ 作者: kobebrian 2025-01-27 20:15:23
※ 文章代碼(AID): #1dbtZTmn (Stock)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1737980125.A.C31.html
※ 同主題文章:
Re: [新聞] DeepSeek R1來了,追平o1!它現在不但比OpenAI開放,也
01-27 20:15 kobebrian.
freeclouds: 確實這樣 賣鏟子的還是大贏家 大家都下來挖1F 01/27 20:16
kensmile: DS就用H100而已,你覺得會有什麼擴大需求
需求增加的低階,不是高階
這才是可怕2F 01/27 20:17
jason0925: 鐵鏟子金鏟子 挖出來東西一樣很盤呢?
買鐵鏟子的爽死 買金鏟子的死去5F 01/27 20:18
andy810306: 大膽,傻多表示萬一金鏟子有隱藏裝備附加技能呢7F 01/27 20:18
kensmile: H100就能用,誰要用GB300
DS帶來的是這個衝擊8F 01/27 20:19
你確定用GB下來算這套算法會一樣嗎?你沒看懂我的文 話說台積電也還真沒差 因為2-5
奈米晶片都制霸 H100你敢用七奈米嗎
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:20:46
fbiciamib123: https://i.imgur.com/ZrjivY5.jpeg 為什麼還要投資10F 01/27 20:19
kensmile: 完全搞不清楚原因11F 01/27 20:20
fashsboy: 成本差異這麼大,投資方不會問為什麼別人用H100做的12F 01/27 20:20
sa87a16: 金鏟子跟木鏟子 能挖出一樣東西,誰要買金鏟子13F 01/27 20:20
fashsboy: 起來你不行?你說美國那些AI公司要怎麼回答這問題?14F 01/27 20:20
saisai34: 用GB300能耗比比較划算啊  @n@a15F 01/27 20:20
freeclouds: 現在難道三星 英代爾 聯電可以生出鐵鏟子?16F 01/27 20:20
andy810306: 傻多表示:你們要做夢啊,說不定金鏟子有隱藏加成17F 01/27 20:20
naligono: 市場是往效率方向走 不是比速度18F 01/27 20:21
你要先確定現在的硬體上限已經無法推升效率了 就是我說的 硬體本身的上限才會是天花

※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:22:41
edward0811: ex打坦克,大量肩扛武器比f35有用吧19F 01/27 20:22
以美軍的角度來說 還是陸空一體打擊比不對稱有效率 因為硬體的效率上限還是無上限
烏克蘭要不是沒更多軍援也不用在那邊讓人肩射消耗
q541700: 以單為證沒單就是瞎猜20F 01/27 20:23
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:25:03
jaricho: 照著邏輯 所以幹嘛買i16 買個i8就爽爽用了啊21F 01/27 20:23
f12sd2e2aa: 什麼都不懂還能出來發文 厲害22F 01/27 20:23
zxcjimyou: 壯膽文 別怕 下週再現期指跌停23F 01/27 20:24
amig0123: 買華為就好了 幹嘛買蘋果 對吧24F 01/27 20:25
jiansu: 如果是1/50的成本 硬體也是需要1/50 你量要變成50倍 短期間量不一定有50倍 然後硬體1/50有更多硬體廠商可以 說不定7nm也有機會了 短期就估值要調整25F 01/27 20:25
Rbian: 呃 DS離AGI還很遠,怎麼會覺得H100就能滿足需求了。。。28F 01/27 20:26
edward0811: 買iPhone13,不需要買到16,拿8比喻幹嘛30F 01/27 20:26
bonfferoni: 100分的產品 有人用50元作出80分產品 有人用500元做31F 01/27 20:26
F93935: 這樣也一篇 傳產腦的下來評論ai32F 01/27 20:26
bonfferoni: 95分的產品實際上80的產品就夠用了33F 01/27 20:26
事實上現在AI的開發很大一部分就是成本被限制住 如果有更有效率的軟體搭配硬體 潛在
市場的開發量是難以預估的 你想想現在AI受眾多小就知道了
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:28:00
strlen: 如果今天的確大家只講效率性價比 那的確就這樣了34F 01/27 20:26
kougousei: 現在的產品離agi都還超遠 等已經飽和達到agi再來吵35F 01/27 20:27
kensmile: 只要提升算法,中小型Ai公司,根本不需要用到高階36F 01/27 20:27
kougousei: 什麼買兩代前硬體就夠好不好37F 01/27 20:27
strlen: 但感覺大家的目標還是AGI 就連DS自己也說目標是AGI38F 01/27 20:27
kinki5566: 蘋果出個i16minus 性能只有i8 價格1000台幣 一定賣到爆好不好39F 01/27 20:27
strlen: 既然目標是AGI 總不會連國中數學題都解不出來吧41F 01/27 20:27
kensmile: 什麼i8,i16鬼打牆的舉例42F 01/27 20:27
strlen: 是不是先用新硬體加新算法 幫幫忙解一下國中數學?43F 01/27 20:28
kensmile: 終端消費電子是消費者偏好44F 01/27 20:28
strlen: 連國中數學都解不開 這算是 夠用 嗎?45F 01/27 20:28
kensmile: 不是生產者成本46F 01/27 20:28
現在的AI根本連消費市場都沒辦法滿足 不是說消費者很滿意現在的AI服務 而是大家都還
在靠腰AI怎麼這麼廢 有更有效率的軟體+硬體才是真正讓需求被滿足的首要條件
edward0811: 例如5070不需買到5090差距才對吧47F 01/27 20:28
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:29:47
strlen: 還是覺得 AI只要能拿來問問附近有什麼好吃的 就好那其實連GPT3都夠用了48F 01/27 20:28
tai890123: 其實重點就是這套算法用高階的硬體去跑
能不能有更高的效率 如果有
那最後大家都採用這算法 還是有硬體需求啊50F 01/27 20:29
strlen: 現在的LLM還遠遠不足吧?多模態算法也可以改進下嗎53F 01/27 20:30
tai890123: 重點是因為他是開源大家都能學吧54F 01/27 20:30
a22530722: 接下來大家模型都一樣強 還是得回歸到比硬體吧.....55F 01/27 20:30
strlen: DS好像也沒有語音AI 也沒有圖像AI 影片AI56F 01/27 20:30
其實就我文中那一句話 除非證明硬體的上限已到 不然就是繼續拼硬體 有人用F-35當舉
例論證效率結果打到自己臉 人家現在拼命搞六代機了 就是硬體上限還他媽看不到邊勒
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:32:18
strlen: 通通都提升 然後結合在一起 或許才摸到AGI的邊吧?57F 01/27 20:30
liliumeow: 問題是目前大廠的最終需求很可能大砍 那預期未來要砍之後 你現在的議價權整個就沒了58F 01/27 20:32
那大廠必須有絕對的把握 硬體已經無法有效率的提升運算了 不然同一套算法下 好的硬
體能比別人做更多 那誰敢不用
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:33:33
mongduo: 商轉要加速了,請找好標的。61F 01/27 20:33
tai890123: 除非證明這套算法用高階的硬體跑不會有效提升
不然為啥需求會掉?
難道大家不會繼續往上追求了嗎
難道有人覺得 ai已經不能再提升了
DS現在能做到已經是完美的嗎?
前面就很多人列舉了他的缺點
包括記憶不足的問題 這些都是好硬體能解決的捏62F 01/27 20:33
strlen: 應該是說 大家對AI能力的上限要求到哪邊
如果覺得r1就是終點了 不用再提升了 我們這樣就好69F 01/27 20:35
講難聽的啦 現在別說理組 連跟AI最沾不到邊的文組公司 都會問AI怎麼這麼廢 就最普通
的老百姓都對AI的功能有更多的夢想 消費者對AI只會要求的更多
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:37:57
strlen: 那當然硬體就下去啦 但很明顯連DS自己都說希望提升硬體 有機會的話 還可以弄出更好的AI71F 01/27 20:35
kougousei: 如果有人覺得現在這些模型就是ai的重點 那真的73F 01/27 20:36
lusifa2007: 找理由空而已 有核彈為什麼還要近一步研究氫彈 因為要比對手更近一步74F 01/27 20:36
kougousei: 科技股賣一賣 如果ai這麼蠢大家就滿足的話76F 01/27 20:36
lusifa2007: 怎麼會有人以為DS不想搞到gb200
它是搞不到77F 01/27 20:36
naligono: 長期還不明朗 但短期需求鐵定大幅下修啊 不然在跌什麼?79F 01/27 20:38
現在連砍單的新聞都沒有 我更傾向是市場恐慌 也不是沒示範過 NV前幾個月還有破百價
我還爽買喔
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:39:23
strlen: 短空是一定的 因為人很容易滿足 覺得這樣就好的人多我自己用到現在的感覺 AI在生產力工具上 零件的提升已經慢慢有在起來了 一年前那個根本是很掉漆81F 01/27 20:38
IBIZA: 其實不是DS想不要搞GB200, 你要問的他用多少總算力達到這個結果84F 01/27 20:39
不重要 因為更強的硬體用這套算肯定只會更強...除非硬體上限到了
PalmAngels: 范紐曼瓶頸86F 01/27 20:39
strlen: 現在是堪用 但理想是產出零件 自己組合成系統87F 01/27 20:39
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:41:13
strlen: 我想如果你親自去問DS梁文峰算力夠嗎 他絕對跟你說88F 01/27 20:41
IBIZA: 如果真的只要1/50算力 就能達到可以接受的結果89F 01/27 20:41
我也講了 現在連最廢的文組消費者都覺得AI有夠爛跟笨 網路YTR還在排跟自己的AI對話
的蠢影片嘲諷 會覺得「可以接受」那真的太容易被滿足了
strlen: 遠遠不夠的啦 XD90F 01/27 20:41
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:42:31
strlen: 至少目前看到的所有業內 都不認為算力夠了 都是外圍的在講91F 01/27 20:41
IBIZA: 我不用問他  他的api定價是open ai的1/10093F 01/27 20:41
strlen: DS認為這是可接受的結果 但有想停在這裡嗎94F 01/27 20:42
stpada: 更強的硬體 但更少的數量 不就有overbooking 疑慮95F 01/27 20:42
IBIZA: 而且open ai是虧損50%, 他是盈利50%
沒人說他會停在這96F 01/27 20:42
xephon: 後面要看模型有沒有碰到天花板,堆算力效果不一定好98F 01/27 20:42
IBIZA: 問題就是 整個市場如果只需要1/50的算力就能達到99F 01/27 20:42
能達到什麼?現在的程度嗎?sry人類只想追求更屌的AI 用更好的硬體下來算這套只會有
更多人買單
strlen: 昨天有人貼訪談 他的目標 說AGI耶 r1是AGI嗎 XD100F 01/27 20:42
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:43:37
IBIZA: 現在的需求 那剩下的49/50的算力是不是要大拍賣?101F 01/27 20:42
剩下的49/50就是要他媽打爆對手的份而已 因為大家都會你這套算法了
bagaalo: 可以接受的結果?怎麼要算可以接受?目前都還是在軍備競賽,比賽到一半而已,又有什麼結果?102F 01/27 20:42
lusifa2007: 盈利50%?它有宣布盈利了嗎? 有這則新聞?104F 01/27 20:42
strlen: 本身都發願了 所以市場覺得這樣夠了 他就退休了?105F 01/27 20:43
IBIZA: r1不是AGI 現在談的是市場 不是DS自己的發展
很簡單啊 現在open ai 1M tokens input是12美元106F 01/27 20:43
strlen: DS在LLM是站穩一點了 還有多模態等著你呢 加油啦108F 01/27 20:43
IBIZA: DS是0.12美元109F 01/27 20:43
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:44:56
strlen: 怎不是談DS自己發展?AI不談發展談啥?110F 01/27 20:44
IBIZA: 而且DS開源  等一堆中型企業架起他們的LLM伺服器
你看這市場怎麼走?
AI市場不是只有DS自己發展吧XD111F 01/27 20:44
就是因為不是只有他們 這套算法好用大家一起開發 接下來就一樣拼硬體 不是1/50可以
有一樣的結果就會停下來 49/50就是要去打敗其他用套一套算法的對手
strlen: 更便宜效率更好 本來就是可預期的事 老黃去年演講也114F 01/27 20:45
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:46:35
strlen: 自己早就預測算法一定會改進 AI成本會變更低115F 01/27 20:45
IBIZA: 更便宜 效率更好 突然暴增50倍的算力 有50倍需求能116F 01/27 20:45
strlen: 老黃自己早就心裡有底也說好幾次了.......117F 01/27 20:45
IBIZA: 吃下來嗎118F 01/27 20:45
tai890123: 問題是這個可接受的結果在哪
以科技業來說 他們一定都是追頂這個沒疑問吧
以日常來說 有gpt4跟3擺在你眼前
你覺得兩者差距不大 那你的接受區間比較大
那確實就不用往上追
只是這種人多嗎
至少我自己能用4絕對不會回頭用3119F 01/27 20:45
IBIZA: 沒有的話 那堆積算力就要停下來了126F 01/27 20:45
strlen: 暴增的50倍算力 是不是就可以拿來提升AI 讓它至少可以解國中數學題 XD127F 01/27 20:46
IBIZA: .....129F 01/27 20:46
bonfferoni: 可接受結果應該是商轉應用的方面 不是科技巨頭在爭130F 01/27 20:46
strlen: 還是你覺得國中數學題不重要?我還以為AI說要用在教育是說說而已131F 01/27 20:46
IBIZA: 你先搞清楚整個AI市場是長怎樣好嗎133F 01/27 20:46
就我的觀察 是連最廢的文組公司都在買gpt 但還覺得他不夠好用 4o
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:47:42
IBIZA: OpenAi一年大概80億的支出  這部分是OpenAi自己進化的費用134F 01/27 20:47
strlen: https://i.imgur.com/NzENwNa.png 先用50倍算力解吧136F 01/27 20:47
tai890123: 追根究底就是需求有沒有過剩
如果真的過剩 還真的不一定需要這麼好的硬體
就跟你買電腦
如果只用1080p螢幕幹嘛買90顯卡一樣137F 01/27 20:47
IBIZA: 微軟的800億美元投資  則是架構平台 提供API給市場上所有需要AI的企業  去呼叫微軟佈設 以ChatGPT141F 01/27 20:48
strlen: 那個國中數學就證明 AI多模態這邊 還有得玩勒143F 01/27 20:48
IBIZA: 為底層的應運
應用144F 01/27 20:48
kobebrian: 這樣回比較快 現在的市場連最文組的公司都覺得gpt遠遠不及格 用1/50的算法有一樣的效果 應該要想的是我要怎麼用49/50做得更好讓更多人買單146F 01/27 20:49
IBIZA: 所有平台的成本  是OpenAi本身的幾十倍吧
kobebrian你搞錯了149F 01/27 20:49
tai890123: 對 所以大前提就是 1/50真的能滿足市場需求嗎151F 01/27 20:49
strlen: CSP應該不會受影響 DS開源只會引來更多中小加入152F 01/27 20:49
kobebrian: 如果open ai用這套算法配上頂規鏟子下去算能更滿足客戶 我看不出為啥不做的道理 因為其他大公司肯定也會這麼作153F 01/27 20:49
strlen: 有錢就買GB200 沒錢就直接租 本來想玩的覺得太貴156F 01/27 20:50
tai890123: 如果能滿足 確實硬體不用往上升了
只是目前我覺得遠遠還沒滿足157F 01/27 20:50
IBIZA: openai要進步  是openai這一個非營利組織的任務159F 01/27 20:50
strlen: 現在想玩的更多門檻更低 CSP照收租用的費用160F 01/27 20:50
IBIZA: 微軟則拿openai的成果  做成平台給其他企業使用161F 01/27 20:50
kobebrian: 你不說open ai也沒差 總之市場對gpt 4o的服務可是遠遠沒打到「滿意」
也就是剩下的49/50 還有很大的開發空間 這就要有強大的硬體配合這套算法支撐 更何況這套算法並沒有真的這麼「新創」162F 01/27 20:50
IBIZA: 現在 一家中型公司 只要佈設微軟1/50的算力
運作使用DS模型  就能提供跟微軟一樣的服務
這樣看得懂嗎167F 01/27 20:51
kobebrian: 你還在想只要「這樣」的服務 可以省好多錢 但大公司要的是吃更多的市佔率 而現在有了這套算法 就能用更好的產品去搶市佔170F 01/27 20:52
strlen: 這樣不是一堆本來因為成本不敢進場的公司通通跳進來173F 01/27 20:52
IBIZA: 那就是看市場需要多少算力174F 01/27 20:52
strlen: 那算力需求會變少嗎?嗯?175F 01/27 20:52
kobebrian: 如果你覺得現在微軟的服務市場滿意的話 當我沒說176F 01/27 20:53
IBIZA: 對 會有一堆中小公司跳進來
但之前已經投資的算力  回收期就更慢了
而且這些中小公司並不需要佈設跟微軟一樣高的算力177F 01/27 20:53
tai890123: 對 但微軟就能拿著另外49/50做其他事
(因為他們也能用這個模型)
可是你那家中型公司因為硬體不足 只能做到1/50
所以做不到這件事
這樣不就被屌打了嗎
除非這1/50已經滿足了所有需求180F 01/27 20:53
IBIZA: 他可能採購比較差的GPU就能提供服務了186F 01/27 20:53
kobebrian: 然後我還講到一點 就算是更小的算力也是H100 然後還滿足不了市場需求 然而現在能拿出這等級晶片的公司…也就一家187F 01/27 20:54
gladopo: 砸ai錢的目的不是為了"只是這樣"的服務190F 01/27 20:54
IBIZA: 微軟要拿49/50做甚麼?191F 01/27 20:54
as6633208: 中國的語言模型的問題就是只能開源,因為中國要收錢根本沒有企業敢用,誰用就是把資料丟給中國政府利用,而這個困境監獄是中國自己蓋的,他們只能開源給別國改良,沒辦法發展自己的,因為沒有使用者192F 01/27 20:54
strlen: 微軟CEO在講的傑文斯悖論 就是在講這件事196F 01/27 20:54
IBIZA: LLM的算力  基本上是需要的人 餵資料  得到結果197F 01/27 20:55
kobebrian: 現在的服務遠遠達不到市場的需求 當年大家覺得能連網的手機就好棒棒了 結果一個哀鳳讓消費者見識到什麼是「符合需求」 更何況現在連最廢的文組都知道AI服務超難用198F 01/27 20:55
IBIZA: 微軟本身是提供平台  他不是餵資料的人
kobebrian, 算力變高 不會讓AI更聰明...202F 01/27 20:55
strlen: 微軟那個平台怎麼可能沒存資料..............204F 01/27 20:56
IBIZA: AI的能力是看核心 ChatGPT 3.5 4.0 這個是質的進步但同一個核心算力增加 就是服務更多人而已205F 01/27 20:56
strlen: 要讓AI更聰明 是不是還是要算力.........207F 01/27 20:56
IBIZA: 不會變聰明
不是
要讓AI更聰明是 OpenAI要開發出下一代模型
跟微軟提供多少算力沒關係208F 01/27 20:56
strlen: 算力分兩種 就訓練用跟服務用 都需要阿怎麼不需要212F 01/27 20:57
IBIZA: 微軟的算力又沒拿來訓練新模型
微軟的算力是提供客戶算自己的應用的
OpenAI的算力 才是訓練新LLM模型用的
這很難懂嗎213F 01/27 20:57
narotic: 現在有什麼應用是一定要用金鏟子來挖的嗎...217F 01/27 20:58
IBIZA: 微軟的算力 是給你我他訂閱Copilot的人用的
除非OpenAi的下一代參考DS  不然DS不會影響OpenAi的下一代訓練要花的時間跟成本
但市場上 如果開始使用DS架設LLM伺服器
同樣的算力可以算出50倍的結果
市場有這麼多算力需求嗎
同樣的算力可以服務50倍的算力需求
DS這個價格 會讓算力需求暴增好幾倍
但同樣硬體的算力能力也暴增50倍
看得懂嗎
現在DS開出的 100萬個tokens input價格是openai的1/100, 可以想像阿貓阿狗都能使用DS
應用會大爆發 最起碼成本會降很多
但對平台跟晶片來講  爆發的需求是否能抵銷硬體能力暴增50倍?218F 01/27 20:58
g27834618: 目標是agi 不會想用更好的硬體?233F 01/27 21:06
IBIZA: 其他AI平台也是一樣 它們成本都跟openai差不多
這你要問 誰的目標是agi
其實對使用者來講 不會在乎用的是agi或MoE
使用者能解決問題就好 你會在意你問的對象是通用智慧 還是為了特定目的開發的特地目的AI?
目標AGI, 指的是像是openai這種研發模型的公司的目標  不是市場需要AGI234F 01/27 21:06
csking811116: 重點是ChatGPT要錢 DS開源免錢效能還比較好241F 01/27 21:10
IBIZA: 先不說 目前的LLM到底是不是走在通往AGI的道路242F 01/27 21:10
csking811116: 我就問免費的香不香243F 01/27 21:10
IBIZA: 就算是好了  短期內 商業使用也沒有AGI甚麼事情244F 01/27 21:10
csking811116: 便宜治百病 才不管甚麼效能只有80%245F 01/27 21:11
j0987: 推246F 01/27 21:11
IBIZA: AGI其實比較像一個聖杯247F 01/27 21:12
MTKer5566: 很多人沒當過資方,成本差50倍,不是1萬和50萬的差別,是1億和50億的差別,到時候是10億和500億差了490億的成本,大股東絕對幹翻你們這些什麼狗屁首席科學家、架構師248F 01/27 21:14
IBIZA: 以微軟來講是800億 美元啊
如果真的可以用大約20億美元硬體 提供跟微軟一樣的算力...252F 01/27 21:15
MTKer5566: 如果是10萬和500萬等級的產品差別,那這個東西沒有人行門檻,今天可以把要上百億門檻的產業變成只要1-2億,這門檻變超低的好嗎
這會產生化學變化呀,以中國人的狼性,知道原來硬體需求那麼低,不卷翻歐美才怪255F 01/27 21:16
IBIZA: 其實我就不知道 AI應用 盤前在殺什麼  不過好像有回來一點了260F 01/27 21:18
goodideals: AGI都還沒出來說高階沒用會不會太早了
你對手砸錢往AGI邁進 你不跟砸嗎
除非啦 你今天用DS 2000顆組成AGI 再來說算力泡沫262F 01/27 21:19
rebel: 我覺得你先搞清楚再來評論 AI的模型就是有個滿足點 過了滿足點更多的算力也不見得結果會更好 甚至某些情況還更差 現在就是做到這個滿足點的成本大降
不是無限堆算力就有用265F 01/27 21:25
IBIZA: AGI還沒出來 就不關市場的事啊
一家公司堆算力是能堆多少?
以openai一年的經費80億來看  只有微軟資本支出的1/10, 而且他也不是全部堆資本269F 01/27 21:25
junior020486: 其實為什麼大家都相信DS真的只用1/50的算力啊,他公布的數據是真實的嗎?273F 01/27 21:26
IBIZA: 樓上 但他開出來的訂閱價格確實是openai的1/100左右275F 01/27 21:27
goodideals: 阿就還沒做出AGI你怎麼知道AGI需要多少算力才夠…276F 01/27 21:27
CYL009: 問矽谷那群傢伙 他們有意無意也證實 不然幹嘛爆開來277F 01/27 21:27
junior020486: 也不知道他是不是又吃到中國補助打價格戰278F 01/27 21:27
IBIZA: 100萬個tokens的報價 openai是15美元, DS是0.12美元@goodideals 你先搞清楚那些算力是在做LLM->AGI
那些算力是在做一般商業應用  好嗎?279F 01/27 21:27
rebel: 很多人再說AGI 我不確定市場上已經普遍接受我們現在就是要做出AGI 依我業內的看法 AGI是長遠目標 但現在的演算法還做不到 你給他多少算力都一樣 要等下一次的AI大爆發了282F 01/27 21:28
IBIZA: 用在發展AI模型本身的算力大概是總算力的百分之幾286F 01/27 21:29
junior020486: 如果吃補助打價格戰,感覺就是要反傾銷+更嚴格的晶片禁令287F 01/27 21:29
IBIZA: 而已
@junior020486 DS是開源的 任何公司都可以拿程式碼去訓練自己的AI模型
騙不了人289F 01/27 21:29
goodideals: 阿對手砸錢往AGI前進 你要不要跟 不跟你就等著對手做出AGI然後通吃市場293F 01/27 21:30
IBIZA: 唉
為什麼goodideals永遠聽不懂295F 01/27 21:30
junior020486: 這樣子真的夠戲劇化,七巨頭一夜之間被中國打趴
我封關買的TSM直接虧爛,好險我有7-8倍的美債凹回297F 01/27 21:31
rebel: 那做不出來呢 公司要砸所有資源去賭嗎 以為公司不用評估預算可行性嗎300F 01/27 21:32
IBIZA: @goodisdeals 你要理解  市場上有些公司是做AI模型302F 01/27 21:33
AirLee: 這代表資本額比較小的公司也能加入開發的行列了啊,鏟子還是有生意。303F 01/27 21:33
IBIZA: 有些是做平台的305F 01/27 21:34
junior020486: 不過台積先進製程最大客戶還是蘋果,大不了資本支出不要擴那麼快306F 01/27 21:35
IBIZA: 做AI模型的公司 才有你所謂砸錢往AGI前進的問題  但308F 01/27 21:35
junior020486: 不過算力成本降那麼多,真的一堆小公司也可以進來309F 01/27 21:35
IBIZA: 這些公司的支出只有整個AI市場的零頭311F 01/27 21:35
rebel: 我就問你 AI早就在199x年擊敗西洋棋冠軍 為什麼20年後才擊敗圍棋 是這中間算力不夠嗎?不是 是演算法不對 不對的演算法給多少算力都沒用 辦不到就是辦不到312F 01/27 21:36
junior020486: 這樣川普那個stargate不知道還搞不搞316F 01/27 21:36
IBIZA: AI市場目前絕大部分的資本投資  是佈設平台給一般人做商業使用317F 01/27 21:36
rebel: 如果AGI是現有的演算法做不到的 你堆多少算力也都沒用319F 01/27 21:37
AirLee: 以後的機器人無人機也還是需要晶片啊,TSM還是能撿321F 01/27 21:37
kasimroll: 支那網軍開始進攻嘍322F 01/27 21:37
junior020486: 可以99TSM嗎323F 01/27 21:38
AirLee: 過往程式語言的效率增加 硬體的需求還是越來越高
硬體還是存在著前景
還有子彈的 慢慢接接TSM就對了324F 01/27 21:39
IBIZA: 過往因為硬體效能增加快  程式語言其實不太講究效率但這一次是軟體效率突然增加50倍327F 01/27 21:40
rebel: 軟體還是很講求效率啦...我們做code review不是做假的329F 01/27 21:45
IBIZA: 現在寫程式哪需要像以前要把512K 1M榨乾..331F 01/27 21:47
antigidu: 中國用低廉的成本  卷爆歐美AI泡沫332F 01/27 22:07
Liberl: https://reurl.cc/EgyGVv Miula正在直播講deepseek333F 01/27 22:08
strlen: 微軟哪來的沒有自己訓練AI.............
https://www.ithome.com.tw/news/162479
然後另一個問題是 現在這種等級的AI 到底有沒有解決使用者問題 使用者不管哪種架構是沒錯 但你AI有沒有真正解決使用者痛點 目前看起來 很早得很
就算我現在直接拿來當生產力工具 也只覺得堪用而已更何況各行各業 看單單一個客服AI 現在的就沒辦法了不然現在9成企業早就把客服通通換成AI 為何沒發生?這樣的AI 真的夠了嗎?自己好好想想吧334F 01/27 22:22
微軟公布小語言模型Phi-3家族,宣稱比GPT-3.5T還強 | iThome
小語言模型Phi-3家族包含三款模型,其中已正式釋出的Phi-3-mini經過微軟推論框架ONNX Runtime優化並支援Windows DirectML,可在多種硬體平臺如CPU、GPU、FPGA甚至行動裝置上執行 ...

 
kobebrian: 你確定大公司不會或沒有在做自己的模型嗎?343F 01/27 22:51
ksjr: 我是覺得硬體/其他研發的支出比例會改變拉344F 01/27 23:06
c41231717: DS這個算是AI的福特時刻啊 以前車子很貴 當變成家家都能負擔得起的時候 反而市場變更大了 車廠每個都賺錢 且出現更多車廠345F 01/27 23:50
ProTrader: 我覺得外行人對AI有些誤解  我用無線電話類比
早年有巨無霸黑金剛無線電話在市場交易
有間廠商把巨無霸黑金剛的成本降成1/50會獨霸市場??答案是被智障型手機霸主Nokia3310淘汰出局
有間廠商把智障型手機的成本降成1/500會獨霸市場??答案是被蘋果的智慧型手機淘汰
回到AI   DS的成本是現有產品1/50能獨霸市場??
答案是會被下一代的AI模型淘汰
我認為覺得未來還會有更好更完備的AI模型問世
現在的AI模型終究會被淘汰
DS作的事情稱為演算法優化  這是資工人的基本工作不需要因為政治立場否認DS的成果
有某個好模型資工人本來就會努力去開發快速演算法348F 01/28 00:11
a10043305: 天花板都還沒看到就在想cost down 台灣人終究只能是台灣人361F 01/28 00:23
ProTrader: 但未來一但有更好的AI模型 現有演算法就會自動淘汰363F 01/28 00:24
Sinkirou: 我寧願相信狗吃屎也不相信中共364F 01/28 00:31
redskyism: 這是一個簡單數學問題,不用講這麼多。一台電腦就能跑幹嘛買十台,硬體供應商慘了!365F 01/28 00:35
cosplayH: 很急哦367F 01/28 00:59
straggler7: 不是所有人都追求0百加速368F 01/28 06:16

--