看板 Stock作者 afflic (afflic)標題 Re: R: [請益] 為什麼中國越來越強？時間 Sat Feb 1 06:16:32 2025
給一些覺得中國很爛的人看看市場現在在擔心些什麼
艦長J快訊 重要的突破要多寫一次
2025/1/31
總之，這幾天是一次很燒腦的過年假期，感覺比平常還要認真研讀資料，甚至大年初一晚
上還有大陸券商辦專家論壇..... 這個市場實在太捲。
當然，花了這些精神做功課，就是要研究一下開年後的投資動作，究竟是新春大特賣趕快
撿便宜、還是苗頭不太對腳底要抹油？很遺憾的，這幾天研究下來，個人目前對硬體的看
法越來越偏向後者，但相關的AI應用卻可能加速發展。
DS的論文重點以及它在演算法上的突破，網路上已經有很多人分享，我就不再贅述；直接
講幾個觀察到的重點吧～
1. 還記得Apple為了推銷Apple Intelligence，將iPhone 全面升級到8GB以上嗎？這僅僅
是為了跑一個3B 參數的小模型而已。 現在，有人成功用一張 Nvidia RTX 6000 (48GB V
RAM) 就可以跑動 DS 671bn 參數的大模型，而且這個模型還開源可以直接下載。
這代表什麼意思？以後企業或個人要佈建AI，可能買一台具有高階顯卡的電腦就做的到。
不用每個月花200USD訂閱OpenAI、不用CSP租賃昂貴的AI server & 網路..... 在地端佈
署AI 變得簡單＆便宜許多。這兩天已經有看到朋友的公司開始研究把AI模型的佈建轉為
在地端執行的可能性。
2 各大廠紛紛投入：短短幾天，可以看到微軟、AWS、NVIDIA 都開始提供DS R1 模型的服
務。由於對硬體的要求的確不高，百萬token 輸出的價格只要2.19美元（作為對比： Ope
nAI的輸出價格爲60美元/百萬Token），價差接近30倍。
NVIDIA 官方也有描述：在單個NVIDIA HGX H200系統上，完整版DeepSeek-R1 671B的處理
速度可達3,872 Token/秒。僅需一個系統就可以完整運作DS R1 大模型。就算企業依然需
要利用雲端來佈建AI，需要的系統＆價格也比之前簡化許多。
3 NV關鍵優勢不再？ 這兩年來，我們持續提到NV產品在大模型與高運算力方面的優勢，
包括記憶體的使用、NVlink多卡串聯、Scale-up/out 的領先等等；在探討下一代Rubin或
更後面的產品，討論的是一個機櫃做到NVL 144/288 、如何處理這麼大功耗的產品、系統
架構該如何演進等等；重點不僅僅是“教主產品做的比別人好”，而是“不用教主的產品
就根本無法訓練＆使用這些大的模型”。
忽然間，這個必要性被打了一個大問號。
進而延伸的問題：HBM、CoWoS等等原本為了在空間體積功耗等等限制下塞進最多算力的技
術，是不是仍然必要？還是有許多便宜的替代品可以用？
BTW，很多人喜歡把政治問題扯進來。對我來說，探討DS本身到底用了多少卡有意義嗎？
沒有，重點是現在實際佈署R1的硬體需求就是極低；其次，它有沒有抄OpenAI? 應該有吧
～ 不過OpenAI 的 GPTBoT 在網路上不顧版權的到處亂抓資料也不是一兩天的事情了～
抓完還不開源勒。對投資而言，整個市場結構的變化，比這些枝微末節的小事重要多了。
投資總有風險，本人過去績效不做未來獲利之保證。最近詐騙猖獗，本人不收會員、不用
追蹤、不騙流量、不需粉絲、更不必按讚分享開啟小鈴鐺。快訊僅供好友交流之用，如果
你與我看法不同，你肯定是對的千萬不要被我影響。
--
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 39.14.25.245 (臺灣)
※ 作者: afflic 2025-02-01 06:16:32
※ 文章代碼(AID): #1ddKl2fP (Stock)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1738361794.A.A59.html
※ 同主題文章:
Re: R: [請益] 為什麼中國越來越強？
02-01 06:16 afflic.
推 ggian123: 大陸愈來愈強 研發能量世界頂尖
台灣愈來愈爛 錢拿去點麵線
上層領導決定基礎 台灣真的愈來愈慘1F 02/01 06:26
→ breacal: 這麼強，中國股市的怎麼爛成這樣？4F 02/01 06:43
噓 dostey: 這模式是偷用別人95%算力成果,自己只出5%算力，真的是無本買賣5F 02/01 06:45
→ afflic: 中國一家公司強，不等於中國整個股市強啊7F 02/01 06:56
→ shawnfu: 靠call ChatGPT api distillation 在強也幹不過GPT老師跟學生的關係，學生的極限就頂多跟老師一樣8F 02/01 07:00
→ afflic: 幹不幹得過其實不太重要
中芯也幹不過台積電
但能把聯電世界力積電捲死就夠了10F 02/01 07:01
→ shawnfu: 能卷的都是相對成熟的產業
你就期待DS用中芯製GPU研發出AGI 還是NV+TSM13F 02/01 07:04
→ afflic: 你可能看不太懂這篇文章擔心的點?
DS不用幹過NV+TSM啊
市場只擔心硬體需求減少，營收獲利就……15F 02/01 07:06
→ shawnfu: 你比較看不懂吧... 未來的AI不會只有Chat bot18F 02/01 07:11
推 ejnfu: AI又不是只有LLM，我覺得現在擔心算力過剩還太早19F 02/01 07:11
→ shawnfu: 會有更多應用需要更多算力 老黃都吹過了20F 02/01 07:11
→ afflic: 沒關係，看不看得懂不重要
重要的是市場跌給你看了21F 02/01 07:12
→ ejnfu: 市場很多都是反應短線情緒的，長期投資的就不用在意一時震盪23F 02/01 07:13
→ afflic: 也許你是對的市場是錯的
但這就是市場上目前多數參與者反應的想法25F 02/01 07:14
→ WTF55665566: 結果就如我講的 大廠都拆解Deepseek模型跟上後 又是算力對決
跟改進蒸汽機效率反而帶動整體煤炭需求一樣28F 02/01 07:35
推 patrol: 我只知道網咖最後大多倒了31F 02/01 07:50
→ wr: 先別管這麼多 你的對帳單在哪32F 02/01 07:56
推 xcc54154: 所以你買a股跟上海滬深沒？ 沒買閉嘴33F 02/01 08:06
→ hantulee: 大家看一堆人吹噓中國好才進大陸股市，結果跌到一塌糊塗35F 02/01 08:15
推 etset: deepseek 救中國 遙遙領先37F 02/01 08:15
推 love80: 別生氣，股版大家都只是在猜未來而已，中國股市不好人盡皆知，要超越美國也不可能。重點是如果能持續產出所有能低成本取代美國的產品，那的確是大部分的國家就越來越不需要被美國綁架了42F 02/01 08:35
推 kissa0924307: 關稅戰也是每個人都說跌啊 導致通膨啊 結果川普上一任期通膨沒超過3% 整天聽左媒找專家唱衰 投資準備賠錢46F 02/01 08:42
噓 ellight: 糾正你兩點671B完整載入還是需要1.5T以上的RAM
那些能單卡跑起來的都是人工智障版本
不然我llama3.2跑個1B也用不到8GvRAM49F 02/01 08:42
推 yftsai: 其實中國越來越強無庸置疑的吧，不然美國幹嘛搞一堆政策制裁中國？53F 02/01 08:46
推 jjoonnyy: 學生比老師強的比比皆是吧！ 例如台積電56F 02/01 08:48
噓 ellight: AI落地已經好幾年了你這兩天才聽到你也太IE57F 02/01 08:48
→ payneblue: 好了啦 強爆了 然後你投資中國股市了沒？58F 02/01 08:48
→ Alwen: NV基本面就發生微妙的變化惹阿= =59F 02/01 08:51
推 shter: AI落地哪來好幾年，你PC本地的檔案都訓練完了?
以後要的是PC本地照片掃到媒體庫建縮圖同時也訓練完63F 02/01 08:55
噓 ellight: DS也是依賴PTX運算紮紮實實的賴在N卡身上65F 02/01 08:56
→ Adrian: ai不是只有llm66F 02/01 08:56
→ shter: 你就能在本地AI打個"海邊"找出所有目錄內有海的 jpg67F 02/01 08:56
→ ellight: DS會影響最大的是服務多人時可以減少記憶體使用68F 02/01 08:57
→ IBIZA: 這個意味著也有機會用組合語言運作在其他的顯卡上而不用依賴CUDA
根據reddit的測試, 336G ram可以跑671B69F 02/01 08:57
噓 ellight: 也就是滿血載入1.5T後續服務每個人最低16G72F 02/01 08:59
→ IBIZA: 不用 1.5T73F 02/01 09:00
→ ellight: 所以你看hynix股價也遭殃就是這回事74F 02/01 09:00
推 epicurious: 多菜才在糾結DS 能否幹掉GPT，看文章都看不到重點，希望這種人永遠留在股市
然後還有可以導出DS不錯就要人買鹿港的奇葩，DS不75F 02/01 09:01
推 patrol: 幹不掉就會越來越虛弱阿，星門功能越來越多，網
咖跟不上就只能越來越便宜最後倒閉，大概4這樣78F 02/01 09:03
→ epicurious: 錯這篇的重點是de-rating硬體，但可能可以做多軟體吧，關鹿港屁事
一堆人腦中沒有政治就當機，摳連80F 02/01 09:03
→ IBIZA: 還在星門..83F 02/01 09:04
推 shter: 不要忘記三十年前要做伺服器都要買大型 UNIX 主機84F 02/01 09:04
→ IBIZA: 現在大家討論的是怎麼把可用的版本裝到家用電腦上85F 02/01 09:05
→ shter: Linux 出來後一般 x86 微電腦個人PC都可以架站了86F 02/01 09:05
推 behapppy: 說別人偷，你連偷的本事都沒87F 02/01 09:05
→ IBIZA: 我完全沒有獨顯的NB, 可跑7B, 35B龜速88F 02/01 09:05
噓 ellight: 地端跑滿血671B的我目前看到的都是用NVMe89F 02/01 09:05
→ IBIZA: 目前當然都是NV90F 02/01 09:06
推 patrol: 留在鹿港的真的不適合投資91F 02/01 09:06
→ IBIZA: 但未來有機會不是NV了
大家看到的是新方向 笨蛋才會糾結在 現在92F 02/01 09:06
推 patrol: 也有機會不是台g了94F 02/01 09:07
→ IBIZA: 更不要說資訊根本不對95F 02/01 09:07
推 patrol: 隕石還掉下來了美債違約了呢96F 02/01 09:07
噓 ellight: 你是不是不知道NVMe是指SSD 不是顯卡vRAM97F 02/01 09:08
→ IBIZA: 說實在我還真不知道98F 02/01 09:09
→ WLM531: 每天看這些中國自慰寶 上來耍寶就覺得好笑99F 02/01 09:09
→ IBIZA: 不過 原本的意思一樣 根本不用糾結在現在
甚至不一定是 DS, DS只是走出了新方向100F 02/01 09:09
→ ellight: reddit那些人是拿SSD壽命當記憶體來跑著玩的102F 02/01 09:10
→ IBIZA: 我聽說柏克萊重現了DS, 只花了30美元103F 02/01 09:10
→ Alwen: 大廠資本支出明年增幅減少，H20可能被禁104F 02/01 09:11
推 shter: 技術板是能改善就改善，投資板才會覺得不能賠錢105F 02/01 09:11
→ Alwen: 然後現在還有吵很久的硬體取代話題 = =106F 02/01 09:11
推 patrol: 母體最後能生成的是一個世界107F 02/01 09:11
→ ellight: 你真的要服務多人是要安排人手在那邊抽換壽終的SSD109F 02/01 09:11
推 patrol: 你繼續便宜110F 02/01 09:11
→ shter: 反過來說這是沒上車的人新希望，你可以找新標的了111F 02/01 09:11
→ IBIZA: 沒有人要服務多人
現在的重點是要安裝在邊緣112F 02/01 09:11
→ Alwen: NV本益比感覺就要下修R 市場最怕不確定性惹114F 02/01 09:12
→ ellight: 不能服務多人那威脅個鳥蛋115F 02/01 09:12
→ shter: 只有套住的才會覺得要打壓到底不能讓自己賠錢116F 02/01 09:12
→ IBIZA: 個人PC都有一套 怎麼會沒威脅 笑XD118F 02/01 09:12
→ shter: 中吹是吹，NV股價一樣是吹未來只能靠堆硬體的本夢比119F 02/01 09:13
→ IBIZA: 現在其實35B版本完全可以在個人電腦上跑了120F 02/01 09:13
→ ellight: 所以你打算用你的SSD去跑DS然後一個禮拜買一顆2TSSD121F 02/01 09:13
→ shter: 現在就是證明有另外一條比較不燒錢的路而已122F 02/01 09:14
→ IBIZA: 不用打算 我已經在跑了
SSD掛掉再跟你說
我連獨顯都沒有123F 02/01 09:14
→ shter: 你的資料不用上雲就能在本地訓練，會開啟一個新時代126F 02/01 09:15
→ ellight: 35B只吃到16G多有啥好炫耀的127F 02/01 09:15
→ IBIZA: 我應該是除夕還是初一開始的目前是還沒掛掉的跡象啦沒人在炫耀啊128F 02/01 09:15
→ shter: 就像網路泡沫前每個人的PC都可以自己架站連網一樣130F 02/01 09:15
→ IBIZA: 只是告訴你大家在幹嘛而已
現在大家就是想把堪用的版本裝到最簡單的電腦上而已131F 02/01 09:15
→ shter: 當年想要踏入網路的不用租買貴貴機房用自家電腦就行大舉普及並降低門檻而後應用端才百花齊放
因為很多人可以在自己電腦玩，玩出很多新花樣133F 02/01 09:16
→ IBIZA: 地端是如此 雲端的話, 這篇文章也說了 一張H200可以提供 3872 tokes/s136F 02/01 09:18
推 patrol: 哥也只是說最後母體會贏而已138F 02/01 09:18
→ IBIZA: 費用低到2.19usd/百萬tokens
這個都是巨大的改變
但這都還不是終點139F 02/01 09:18
推 shter: 抵制DS其實跟抵制Linux維護大型UNIX主機利益一樣142F 02/01 09:20
→ wr: 來股版說不談股票講硬體 這種人才該滾出股版不是？143F 02/01 09:20
→ shter: 市場最後會改變的，你只能在趨勢上找新機會144F 02/01 09:20
推 WANGSH: 羨慕中國技術強大 反觀145F 02/01 09:21
→ shter: 以前壓NV+GG是獨門生意,現在該做的是去應用端找標的因為市場門檻降低的變化是應用端將會百花齊放
這個是在網路泡沫前一樣的過程，你起碼能賺一個波段等到門檻降低阿貓阿狗都能本地AI的時候才是AI泡沫146F 02/01 09:21
噓 ellight: 說到AI不講硬體不就是跳過基本面了?150F 02/01 09:23
→ shter: 不改變思維，那就跟古代重壓 IBM 商用市場沒兩樣151F 02/01 09:24
→ Alwen: 一堆政治文 哈哈 這篇講硬體的反而在股版是清流討論152F 02/01 09:24
推 amhs: 一堆人還在看不起大陸，人家至少弄出個DS震驚世界，台灣的麵線app做的到嗎？不管怎樣，使用成本大降對消費市場一定有影響，便宜治百病，又不是人人住的起帝堡、開的起藍寶堅尼…153F 02/01 09:25
→ shter: 你要為了 IBM 的股價去打壓 Linux + x86 嗎?
這根本無關政治，而是普及下放後對市場的改變157F 02/01 09:25
→ wr: 公正評價中國當然可以 但板上太多中吹很噁心160F 02/01 09:27
→ shter: 就算不是 DS 而是其他國家開發的一樣會改變市場161F 02/01 09:27
噓 repast: 還在瞎吹 嘻嘻162F 02/01 09:28
噓 ellight: 所以我前面有說影響最大的是記憶體廠商w163F 02/01 09:28
→ wr: 整天吹的天花亂墜 根本就像抖音小紅書跑來的一樣164F 02/01 09:28
→ shter: NV吹也差不多啦，怎麼會覺得科技有永遠是直線發展的不是說NV不好，而是市場本就不可能一直重複同樣路線今天的x86_64 還是 AMD 發明的不是 Intel 發明的
但後來Intel 轉回來做 x86 64 當年支持者也是被背叛AMD64問市前一堆投資者也以為IA64才是PC未來
技術跟市場自己會找到出路，你該做的是尋找新標的而不是一直意識型態式的擁抱某個技術165F 02/01 09:28
推 patrol: 買人家的卡，偷別人的一部分資料，然後吹中或贏？中吹才是要不要聽聽自己在說什麼172F 02/01 09:35
→ ellight: NV至少還能爽個3年左右拉ASIC上來還要一點時間174F 02/01 09:35
推 patrol: 四年內星門計畫不會停，因為我川在推175F 02/01 09:36
推 shter: NV能爽多久其實可以參考BTC挖礦ASIC問市取代的時間但DS的問市跟ASIC關聯不大是跟自家主機應用關聯大176F 02/01 09:37
推 patrol: 連第一年都還沒開始就中或贏？先蓋四年後再看看吧178F 02/01 09:37
推 Samurai: AI訓練跟挖礦完全是兩回事，不能類比179F 02/01 09:38
→ shter: 這是市場的兩端，一邊是特化效率，一邊是普及門檻180F 02/01 09:38
推 jamesho8743: 大廠看的是training 不是布署 佈署是inference先去搞懂 training跟inference差異再來說吧 大模型本來就可以在顯卡上跑了 差別是顯卡的VRAM做得不夠大
早就有人用MAC mini 的UMA (DRAM可當VRAM)跑大模型了181F 02/01 09:39
推 patrol: 星門五千億，網咖最後倒了186F 02/01 09:39
→ shter: NV不會沒用，因為高端的AI依舊是軍備競賽
現在是市場出現低階AI可以普及到本地的應用187F 02/01 09:40
→ ellight: 印象中ASIC開挖好像也是四五年左右?189F 02/01 09:41
→ shter: 就像你不需要軍規無人機，但大眾用無人機市場打開了190F 02/01 09:41
→ jamesho8743: inference推論本來需要的算力就沒很高 不然自駕 機器人怎麼做? 輝達不推出大VRAM的顯卡而已 之後就是看AGX Thor或project digit 來填補這塊191F 02/01 09:43
→ ellight: project digit應該就是瞄準AI落地的產品194F 02/01 09:46
→ jamesho8743: NV至少再爽20年啦 人類對算力需求根本無止境 它沒被超越就能一直吃到紅利195F 02/01 09:46
推 humain: 一堆寫手，沒貼投資紀錄的都不要信197F 02/01 09:47
噓 swingman: 使用效率變高、應用更普遍，結論怎麼會是硬體需求變低198F 02/01 09:48
→ ellight: 還是有個隱憂在那邊拉量子位元量產算力就爆炸提升了但是我老死之前能不能看到就不知道了200F 02/01 09:50
推 jamesho8743: 現在NV+GG也是獨門生意好嗎? 百花齊放的軟體不是硬體
NV GG這種就是寡頭獨佔 總投資資本幾千億幾兆的怎麼取代?連全中國都造不出台GG202F 02/01 09:51
噓 NEWinx: 不是覺得中國爛，是中國本來就爛，習大大上次去美國跪著求饒，看看下次哪時候會再去跪207F 02/01 09:57
→ swingman: ai入場券從幾百億變幾百萬美金 有點錢的不會想入場玩嗎 只能說繼續看下去210F 02/01 10:02
推 hamnett17th: 中國真的很爛，機器人.電動車.電池.5G-A.量子晶片都超爛212F 02/01 10:04
→ ellight: 反正你看MOE架構始祖法國人快溺死了
接下來中國人會不會被印度人屌打我們拉板凳看214F 02/01 10:04
推 zaqimon: 會不會大部分人其實根本用不到AI
大概學生或上班族比較用的到AI吧216F 02/01 10:13
推 shter: 不會，AI在生活應用上的普及預期是不下於網路
20世紀還在撥接時也很多人覺得一般人用不到Internet因為當時連網速度慢，所以生活應用受限218F 02/01 10:14
推 squelch: AI真的有用 重點是在本地端運作時 根本不用關言論審查 爽爆了221F 02/01 10:15
推 zaqimon: 就算在生活上應用應該也不是自己刻意去跟AI對話
而是廠商已經在產品內建AI功能 使用者根本不會察覺223F 02/01 10:15
推 bustinjieber: 自己看不懂文章的重點沒關係，
用DS幫你總結一下可以吧？225F 02/01 10:15
→ shter: 現在的AI要高昂硬體就像當年要快要拉專線的時代一樣227F 02/01 10:15
→ squelch: 我正在玩14B 結果令我很滿意 太棒了228F 02/01 10:16
→ shter: 後來ADSL之類問市，網速大幅提升，世界就不一樣了229F 02/01 10:16
→ zaqimon: 就跟手機融入每個人的生活中 沒人在乎網路怎麼運作230F 02/01 10:16
→ shter: ADSL也是硬體依舊用電話線這種低配靠演算法改變的231F 02/01 10:17
→ bustinjieber: AI低成本化確實可以加速普及，
至於主流的承載硬體是否仍然
會是當前強勢廠商？
這就是問題。232F 02/01 10:18
推 zaqimon: 目前生成式AI感覺就只對學生或上班族比較有用236F 02/01 10:19
→ bustinjieber: 要繼續壓AI概念股，正確無誤，
但是不是壓特定公司？不見得，
最好要分散風險了。237F 02/01 10:19
→ ASG: 遙遙領先240F 02/01 10:20
推 shter: 市場有疑慮就是有機遇，不要放棄機會好好判斷才是241F 02/01 10:20
→ bustinjieber: ‘’只對‘’學生或上班族有用？
所以‘’不是學生且不是上班族‘’的人有多少？242F 02/01 10:20
→ zaqimon: 上班族也要看哪種上班族 大部份上班族應該也用不到244F 02/01 10:21
→ shter: 為何要死抱NV死抱GG，騙別人可以別連自己都信了245F 02/01 10:21
→ Mytsb2421: 看起來，高端硬體的需求會降低，但是企業自行架構AI會增加，SSD業者會是很大的受益產業247F 02/01 10:23
→ shter: 家庭主婦也能用生成AI啊，拍下房間問收納建議都可249F 02/01 10:23
推 zaqimon: 畢竟要跟AI對話並且獲得有用的回答也是很燒腦的
跟AI對話的時間 我可能已經自己搞定了 不需要AI250F 02/01 10:23
噓 GOOGLEISGOD: 紅明顯，AI才剛開始，各巨頭習得新算法後，由原始時代剛上封建時代，各國還是要比快看誰先到帝王時代呀，所以最終還是要比算力253F 02/01 10:24
噓 Eos: 這兩天朋友公司？不是都在過年 唬爛也要有限度256F 02/01 10:24
→ ellight: 閣下怎麼會覺得企業內部使用的AI會用SSD來坦XD257F 02/01 10:25
→ shter: 跟AI對話獲得有用回答很燒腦就說明還有很大進步空間258F 02/01 10:25
→ zaqimon: 就跟現在還是一樣有不會用智慧型手機的老人
不會用手機是不會怎樣啦 只是比較不方便而已259F 02/01 10:25
推 b54102: 中國強台灣很久了吧 火箭都去火星了 台灣的火箭還飛不出大氣層 =_=262F 02/01 10:26
→ bustinjieber: 不會用最新科技不會怎樣啊，
就生產力降低被時代淘汰而已。264F 02/01 10:27
→ Mytsb2421: 因為會更多企業可以自行架構AI sever，成本不用到這麼高，但是儲存需求更多了266F 02/01 10:27
推 CYL009: AGI要打入生活低廉設備是必要的 現在中國開創低耗能高性能的路 大家都高興 要不然你要付200鎂嗎ww269F 02/01 10:27
→ CCH2022: 獨立思考。這個文也只是推測，沒有未來數據的根據。
這些短線投機客用幾天幾周的時間來去定義未來幾年的發展，你不覺得好笑嗎？對啦！它們就是要你僵持廝殺一買一賣，到時候低接回來又是換一套說法。272F 02/01 10:28
推 shter: 現在一樣有人用手寫記帳不用Excel 進銷存軟體277F 02/01 10:28
→ coolrock: 明明就快崩了哪有越來越強279F 02/01 10:29
推 zaqimon: 銀行有AI客服理論上功能很強大 但我一點都不想用
感覺還是直接打電話問真人客服比較快280F 02/01 10:31
→ zaqimon: 不喜歡跟AI客服制式回答鬼打牆的感覺283F 02/01 10:33
推 hamnett17th: 在選擇要不要用AI前，不如說自己目前生活有沒有權利讓自己做這樣的選擇286F 02/01 10:36
→ Windtears: 為何不看Dario Amodei怎麼講？288F 02/01 10:37
推 cablate: 啊對對對，DS有突破了，所以之後大家都不要買更多算力了，AI現在這樣的算力已經夠了，不須要繼續研究了，對對對
我再說一次，一堆人一直說AI目前對普通人而言已經夠用，但AI一直在研究的主要目的根本就不是給普通人用的，OK？
AI在各個專業技術領域的表現才是重點，不然你覺得為什麼模型的重點指標一直都是數理邏輯？289F 02/01 10:38
→ CYL009: 因為那是最容易知道性能的指標啊 之後的AGI可是也要會自然語言和邏輯思考和自我學習呢
後面的指標就困難多了297F 02/01 10:45
推 ahg: 中國的玩法就是等市場成熟再大量傾倒然後搞爛市場300F 02/01 10:51
推 cablate: 你說到重點了啊，AGI，現在做出來了嗎，還沒呀，所以算力需求現在還是未知數的301F 02/01 10:57
推 Tlban: 辱台可是會讓玻璃心崩潰的303F 02/01 10:57
推 qqpbpp: nv變得不是必要，但維持目前毛利下，仍然是性價比最高的，那就沒必要降價304F 02/01 11:19
→ a9564208: 性價比最高那是對大型企業而言，中小型企業重點是能拿到能跑的硬體
有便宜的硬體能配合開發，之後工廠端應用多得是306F 02/01 11:27
推 CaTkinGG: 把美國巨頭的算力壁壘拉下來才有利AI新創阿 雖然台灣AI硬體的重要性也會降低就是309F 02/01 11:47
推 jamesho8743: nv變得不是必要 請問你現在是用AMD還是中國顯卡?312F 02/01 11:52
→ panda816: AI硬體需求降低對台灣中小企業是好事啊 根本不用為了符合特定大企業的標準而做不出東西來313F 02/01 11:55
→ ActionII: …是你最近才在關注本地部署，而不是最近才開始研究啊
拉瑪去年，水管上就一堆人教你裝了，後來新mac mini 出世更把設備費用跟功耗壓到很低315F 02/01 12:53
推 jamesho8743: 想想看遊戲優化的好 硬體需求降低 所以你就不會想買新顯卡特效全開 2080用到老?319F 02/01 12:56
→ ActionII: 有便宜的硬體能開發，那你們去用看看非n家的玩玩看，支援度跟可靠度都差上一節321F 02/01 12:56
→ Mytsb2421: 不用溢價去買頂規的晶片就可以省很多了323F 02/01 12:59
推 Homeparty: 昨天就用deepseek算一下目前用的模型，專門只做coder的模型，都是評估6 token/每秒計算能力，每天使用1小時，自建主機跟目前最便宜雲端運算，大概2年內回本。如果小企業4~6人使用，成本拉高改用通用大型模型，自建主機含電費也拉到10萬~20萬，自建跟雲端目前最便宜方案相比，更可以到1年左右回本。
如果降到3 token/每秒，更便宜就是了。324F 02/01 13:06
→ cablate: 對有些人來說，他就是用2080覺得夠了所以默認全世界都應該只用2080
所以3060是溢出是沒必要，客群都在2080就夠用了誰跟你3060，現在在唱衰晶片需求的大概就是這個邏輯332F 02/01 14:51
推 Homeparty: deepseek配備需求很低，如果是聊天用，大概30-40 token每秒，寫程式6~10秒token，翻譯大概1~6token就夠了。使用專門模型，大概5萬內就可以到15 token。336F 02/01 15:13
推 Homeparty: 滿血版也不一定要用A100，已經有人用6,000美元自組一般程式開發，5萬內就可以了342F 02/01 16:51
--