看板 Stock
作者 LDPC (Channel Coding)
標題 Re: [新聞] 輝達將成AI大贏家!Google前執行長驚爆:
時間 Fri Aug 16 15:19:05 2024


QQ 那老兄講了一堆重要東西
https://www.youtube.com/watch?v=QmbO_EA82Qg
1. Large Context Window (e.g.,狗家1M Token Length)->記憶體需求
2. agents (LLM agents/LLM 機器人)
3. text-to-action (應該指的是LLM OS)

全文稿 快備份 有股點
https://reurl.cc/5d52oz
transcripts/Stanford_ECON295⧸CS323_I_2024_I_The_Age_of_AI,_Eric_Schmidt.txt at main ·  ociubotaru/transcripts ·  GitHub
Contribute to ociubotaru/transcripts development by creating an account on GitHub. ...

 
這也是為啥買NV/買HBM/Cowos/TSMC 然後 沒錢了 ...QnQ 救我
看樣子兩天前有全部影片 現在被Stanford改成private了

順帶一提 以前我認為資料隱私性必須透過on-device AI發展 但是果家私有雲一搞後
很明顯以後私有雲+on-device AI才是未來 然後NV會大賺 QnQ
※ 引述《capssan (Miracle)》之銘言:
: ※ 引述《dosiris (希望大家開心)》之銘言:
: : 原文標題:
: : 輝達將成AI大贏家!Google前執行長驚爆:逾9兆資金流入
: : 原文連結:
: : https://news.tvbs.com.tw/life/2586905
: : 發布時間:
: : 2024/08/16 11:04
: 這個片段其實有趣的
: Eric Schmidt去史丹佛的學院開講,他本來以為是閉門會議,講超多幹的
: 結束前才說這些要保密不能講出去
: 結果工作人員才跟他說這場有直播..當場臉都綠了
: 原始影片雖然下架了但很多內容其實都被拿來討論
: 像是嘴美國大公司一堆米蟲比不上台積電這個我記得有小炎上
: 以下是在X上其他人做的節錄
: -------------------------------------------------------------------------
: 現在的谷歌為什麼在AI領域輸得一塌糊塗?因為谷歌覺得讓員工儘早回家和平衡工作比贏
: 得競爭更加重要。如果你的員工每個星期只來公司上一天班,你怎麼可能比得過OpenAI或
: 是Anthropic?
: 看看馬斯克,看看台積電,這些公司之所以成功,就是因為能夠卷員工,你必須要把員工
: 逼得夠緊才能獲勝,台積電會讓物理學博士第一年下工廠幹活,你們能想像美國的博士生
: 去流水線嗎?
: 自己犯過很多錯誤,比如曾經覺得英偉達的CUDA是很蠢的編程語言,但現在CUDA是英偉達
: 最牛逼的護城河,所有的大模型都要在CUDA上運行,而只有英偉達的GPU支持CUDA,這是
: 其他芯片撼動不了的組合。
: 還有微軟跟OpenAI合作時自己也覺得難以置信,微軟怎麼能把最重要的AI業務外包給那種
: 小公司啊,結果再次看走了眼,再瞧瞧蘋果在AI上的溫吞,大公司真的都官僚化了,奮鬥
: 逼都在創業。
: TikTok給美國人上了一課,在座各位年輕人以後如果創業,能偷音樂什麼的就趕緊去做—
: —似乎是在黑TikTok早期縱容盜版BMG——如果你做成了,就有錢僱用最頂級的律師幫你
: 擦屁股,如果你沒做成,那就沒人會起訴你。
: OpenAI的星際之門在宣傳時說需要1000億美金,實際上可能3000億都打不住,能源缺口太
: 大了,給白宮提過建議,美國以後要麼跟加拿大打好關係,水電資源豐富,勞動力便宜,
: 而且夠近,要麼去和阿拉伯國家套近乎,讓他們來做主權投資。
: 歐洲已經沒戲了,布魯塞爾(歐盟總部所在地)一直都在摧毀科技創新的機會,可能法國
: 還有點希望,德國不行,其他歐洲國家就更不用提了,印度是美國盟友裡最重要的搖擺州
: ,以及美國已經失去了中國。
: 開源很好,谷歌歷史上的大部分基礎設施也都受益於開源,但是說實話,AI行業的成本太
: 高了,開源負擔不起,自己投資的法國大模型Mistral將會轉為閉源路線了,不是所有公
: 司都願意且有能力像Meta一樣當冤大頭。
: AI會讓富者愈富、窮人恆窮,國家也是,這是一場強國之間的遊戲,沒有技術資源的國家
: 需要拿到加入強國供應鏈的門票,否則也將錯過盛宴。
: AI芯片屬於高端製造業,產值很高,但不太可能拉動就業,你們可能沒幾個人去過芯片製
: 造廠,裡面全是機械化生產,不需要人,人又笨又髒,所以不要指望製造業復興,蘋果把
: MacBook的產線遷回德州不是因為德州工資低,因為根本不用再大規模雇人了。
: 歷史上,電力在引入工廠之後並不比蒸汽機創造了更多的生產力,是過了大概30年左右,
: 分佈式電源改造了車間佈局,推動組裝系統的出現,再才開始了生產力的飛躍。現在的AI
: 和當初的電力一樣,有價值,但還需要組織創新,才能真正拿到巨大的回報,目前大家都
: 還只是在摘取「低垂的果實」。

--
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 24.4.211.194 (美國)
※ 作者: LDPC 2024-08-16 15:19:05
※ 文章代碼(AID): #1cllrgE3 (Stock)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1723792746.A.383.html
※ 同主題文章:
Re: [新聞] 輝達將成AI大贏家!Google前執行長驚爆:逾9兆資金流入
08-16 15:19 LDPC.
CMPunk: 講太多大實話得快點設成private1F 08/16 15:19
※ 編輯: LDPC (24.4.211.194 美國), 08/16/2024 15:21:00
※ 編輯: LDPC (24.4.211.194 美國), 08/16/2024 15:23:03
pponywong: on device 就賭看看 ARM/AMD 吧2F 08/16 15:25
findwind0826: AI看起來是真玩意兒 但LLM是不是真的解就有待觀察但只要主流還是LLM 那NV的GPU就不會有問題3F 08/16 15:25
metallolly: 已經沒有特價了喔^_^5F 08/16 15:26
findwind0826: LLM模型越就越精準 需要的GPU就越多越強=老黃發財6F 08/16 15:26
xephon: 主要問題還是能不能變現,不然最後變科研項目7F 08/16 15:27
w60904max: 主流算法定期換 NV更吃香吧 畢竟通用8F 08/16 15:28
mangle: 現在卡在商業化不明朗吧9F 08/16 15:28
findwind0826: 怎麼可能沒辦法變現… 唯一問題是LLM是不是正確道路而已10F 08/16 15:28
andy810306: 你買十億的豪宅5億賣也是變現,懂嗎?
要說的應該是有沒有辦法撐起獲利
HTC虧錢做也是一直有營收變現不是
正確是一定不正確,不過大多數人工作也沒保證正確就是個玩具,取代先進國家沒技術性的高薪工人而已12F 08/16 15:29
dosiris: 已下載17F 08/16 15:32
findwind0826: 恩 玩具 好喔 不予置評18F 08/16 15:32
CGDGAD: 已收,謝謝大大無私分享19F 08/16 15:32
andy810306: 如果你的工作無法結合創造力跟技術性就是被取代20F 08/16 15:33
SSglamr: 老黃救我~ 攤到沒錢了21F 08/16 15:33
Lowpapa: 一生平安22F 08/16 15:36
Brioni: AI創造的生產力可能過剩,過度生產但消費力沒起來會怎樣呢?看看中國23F 08/16 15:36
leoislucky: bilibili有完整影片可以看25F 08/16 15:37
shawn0205: 他也說了AI很燒錢 目前都是低垂的果實
舉了電力當例子 30年才開始發展26F 08/16 15:37
Brioni: 現在就是一直大筆資金投入算力怕落後,至於終端怎麼回收?那是以後的事情,但投資人已經注意到這一塊了28F 08/16 15:38
newyorker54: 我跟你想法一樣,發展在地私用伺服器才是真的輝達大30F 08/16 15:38
shawn0205: 每個人都只看到自己想看的31F 08/16 15:38
newyorker54: 爆發的成長32F 08/16 15:38
findwind0826: 燒錢的原因不就是因為NV毛利太高嗎?
反過來說股點 NV不就贏定 台積一定贏定33F 08/16 15:38
shawn0205: 短線就是過熱+燒錢 等泡沫破了35F 08/16 15:39
tsubasawolfy: low hanging fruit意思是目前這些AI產出都是小兒科36F 08/16 15:39
newyorker54: 現在的成本太高算力不足以讓每個公司自己架一台伺服37F 08/16 15:39
tsubasawolfy: 不用花太多心力鑽研 但真正大利益是在更上層要花心39F 08/16 15:39
shawn0205: 那些高垂的果實 還在很未來40F 08/16 15:39
tsubasawolfy: 思跟$$$去拿到41F 08/16 15:39
Brioni: 這也是失業率很重要的原因,不然大家都沒錢去蹲家要怎麼撐起兆元美金的產業42F 08/16 15:39
andy810306: 現在連CPU都跟雲端廠商租了,AI更不可能自己買晶片44F 08/16 15:40
Brioni: 泡沫破裂後還是會有真強者存活,像谷歌在網路泡沫破滅後發光那樣45F 08/16 15:41
andy810306: 而且雲端租CPU是真的有獲利,小公司做AI哪可能賺錢47F 08/16 15:41
dosiris: 不過教學還是自己買比較方便48F 08/16 15:41
newyorker54: 大爆發還要看未來五年,如果單機可以跑405B的AI才是真的落入民間的實用階段,像現在的個人電腦49F 08/16 15:41
Exusiai: 看來還有Arm51F 08/16 15:41
guk: 大家真的很強52F 08/16 15:41
Brioni: NV類似當年思科,鏟子熱53F 08/16 15:42
andy810306: 頂多幾家AI新創騙投資人的錢收割一波閃人54F 08/16 15:42
dosiris: 燒錢(X) 錢求你燒(O)55F 08/16 15:42
strlen: 我們來下載拉馬3用ptt文訓練 變成不能變現GPT好惹56F 08/16 15:42
findwind0826: 小公司幹嘛開發AI 用大公司train好的model就好 再租算力 這成本就算是現在也不是負擔不起57F 08/16 15:42
strlen: 問他什麼問題 他講沒幾個字就嗆你 這能變現嗎?59F 08/16 15:43
JWJerryyy: 感謝大大分享60F 08/16 15:43
metallolly: 創意應該才是未來要培養方向~QQ61F 08/16 15:43
bnn: 就 大公司train好的model給小公司應用場景 不好用62F 08/16 15:44
littenVenus: 老黃:窩484快成佛惹^O^63F 08/16 15:44
metallolly: 沒有創意至少買個TSM跟NVDA~保平安一下64F 08/16 15:45
dong80: 未來發電廠也是重要的資源了65F 08/16 15:45
joygo: 做ai朋友說,現在上限就卡在,記憶體,電,電是卡在環保,所以我幾乎都在找能源的,美國其實不少新能源,但是能不能做到又是一回事66F 08/16 15:46
dosiris: 在華人社會 創意很難培養 先給學生工具讓他們敢亂想69F 08/16 15:47
sdbb: Nv好像有教鏟子怎麼用開發鏟子用途
鏟子挖土種玉蘭花給__蛙賣70F 08/16 15:47
bnn: 能源主要卡在法規特許權那些問題很大 要內線72F 08/16 15:48
sunday0913: 重點是短期內沒人不敢不玩AI 鏟子買起來就對了 終端應用獲利是未來的事73F 08/16 15:48
findwind0826: NIM啊 雖然我還沒看到NIM具體怎麼用75F 08/16 15:49
littlejackbr: 空蛙的未來就是死路一條76F 08/16 15:50
findwind0826: 這版一堆矽谷的大大 不知道有沒有人能介紹77F 08/16 15:50
littenVenus: L大以後會變大富翁 和教主一樣
美國公用事業類股的幾家電力公司今年股價也噴噴78F 08/16 15:50
TameFoxx: 所以啦 為啥輝達會被禁賣中國
連台GG代工也都是被管制的
HBM也被管制80F 08/16 15:55
josephpu: 華爾街從來就不認為AI能在短期內商業化盈利,一個才剛起步的行業怎可能馬上開始獲利。只有散戶緊張兮兮,純粹是股價炒高了要修正而已83F 08/16 15:59
pieceioriX: 能源就等核融合啊 不過盒飯大概不懂這啥86F 08/16 16:00
aresa: 老實說你看輝達怎麼做的就可以猜到商業模式了,輝達之前想買ARM,明顯就是想把大模型跟soc搞在一起87F 08/16 16:01
junior020486: 真的能大營利,老黃又要拆股一次
老黃:豪爽,一直拆股89F 08/16 16:01
goodjop: LD大 我解套 開始賺錢囉~91F 08/16 16:12
bloodashih: 喔喔喔92F 08/16 16:14
vendan5566: 有懶人包嗎 我懶QQ93F 08/16 16:15
ezreal1315: 記憶體後面真的要發酵了 存儲絕對不夠94F 08/16 16:18
wsii20: 記憶體是美光 三星 海力士嗎95F 08/16 16:20
dosiris: 這位老兄的號召力 不容小覷96F 08/16 16:21
TameFoxx: 記憶體現在是處於研發競賽吧97F 08/16 16:25
HiHiCano: 結果NV盤前沒任何反應 小道消息聽聽就好98F 08/16 16:34
findwind0826: 不用太高估華西街 他們在金融方面的消息很強
但科技業的技術發展他們不一定懂99F 08/16 16:41
ksjeff0928: 1200股NVDL...成本71....99nvdl~QQ101F 08/16 16:49
andy810306: 是啊,還是ptt法人最懂AI,準備套著當傳家寶102F 08/16 16:49
Chilloutt: 未來生產力:顧機台、生物電池、炒股103F 08/16 16:49
ru04hj4: NVDA+TSM 捏爆104F 08/16 17:20
justin200428: 你們知道Ai晶片可以預測飛彈路徑嗎? 天弓系統裝一
4k 顯微手術有時間差也是Ai預判105F 08/16 17:26
hihowareyou: 早就進了,魚頭好吃108F 08/16 17:32
lin8807819: 現在才開始109F 08/16 18:20
findwind0826: 如果你覺得AI沒有用 那表示你的工作快要沒用了110F 08/16 19:05
piece1: 有錢人通常不是懂的人!自己要斟酌111F 08/16 19:28
loveponpon: nV去年漲10倍 今年呢?會繼續該有多好112F 08/16 19:33
AirLee: 應用會在新技術泡沫後大量出現113F 08/16 20:04
aqwa: 美光跌的狗吃*114F 08/16 20:35
lantimes: 谷歌有htc團隊 走著瞧115F 08/16 20:48
iamjamie129: 雲端就很難稱得上private ,你信雲端業者?116F 08/16 21:04
chysh: 看完覺得印特爾死定了... 來加碼AMD和Qcom117F 08/16 22:10
Heedictator: 晚點來讀118F 08/16 22:13

--