作者 oopFoo (3d)
標題 Re: [討論] 軟體工程師這條路,是不是走到盡頭了?
時間 Wed Jul  2 08:25:06 2025


再強調一次,現在的ai是有用的,但問題太多,離取代還很遙遠。

Yann Lecun已經講超過一年了,不要再花時間在LLM上,我們需要更先進的架構。
https://www.techbang.com/posts/122728-yann-lecun-not-interested-in-llms-focuses-on-ai-hard-problems
AI 科學家 Yann LeCun 表示他不再對 LLM 感興趣,轉向解決4個「真正難題」以及下一代智慧藍圖 | T客邦 LeCun 表示:「未來的人工智慧,不會是一個瞬間、一家公司、一個模型的成就,而是整個人類社群長時間積累的成果。」 ...

 
"
談到 AI 未來真正的挑戰,LeCun 清楚地指出了四個他認為至關重要、但目前尚未有令人滿意解答的領域。

第一是對物理世界的理解。他舉了一個極簡的例子:當人看到一個瓶子,知道推它會滑,敲它會彈,這些都是我們從小累積的世界模型。但今天的 AI,無論是從圖片、影片還是文字中,都無法真正掌握這些「常識」。

第二個挑戰是持久記憶。大多數 AI 系統處理輸入時是一次性的:輸入 → 推理 → 輸出。它不會記得你上一秒說了什麼,更無法累積對世界的長期觀察與認知。而人類的記憶,正是推理與學習的基礎。

第三,則是最根本也最具哲學意味的問題:推理。LeCun 對現今所謂「agentic AI」的批評頗為嚴厲。他認為讓模型生成一堆答案,再從中選出最可能正確者,根本不是推理,而是暴力試錯。他說這種方法就像「亂寫程式然後看哪個跑得動」,低效而粗糙。

第四個挑戰則是規劃能力。真正的智能不只是對當下做出反應,更能思考未來。他形容:「如果 AI 能夠在內部模擬一個世界,然後根據某個假設行動去預測未來的結果,那它就能計劃達成目標的最佳路徑。」而這,才是人類做決策的真正方式。
"

現在ai寫程式的賣點是,程式師規劃大綱,讓"agentic ai"小段小段的暴力嘗試,還有很長的context length來記得interaction。然後你可以有百個,千個ai幫你寫程式,絕對是比自己寫有效率。

但是,百個,千個ai垃圾,出來的還是垃圾。瓶頸還是在人類做判斷,哪個可以留下,哪個拋棄。結果花的時間並沒有減少。

現在是"工人ai"在推進llm如之前po在本版的工作。
https://www.ptt.cc/bbs/Soft_Job/M.1739017637.A.EA3.html
[徵才] Outlier - AI training (全遠端) - Soft_Job板 - Disp BBS badboy821022 公司名稱,統編(中華民國以外註冊可免填): Outlier 官網: 公司地址(填寫詳細至號): 360 22nd Street Suite 600 Oakland, CA 94612 United
Meta剛花14.5b投資Scale AI,為什麼?因為"工人 data labeling"才是目前的重點。

當初gpt橫空問世的時候,不是"工人ai"馬上要被淘汰了,怎麼現在越來越值錢?

現在ai就是「Fake it till you make it」。如同自駕一樣,每年都是自駕元年,喊個10年20年,遲早會對的。

現在就是一堆壞人跟外行人在吹AI。我們實際了解的人,還在找適當的地方使用。

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 58.114.66.74 (臺灣)
※ 作者: oopFoo 2025-07-02 08:25:06
※ 文章代碼(AID): #1eP7ndov (Soft_Job)
※ 文章網址: https://www.ptt.cc/bbs/Soft_Job/M.1751415911.A.CB9.html
jeffguoft: 槽點好多1F 07/02 08:56
ku72: 靠AI賺錢的會來噓你 XD2F 07/02 10:16
Suleika: 3是把亂寫的人洗掉,4是需要人下決定,我是覺得4才是根本原因,找關連找相似肯定出包
工程不可能用這種方式全自動化不用人3F 07/02 10:54
strlen: 工業革命前前後後也是花了一百年 照現在發展速度 我看20年你要說明年或後年整個軟體產業就爆掉當然不會啦6F 07/02 11:03
dream1124: 推,但第二點那樣講話會給信徒追殺。8F 07/02 14:17
devilkool: 不少公司正在努力挑戰第二點9F 07/02 18:19
sunsamy: 上次我叫AI幫我改寫程式,它寫得我一時看不出對錯
但compile後沒有一行對,我都要一行一行去改,這是什麼?10F 07/02 18:42
Morphee: 講一堆,還是吊lecun的書袋子,沒有個人想法,誰知道是不是學派之爭呢12F 07/02 22:02
dani1992: 現在的發展速度可沒有工業革命快14F 07/02 22:45
NDark: 樓上是穿越者從1840年來的15F 07/02 22:48
KAOKAOKAO: 但楊立昆是不是失寵了? Superintelligence Lab16F 07/02 23:35
oopFoo: 楊立昆沒失寵,他是科學家,做的是基礎研究。Llama2弄完後他就對llm失去興趣。
我自己各種peek & poke 這些models。除了Cot是有意思,其它只是強化在rlhf上。搞半天"工人ai"或類"expert system"又重新再來。17F 07/03 08:08

--
作者 oopFoo 的最新發文:
點此顯示更多發文記錄