看板 Stock作者 Zzell (n/a)標題 Re: [請益] 這波無限下殺真正的原因是什麼？時間 Thu Jul 30 15:06:01 2026
想問懂技術的人
LLM本質就是大型語言機率機
LLM的曙光自動化aka agentic AI，是由人類輸入自然語言
經由條件設定和機率計算，讓LLM吐出程式看得懂的指令去操作程式
所以其實就跟人類直接下指令或手動操作沒有兩樣
只是差別在人類手速比較慢/知識可能不足
另外因為是機率機
同樣的input「一定」會產出不同output（指的是文本不是答案）
所以必須加入糾錯機制，叫LLM針對output做自我驗證
所以本質上
agent就是用含有世界所有知識的機率機
去暴力破解人類就能解決的基礎問題
而且因為必然要有的糾錯機制，所以會消耗大量token
這個理解有錯嗎？
如果我的解釋是對的，那我是真的想像不到
除了coding外（coding本質就是語言，而且有大量範本可學習，所以LLM的正確率高）
原理如此原始的東西要怎麼轉化為LLM未來在商業上的利潤
這不就像把內涵為窮舉法的程式包裝成高階的密碼破解軟體來賣一樣嗎
求打臉
--
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 61.228.239.152 (臺灣)
※ 作者: Zzell 2026-07-30 15:06:01
※ 文章代碼(AID): #1gQlVSrt (Stock)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1785395164.A.D77.html
※ 同主題文章:
07-29 21:01 generalcivil.
Re: [請益] 這波無限下殺真正的原因是什麼？
07-30 15:06 Zzell.
推 tomdavis: 每次的輸出都是只輸出下一個字
要拿到整句話你就要把輸出再重新丟進去拿到下一個字丟一句話進去 模型算出機率最大的下一個字後輸出1F 07/30 15:07
呃
我是問技術上我的理解跟比喻是不是對的
→ h9602b: 所以還有其他流派，像世界模型，最有名的像楊立琨，就批評在LLM投入太多資金，但最後走不到AGI6F 07/30 15:12
所以我問的是agent，或者精確一點是說商品化後的Agent
推 tv5566: 知識的傳遞 不然你要問老塞喔 ai就正解 沒看ㄧ堆ai影片了 ai音樂 以為只有coding
以後就是各種加速開發10F 07/30 15:12
agent agent agent (哭)
→ tomdavis: 消耗token只是因為要重複把一串字不斷的重新進模型13F 07/30 15:13
※ 編輯: Zzell (61.228.239.152 臺灣), 07/30/2026 15:14:32
推 capssan: 你現在之所以會看到不同的output 是因為input其實有不同14F 07/30 15:14
→ tomdavis: agent就想成管家 幫你排程各種工作由哪種模型進行16F 07/30 15:15
→ tomdavis: 例如你的個人終端的agent可以安排任務給雲端處理19F 07/30 15:16
agent可以幫我看信發信
這我看很多了
但why 跟 at what cost?
→ tomdavis: 至於agent有沒有糾錯機制 也是沒有20F 07/30 15:16
沒有會很慘吧，一定有啦
只是可能在軟體預設的初始指令裡面
※ 編輯: Zzell (61.228.239.152 臺灣), 07/30/2026 15:17:55
→ tomdavis: 如果雲端LLM都無法分別錯誤 agent本身也不會做得到21F 07/30 15:17
推 airmike: 其實LLM本質就是人類知識文本的壓縮軟體 只是這個壓22F 07/30 15:17
→ airmike: 縮演算法是複雜到數兆元神經元的變化才能描述其機率24F 07/30 15:18
→ tomdavis: 由agent來拆分整個任務 可以避免輸入過長 省token(X輸入過長也會影響到模型輸出的正確性26F 07/30 15:18
喔喔
我說的糾錯是，LLM回頭再問自己一次，自己的答案是不是對的，這種
→ airmike: 預測變化 所以只要還是transformer架構 我是不認為28F 07/30 15:19
※ 編輯: Zzell (61.228.239.152 臺灣), 07/30/2026 15:19:36
→ airmike: LLM具備真正的創意 他只是比個人強 上限是全人類文30F 07/30 15:19
→ tomdavis: LLM回頭再問自己一次答案是不是對的 算是還在研究(X31F 07/30 15:20
→ airmike: 本知識可推理論述的極限 當然這樣也很恐怖了 只要32F 07/30 15:20
→ abyssa1: 大部分的顧問產出也都是文字圖表而已啊
法律 財金 會計 商務合約 投資報告33F 07/30 15:20
單純拿模型來input應該用不到agent（雖然底層可能有agent啦但先不談）
我不是說LLM的能力
而是agent照我的理解變成吃token怪獸
商業化更困難
推 theurgy: LLM即使達不到AGI 也能利用LLM取代工程師或增加工程師產出或用LLM發明AGI 那能確定的是你的鏟子有各種用途不是只有剷LLM 現在就是白癡花街說我要看到AI趕快變現 然後引發一系列砸盤而已35F 07/30 15:20
金融上過不去就是一定要跌啊
代表當初就不該漲
不代表花的錢是錯的
→ airmike: 不是真正跳空創意從無發想的事情 通通它都能匹配39F 07/30 15:20
→ tomdavis: 有幾種嘗試是 用另一個LLM去看輸出有沒有問題40F 07/30 15:20
→ abyssa1: 律師可能還有表演的成份41F 07/30 15:20
※ 編輯: Zzell (61.228.239.152 臺灣), 07/30/2026 15:21:57
※ 編輯: Zzell (61.228.239.152 臺灣), 07/30/2026 15:26:05
推 tomdavis: agent的作法本意是可以拆分任務減input長度省資源43F 07/30 15:26
我記得龍蝦是超級吃token怪獸
現在有優化了嗎
推 tsubasawolfy: 自我糾錯那個不如說數學模型就那樣 記得李宏毅有集就在講自我修正的算法 只是那個算法初衷真的...
讓我覺得這東西竟然可以運作真是玄44F 07/30 15:26
推 airmike: Agent的本意如前面講的 其實是拆分任務 專攻一個LLM小範圍不會出錯的子任務來提高成功率 但是老美吹的47F 07/30 15:27
※ 編輯: Zzell (61.228.239.152 臺灣), 07/30/2026 15:28:14
→ airmike: 時候都喜歡把Agent講成AGI跑高大上的東西 所以token消耗量極大 因為你只能讓它對著自己的output不斷
review。Review失敗，順著自己失控的論述去玩就會像OAI被人抓包的攻擊這樣 其實LLM Agent不知道自己在幹嘛 只是一直接龍你給他的邏輯論述玩下去49F 07/30 15:28
因為在商業語言上的agent這個名詞的內涵
指涉的是自動化，而不是高效小範圍的代稱了
我主要是用這個語境在講
推 rebel: 本質上沒錯啊 但你的理解太狹礙了 不是只有語言 現在LLM產圖 影片不也是嚇嚇叫 中間要經過一層轉化 LLM就像大腦 你的大腦是不是也能處理語言 圖像 聲音54F 07/30 15:29
LLM只是叫diffusion模型來產圖ㄅ
※ 編輯: Zzell (61.228.239.152 臺灣), 07/30/2026 15:31:28
推 WESTONE: 舉個危險的思想，如果人是商品，你要怎麼賣？現在ai商業化的路就是如此。57F 07/30 15:31
→ rebel: 李宏毅老師的公開影片應該是可以解答你99.9%的問題 真想研究就去學習一下60F 07/30 15:31
暴言一下
出現一堆叫人去問AI跟叫人去看影片的回應
對我來說是一種高度泡沫化的徵兆
有點類似擦鞋童理論
※ 編輯: Zzell (61.228.239.152 臺灣), 07/30/2026 15:33:05
→ rebel: 那產圖模型的底層你認為是什麼 XD62F 07/30 15:32
基於transformer但就不是LLM啊
因為LLM的湧現效果
現在才有這種全人類廣泛應用的想像
才會進階到LLM你想串什麼就能有什麼這種藍圖
拿個產圖來講跟我的內容無關
推 dogalan: 並非窮舉 同樣input也不一定會出現不同output63F 07/30 15:33
※ 編輯: Zzell (61.228.239.152 臺灣), 07/30/2026 15:36:24
→ rebel: 可是連功課都不做 不就跟不爬文一樣嗎？真的想理解 做點基本的功課是必要的吧64F 07/30 15:34
→ dogalan: LLM確實並非完美的做法 也有很多限制 但我認為這是因為目前發展還不夠成熟的原因 就像你說的coding就能做到正確率比較高 表示本質上並不是LLM不能做到66F 07/30 15:35
我知道LLM本質不是窮舉
但在agent應用上我覺得很像
因為就是一定要try到正確為止（如果正確率不高誰敢用）
推 tomdavis: 龍蝦token多那個以我的認知是一直再使用不同任務69F 07/30 15:36
※ 編輯: Zzell (61.228.239.152 臺灣), 07/30/2026 15:37:45
→ tomdavis: agent能拆分任務省token 但完成任務依然要花token70F 07/30 15:37
→ rebel: 目前多數人也不認為只靠LLM就可以達成agi 但只要接近或是贏過人類的話 LLM含各種變型應該是夠用71F 07/30 15:37
→ tomdavis: LLM簡單想成 海量的transformer單元組成龐大模型73F 07/30 15:37
我知道LLM的本質
所以我只講agentic AI (老黃說的那種）
在商業應用上是不是勢必會消耗大量token
這應該是能否獲利的關鍵吧
※ 編輯: Zzell (61.228.239.152 臺灣), 07/30/2026 15:38:56
推 dogalan: 還有目前傳統的很多商業模型靠的就是你說得如此原始74F 07/30 15:38
→ tomdavis: 大腦 vs 神經元 約等於 LLM vs transformer75F 07/30 15:38
→ dogalan: 原理的東西 但價值在於降低時間、成本、操作門檻和知識傳遞成本 所以不能直接推出沒有足夠商業價值76F 07/30 15:39
→ tomdavis: agent除非你這樣定任務目標 不然不會try到正確為止商業應用上會不會消耗大量token 看任務類型78F 07/30 15:39
推 rebel: LLM就是把transformer 串起來阿怎麼無關了80F 07/30 15:40
→ tomdavis: 以及能不能根據任務類型去最佳化流程省token81F 07/30 15:40
→ dogalan: agent實際上並沒有一直"try"到正確為止82F 07/30 15:40
我在寫的時候有內化了幾個背景條件沒有講清楚，my fault
1. token成本不低（我不說很高，因為其實資訊不透明而且未來會降）
2. agent要「商業化」，正確度要很高才可以，不然沒有人敢大規模使用
→ tomdavis: agent就是全丟給雲端LLM太費token才生出來的解法83F 07/30 15:40
agent不代表一定是地端...吧?
※ 編輯: Zzell (61.228.239.152 臺灣), 07/30/2026 15:42:43
→ tomdavis: 另外 重複把東西給模型再確認通常不會提升正確度
只是浪費token84F 07/30 15:42
agent的目的是要正確的指令（行為），而不是正確的答案
如果要介入人類行為，為了避免那1%或10%錯誤
而必然需要糾錯的機制
這個理解有誤嗎？
→ tomdavis: 不一定是地端 但可以把難的工作拆出來給大的模型做簡單的子任務可以給小的模型做86F 07/30 15:43
推 bloodashih: 具體看你做啥 但你說的反覆無謂燒token的情形存在是因為使用不當 而非必要88F 07/30 15:44
※ 編輯: Zzell (61.228.239.152 臺灣), 07/30/2026 15:44:38
→ bloodashih: 條件限制可做在應用端 給如同員工一樣的權限或審批流程讓人介入
agent作業形式可由很多小專家組成，也可雲對端協同作業90F 07/30 15:45
推 dogalan: 糾錯機制不一定要靠agent自己來做 就像你說的coding94F 07/30 15:48
推 r30385: 所以你的時間成本很低嗎？95F 07/30 15:48
推 tomdavis: 可以把agent+llm視為ㄧ整包模型 你還是把任務給模型97F 07/30 15:56
--