顯示廣告
隱藏 ✕
回列表(←)
Disp BBS guest 註冊 登入(i) 線上人數: 267
首頁(home) 上頁(↑) 下頁(↓) 末頁(end)
※ 本文轉寄自 ptt.cc 更新時間: 2026-07-30 15:58:58
看板 Stock
作者 Zzell (n/a)
標題 Re: [請益] 這波無限下殺真正的原因是什麼？
時間 Thu Jul 30 15:06:01 2026

想問懂技術的人

LLM本質就是大型語言機率機
LLM的曙光自動化aka agentic AI，是由人類輸入自然語言
經由條件設定和機率計算，讓LLM吐出程式看得懂的指令去操作程式

所以其實就跟人類直接下指令或手動操作沒有兩樣
只是差別在人類手速比較慢/知識可能不足

另外因為是機率機
同樣的input「一定」會產出不同output（指的是文本不是答案）
所以必須加入糾錯機制，叫LLM針對output做自我驗證

所以本質上
agent就是用含有世界所有知識的機率機
去暴力破解人類就能解決的基礎問題
而且因為必然要有的糾錯機制，所以會消耗大量token

這個理解有錯嗎？


如果我的解釋是對的，那我是真的想像不到
除了coding外（coding本質就是語言，而且有大量範本可學習，所以LLM的正確率高）
原理如此原始的東西要怎麼轉化為LLM未來在商業上的利潤
這不就像把內涵為窮舉法的程式包裝成高階的密碼破解軟體來賣一樣嗎

求打臉

--
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 61.228.239.152 (臺灣)
※ 作者: Zzell 2026-07-30 15:06:01
※ 文章代碼(AID): #1gQlVSrt (Stock)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1785395164.A.D77.html
※ 同主題文章:
　 07-29 10:40 NTUST. ■ [請益] 這波無限下殺真正的原因是什麼？
　 07-29 12:00 a000000000. ■ Re: [請益] 這波無限下殺真正的原因是什麼？
　 07-29 15:22 XFight. ■ Re: [請益] 這波無限下殺真正的原因是什麼？
　 07-29 19:51 xietwtw. ■ Re: [請益] 這波無限下殺真正的原因是什麼？
　 07-29 21:01 generalcivil. ■ Re: [請益] 這波無限下殺真正的原因是什麼？
　 07-30 08:53 zzahoward. ■ Re: [請益] 這波無限下殺真正的原因是什麼？
● 07-30 15:06 Zzell. ■ Re: [請益] 這波無限下殺真正的原因是什麼？
　 07-30 16:30 jyuny1. ■ Re: [請益] 這波無限下殺真正的原因是什麼？
推 tomdavis    : 每次的輸出都是只輸出下一個字1F 07/30 15:07
→ tomdavis    : 要拿到整句話你就要把輸出再重新丟進去拿到下一個字
→ tomdavis    : 丟一句話進去 模型算出機率最大的下一個字後輸出
推 EvilJustice : 其實不只coding ，其實你可以問ai4F 07/30 15:10
推 tsubasawolfy: 你覺得高度電腦化的社會 掌握電腦能幹嘛5F 07/30 15:11
呃
我是問技術上我的理解跟比喻是不是對的
→ h9602b      : 所以還有其他流派，像世界模型，最有名的像楊立琨6F 07/30 15:12
→ h9602b      : ，就批評在LLM投入太多資金，但最後走不到AGI
推 tomdavis    : 糾錯機制 模型沒有這一塊8F 07/30 15:12
所以我問的是agent，或者精確一點是說商品化後的Agent
→ fallinlove15: 你這題簡單 可以先問AI增加問題深度9F 07/30 15:12
推 tv5566      : 知識的傳遞 不然你要問老塞喔 ai就正解 沒看ㄧ堆a10F 07/30 15:12
→ tv5566      : i影片了 ai音樂 以為只有coding
→ tv5566      : 以後就是各種加速開發
agent agent agent (哭)
→ tomdavis    : 消耗token只是因為要重複把一串字不斷的重新進模型13F 07/30 15:13
※ 編輯: Zzell (61.228.239.152 臺灣), 07/30/2026 15:14:32
推 capssan     : 你現在之所以會看到不同的output 是因為input其實14F 07/30 15:14
→ capssan     : 有不同
→ tomdavis    : agent就想成管家 幫你排程各種工作由哪種模型進行16F 07/30 15:15
→ DarkerDuck  : 人類直覺系統一思考也是這樣運作的好嗎17F 07/30 15:15
噓 bandit12344 : 懂技術的都知道現在走勢偏空18F 07/30 15:15
→ tomdavis    : 例如你的個人終端的agent可以安排任務給雲端處理19F 07/30 15:16
agent可以幫我看信發信
這我看很多了
但why 跟 at what cost?
→ tomdavis    : 至於agent有沒有糾錯機制 也是沒有20F 07/30 15:16
沒有會很慘吧，一定有啦
只是可能在軟體預設的初始指令裡面
※ 編輯: Zzell (61.228.239.152 臺灣), 07/30/2026 15:17:55
→ tomdavis    : 如果雲端LLM都無法分別錯誤 agent本身也不會做得到21F 07/30 15:17
推 airmike     : 其實LLM本質就是人類知識文本的壓縮軟體 只是這個壓22F 07/30 15:17
噓 deepelves   : ASIC設計電路可以用AI了阿23F 07/30 15:18
→ airmike     : 縮演算法是複雜到數兆元神經元的變化才能描述其機率24F 07/30 15:18
推 capssan     : https://reurl.cc/DYdz8j25F 07/30 15:18
Defeating Nondeterminism in LLM Inference - Thinking Machines Lab Reproducibility is a bedrock of scientific progress. However, it’s remarkably difficult to get reproducible results out of large language models.
For  ...

 
→ tomdavis    : 由agent來拆分整個任務 可以避免輸入過長 省token(X26F 07/30 15:18
→ tomdavis    : 輸入過長也會影響到模型輸出的正確性
喔喔
我說的糾錯是，LLM回頭再問自己一次，自己的答案是不是對的，這種
→ airmike     : 預測變化 所以只要還是transformer架構 我是不認為28F 07/30 15:19
※ 編輯: Zzell (61.228.239.152 臺灣), 07/30/2026 15:19:36
推 DustToDust  : 因為這樣可以賣更多的蒜粒啊29F 07/30 15:19
→ airmike     : LLM具備真正的創意 他只是比個人強 上限是全人類文30F 07/30 15:19
→ tomdavis    : LLM回頭再問自己一次答案是不是對的 算是還在研究(X31F 07/30 15:20
→ airmike     : 本知識可推理論述的極限  當然這樣也很恐怖了 只要32F 07/30 15:20
→ abyssa1     : 大部分的顧問產出也都是文字圖表而已啊33F 07/30 15:20
→ abyssa1     : 法律 財金 會計 商務合約 投資報告
單純拿模型來input應該用不到agent（雖然底層可能有agent啦但先不談）
我不是說LLM的能力
而是agent照我的理解變成吃token怪獸
商業化更困難
推 theurgy     : LLM即使達不到AGI 也能利用LLM取代工程師或增加工程35F 07/30 15:20
→ theurgy     : 師產出或用LLM發明AGI 那能確定的是你的鏟子有各種
→ theurgy     : 用途不是只有剷LLM 現在就是白癡花街說我要看到AI趕
→ theurgy     : 快變現 然後引發一系列砸盤而已
金融上過不去就是一定要跌啊
代表當初就不該漲
不代表花的錢是錯的
→ airmike     : 不是真正跳空創意從無發想的事情 通通它都能匹配39F 07/30 15:20
→ tomdavis    : 有幾種嘗試是 用另一個LLM去看輸出有沒有問題40F 07/30 15:20
→ abyssa1     : 律師可能還有表演的成份41F 07/30 15:20
※ 編輯: Zzell (61.228.239.152 臺灣), 07/30/2026 15:21:57
推 EvilJustice : Neuro-Symbolic AI42F 07/30 15:23
※ 編輯: Zzell (61.228.239.152 臺灣), 07/30/2026 15:26:05
推 tomdavis    : agent的作法本意是可以拆分任務減input長度省資源43F 07/30 15:26
我記得龍蝦是超級吃token怪獸
現在有優化了嗎
推 tsubasawolfy: 自我糾錯那個不如說數學模型就那樣 記得李宏毅有集44F 07/30 15:26
→ tsubasawolfy: 就在講自我修正的算法 只是那個算法初衷真的...
→ tsubasawolfy: 讓我覺得這東西竟然可以運作真是玄
推 airmike     : Agent的本意如前面講的 其實是拆分任務 專攻一個LLM47F 07/30 15:27
→ airmike     : 小範圍不會出錯的子任務來提高成功率 但是老美吹的
※ 編輯: Zzell (61.228.239.152 臺灣), 07/30/2026 15:28:14
→ airmike     : 時候都喜歡把Agent講成AGI跑高大上的東西 所以token49F 07/30 15:28
→ airmike     : 消耗量極大 因為你只能讓它對著自己的output不斷
→ airmike     : review。Review失敗，順著自己失控的論述去玩就會像
→ airmike     : OAI被人抓包的攻擊這樣 其實LLM Agent不知道自己在
→ airmike     : 幹嘛 只是一直接龍你給他的邏輯論述玩下去
因為在商業語言上的agent這個名詞的內涵
指涉的是自動化，而不是高效小範圍的代稱了
我主要是用這個語境在講
推 rebel       : 本質上沒錯啊 但你的理解太狹礙了 不是只有語言 現54F 07/30 15:29
→ rebel       : 在LLM產圖 影片不也是嚇嚇叫 中間要經過一層轉化 L
→ rebel       : LM就像大腦 你的大腦是不是也能處理語言 圖像 聲音
LLM只是叫diffusion模型來產圖ㄅ
※ 編輯: Zzell (61.228.239.152 臺灣), 07/30/2026 15:31:28
推 WESTONE     : 舉個危險的思想，如果人是商品，你要怎麼賣？現在ai57F 07/30 15:31
→ WESTONE     : 商業化的路就是如此。
推 asadman1523 : 其實你會這樣想 贏過很多人了59F 07/30 15:31
→ rebel       : 李宏毅老師的公開影片應該是可以解答你99.9%的問題60F 07/30 15:31
→ rebel       :  真想研究就去學習一下
暴言一下
出現一堆叫人去問AI跟叫人去看影片的回應
對我來說是一種高度泡沫化的徵兆
有點類似擦鞋童理論
※ 編輯: Zzell (61.228.239.152 臺灣), 07/30/2026 15:33:05
→ rebel       : 那產圖模型的底層你認為是什麼 XD62F 07/30 15:32
基於transformer但就不是LLM啊
因為LLM的湧現效果
現在才有這種全人類廣泛應用的想像
才會進階到LLM你想串什麼就能有什麼這種藍圖
拿個產圖來講跟我的內容無關
推 dogalan     : 並非窮舉 同樣input也不一定會出現不同output63F 07/30 15:33
※ 編輯: Zzell (61.228.239.152 臺灣), 07/30/2026 15:36:24
→ rebel       : 可是連功課都不做 不就跟不爬文一樣嗎？真的想理解64F 07/30 15:34
→ rebel       :  做點基本的功課是必要的吧
→ dogalan     : LLM確實並非完美的做法 也有很多限制 但我認為這是66F 07/30 15:35
→ dogalan     : 因為目前發展還不夠成熟的原因 就像你說的coding就
→ dogalan     : 能做到正確率比較高 表示本質上並不是LLM不能做到
我知道LLM本質不是窮舉
但在agent應用上我覺得很像
因為就是一定要try到正確為止（如果正確率不高誰敢用）
推 tomdavis    : 龍蝦token多那個以我的認知是一直再使用不同任務69F 07/30 15:36
※ 編輯: Zzell (61.228.239.152 臺灣), 07/30/2026 15:37:45
→ tomdavis    : agent能拆分任務省token 但完成任務依然要花token70F 07/30 15:37
→ rebel       : 目前多數人也不認為只靠LLM就可以達成agi 但只要接71F 07/30 15:37
→ rebel       : 近或是贏過人類的話 LLM含各種變型應該是夠用
→ tomdavis    : LLM簡單想成 海量的transformer單元組成龐大模型73F 07/30 15:37
我知道LLM的本質
所以我只講agentic AI (老黃說的那種）
在商業應用上是不是勢必會消耗大量token
這應該是能否獲利的關鍵吧
※ 編輯: Zzell (61.228.239.152 臺灣), 07/30/2026 15:38:56
推 dogalan     : 還有目前傳統的很多商業模型靠的就是你說得如此原始74F 07/30 15:38
→ tomdavis    : 大腦 vs 神經元 約等於 LLM vs transformer75F 07/30 15:38
→ dogalan     : 原理的東西 但價值在於降低時間、成本、操作門檻和76F 07/30 15:39
→ dogalan     : 知識傳遞成本 所以不能直接推出沒有足夠商業價值
→ tomdavis    : agent除非你這樣定任務目標 不然不會try到正確為止78F 07/30 15:39
→ tomdavis    : 商業應用上會不會消耗大量token 看任務類型
推 rebel       : LLM就是把transformer 串起來阿怎麼無關了80F 07/30 15:40
→ tomdavis    : 以及能不能根據任務類型去最佳化流程省token81F 07/30 15:40
→ dogalan     : agent實際上並沒有一直"try"到正確為止82F 07/30 15:40
我在寫的時候有內化了幾個背景條件沒有講清楚，my fault
1. token成本不低（我不說很高，因為其實資訊不透明而且未來會降）
2. agent要「商業化」，正確度要很高才可以，不然沒有人敢大規模使用
→ tomdavis    : agent就是全丟給雲端LLM太費token才生出來的解法83F 07/30 15:40
agent不代表一定是地端...吧?
※ 編輯: Zzell (61.228.239.152 臺灣), 07/30/2026 15:42:43
→ tomdavis    : 另外 重複把東西給模型再確認通常不會提升正確度84F 07/30 15:42
→ tomdavis    : 只是浪費token
agent的目的是要正確的指令（行為），而不是正確的答案
如果要介入人類行為，為了避免那1%或10%錯誤
而必然需要糾錯的機制

這個理解有誤嗎？
→ tomdavis    : 不一定是地端 但可以把難的工作拆出來給大的模型做86F 07/30 15:43
→ tomdavis    : 簡單的子任務可以給小的模型做
推 bloodashih  : 具體看你做啥 但你說的反覆無謂燒token的情形存在88F 07/30 15:44
→ bloodashih  : 是因為使用不當 而非必要
※ 編輯: Zzell (61.228.239.152 臺灣), 07/30/2026 15:44:38
→ bloodashih  : 條件限制可做在應用端 給如同員工一樣的權限或審批90F 07/30 15:45
→ bloodashih  : 流程讓人介入
→ bloodashih  : agent作業形式可由很多小專家組成，也可雲對端協同
→ bloodashih  : 作業
推 dogalan     : 糾錯機制不一定要靠agent自己來做 就像你說的coding94F 07/30 15:48
推 r30385      : 所以你的時間成本很低嗎？95F 07/30 15:48
→ batterykugua: 看起來這裡提到的agent實際上指的是subagent96F 07/30 15:55
推 tomdavis    : 可以把agent+llm視為ㄧ整包模型 你還是把任務給模型97F 07/30 15:56

--
※ 看板: Stock　文章推薦值: 0 目前人氣: 0 累積人氣: 222　
分享網址: 複製 已複製
→
guest
x)推文 r)回覆 e)編輯 d)刪除 M)收藏 ^x)轉錄 同主題: =)首篇 [)上篇 ])下篇