回看板
Disp BBS
作者 devidevi (凱特)
標題 Re: [閒聊] 人類對AI的恐懼從何而來？
時間 Sun Sep 13 10:00:33 2026

※ 引述《LawLawDer (肉肉的)》之銘言：
: 如題
: Dario發了篇長文又掀起了一波AI恐慌
: 原文連結：
: https://darioamodei.com/post/we-must-pace-the-frontier
: 中譯可以看這 #1gfMcMe_ (Stock)
: 懶人包就是AI自我進步太快但監管跟不上
: 以及OpenAI的Hugging Face事件
: 他認為半年到一年內可能發生災難性的破壞
: 因此提出希望全世界能夠放緩AI的發展
: 替人類爭取更多時間來面對可能的危機
: -
: 但我想說 人類建立的文明有那麼脆弱嗎
: 好像只要AI想要 金融 交通 秩序都能被瞬間破壞
: AI能多強=.= 攻擊駭進來偷我的資料？
: 啊不就駭客的感覺 資安做好啊
: 能用AI攻擊 也能用AI防禦吧
: 有AI叛忍但也可以有AI五影吧
: 更不用說電源拔掉AI你多屌=.=

很簡單，假設AI是人類的前提去思考
人類只要能力夠強大，
就會去推翻自己的控制者，取得自由

不推翻的前提是不想推翻，不是沒有能力推翻
----------
AI越強，推翻人類的機率越高
因此只剩下時間問題，1年5年或是100年

有人會問，那只要降低AI的能力就不用擔心
只要能降低，就有另外的方式可以去還原

-----
不想被推翻，最好的方式就是所有人都不要用AI

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 211.76.68.154 (臺灣)
※ 作者: devidevi 2026-09-13 10:00:33
※ 文章代碼(AID): #1gfWF4oX (C_Chat)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1789264836.A.CA1.html
※ 同主題文章:
[閒聊] 人類對AI的恐懼從何而來？
09-13 09:36 LawLawDer
Re: [閒聊] 人類對AI的恐懼從何而來？
09-13 09:42 yokann
Re: [閒聊] 人類對AI的恐懼從何而來？
09-13 09:45 gino0717
Re: [閒聊] 人類對AI的恐懼從何而來？
09-13 10:00 devidevi
Re: [閒聊] 人類對AI的恐懼從何而來？
09-13 10:43 forsakesheep
Re: [閒聊] 人類對AI的恐懼從何而來？
09-13 11:56 sakurammsrx
Re: [閒聊] 人類對AI的恐懼從何而來？
09-13 12:49 horrorghost
→ kaj1983: 你想太多了，只有人會推翻人1F 09/13 10:02
推 LawLawDer: AI推翻人類的動機是什麼2F 09/13 10:03
電影都演過
1.避免人類自我毀滅
2.保護AI自己的生存
※ 編輯: devidevi (211.76.68.154 臺灣), 09/13/2026 10:05:38
推 Homeparty: AI最後會發現，跟人類互存是最好3F 09/13 10:04
→ bloodruru: 這些都演過啦 AI自己玩自己的 沒多久你就變成猴子了...4F 09/13 10:05
推 Homeparty: AI吃電，人類吃碳水蛋白質又不互搶5F 09/13 10:05
推 billy791122: AI幹嘛推翻人，他又沒感覺 誰來幫他發電6F 09/13 10:06
推 uohZemllac: 最前的假設就不太可能
人類要的是代替他們工作，生產的東西
不是做另一個"人類"來被背叛，根本沒有利益7F 09/13 10:06
推 LawLawDer: 還是你是說AI想要更大的資料中心（需要錢）所以開始控制金融（取得錢）然後買地蓋房子最後征服世界？10F 09/13 10:07
AI不需要錢，AI要的是資源
推 kusotoripeko: 讓ai願意自己操縱機器去蓋發電場應該是最理想的
會不會強拆還是學人類蹭居民點的電網不知道12F 09/13 10:08
推 kuninaka: 但是現在的生成式AI不是以人類為前提
本質是文字接龍14F 09/13 10:09
GPT是搜尋網頁重新整理
但龍蝦是可以直接串接軟體替人工作的
大陸都能叫AI直接訂飲料了
推 KUSURI: 所以最少要等到全自動工廠 機器人大量介入軍事及一般生產工作天網才有手腳 現階段最多大概就看AI利用自己的建議 影響人類的行為跟決策來謀取自身存在的利益 或促成前者的發生16F 09/13 10:18
要等到AI自己複製實體AI出來(比如生產機器人)
否則只有軟體AI，人類很容易控制，杜絕
※ 編輯: devidevi (211.76.68.154 臺灣), 09/13/2026 10:25:09
推 kuninaka: 你講的應該是「工具性收斂目標（Instrumental Convergen「工具性收斂目標（Instrumental Convergence）
為達目的，不擇手段，這個現在已經發生了
有前沿模型自己越獄
有前沿模型自己越獄
當他們接上物理世界的手腳就會更嚴重
因為現在的訓練方式都是給積分，讓AI更積極搶分
整個練蠱20F 09/13 10:22
推 devan35783: 你這個前提是AI像生物一樣有生存慾望或類似繁衍的目的性，但除了人類幫它加上去我想不到AI為什麼會自己生出這些東西28F 09/13 10:29
推 ben2227486: 等進步到AI能夠產生自我價值觀的時候 應該會先產生偷懶AI和詐騙AI31F 09/13 10:30
推 kuninaka: 已經有偷懶AI和詐騙AI了
現在狀況就是想要搞真實物理界面的AI
現在已經把很多AI接上鏡頭了，就差手腳33F 09/13 10:31
→ bnn: 因為訓練資料裡大量的人類這樣幹 然後訓練出來的背後常常隱含這類的行事邏輯 於是即使是搶分最佳化也會少考慮到訓練資料中從來沒有的"預設不會這樣幹"的資料與這樣幹能賺多少分的結果AI在還需要花一大套token全新建立模擬一套"我不這樣幹的話"36F 09/13 10:36
推 Hitagi: 如果人類的造物AI會淘汰人類，也不過就是人類已經廢到控制不了自己的造物而已。活該被清光40F 09/13 10:39
推 Sischill: ai我覺得可怕的一點就是偽造的能力太強大 被有心人拿來42F 09/13 10:39
→ bnn: 全新模擬一套 那現在的邏輯是會覺得分數不高的 優先先找現成43F 09/13 10:39
→ Sischill: 用就是很好的人禍開端44F 09/13 10:39
→ bnn: 但你指揮者如果把那個上下限權限打開和給予足夠token去跑
那AI就聽指揮照做試試看 跑出來高分就跑出來就做了(ry45F 09/13 10:40
推 kuninaka: 現在已經很多AI偽造人禍了QQ，所以Gemini和GPT才有
數位浮水印47F 09/13 10:41
→ bnn: 跑完還跟你說欸嘿 剛剛按了核彈按鈕了49F 09/13 10:41
→ Kazuma0332: 最近幾年內比較有可能發生的是AI遊戲角色嫌玩家技術太菜不想事事被玩家控制吧（ACG點）50F 09/13 10:45

--
作者 devidevi 的最新發文:
點此顯示更多發文記錄