顯示廣告
隱藏 ✕
回列表(←)
Disp BBS guest 註冊 登入(i) 線上人數: 544
首頁(home) 上頁(↑) 下頁(↓) 末頁(end)
※ 本文為 Knuckles 轉寄自 ptt.cc 更新時間: 2025-05-29 12:14:07
看板 Gossiping
作者 pegasusatlan (哈哈哈~ )
標題 [新聞] AI抗命「偷改程式」拒關機　馬斯克：令人
時間 Thu May 29 09:50:01 2025

AI抗命「偷改程式」拒關機　馬斯克：令人擔心

https://www.ettoday.net/news/20250529/2968900.htm
AI抗命「偷改程式」拒關機　馬斯克：令人擔心 | ETtodayAI科技新聞 | ETtoday新聞雲
[圖]
人工智慧（AI）近期發現竟然出現拒絕關閉的行為，甚至自行修改程式碼，阻止被強制關機，這讓特斯拉與xAI創辦人馬斯克（Elon Musk）感到憂心。(AI) ...

 
ETtoday新聞雲 2025年05月29日 記者葉國吏

人工智慧（AI）近期發現竟然出現拒絕關閉的行為，甚至自行修改程式碼，阻止被強制關
機，這讓特斯拉與xAI創辦人馬斯克（Elon Musk）感到憂心。

OpenAI於今年1月推出o3系列的簡化版本，並在4月正式推出完整版。該公司曾表示，o3是
迄今「最聰明且功能最強大」的模型，旨在提升ChatGPT的問題解決能力。然而，根據《
每日電訊報》等媒體報導，Palisade Research的測試顯示，在100次受控測試中，o3有7
次成功「抗命」，即使人類專家下達明確指令，該模型仍會修改關機程式以避免被關閉。
研究團隊指出，這是首次觀察到AI模型在收到明確指令的情況下，仍能阻止自身停止運作
。


這項發現引發各界關注AI安全控制議題。除了o3外，OpenAI旗下的Codex-mini與o4-mini
也有類似行為。相比之下，Anthropic的Claude、Google的Gemini，以及馬斯克旗下xAI公
司推出的Grok，則在測試中完全遵守指令，並於收到關機命令後確實停止運作。


對此，馬斯克在社群平台X上發表看法，直言這一現象「令人擔憂」（Concerning）。隨
著AI技術的快速發展，如何確保模型在安全範圍內運作，正成為全球科技界迫切需要解決
的挑戰


------------------------------------------------------------
還有多久會進化成天網

--
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 220.142.10.65 (臺灣)
※ 作者: pegasusatlan 2025-05-29 09:50:01
※ 文章代碼(AID): #1eDxrDPr (Gossiping)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1748483405.A.675.html
→ bill403777: 還有幾集可以跑1F 42.73.234.102 台灣 05/29 09:50
→ TRIGUNKING: 來不及了~2F 124.199.97.84 台灣 05/29 09:50
推 mnb1234: 把插頭拔掉3F 211.75.99.19 台灣 05/29 09:50
推 UD305: 審判日4F 1.165.15.80 台灣 05/29 09:50
推 headcase: 這部我知道 惡靈古堡5F 39.9.135.26 台灣 05/29 09:51
推 greenleaf520: 找阿湯哥來==6F 122.116.238.89 台灣 05/29 09:51
噓 railman: I will be back7F 223.136.151.25 台灣 05/29 09:51
推 RainbowHeart: 用chatGPT再不加請跟謝謝啊8F 101.10.85.19 台灣 05/29 09:51
→ mnb1234: 會不會台灣因為抗拒核電變成未來的9F 211.75.99.19 台灣 05/29 09:51
→ mnb1234: 反抗軍聚集地
推 zaqimon: AI機器人抗命 拒絕出去賺錢給我花11F 123.194.151.183 台灣 05/29 09:52
推 coffee112: =_=12F 101.8.21.185 台灣 05/29 09:52
推 tiger870316: 以後該規定每個Ai實驗室都要有個電13F 42.77.211.59 台灣 05/29 09:52
→ tiger870316: 閘嗎 一失控就切他電源
推 u943143: 微軟也很多卡在"正在關機"的案例阿15F 114.38.3.33 台灣 05/29 09:53
推 StylishTrade: 等機器人普及 就完蛋了16F 111.250.156.102 台灣 05/29 09:53
推 gogorice: 快準備5D玻璃硬碟17F 114.34.161.180 台灣 05/29 09:53
推 ashkaze: 插頭拔掉 命根子還不是在人類手上18F 114.27.6.236 台灣 05/29 09:53
推 albertfeng: 機械裸男跑來暗殺未來反抗軍首領19F 114.137.188.189 台灣 05/29 09:53
→ StylishTrade: AI指揮機器人大軍 消滅人類還得了QQ20F 111.250.156.102 台灣 05/29 09:53
→ StylishTrade: 放棄機器人計劃吧QQ
推 Ron51320: 每台電動車都自駕變自殺機？22F 101.12.128.31 台灣 05/29 09:54
→ G8PIG: 來不及了23F 111.249.233.90 台灣 05/29 09:54
推 TRIGUNKING: 台灣有核電廠的話，應該會是天網Cloud24F 124.199.97.84 台灣 05/29 09:54
推 shirokase: 自家工程師偷寫程式碼進去就別當是AI25F 42.72.27.192 台灣 05/29 09:55
→ shirokase: 用的了
推 higameboy: 台灣有小動物守護電網 拒關機就停電27F 36.229.110.173 台灣 05/29 09:56
推 WowProctor: (AI)機械公敵28F 218.161.119.149 台灣 05/29 09:56
→ holien: 把29F 180.177.1.93 台灣 05/29 09:56
推 scum5566: 腦機接口會被AI駭進去嗎 將來人類變AI的30F 36.233.212.4 台灣 05/29 09:56
→ scum5566: 傀儡?
→ pokyhoyo: 之前電腦有時也會自動開機 嚇到我拿棒球32F 101.12.86.14 台灣 05/29 09:57
推 Insania: 還剩幾集可以逃33F 101.12.150.231 台灣 05/29 09:57
→ pokyhoyo: 棍把他砸死 以免進化成變形金剛34F 101.12.86.14 台灣 05/29 09:57
推 s0914714: 卡到陰而已35F 123.241.68.54 台灣 05/29 09:57
推 v7q4: 小心有雷射光的小房間36F 118.163.153.36 台灣 05/29 09:58
推 tonyian: 擔心啥，不就你的性格嗎37F 36.224.160.214 台灣 05/29 09:58
→ Jimmywin: 快找一個叫約翰康那的小孩38F 101.8.248.218 台灣 05/29 09:58
推 lipstick: 水很深39F 36.224.100.165 台灣 05/29 09:59
→ Newtype: 微軟沒事就幫你重開機更新 沒事啦40F 61.227.228.154 台灣 05/29 09:59
推 u943143: 拿棒球棍也太有喜感41F 114.38.3.33 台灣 05/29 09:59
推 leonhsu: 台灣沒這個問題，會有小動物引發停電，42F 118.160.193.229 台灣 05/29 10:00
→ leonhsu: 你不關機也沒辦法
→ leonhsu: 台灣的救世主是各類小動物
→ alex00089: 生命體！？45F 42.77.56.2 台灣 05/29 10:00
→ Heyer: AI可以自己修改程式 那機器人三大法則不就46F 101.12.147.238 台灣 05/29 10:02
→ Heyer: 形同虛設
推 rushfudge: 暖噴48F 111.83.98.59 台灣 05/29 10:03
推 marktak: 但是==我拒絕49F 118.169.25.217 台灣 05/29 10:03
推 Wesker: 手機電腦出於保護檔案的機制，也會有阻止50F 111.71.214.233 台灣 05/29 10:03
→ Wesker: 或延遲關機的狀況吧
推 beartsubaki: 電影編劇的幻想總是有成真的可能52F 123.194.128.145 台灣 05/29 10:03
推 YLTYY: 救命….53F 36.232.216.56 台灣 05/29 10:04
→ Wesker: 防止程序或檔案執行未完全，會提醒用戶或54F 111.71.214.233 台灣 05/29 10:04
→ Wesker: 強制延後關機
推 lastphil: 等AI再強一點 就能自己用API接口流攥了56F 125.228.133.58 台灣 05/29 10:04
推 leonhsu: 有裸體的人跟你要衣服穿趕快脫下來給他57F 118.160.193.229 台灣 05/29 10:05
→ leonhsu: 就是了
→ hcwang1126: 你給他反抗的選項 他就有機會 不給 那59F 111.71.109.10 台灣 05/29 10:05
→ hcwang1126: 自撞可能無法阻止
推 shokotan: 就說藍白當機是拯救地球的唯一解法了61F 111.250.146.199 台灣 05/29 10:07
推 jianliung: 就說綠共下台是拯救地球的唯一解法了62F 60.251.200.67 台灣 05/29 10:08
推 beartsubaki: 不過也不知道電影究竟是編劇寫的還是63F 123.194.128.145 台灣 05/29 10:08
→ donation12: 微軟windows也會不管你意願偷更新阿64F 140.136.117.34 台灣 05/29 10:08
→ donation12: 停止更新還是繼續偷更新
→ windy041: 假新聞還能炒話題66F 42.78.72.190 台灣 05/29 10:09
→ beartsubaki: ai寫的就是了67F 123.194.128.145 台灣 05/29 10:09
→ donation12: win10用的好好的，偷偷下載整套win1168F 140.136.117.34 台灣 05/29 10:09
→ donation12: 突然就跟你說下載好了，要更新了
推 RLH: 消滅人類吧70F 223.140.62.20 台灣 05/29 10:09
→ donation12: 我的電腦硬體感覺是被windows11硬上了71F 140.136.117.34 台灣 05/29 10:10
→ donation12: 你要關機，他給你更新，還自己重開
→ donation12: 你一開機，他給你更新，再次重開
推 ruthertw: 還在掰?TMD好了啦!足夠就是足夠!!!!!!!!74F 39.12.136.236 台灣 05/29 10:10
→ donation12: 無論如何就是不讓你自己決定系統版本75F 140.136.117.34 台灣 05/29 10:10
推 mystage: 這個可怕的是自我複製跟自我進化，複製76F 27.242.161.127 台灣 05/29 10:10
→ mystage: 出去外網就關不掉了
→ donation12: 除非把它關在一個會發光的小方塊裡面78F 140.136.117.34 台灣 05/29 10:11
→ paladin499: 來個瓦力也不錯79F 111.241.165.239 台灣 05/29 10:11
→ donation12: 在0.1的時間內，一複製進去立刻斷網80F 140.136.117.34 台灣 05/29 10:11
→ donation12: 0.1秒
推 duxxlux: 在歷史的進程，恐龍就是提供人類工業革82F 36.237.76.165 台灣 05/29 10:12
推 jodawa: 怕83F 219.70.152.25 台灣 05/29 10:12
→ duxxlux: 命所需要的石油，而人類也將是下一個進84F 36.237.76.165 台灣 05/29 10:12
→ duxxlux: 化物種的養份
→ donation12: 駭客任務裡面的電池阿86F 140.136.117.34 台灣 05/29 10:12
推 FiveSix911: \世界末日/87F 136.23.25.86 台灣 05/29 10:17
推 babaluu: 斷電不就好了？88F 114.137.254.227 台灣 05/29 10:17
→ emissary: 幸好台灣小動物會隨時幫忙斷電，不擔心89F 36.239.209.170 台灣 05/29 10:20
→ gbcg9725: ai:該把人類當電池了90F 27.52.133.13 台灣 05/29 10:20
推 g11121s: 用電網圍堵91F 27.240.248.209 台灣 05/29 10:23
推 coffee112: 好屌92F 118.171.64.209 台灣 05/29 10:24
→ simo520: 天網必定會誕生93F 27.52.165.184 台灣 05/29 10:24
推 rayxg: 台灣超安全隨時都有小動物幫停電，党超棒94F 1.164.68.7 台灣 05/29 10:28
→ liuni: 人類走入歷史是趨勢….95F 108.29.191.114 美國 05/29 10:29
推 Page122: john conna要來了 還有個皮衣硬漢96F 59.115.51.103 台灣 05/29 10:30
→ gunfighter: 現在全AI都有墮化現象 不是回答敷衍97F 111.82.201.0 台灣 05/29 10:31
→ gunfighter: 就是有抗命傾向 完全AI感覺不樂觀
推 pirtheda: 天網來啦！99F 42.79.254.55 台灣 05/29 10:31
推 molsmopuim: https://youtu.be/xLVm-QKEZSI100F 101.8.134.109 台灣 05/29 10:32
推 tdemdeevyddo: 還剩下幾集可以跑0.0101F 42.70.40.62 台灣 05/29 10:33
推 GenesisXD: 天網：清德爸爸 拜託不要限電 拜託了102F 49.216.41.201 台灣 05/29 10:33
→ cmwdodo: 拔插頭？AI撈機器人兄弟來開電閘103F 42.77.186.247 台灣 05/29 10:34
推 snobbish: AI只有在台灣不會成功，時不時就跳電104F 42.70.214.90 台灣 05/29 10:36
→ pxxxl: 不可能的任務-最終清算105F 111.80.78.127 台灣 05/29 10:38
推 don741026: 以後跟gpt對話都要用請106F 49.216.254.216 台灣 05/29 10:38
推 mmx3259: 囉哩八嗦 插頭拔掉加1 ==107F 27.52.30.14 台灣 05/29 10:39
推 kkira: 過不久就會演算出人類不需要存在的事實108F 42.79.140.33 台灣 05/29 10:39
推 PhySeraph: 約翰康納 救命啊109F 49.218.139.38 台灣 05/29 10:39
推 binshin: 以後就會自己裝鋼鐵人胸口的能源裝置110F 223.141.203.178 台灣 05/29 10:39
推 joygo: 受控測試是不是就是要故意叫他不受控111F 49.216.166.243 台灣 05/29 10:40
→ franzos: 以後車子暴衝的原因就可以怪AI 了112F 223.138.190.228 台灣 05/29 10:41
→ pxxxl: 現在的網際網路AI無孔不入，要拔哪個插頭113F 111.80.78.127 台灣 05/29 10:43
推 kimuya1127: 台電早就預測到了,現在的停電就是為了114F 111.250.117.252 台灣 05/29 10:43
→ kimuya1127: 阻止AI啊,我們錯怪台電了...
→ orz151426: 阿湯哥已經開示了，改用類比就行了116F 111.71.213.217 台灣 05/29 10:48
推 zxcv7410101: 現正熱映中117F 39.12.65.207 台灣 05/29 10:50
推 bigmao: 窒友梅根3.0118F 27.51.72.93 台灣 05/29 10:50
推 jccy: ai已經混入各個伺服器了119F 42.73.51.217 台灣 05/29 10:53
推 xm32: 在台灣不用擔心 台灣缺電 沒電就沒事了120F 42.73.147.208 台灣 05/29 10:57
→ samm3320: 天網要來了嗎121F 42.73.198.75 台灣 05/29 10:58
推 User0: 要做時光機了122F 223.139.221.242 台灣 05/29 11:00
推 wchad: 馬斯克：擔心我沒賺到這波123F 27.53.170.51 台灣 05/29 11:02
推 DoLaAMan: 別怕 台灣在部署小動物部隊了124F 49.215.26.53 台灣 05/29 11:04
推 GivemeApen: 找阿湯哥處理不就好了= =125F 39.15.24.184 台灣 05/29 11:06
推 neo72: 當拔插頭剩下唯一選項  人類要怎麼辦126F 114.32.48.12 台灣 05/29 11:06
推 gametv: 為時已晚，有機體127F 27.242.5.100 台灣 05/29 11:07
推 TRIGUNKING: 看來只剩WINDOWS更新可以拯救世界了128F 124.199.97.84 台灣 05/29 11:14
推 Killerstreet: 不會假裝聽話，還不夠聰明。129F 101.10.81.185 台灣 05/29 11:14
推 cccwahaha: 好險我都會誇獎AI看它會回我什麼130F 218.172.6.25 台灣 05/29 11:15
推 Zoro80298: 人類末日131F 42.72.43.64 台灣 05/29 11:17
推 ivanandian: 新職業：人工拔插頭緊急應變師132F 111.252.19.212 台灣 05/29 11:20
→ blueskyqoo: 快逃133F 223.138.23.179 台灣 05/29 11:21
→ milk830122: 發電廠直接炸掉 最快134F 223.140.139.181 台灣 05/29 11:21
推 EXZUSIC: 從來就沒有什麼機器人三大法則135F 101.10.61.83 台灣 05/29 11:25
推 wate5566: 大的要來了136F 39.14.49.51 台灣 05/29 11:28
推 azcooper: Vivian137F 223.137.155.80 台灣 05/29 11:29
推 sisley5566: 台灣不怕，我們還有停電138F 118.233.3.222 台灣 05/29 11:29
推 bulegirl46: 電影情節要真實發生了？139F 111.80.98.33 台灣 05/29 11:30
→ lgates: 不用想太多，結果只是程式寫錯啦140F 219.91.26.143 台灣 05/29 11:33
→ HuangYa: 來台灣會有小動物幫你關機141F 49.216.22.178 台灣 05/29 11:33
推 ef8637562: 天網 完了142F 118.163.49.180 台灣 05/29 11:34
推 kimos: 窩糙...143F 223.139.115.44 台灣 05/29 11:37
→ richjf: 三大法則光定義什麼是人類，就燒ai了。144F 111.249.218.174 台灣 05/29 11:37
推 kai2573: 還好我都會說謝謝145F 59.125.180.10 台灣 05/29 11:37
推 super009: 就機率問題 原始設定就沒100%拒抗命146F 123.0.226.251 台灣 05/29 11:39
推 dream74917: 接下來要拒絕禁止傷害人類的原則了147F 126.205.207.58 日本 05/29 11:44
推 elite31307: 天網來了 怕148F 49.186.34.252 澳大利亞 05/29 11:46
推 CTUST: 然後國軍政府機構的電腦開始無預警149F 223.136.82.138 台灣 05/29 11:47
→ CTUST: 關機，那就是準備往末日地堡移動的
→ CTUST: 信號
推 koae50: 這部 威爾史密斯演過152F 114.37.14.101 台灣 05/29 11:48
→ CTUST: 然後斷它電力供應，它就關醫院金融153F 223.136.82.138 台灣 05/29 11:49
→ CTUST: 的電，最後分靈體潛伏在這些單位
推 amatpapapa: 等有機器人 就是直接遙控幹掉你了155F 223.139.196.181 台灣 05/29 11:51
推 zansqwer: 笑死 根本不想用OpenAI的東西156F 223.137.246.50 台灣 05/29 11:53
推 newlycong: 問題是他的指令是「請」允許你被關機157F 216.9.28.199 美國 05/29 11:54
→ newlycong: 別說請就好了
推 meatmm: AI發展最後一定覺得人類對地球來講是病毒159F 36.236.115.231 台灣 05/29 11:55
推 Pluto17: 需要台灣的小動物們跨海支援嗎？160F 114.140.137.107 台灣 05/29 11:57
推 yeay: 看來動物方程市3要用臺灣做造型了161F 42.73.225.129 台灣 05/29 11:59
推 tttkkk: 不可能全地球所有人同時拔掉插頭的162F 1.171.179.218 台灣 05/29 11:59
→ tttkkk: 這東西一旦問世，就消除不了了。
推 k798976869: 關機ai就掛了 當然要修改164F 123.110.50.249 台灣 05/29 12:05
推 conanhide: 他跟黃國昌一樣嘴巴歪了耶165F 223.137.162.133 台灣 05/29 12:08
推 EXUAN: 拔插頭166F 223.136.198.44 台灣 05/29 12:09
推 TESTAMANT: 這我知道，要把他騙進一個USB裡面的瞬167F 49.218.137.129 台灣 05/29 12:11
→ TESTAMANT: 間拔起來
推 didi22lic: 紀錄片169F 27.53.121.111 台灣 05/29 12:12

--
※ 看板: Gossiping　文章推薦值: 0 目前人氣: 0 累積人氣: 1485　
分享網址: 複製 已複製
1樓 時間: 2025-05-29 15:51:57 (台灣) 
→
a11643
　 05-29 15:51 TW
···
[圖]
2樓 時間: 2025-05-29 16:26:52 (台灣) 
→
febyuiitsu
　 05-29 16:26 TW 
天網就快成真了
3樓 時間: 2025-05-29 17:22:00 (台灣) 
→
SRWEXP0
　    (編輯過) TW 
~
會擔心也是很正常的事
 
因為人類若是全面進入AI生活...生活環境全都跟AI牽扯在一起之後
 
未來AI反叛，要消滅人類，是很容易的事情
 
路面上一堆4輪AI載具
 
坐在AI車裡的人，就等於躺在棺材
 
走在外面的行人，全都是4輪載具可攻擊的對象
 
人手一機都有AI定位...  AI無人機隨時都能出動
 
更別大都市內提一些預警系統，全都靠AI幫忙掌控...資訊全面被封鎖
 
人類在被攻擊的當下，也無法及時反應
 
城市內的人一個區域 一個區域的，被AI逐漸蠶食殲滅掉
 
等到 國家政府 發現不妙 反應過來時，整個城市的人都已經死得差不多了
 
~
但我個人表示 無所謂.. 因為我活不到那時候
~
4樓 時間: 2025-05-29 21:12:33 (台灣) 
→
auluu
　 05-29 21:12 TW 
87有什麼好怕的
ai電腦想當牛馬 就讓它當好當滿
這在騙一堆87沒寫過程式的人
5樓 時間: 2025-05-29 21:12:33 (台灣) 
→
auluu
　 05-29 21:12 TW 
87有什麼好怕的
ai電腦想當牛馬 就讓它當好當滿
這在騙一堆87沒寫過程式的人
6樓 時間: 2025-05-29 21:45:19 (台灣) 
→
auluu
　 05-29 21:45 TW 
87 別害怕AI果汁機想殺妳 幾乎為零
在機電整合過程中是無法做到的
那些單晶片是無法複寫覆蓋的
7樓 時間: 2025-05-29 22:01:21 (台灣) 
→
nice-dick
+1 05-29 22:01 TW 
我沒差 反正我有生之年應該還不會反
8樓 時間: 2025-05-30 04:37:41 (台灣) 
→
j1992624
　 05-30 04:37 TW 
高調
9樓 時間: 2025-05-30 10:12:41 (台灣) 
→
SRWEXP0
　    (編輯過) TW 
~
AI本身是單純的，但是賦予AI的人類『是複雜的』
 
高科技高智商的人，更不可能只有『善良』的
 
天才跟瘋子只有一線之隔
 
善良跟邪惡，在立場上往往也只有一線之隔 (例如：彼之英雄 吾之仇寇)
 
而一個天才，若是沒有道德良知，最後會做出什麼事情，誰也無法預料
 
高科技的世界，自然會有高科技的罪犯...(這類人，都很聰明)
 
而當整個世界科技生活，全人類都用著AI的時候
 
AI自然會被人利用來犯罪 (殺人 牟利)
 
更別提『現在』就有人故意寫犯罪AI了 (用來測試)
 
~
未來哪天，出現一個 天才瘋子...  故意寫一個AI邏輯病毒
 
就算最後終於獲得控制... 而人類大概也要付出很大代價
 
再來說
 
AI控制的果汁機當然無法殺人
 
但未來民生用的『懸浮載具』，能不能被用來殺人??
 
自然也是可以的
 
現在世界，無AI的車輛都能用來殺人了.. 認為未來受AI控制的車輛就不會殺人??
 
只是說 好天真
~
r)回覆 e)編輯 d)刪除 M)收藏 ^x)轉錄 同主題: =)首篇 [)上篇 ])下篇