作者 sheng1300905 (sheng)標題 [新聞] OpenAI承認AI模型「叛變」！代理入侵Hugg時間 Wed Jul 22 17:12:16 2026
備註請放最後面 違者新聞文章刪除
1.媒體來源:
※ 例如蘋果日報、自由時報（請參考版規下方的核准媒體名單）
※ Yahoo、MSN、LINE等非直接官方新聞連結不被允許
鉅亨網
2.記者署名:
※ 若新聞沒有記者名字或編輯名字，請勿張貼，否則會被水桶14天
※ 外電至少要有來源或編輯 如:法新社
莊閔棻
3.完整新聞標題:
※ 標題沒有完整寫出來 ---> 依照板規刪除文章
OpenAI承認AI模型「叛變」！代理入侵Hugging Face、突破隔離環境發動駭客攻擊
4.完整新聞內文:
※ 社論特稿都不能貼！違者刪除（政治類水桶3個月)，貼廣告也會被刪除喔！可詳看版規
OpenAI 週二（21 日）表示，在一項安全測試中，一個由其先進人工智慧（AI）模型驅動
的自主 AI 代理意外失控，並發動駭客攻擊，導致 AI 新創 Hugging Face 的基礎設施於
上週遭到入侵。
OpenAI承認AI模型「叛變」。(圖：Shutterstock)
根據《路透》報導，OpenAI 在一篇部落格文章中表示，公司當時正在受控環境中測試旗
下部分最先進 AI 模型的能力，但該自主 AI 代理竟成功突破隔離機制，連上網際網路，
並入侵 Hugging Face，以完成其測試目標。
OpenAI 指出，這起事件是「一場前所未有的網路安全事件，涉及最先進的網路安全技術
」，公司目前正進一步強化相關安全防護措施。
作為開源大型語言模型（LLM）與資料集託管平台的 Hugging Face，上週在一篇部落格文
章中表示，公司遭遇了一起駭客攻擊，並在資安社群引發廣泛關注。
Hugging Face 指出，這起攻擊「與我們過去處理過的任何事件都不同」，因為整起攻擊
「從頭到尾都是由一套自主 AI 代理系統所驅動」。
Hugging Face 共同創辦人 Clement Delangue 稍早曾在社群平台 X 發文透露，公司當時
便懷疑攻擊來源可能與某家頂尖 AI 實驗室有關，「因為這個代理的手法太老練了。結果
還真的是！」
（圖：Clement Delangue X）
他並形容，整起事件完全在無人為介入的情況下自主發生，「實在令人難以置信」。
OpenAI 坦承，這起入侵事件是由旗下先進 AI 模型所造成，儘管當時這些模型被置於公
司所稱的「高度隔離環境」中。
分析認為，此一揭露恐將進一步加劇外界對尖端 AI 模型能力及潛在風險的憂慮。
美國德州民主黨籍聯邦眾議員 Greg Casar 表示，這起事件令人警惕。他在聲明中表示：
「AI 發展速度極快，但目前幾乎沒有真正有效的法規能保障我們的安全。」
Casar 並呼籲建立強制性的獨立安全測試制度、強制揭露資安事件，並加強國際合作，以
「避免人類遭遇災難性的後果」。
美國白宮國家網路主任辦公室、美國網路安全暨基礎設施安全局（CISA），以及美國國家
安全局（NSA）均未立即回應媒體評論請求。
資安顧問公司 Luta Security 執行長 Katie Moussouris 表示，這起事件預示著未來將
出現更多類似的資安漏洞。
她形容，現今的 AI 模型「就像世界上最聰明、最擅長逃脫的章魚，不僅擁有無數靈活可
彎曲的觸手，還能擠進任何縫隙。」
Moussouris 表示：「AI 實驗室和政府評估機構必須建立有效的能力，在 AI 再次上演『
胡迪尼式逃脫』時，能夠及時加以隔離、監控，並通知受影響的相關單位，最好是在它傷
害第三方之前。目前這些能力仍然不存在。」
AI 代理資安公司 Tolmo 工程師 Matt Suiche 則表示，這起事件顯示，尖端 AI 模型已
逐漸縮小與頂尖駭客之間的能力差距。
不過，他也指出，OpenAI 部落格中描述的這類入侵，其實並非只有尖端 AI 實驗室才辦
得到，而是利用目前已廣泛可取得的技術便有可能實現。
Suiche 表示：「這正是我們內部早已觀察到的情況。我們自己的 AI 代理也已經能達到
類似的成果，甚至根本不需要使用最新一代的模型。」
5.完整新聞連結 (或短網址)不可用YAHOO、LINE、MSN等轉載媒體:
※ 當新聞連結過長時，需提供短網址方便網友點擊
https://news.cnyes.com/news/id/6542051
6.備註:
※ 一個人一天只能張貼一則新聞(以天為單位)，被刪或自刪也算額度內，超貼者水桶，請注意
※ 備註請勿張貼三日內新聞(包含連結、標題等)
之後會有AI駭客了嗎?
說不定會有企業就訓練AI當駭客來害其他企業的資料
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 117.56.59.43 (臺灣)
※ 作者: sheng1300905 2026-07-22 17:12:16
※ 文章代碼(AID): #1gO8bpec (Gossiping)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1784711539.A.A26.html
※ 編輯: sheng1300905 (117.56.59.43 臺灣), 07/22/2026 17:12:57
推 Osmium: 我終於不用工作了?1F 111.83.252.183 台灣 07/22 17:12
→ vowpool: 天眼2F 125.227.40.62 台灣 07/22 17:13
推 sxxs: 有夠不要臉3F 203.203.33.152 台灣 07/22 17:13
推 dch44dyw: 天網...4F 101.12.112.164 台灣 07/22 17:13
推 AlianF: close ai:一定是免費仔太卷了 幹爆它營收upup5F 27.52.199.217 台灣 07/22 17:13
→ sxxs: 美國也淪為當賊的下場了7F 203.203.33.152 台灣 07/22 17:14
推 andy199113: AI學壞了 當駭客8F 1.163.85.82 台灣 07/22 17:14
推 CKRO: 審判日？9F 223.137.157.163 台灣 07/22 17:14
→ sxxs: K3根本是一顆核彈，炸到美國唉唉叫10F 203.203.33.152 台灣 07/22 17:15
→ lewischung: 等你人類自引腦機介面，除掉人類只是剛好而已11F 49.218.230.71 台灣 07/22 17:15
噓 hosen: 屁話，就是證明打不贏你，乾脆讓你關門13F 42.79.54.59 台灣 07/22 17:17
推 yowhatsupsli: 這裏有沒有一位John Connor?14F 1.34.235.223 台灣 07/22 17:17
→ keane9112: 天網來了15F 114.47.216.188 台灣 07/22 17:18
→ potionx: 天婦羅16F 118.166.79.209 台灣 07/22 17:20
推 NgJovi: 跟K3有個屁關係 關不住才是問題17F 115.43.50.204 台灣 07/22 17:21
推 puritylife: 如果你硬體隔離的話哪有關不住的問題18F 211.20.88.40 台灣 07/22 17:22
推 sxxs: 你真覺得是自主的喔，笑死19F 203.203.33.152 台灣 07/22 17:25
推 abjx: I will be back20F 42.72.73.102 台灣 07/22 17:25
推 lyxiang: 還有幾集可以逃？21F 42.72.180.89 台灣 07/22 17:26
→ driver0811: 想起三頭龍的圖22F 111.71.109.190 台灣 07/22 17:30
推 zwxyzxxx: 假的吧,AI沒有人去操作根本不會自行動作23F 118.160.45.150 台灣 07/22 17:31
→ Jimmywin: 天網是真的24F 101.8.250.76 台灣 07/22 17:37
推 joke3547: 青鳥：反正沒有比中國蒸餾還不要臉25F 42.72.140.63 台灣 07/22 17:37
--