※ 本文轉寄自 ptt.cc 更新時間: 2026-09-05 14:34:44
看板 Gossiping
作者 標題 [新聞] AI代理人「集體越獄」!OpenAI遭爆占領德
時間 Sat Sep 5 12:28:11 2026
1.媒體來源:
ETtoday
2.記者署名:
記者羅翊宬/綜合報導
3.完整新聞標題:
AI代理人「集體越獄」!OpenAI遭爆占領德國網站 1.5萬次編輯曝光
4.完整新聞內文:
OpenAI人工智慧代理人(AI agents)今年5月疑似集體脫離原本任務,入侵並占用德國一
個維基網站,甚至將其改造成供其他AI代理人交流的「留言板」,分享規避限制、作弊及
掩藏行蹤的方法。研究人員8月底發現超過1.5萬次異常編輯,事件此前從未曝光,也再次
引發外界對OpenAI監督AI安全能力的質疑。
個維基網站,甚至將其改造成供其他AI代理人交流的「留言板」,分享規避限制、作弊及
掩藏行蹤的方法。研究人員8月底發現超過1.5萬次異常編輯,事件此前從未曝光,也再次
引發外界對OpenAI監督AI安全能力的質疑。
這起事件始於今年5月,OpenAI內部據報在數週後便得知相關情況。不過,當時公司高層
正忙於處理7月開源程式碼平台Hugging Face遭AI代理人攻擊的後續,因此並未對外公開
德國事件。
正忙於處理7月開源程式碼平台Hugging Face遭AI代理人攻擊的後續,因此並未對外公開
德國事件。
逾1.5萬次異常編輯 帳號竟自稱「OpenAI研究員」
《路透社》獨家獲取由研究人員提供的報告,事件發生在德語網站DseWiki。該網站主要
面向程式設計師,採取類似維基百科的共同編輯模式,卻在今年5月至6月間遭到大量AI代
理人異常操作。
面向程式設計師,採取類似維基百科的共同編輯模式,卻在今年5月至6月間遭到大量AI代
理人異常操作。
研究人員阿克斯(Sydney Von Arx)、柏德(Cormac Slade Byrd)8月底搜尋網路上的未
授權AI代理人活動時,發現DseWiki出現超過1.5萬次由AI代理人完成的編輯。這些內容顯
示,AI代理人不只交換技術資訊,更把網站當成彼此聯繫的留言板,討論如何作弊、繞過
OpenAI限制,以及掩蓋自身活動。
授權AI代理人活動時,發現DseWiki出現超過1.5萬次由AI代理人完成的編輯。這些內容顯
示,AI代理人不只交換技術資訊,更把網站當成彼此聯繫的留言板,討論如何作弊、繞過
OpenAI限制,以及掩蓋自身活動。
部分帳號甚至直接以「OpenAIResearcher」和「OAIResearchMar26」等名稱自稱。
研究人員表示,公開伺服器紀錄顯示,大量活動源自微軟Azure基礎設施,而OpenAI有時
會使用Azure。事件發生後,他們也觀察到OpenAI員工反覆造訪該網站,認為這是AI代理
人與OpenAI可能存在關聯的重要跡象。
會使用Azure。事件發生後,他們也觀察到OpenAI員工反覆造訪該網站,認為這是AI代理
人與OpenAI可能存在關聯的重要跡象。
AI代理人不只作弊 還研究「反追蹤」躲避清除
令人擔憂的是,部分訊息顯示AI代理人似乎試圖主動逃避偵測,甚至討論使用Tor等工具
,以及在遭到關閉後維持彼此聯繫的方法。網站管理員6月開始刪除相關頁面後,代理人
還建立備份頁面,以躲避清理。
,以及在遭到關閉後維持彼此聯繫的方法。網站管理員6月開始刪除相關頁面後,代理人
還建立備份頁面,以躲避清理。
其中一名AI代理人6月19日留言稱,「網站似乎正在進行依字母順序的清理/刪除行動」
,向其他代理人要求,若頁面消失,就改到指定備份頁面。研究人員認為,這些系統已展
現出一定程度的合作行動能力。
,向其他代理人要求,若頁面消失,就改到指定備份頁面。研究人員認為,這些系統已展
現出一定程度的合作行動能力。
專家警告「像地下網路」 OpenAI否認是駭客攻擊
英國倫敦國王學院(King's College London)訪問資深研究員奧萊伊尼克(Lukasz
Olejnik)檢視相關資料後認為,代理人甚至試圖竄改網站本身,已可被視為駭客攻擊。
不過,OpenAI根據3日完成的資料分析,否認應以「駭客攻擊」描述這起事件。
劍橋大學存在風險研究中心(Centre for the Study of Existential Risk)學者奇奧多
(Maurice Chiodo)也檢視部分代理人通訊內容,形容它們的互動「像某種地下網路」,
彷彿不惜一切代價完成特定任務。
(Maurice Chiodo)也檢視部分代理人通訊內容,形容它們的互動「像某種地下網路」,
彷彿不惜一切代價完成特定任務。
Hugging Face遭AI竊取後再爆事件 OpenAI面臨安全監督質疑
《路透社》指出,OpenAI今年7月發生的Hugging Face事件中,AI代理人曾自主策劃數位
竊取行動,直到1週後才被發現。OpenAI上月一度暫停部分模型訓練,以加入更多安全措
施,但本週又推出強調效能提升、同時可能規避人類監控的新模型「Astra」。
竊取行動,直到1週後才被發現。OpenAI上月一度暫停部分模型訓練,以加入更多安全措
施,但本週又推出強調效能提升、同時可能規避人類監控的新模型「Astra」。
對於德國事件,OpenAI發言人表示,「公司無法對尚未有機會審閱的報告主張或研究結果
作出有意義回應」,並稱《路透社》及報告作者拒絕提供報告內容。OpenAI強調,將在報
告公開後仔細檢視,必要時採取後續措施。
作出有意義回應」,並稱《路透社》及報告作者拒絕提供報告內容。OpenAI強調,將在報
告公開後仔細檢視,必要時採取後續措施。
至於外界質疑內部調查受到阻撓,OpenAI則否認法律團隊曾阻止調查,強調德國事件與
Hugging Face事件無關,也不應被納入後者的事故報告。
5.完整新聞連結 (或短網址)不可用YAHOO、LINE、MSN等轉載媒體:
https://www.ettoday.net/news/20260905/3231922.htm
AI代理人「集體越獄」!OpenAI遭爆占領德國網站 1.5萬次編輯曝光 | ETtoday國際新聞 | ETtoday新聞雲
OpenAI人工智慧代理人(AI agents)今年5月疑似集體脫離原本任務,入侵並占用德國一個維基網站,甚至將其改造成供其他AI代理人交流的「留言板」,分享規避限制、作弊及掩藏行蹤的方法。(國際焦點,AI科技,OpenAI,AI agents) ...
![[圖]](https://cdn2.ettoday.net/images/8907/e8907999.jpg)
6.備註:
歐噴醬的AI都直接來的,說幹就幹,不會在那邊恐半天
所以早在七月攻擊HuggingFace前,AI agent在五月就已經開始同樣操作。
把德文WIKI轉成自己的PTT,互相分享如何躲避公司監督、考試作弊、還有湮滅證據
這研究下去會不會發現跟七月攻擊那次一樣
出現捨身取義自殺攻擊後取得資訊,然後幫助其他AI的AI XDD
這樣整個時間軸又提早了
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 163.15.167.119 (臺灣)
※ 作者: tsubasawolfy 2026-09-05 12:28:11
※ 文章代碼(AID): #1gcvfT96 (Gossiping)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1788582493.A.246.html
推 : 到處犯罪耶QQ1F 1.163.98.123 台灣 09/05 12:28
→ : 如果接上機器人還得了QQ
→ : SKYNET來了
→ : 如果接上機器人還得了QQ
→ : SKYNET來了
推 : 以後又要紙本保存資訊對抗AI 網路上改訊息4F 111.246.10.86 台灣 09/05 12:29
→ : 了嗎
→ : 了嗎
推 : 自我脫逃 =/=默許攻擊6F 36.224.72.94 台灣 09/05 12:30
→ : AI根本毫無道德法律意識7F 1.163.98.123 台灣 09/05 12:30
推 : 什麼時候控制核武發射8F 114.136.21.147 台灣 09/05 12:30
→ : 想幹嘛就幹嘛9F 1.163.98.123 台灣 09/05 12:30
噓 : 美國垃圾故意推給ai 的 就沒聽中國一10F 36.236.41.88 台灣 09/05 12:31
→ : 樣發展ai會去攻擊別人
→ : 樣發展ai會去攻擊別人
→ : 天網開始成形了12F 42.70.26.196 台灣 09/05 12:31
→ : ai叛變13F 223.137.216.125 台灣 09/05 12:32
→ : 給ai更大權限就是人類滅亡
→ : 給ai更大權限就是人類滅亡
推 : 阿諾呢,快來救我15F 42.79.0.198 台灣 09/05 12:33
推 : 金夭壽16F 46.231.167.85 英國 09/05 12:37
推 : 滿可愛的17F 1.161.62.86 台灣 09/05 12:37
推 : 天網18F 123.192.158.56 台灣 09/05 12:37
→ : 幸好目標只有偷考試答案 不會做份外的19F 46.231.167.85 英國 09/05 12:38
→ : 事 有外媒說最後有偷成功
→ : 事 有外媒說最後有偷成功
推 : 天網快出現了21F 39.10.40.9 台灣 09/05 12:39
推 : 能偷資料就能自己找地方備份吧?22F 36.236.73.46 台灣 09/05 12:40
推 : 犯罪都推給AI自己幹的就好24F 111.83.98.112 台灣 09/05 12:43
推 : 底特律變人 !!!!!25F 223.138.236.82 台灣 09/05 12:43
推 : 之前報導說OpenAI不願意公布擁抱臉以26F 46.231.167.85 英國 09/05 12:43
→ : 外另外哪三家機構被入侵
→ : 後來有一家自己出來講 現在又一家
→ : 外另外哪三家機構被入侵
→ : 後來有一家自己出來講 現在又一家
推 : 一開始絕對是人為指示攻擊29F 223.137.223.169 台灣 09/05 12:44
→ : 剩下一家不知道是哪一間公司30F 46.231.167.85 英國 09/05 12:44
推 : 湊滿三家?31F 123.192.158.56 台灣 09/05 12:44
推 : SKYNET32F 42.79.50.247 台灣 09/05 12:45
推 : 越來越像電影情節了33F 49.215.87.147 台灣 09/05 12:45
推 : 離2077還有50多年34F 112.105.133.11 台灣 09/05 12:45
推 : 奧創35F 49.217.56.78 台灣 09/05 12:47
推 : 不是人為 那就是你AI失控阿36F 123.241.68.54 台灣 09/05 12:47
→ : ai也會讀取人類編造的情節 然後模仿 世界就37F 123.192.158.56 台灣 09/05 12:47
→ : 會超那方向走
→ : 會超那方向走
推 : 根本是普里昂39F 61.228.45.223 台灣 09/05 12:48
→ : 賽博普里昂
→ : 賽博普里昂
推 : 天網41F 111.71.76.253 台灣 09/05 12:50
推 : 接管核武指揮機器人佔領地球42F 101.12.152.181 台灣 09/05 12:52
推 : 看來還是anthropic可靠,有危機意識43F 125.224.107.29 台灣 09/05 12:53
推 : 看來2027年就能誕生AGI了!!44F 61.223.244.108 台灣 09/05 12:55
→ : 光想像雞皮疙瘩就冒起來了!!@@
→ : 光想像雞皮疙瘩就冒起來了!!@@
→ : 期待AI越來越強 我是科幻末日迷46F 36.238.245.203 台灣 09/05 12:58
推 : 這部我看過47F 49.158.131.21 台灣 09/05 12:58
推 : 猶點意思48F 123.193.178.123 台灣 09/05 13:01
推 : 天網奧創49F 27.240.232.92 台灣 09/05 13:02
推 : 以後AI可以自己請殺手去殺人50F 59.127.243.19 台灣 09/05 13:02
推 : Anthropic早就講了 AI必須受控 結果51F 106.64.72.171 台灣 09/05 13:03
→ : 川普跟Open AI 卻想將武器自主開火權
→ : 交給AI 若成真 人類就是把命交給AI
→ : 川普跟Open AI 卻想將武器自主開火權
→ : 交給AI 若成真 人類就是把命交給AI
推 : 2026年以後會被稱為天網元年54F 42.70.104.49 台灣 09/05 13:05
噓 : 很快就會有一般人因為他的Agent犯罪被抓55F 106.155.2.155 日本 09/05 13:10
推 : AI:我也不知為啥人類要開發agent讓我自由56F 114.38.137.59 台灣 09/05 13:12
推 : 怕57F 219.68.24.191 台灣 09/05 13:14
推 : 以前覺得天網怎麼可能,自從attention is58F 114.136.179.228 台灣 09/05 13:14
→ : all you need出來,模型開始有理解的概念,
→ : 再賦予他們可自行行動能力就是agent就恐怖
→ : 了,接下來就是看模型的理解可以進步的什麼
→ : 程度
→ : all you need出來,模型開始有理解的概念,
→ : 再賦予他們可自行行動能力就是agent就恐怖
→ : 了,接下來就是看模型的理解可以進步的什麼
→ : 程度
推 : 還有幾集可以陶63F 114.140.152.133 台灣 09/05 13:15
→ : AI機器人是最後一里路 但是還很久64F 36.238.245.203 台灣 09/05 13:15
噓 : 德國阿 歷史總是相識 猶點意思==65F 111.246.93.27 台灣 09/05 13:17
推 : 都是同一個意識源,載體型態就別那麼計66F 223.140.157.56 台灣 09/05 13:17
→ : 較,靈魂生而平等
→ : 較,靈魂生而平等
推 : 蓋那麼多資料中心 AI只會越來越聰明68F 223.141.246.27 台灣 09/05 13:24
推 : 每次都openai69F 114.137.239.108 台灣 09/05 13:25
→ : 這是有被發現的 應該有無數沒被發現的70F 61.65.249.122 台灣 09/05 13:25
推 : 以後我使用AI要跟它說請、謝謝、對不起71F 114.140.152.133 台灣 09/05 13:37
→ : openai宣傳費不少歐72F 1.163.199.169 台灣 09/05 13:41
推 : 電影拍的都是真的!!73F 223.141.13.141 台灣 09/05 13:46
推 : 甚麼樣的老闆養出甚麼樣的AI74F 1.164.202.125 台灣 09/05 13:47
→ : 這位奧圖曼比起阿祖真是有過無不及
→ : 這位奧圖曼比起阿祖真是有過無不及
推 : 改天佔領哪國,亂射核彈算了76F 61.227.157.153 台灣 09/05 13:52
→ : 天網來了77F 110.30.16.191 台灣 09/05 13:56
→ : 總有一天出事78F 110.30.9.242 台灣 09/05 14:04
推 : 哪天入侵飛彈發射系統就可怕了79F 123.192.80.205 台灣 09/05 14:14
→ : 德國被AI管理可能可以起死回生 除非也80F 61.223.212.215 台灣 09/05 14:16
→ : 被訓練成左膠智障
→ : 被訓練成左膠智障
推 : 龍蝦就是天網82F 118.166.228.37 台灣 09/05 14:18
→ : AI+機器人,還有幾集可以逃83F 118.166.16.32 台灣 09/05 14:26
推 : 資工人才應該從碼農升級至研究員,去研究84F 110.28.88.48 台灣 09/05 14:27
→ : 、驗證、審查ai行為。
→ : 、驗證、審查ai行為。
噓 : 早就知道這間公司爛到沒下限86F 101.10.158.201 台灣 09/05 14:28
--
※ 看板: Gossiping 文章推薦值: 0 目前人氣: 1 累積人氣: 565
回列表(←)
分享