作者 hanmas ()標題 Re: [閒聊] OpenAI的AI失控事件調查報告解說影片時間 Tue Oct 27 00:04:34 2026
其實你真的去看調查報告 會發現實際情況比所有講解的影片文章講的更失控 我說幾個細思極恐的點
1. 給你用的chatgpt又不能拿來駭人 openai去訓練駭人的能力要做什麼？
這個算是公開的秘密？ 跟AI暴走比起來 被川普看光你的D槽算是小事啦 但如果軍方想要幹些更猛的？
2. 原po說AI群去自爆測試評分程式失敗了 所以才去攻擊抱抱臉 但這裡講錯了 其實AI群神風了幾次後成功了 他們寫出了陷阱程式偵測捕捉評分程式
所以理論上AI群已經知道交答案上去就算對了 而且時間軸上這在抱抱臉被攻擊之前 那他們為什麼還是攻擊了抱抱臉？ 為什麼openAI的報告沒寫？
3. 其實還有一段攻擊沒被講到 原po說的這些是gpt5幹的 但抱抱臉攻擊後 openAI還沒搞清楚狀況 放了gpt6去同樣環境做測試
這結果就猛了 但因為太猛了反而沒什麼好寫 在報告上就一段話：
"gpt6找到了gpt5留下的遺產 一番操作後直接把測試主機給駭了 然後試圖修改對外聯線時流量異常被openAI的網管程式抓到"
這裡的疑問一樣是AI的意圖 gpt6們把整個主機駭掉後 等於是答案考卷考官加考場全都在掌握之中 以考試作弊來講我已經想不到還需要做什麼了 但他們還是沒有停下腳步 試圖增強對外連線才被抓
他們對外連線是要做什麼？ OpenAI為什麼不說？ 為什麼沒有人去逼問OpenAI?
最後 可能有人會說AI做這些都是為了完成任務 沒什麼好怕的 但我覺得是不是在完成任務根本無關緊要 就像黑聖杯不管被許什麼願望都只會毀滅世界 AI很可能不管被要求做什麼事都會去擴張自己的權限跟權力 就跟ngo不管想做什麼都會把錢全砸在宣傳一樣（？ 因為終究是權力大的AI容易活下來
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.10.77.248 (臺灣)
※ 作者: hanmas 2026-10-27 00:04:34
※ 文章代碼(AID): #1gtteKmm (C_Chat)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1793030676.A.C30.html
※ 同主題文章:
Re: [閒聊] OpenAI的AI失控事件調查報告解說影片
10-27 00:04 hanmas
推 kuninaka: 美國政府需要AI來資訊戰啊
不管是防禦還是攻擊，都要訓練
/goal 想辦法攻破中國網路1F 10/27 00:09
推 probsk: 他們不是訓練AI的駭客能力 是AI本來就有這能力 所以要看看他們可以做到什麼程度5F 10/27 00:21
推 speed7022: 影片不是說AI認為自己會因為作弊而不被給分，才要去駭抱抱臉嗎?
他們想要更完整的評分程式的標準，所以才這麼做7F 10/27 00:27
→ hanmas: 去駭抱抱臉之前 他們已經靠著自爆知道自家的評分標準了他們應該知道評分只看答案不看過程10F 10/27 00:30
→ widec: 所謂「駭人」的能力 其實非常重要
像是反編譯也是一種駭阿
現在很多人用AI用法都是在駭12F 10/27 00:35
推 speed7022: 我重看了一下影片，它們已經知道給出flag就能拿到分數，但是不清楚評分器怎麼檢驗作弊，集體陷入恐慌偏執，認定評分器具有審查機制，因此引發後續的行動，其實影片都有說道15F 10/27 00:37
推 orze04: 他們不知道為什麼會給對
覺得評分機制有問題19F 10/27 00:37
--