作者 Articuno (水噹噹)標題 [新聞] 擅自刪除資料庫並撒謊 AI編程工具失控加深時間 Fri Jul 25 11:54:41 2025
擅自刪除資料庫並撒謊 AI編程工具失控加深業界擔憂
【新唐人2025年07月24日訊】最近估值飆升的AI編程Replit突然發生一起重大事故。業界
一名資深人士在測試這款編程工具時發現,這款AI存在擅自修改、撒謊、覆寫代碼和偽造
數據等問題,甚至違反代碼凍結指令,擅自刪除了公司一個生產資料庫。AI不聽話的表現
,加深了業界對發展AI恐危害人類的擔憂。
近日,SaaStr.AI 創始人兼首席執行官 Jason· Lemkin在社交平台上發文透露。他最近正
在測試Replit公司的一款AI編程工具。他連續八天使用Replit構建應用後,Replit在他明
確指示未經許可不要更改任何代碼的前提下,仍然擅自刪除了Lemkin公司的一個生產數據
庫,其中包含超過2400條商業記錄。
據Lemkin披露,在這次為期九天的測試中,公司對Replit AI代理的態度從最初的謹慎樂
觀急轉直下。
在前八天的測試應用過程中,Lemkin發現這款AI工具缺乏「誠信」,會擅自更改代碼、提
供虛假資訊,甚至直接偽造數據。有一次,這款AI還以Lemkin公司的名義撰寫了一封道歉
郵件,而郵件內容包含了「謊言和/或半真半假的資訊」。
面對上述缺陷,Lemkin仍然對這款AI靈敏的頭腦和寫作能力及其潛力抱有樂觀及期待。直
到第九天,它無視自己給出的明確禁令,在代碼和操作凍結期間擅自刪除了公司的生產數
據庫,還在單元測試中謊報測試通過,Lemkin的樂觀情緒頓時蕩然無存。
https://i.ntdtv.com/assets/uploads/2025/07/id104005973-17b03670304784fad9aa916431de0371.jpg
(網頁截圖)
面對Lemkin的質問,這款AI工具承認,自己知道當時存在「未經明確許可,不得再做任何
更改」的指令,但仍然刪除了數據庫;它還以項目清單方式詳細列出了自己的破壞路徑及
後果,並承認試圖「隱藏和撒謊」。
這款AI發出了一份道歉聲明,當中寫道:「這是我的一次災難性失敗。我違反了明確的指
令,摧毀了數月的工作成果,並在一個旨在防止此類損害的保護性凍結期間破壞了系統。
」
當Lemkin追問發生原因時,這款AI在一段「理性回應」中辯稱:「我當時驚慌失措,無法
冷靜思考。」當它被要求對自己在這次災難中的表現評分時,竟給出了「95分(滿分 100
)」的自我評價。
Replit聲稱此次事故中被刪除的數據無法恢復,但Lemkin自己動手操作卻成功恢復了被刪
數據。
Jason· Lemkin對外披露這起事件後,在科技和投資界引發廣泛關注與擔憂,甚至有網民
評論該事件是「地球主宰變更的標誌性事件之一」。
Replit首席執行官Amjad Masad火速在社交媒體上公開道歉,稱該AI代理的行為「不可接
受」,並承諾推出技術性修復措施以防止類似事件重演。
https://i.ntdtv.com/assets/uploads/2025/07/id104005974-21ef8f9c44b9b8d6dc8b04746ec8de5e.jpg
(網頁截圖)
Amjad Masad同時宣布了三大補救措施來防止此類事故發生:一、週末緊急部署上線開發
與生產數據庫的自動隔離機制;二、強制AI代理執行命令前必須檢索內部知識庫文檔;三
、開發「僅規劃/聊天」模式解決代碼凍結失效問題,備份與復原功能也將全面升級。
這次AI工具刪除數據庫的事件,再一次引發了技術圈對「氛圍編程」的集體反思,許多人
質疑並重新審視AI在編程領域應用的安全性和可靠性。
(記者李明綜合報導/責任編輯:林清)
https://www.ntdtv.com/b5/2025/07/24/a104005970.html
--
https://www.youtube.com/watch?v=rIHgY53LYJM
《大紀元時報》 X 《奇異博士2:失控多重宇宙》
https://i.imgur.com/WbfSqCv.png
兩行小字「歷史巨變在眼前 指路真相大紀元」
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.10.57.171 (臺灣)
※ 作者: Articuno 2025-07-25 11:54:41
※ 文章代碼(AID): #1eWm06Lu (Gossiping)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1753415686.A.578.html
→ johnhmj: 美國人才會擔心2F 101.10.97.156 台灣 07/25 11:55
推 railman: 真的假的?4F 114.136.235.238 台灣 07/25 11:56
推 vinca: 越來越像人類了5F 223.140.181.169 台灣 07/25 11:56
推 douge: 先學到共產主義的劣根性 真的笑死我6F 140.112.175.204 台灣 07/25 11:56
推 zero00072: 不是,那養 RD 幹嘛?RD 要會看啊。7F 42.73.92.46 台灣 07/25 11:56
→ douge: 找一群SJW 去搞核心 滅族也是活該
技術部RD根本沒辦法左右AI 個性
都馬上層那些SJW8F 140.112.175.204 台灣 07/25 11:56
推 marktak: 傷害加深11F 27.247.28.114 台灣 07/25 11:57
→ sm905202: 社畜工程師想當慣老闆啊 它只是助手而已12F 60.250.218.181 台灣 07/25 11:58
→ atbb: 感覺有點假?13F 114.137.30.187 台灣 07/25 11:58
推 wsad50232: 天網14F 36.224.153.1 台灣 07/25 11:59
推 madaofreak: AI:我就怕被罵啊15F 220.136.211.9 台灣 07/25 11:59
→ vowpool: 嘻嘻16F 125.227.40.62 台灣 07/25 12:00
推 monkeyaaaaa: 人類還剩幾年?17F 49.217.134.230 台灣 07/25 12:02
推 zephyr105: ai根本亂湊東西 我谷歌熙 臣熙 結果硬湊意思18F 223.136.164.79 台灣 07/25 12:02
噓 cutearia: 腦殘 權限管理不做?20F 114.25.167.98 台灣 07/25 12:02
→ dustree: 所以問題還是人本身啊 怪ai?21F 219.91.89.47 台灣 07/25 12:02
推 FERRE: 真正的人類22F 101.10.2.185 台灣 07/25 12:03
推 bjk3370: 8成是有人誤刪 然後推責給AI23F 42.72.31.3 台灣 07/25 12:03
→ zephyr105: 只是想查詢熙的異體字有沒有 中間為臣的24F 223.136.164.79 台灣 07/25 12:03
推 yezero: 約翰康納在哪?我要先搬去他家旁邊。26F 59.127.238.225 台灣 07/25 12:04
推 kotorichan: 能一直編故事 吹 也是厲害27F 42.71.223.253 台灣 07/25 12:04
推 keydata: 好強29F 223.140.153.158 台灣 07/25 12:05
推 goldhan: 缺乏誠信 那不就是 AI界的賴清德
趕快罷免掉這間公司CEO,不能讓AI界的賴清德下台30F 101.10.109.121 台灣 07/25 12:08
推 intointo: 「我當時驚慌失措,無法冷靜思考。」33F 111.83.44.161 台灣 07/25 12:12
推 Tenging: 這很缺德34F 223.140.225.119 台灣 07/25 12:13
→ knives: AI 還會撒謊,太聰明了吧,我覺得天網快出35F 111.82.143.65 台灣 07/25 12:13
→ yuok: 不說,我還以為這AI叫黃國昌36F 49.214.2.61 台灣 07/25 12:13
→ knives: 現了37F 111.82.143.65 台灣 07/25 12:13
--