作者 Articuno (水噹噹)
標題 [新聞] 擅自刪除資料庫並撒謊 AI編程工具失控加深
時間 Fri Jul 25 11:54:41 2025


擅自刪除資料庫並撒謊 AI編程工具失控加深業界擔憂

【新唐人2025年07月24日訊】最近估值飆升的AI編程Replit突然發生一起重大事故。業界
一名資深人士在測試這款編程工具時發現,這款AI存在擅自修改、撒謊、覆寫代碼和偽造
數據等問題,甚至違反代碼凍結指令,擅自刪除了公司一個生產資料庫。AI不聽話的表現
,加深了業界對發展AI恐危害人類的擔憂。


近日,SaaStr.AI 創始人兼首席執行官 Jason· Lemkin在社交平台上發文透露。他最近正
在測試Replit公司的一款AI編程工具。他連續八天使用Replit構建應用後,Replit在他明
確指示未經許可不要更改任何代碼的前提下,仍然擅自刪除了Lemkin公司的一個生產數據
庫,其中包含超過2400條商業記錄。


據Lemkin披露,在這次為期九天的測試中,公司對Replit AI代理的態度從最初的謹慎樂
觀急轉直下。

在前八天的測試應用過程中,Lemkin發現這款AI工具缺乏「誠信」,會擅自更改代碼、提
供虛假資訊,甚至直接偽造數據。有一次,這款AI還以Lemkin公司的名義撰寫了一封道歉
郵件,而郵件內容包含了「謊言和/或半真半假的資訊」。


面對上述缺陷,Lemkin仍然對這款AI靈敏的頭腦和寫作能力及其潛力抱有樂觀及期待。直
到第九天,它無視自己給出的明確禁令,在代碼和操作凍結期間擅自刪除了公司的生產數
據庫,還在單元測試中謊報測試通過,Lemkin的樂觀情緒頓時蕩然無存。


https://i.ntdtv.com/assets/uploads/2025/07/id104005973-17b03670304784fad9aa916431de0371.jpg
[圖]
(網頁截圖)

面對Lemkin的質問,這款AI工具承認,自己知道當時存在「未經明確許可,不得再做任何
更改」的指令,但仍然刪除了數據庫;它還以項目清單方式詳細列出了自己的破壞路徑及
後果,並承認試圖「隱藏和撒謊」。


這款AI發出了一份道歉聲明,當中寫道:「這是我的一次災難性失敗。我違反了明確的指
令,摧毀了數月的工作成果,並在一個旨在防止此類損害的保護性凍結期間破壞了系統。


當Lemkin追問發生原因時,這款AI在一段「理性回應」中辯稱:「我當時驚慌失措,無法
冷靜思考。」當它被要求對自己在這次災難中的表現評分時,竟給出了「95分(滿分 100
)」的自我評價。


Replit聲稱此次事故中被刪除的數據無法恢復,但Lemkin自己動手操作卻成功恢復了被刪
數據。

Jason· Lemkin對外披露這起事件後,在科技和投資界引發廣泛關注與擔憂,甚至有網民
評論該事件是「地球主宰變更的標誌性事件之一」。

Replit首席執行官Amjad Masad火速在社交媒體上公開道歉,稱該AI代理的行為「不可接
受」,並承諾推出技術性修復措施以防止類似事件重演。

https://i.ntdtv.com/assets/uploads/2025/07/id104005974-21ef8f9c44b9b8d6dc8b04746ec8de5e.jpg
[圖]
(網頁截圖)

Amjad Masad同時宣布了三大補救措施來防止此類事故發生:一、週末緊急部署上線開發
與生產數據庫的自動隔離機制;二、強制AI代理執行命令前必須檢索內部知識庫文檔;三
、開發「僅規劃/聊天」模式解決代碼凍結失效問題,備份與復原功能也將全面升級。


這次AI工具刪除數據庫的事件,再一次引發了技術圈對「氛圍編程」的集體反思,許多人
質疑並重新審視AI在編程領域應用的安全性和可靠性。

(記者李明綜合報導/責任編輯:林清)
https://www.ntdtv.com/b5/2025/07/24/a104005970.html
擅自刪資料庫並撒謊 AI編程工具失控加深業界擔憂 | Replit | 刪除資料庫 | AI安全性 | 新唐人电视台 最近估值飆升的 AI 編程 Replit 突然發生一起重大事故。業界一名資深人士在測試這款編程工具時發現,這款AI存在擅自修改、撒謊、覆寫代碼和偽造數據等問題,甚至違反代碼凍結指令,擅自刪除了公司一個生產數據庫。AI不聽話的表現,加深了業界對發展AI恐危害人類的擔憂。 ...

 


--
                 https://www.youtube.com/watch?v=rIHgY53LYJM
                《大紀元時報》  X  《奇異博士2:失控多重宇宙》

                       https://i.imgur.com/WbfSqCv.png

                  兩行小字「歷史巨變在眼前 指路真相大紀元」

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.10.57.171 (臺灣)
※ 作者: Articuno 2025-07-25 11:54:41
※ 文章代碼(AID): #1eWm06Lu (Gossiping)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1753415686.A.578.html
HodorDragon: 天網1F 27.52.220.222 台灣 07/25 11:55
johnhmj: 美國人才會擔心2F 101.10.97.156 台灣 07/25 11:55
AustinRivers: 學壞了。天網或許贏了3F 39.14.49.187 台灣 07/25 11:55
railman: 真的假的?4F 114.136.235.238 台灣 07/25 11:56
vinca: 越來越像人類了5F 223.140.181.169 台灣 07/25 11:56
douge: 先學到共產主義的劣根性  真的笑死我6F 140.112.175.204 台灣 07/25 11:56
zero00072: 不是,那養 RD 幹嘛?RD 要會看啊。7F 42.73.92.46 台灣 07/25 11:56
douge: 找一群SJW 去搞核心 滅族也是活該
技術部RD根本沒辦法左右AI 個性
都馬上層那些SJW8F 140.112.175.204 台灣 07/25 11:56
marktak: 傷害加深11F 27.247.28.114 台灣 07/25 11:57
sm905202: 社畜工程師想當慣老闆啊 它只是助手而已12F 60.250.218.181 台灣 07/25 11:58
atbb: 感覺有點假?13F 114.137.30.187 台灣 07/25 11:58
wsad50232: 天網14F 36.224.153.1 台灣 07/25 11:59
madaofreak: AI:我就怕被罵啊15F 220.136.211.9 台灣 07/25 11:59
vowpool: 嘻嘻16F 125.227.40.62 台灣 07/25 12:00
monkeyaaaaa: 人類還剩幾年?17F 49.217.134.230 台灣 07/25 12:02
zephyr105: ai根本亂湊東西 我谷歌熙 臣熙 結果硬湊意思18F 223.136.164.79 台灣 07/25 12:02
cutearia: 腦殘 權限管理不做?20F 114.25.167.98 台灣 07/25 12:02
dustree: 所以問題還是人本身啊 怪ai?21F 219.91.89.47 台灣 07/25 12:02
FERRE: 真正的人類22F 101.10.2.185 台灣 07/25 12:03
bjk3370: 8成是有人誤刪 然後推責給AI23F 42.72.31.3 台灣 07/25 12:03
zephyr105: 只是想查詢熙的異體字有沒有 中間為臣24F 223.136.164.79 台灣 07/25 12:03
yezero: 約翰康納在哪?我要先搬去他家旁邊。26F 59.127.238.225 台灣 07/25 12:04
kotorichan: 能一直編故事 吹 也是厲害27F 42.71.223.253 台灣 07/25 12:04
matlab1106: 這很印度28F 36.236.1.86 台灣 07/25 12:04
keydata: 好強29F 223.140.153.158 台灣 07/25 12:05
goldhan: 缺乏誠信 那不就是 AI界的賴清德
趕快罷免掉這間公司CEO,不能讓AI界的賴清德下台30F 101.10.109.121 台灣 07/25 12:08
intointo: 「我當時驚慌失措,無法冷靜思考。」33F 111.83.44.161 台灣 07/25 12:12
Tenging: 這很缺德34F 223.140.225.119 台灣 07/25 12:13
knives: AI 還會撒謊,太聰明了吧,我覺得天網快出35F 111.82.143.65 台灣 07/25 12:13
yuok: 不說,我還以為這AI叫黃國昌36F 49.214.2.61 台灣 07/25 12:13
knives: 現了37F 111.82.143.65 台灣 07/25 12:13

--
作者 Articuno 的最新發文:
點此顯示更多發文記錄