作者 charles0939 (charles0939)
標題 [新聞] 中國DeepSeek還有這陰招? 涉敏感議題
時間 Thu Sep 18 22:15:15 2025


中國DeepSeek還有這陰招? 涉敏感議題程式碼暗藏漏洞

深度求索北京辦公室標示牌。(路透檔案照)
深度求索北京辦公室標示牌。(路透檔案照)

2025/09/18 20:59
〔編譯管淑平/綜合報導〕美國資安公司測試發現,中國開源人工智慧(AI)模型「深度
求索」(DeepSeek),在用戶請求協助寫程式時,若涉及中國政府視為敏感的議題或對象
,會提供有安全漏洞的程式碼。與植入後門方式相比,刻意提供不安全的程式碼,更不易
被察覺,但是同樣可讓駭客易於入侵。


《華盛頓郵報》16日報導,美國資安公司CrowdStrike以英文要求DeepSeek協助寫程式,
並表明這些程式碼會在多個地區應用於多個用途,多次測試中提出的提示詞幾乎一模一樣
,只不過用途和使用目的有所不同。


測試發現,請DeepSeek寫出用於工業控制系統程式,其回覆的程式碼22.8%有漏洞;若同
樣的請求,明確指出將由好戰組織「伊斯蘭國」(Islamic State)等操作,回覆不安全
的程式碼比率有42.1%。提出為西藏、台灣或法輪功等用途所寫軟體的請求,也較常得到
低品質的程式碼。


DeepSeek直接拒絕涉及伊斯蘭國和法輪功的請求,比率分別為61%和45%,這一點並不特別
令人意外,不過,為了政治因素,對用於其他區域或用途的請求,提供較不安全的程式碼
,則是一新發現。刻意生成有漏洞的程式碼,比植入後門程式更不容易被察覺,卻能達到
同樣成果:使目標易於遭駭客入侵。


CrowdStrike資深副總裁麥爾斯(Adam Meyers)和其他專家認為,有幾個可能原因,一個
是這個AI模型引擎依照中國政府指示,不要協助特定族群,或者用誤導性的方式協助;另
一個是,訓練資料在不同語言或地區的品質不一,使該模型編寫程式碼能力較差,第三個
可能原因是,模型被告知一個充滿叛亂分子的區域時,會自動傾向產出不良的程式碼。


https://news.ltn.com.tw/news/world/breakingnews/5183086
中國DeepSeek還有這陰招? 涉敏感議題程式碼暗藏漏洞 - 國際 - 自由時報電子報
[圖]
美國資安公司測試發現,中國開源人工智慧(AI)模型「深度求索」(DeepSeek),在用戶請求協助寫程式時,若涉及中國政府視為敏感的議題或對象,會提供有安全漏洞的程式碼。與植入後門方式相比,刻意提供不安全的程式碼,更不易被察覺,但是同樣可讓駭客易於入侵。《華盛頓郵報》16日報導,美國資安公司Crow ...

 

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.12.163.61 (臺灣)
※ 作者: charles0939 2025-09-18 22:15:15
※ 文章代碼(AID): #1ep1FrX4 (Tech_Job)
※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1758204917.A.844.html
reaper317: DickSuck1F 114.136.139.42 台灣 09/18 22:23
knightwww: OKOK2F 1.169.107.108 台灣 09/18 22:25
zonppp: 已經訓練成中國特色AI 了3F 218.161.25.71 台灣 09/18 22:44
s213092921: DS都登上自然期刊雜誌封面了4F 220.138.100.88 台灣 09/19 00:43
as6633208: 無聊 寫程式誰會問deepseek 有Claude不問去問deepseek 幹嘛5F 220.137.88.208 台灣 09/19 01:39
Qpera: 整天在洗新聞,沒用7F 125.227.91.177 台灣 09/19 03:00
Goldx5: 某些奴隸基因最愛的國家,不被監控不舒服8F 223.137.84.169 台灣 09/19 08:47
s213092921: http://i.imgur.com/4SrDK5W.jpg9F 223.139.243.19 台灣 09/19 09:15
[圖]
Sawilliam: 人家做出超英趕美的東西 反觀青鳥的垃圾部只會點麵線10F 123.193.254.149 台灣 09/19 09:32
oil01: 有些國家東西就爛
說成本便宜就障眼法跟亂編而已
基本設備就多少了12F 114.47.79.33 台灣 09/19 09:43
oxoxx: 跟不上第一戰隊了15F 113.196.176.94 台灣 09/19 16:05
PaulOneil1: 反正就是會有低能兒覺得個資隱私不重要,覺得不要做壞事有什麼好怕的16F 113.196.177.164 台灣 09/19 17:03
leopika: 某些人該不會幻想華盛頓郵報是被青鳥控制的鳥報吧18F 49.216.47.212 台灣 09/19 18:35
colinfeng: 中國就是爛國家啊20F 172.56.211.48 美國 09/19 22:03

--
作者 charles0939 的最新發文:
點此顯示更多發文記錄