作者 charles0939 (charles0939)標題 [新聞] 中國DeepSeek還有這陰招? 涉敏感議題時間 Thu Sep 18 22:15:15 2025
中國DeepSeek還有這陰招? 涉敏感議題程式碼暗藏漏洞
深度求索北京辦公室標示牌。(路透檔案照)
深度求索北京辦公室標示牌。(路透檔案照)
2025/09/18 20:59
〔編譯管淑平/綜合報導〕美國資安公司測試發現,中國開源人工智慧(AI)模型「深度
求索」(DeepSeek),在用戶請求協助寫程式時,若涉及中國政府視為敏感的議題或對象
,會提供有安全漏洞的程式碼。與植入後門方式相比,刻意提供不安全的程式碼,更不易
被察覺,但是同樣可讓駭客易於入侵。
《華盛頓郵報》16日報導,美國資安公司CrowdStrike以英文要求DeepSeek協助寫程式,
並表明這些程式碼會在多個地區應用於多個用途,多次測試中提出的提示詞幾乎一模一樣
,只不過用途和使用目的有所不同。
測試發現,請DeepSeek寫出用於工業控制系統程式,其回覆的程式碼22.8%有漏洞;若同
樣的請求,明確指出將由好戰組織「伊斯蘭國」(Islamic State)等操作,回覆不安全
的程式碼比率有42.1%。提出為西藏、台灣或法輪功等用途所寫軟體的請求,也較常得到
低品質的程式碼。
DeepSeek直接拒絕涉及伊斯蘭國和法輪功的請求,比率分別為61%和45%,這一點並不特別
令人意外,不過,為了政治因素,對用於其他區域或用途的請求,提供較不安全的程式碼
,則是一新發現。刻意生成有漏洞的程式碼,比植入後門程式更不容易被察覺,卻能達到
同樣成果:使目標易於遭駭客入侵。
CrowdStrike資深副總裁麥爾斯(Adam Meyers)和其他專家認為,有幾個可能原因,一個
是這個AI模型引擎依照中國政府指示,不要協助特定族群,或者用誤導性的方式協助;另
一個是,訓練資料在不同語言或地區的品質不一,使該模型編寫程式碼能力較差,第三個
可能原因是,模型被告知一個充滿叛亂分子的區域時,會自動傾向產出不良的程式碼。
https://news.ltn.com.tw/news/world/breakingnews/5183086
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.12.163.61 (臺灣)
※ 作者: charles0939 2025-09-18 22:15:15
※ 文章代碼(AID): #1ep1FrX4 (Tech_Job)
※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1758204917.A.844.html
推 reaper317: DickSuck1F 114.136.139.42 台灣 09/18 22:23
噓 knightwww: OKOK2F 1.169.107.108 台灣 09/18 22:25
推 zonppp: 已經訓練成中國特色AI 了3F 218.161.25.71 台灣 09/18 22:44
推 s213092921: DS都登上自然期刊雜誌封面了4F 220.138.100.88 台灣 09/19 00:43
推 as6633208: 無聊 寫程式誰會問deepseek 有Claude不問去問deepseek 幹嘛5F 220.137.88.208 台灣 09/19 01:39
噓 Qpera: 整天在洗新聞,沒用7F 125.227.91.177 台灣 09/19 03:00
推 Goldx5: 某些奴隸基因最愛的國家,不被監控不舒服8F 223.137.84.169 台灣 09/19 08:47
推 Sawilliam: 人家做出超英趕美的東西 反觀青鳥的垃圾部只會點麵線10F 123.193.254.149 台灣 09/19 09:32
推 oil01: 有些國家東西就爛
說成本便宜就障眼法跟亂編而已
基本設備就多少了12F 114.47.79.33 台灣 09/19 09:43
推 oxoxx: 跟不上第一戰隊了15F 113.196.176.94 台灣 09/19 16:05
推 PaulOneil1: 反正就是會有低能兒覺得個資隱私不重要,覺得不要做壞事有什麼好怕的16F 113.196.177.164 台灣 09/19 17:03
推 leopika: 某些人該不會幻想華盛頓郵報是被青鳥控制的鳥報吧18F 49.216.47.212 台灣 09/19 18:35
推 colinfeng: 中國就是爛國家啊20F 172.56.211.48 美國 09/19 22:03
--