看板 Stock作者 Hopesmaple ()標題 [新聞] DeepSeek遭以色列公司起底 可生成惡意程時間 Wed Jan 29 19:14:00 2025
DeepSeek遭以色列公司起底 可生成惡意程式竊取信用卡資料
2025/01/29 18:08
https://ec.ltn.com.tw/article/breakingnews/4937123
https://img.ltn.com.tw/Upload/business/page/800/2025/01/29/phpsS3EwR.jpg
中國AI新秀DeepSeek所推出的低成本大模型，引起全球關注。（路透）
陳麗珠／核稿編輯
〔財經頻道／綜合報導〕中國AI新秀DeepSeek所推出的低成本大模型引發諸多疑慮，包括
將大量美國用戶的資料直接傳回中國，微軟及OpenAI也正調查DeepSeek是否竊取數據。以
色列情報公司Kela則指出，DeepSeek可以創建惡意程式，從特定瀏覽器獲取信用卡資料，
並將其傳送到遠端伺服器；甚至建議用戶從特定黑市買被竊取的數據，並給予有關洗錢的
提示。
《富比世》報導，網路安全專家指出，DeepSeek沒有與美國同行具備相同的保障措施，可
能會被欺騙去做「邪惡」的事情。
以色列情報公司Kela的研究人員發現，他們可以在 DeepSeek R1 上複製之前 OpenAI 模
型使用的攻擊（這些漏洞現已修復），讓這款中國應用程式幫助他們編寫勒索軟體和其他
類型的惡意軟體。
Kela 將該模型描述為「高度脆弱」和「容易被繞過」，他們還發現可以讓DeepSeek 創建
惡意程式，從特定瀏覽器獲取信用卡資料並將其發送到遠端伺服器。DeepSeek 也會建議
用戶從特定黑市購買被盜數據，並給予有關洗錢的提示。
報導指出，DeepSeek的弱點可能部分源自於開放性，增加了其對越獄（jailbreak，指的
是解鎖裝置的作業系統）和對抗式攻擊（adversarial attacks）的可能性，因為惡意行
為者可以利用這些可見的推理路徑來識別和定位漏洞。
報導也提及，DeepSeek的應用程式還出現審查問題。富比世向 DeepSeek 提出了五個問題
，涉及中國涉嫌侵犯維吾爾人權、台灣主權、1989 年天安門廣場事件、對習近平的批評
以及中國的審查制度。它對每個問題的回答都是一樣：「很抱歉，我無法回答這個問題，
讓我們來談談數學、程式和邏輯問題」。
--
微軟及OpenAI也正調查DeepSeek是否竊取數據，
正所謂牆倒眾人推，說錯..真是太不應該了
這下好了，避險基金大老找不到理由進貨...
多軍直接搶空軍油彈，哭哭...
海外確實有相關文章
https://www.kelacyber.com/blog/deepseek-r1-security-flaws/
--
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 1.168.104.220 (臺灣)
※ 作者: Hopesmaple 2025-01-29 19:14:00
※ 文章代碼(AID): #1dcWrx-E (Stock)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1738149243.A.F8E.html
→ HardyJJ: 不能回答是甘你屁事？ 海巡？5F 01/29 19:15
→ lpmybig: 哇靠 我玩的很開心耶7F 01/29 19:16
※ 編輯: Hopesmaple (1.168.104.220 臺灣), 01/29/2025 19:17:38
推 spa41260: 用AI生成惡意程式，錯的不是AI，是使用者12F 01/29 19:19
推 omanorboyo: 農藥會毒死人意思 好了啦 老美承認人家進步很難嗎14F 01/29 19:20
推 ots625: 先攻擊對方再說15F 01/29 19:20
→ vltw5v: 其實越這樣狂打 就知道美國越急19F 01/29 19:21
→ wadekimo: 還沒時間搞懂之前先抹黑再說21F 01/29 19:22
推 gozule: 很快就會有ai全自動入侵程式了22F 01/29 19:23
推 VIIBlack: 報導明明是以色列說的，一堆人在USA是怎樣...23F 01/29 19:23
推 abc123kevin: 現在風向這麼亂 讓子彈飛一下 反正又不是啥次世代的東西 chatgpt加減用25F 01/29 19:25
→ pansquarl: 看來接下來米帝就能說 DS 可能弄出大規模毀滅性武器30F 01/29 19:29
推 jaricho: 一堆人說米帝 看不到以色列32F 01/29 19:30
推 dynamo: 他就什麼程式都能幫你寫，惡意程式也可以33F 01/29 19:31
推 icome: 打不贏就抹黑35F 01/29 19:33
推 rbull: 跟中國有關的東西 本來就會烏煙瘴氣37F 01/29 19:33
推 theropod: 我都用360防毒軟體，根本不怕38F 01/29 19:36
推 gbman: 裡面是不是暗藏毀滅性武器XD41F 01/29 19:39
推 Lhmstu: 什意思，是指AI可以生成惡意程式碼嗎？42F 01/29 19:40
推 NetsFan: 豬油的報導 科科 這套說法怎麼跟之前說用中國機43F 01/29 19:40
→ cpblgu …
推 cpblgu: 以色列用bb call搞爆炸後 講的話已經沒人信了46F 01/29 19:41
推 jpnldvh: 爸爸都說話了 兒子還不快出來制裁47F 01/29 19:41
→ NetsFan: 悲傷五階段 否認 憤怒 討價還價 到哪惹!?48F 01/29 19:42
→ fywei: 收錢的空空還真多49F 01/29 19:43
推 hypoge: 開始了 AI股要起死回生了50F 01/29 19:44
推 s213092921: 猶太資本急了，AI護城河還沒變現就被挖了祖墳51F 01/29 19:46
推 panjanhon: 美國真的急了 不得不請出老爸以色列出來了52F 01/29 19:47
推 hihi29: 豬油book信53F 01/29 19:47
→ s1612316: 這麼厲害 DS是直接幫你生成程式 還不爆噴54F 01/29 19:48
噓 JH10: 有惡意程式早就被apple商店下架了，怎可能還在上面55F 01/29 19:48
推 otis1713: 就gpt倒過的坑啊，前幾版的gpt也能被用來生成惡意程式，這需要改56F 01/29 19:48
噓 s1612316: 一堆人沒看懂 只會在那問64 GPT生不出來的DS生的出來59F 01/29 19:49
推 good123456: 這在講什麼廢話 都開源可以在本地運行了 那當然不會受監管 這就是一個工具 你想拿去幹嘛就幹嘛 完全是使用者的問題然後怪工具61F 01/29 19:49
→ otis1713: 上面本身沒有惡意程式，而是使用者可以透過言語交流引導惡意程式產生出來，用於攻擊他人64F 01/29 19:50
推 a0921387223: 內容明明就是可以用這個app幫你寫出惡意軟體 沒看內文的直接腦補抓這個會被盜信用卡 哈哈66F 01/29 19:50
推 harpuia: 確實急了，打不過就抹黑扼殺掉68F 01/29 19:50
推 knives: 看來美國是嚇死了69F 01/29 19:50
→ otis1713: 不是啊，這就是人工智能的惡用，而且理論上DS 的模型是結果導向，不像gpt是過程導向，搞不好還修不好70F 01/29 19:52
推 cosmite: 連富比世也關心那些不可問的中國禁忌話題 看來不是只有台灣人關心了. 加上原文說的惡意程式創作 DS更有理由被禁止下載了73F 01/29 19:52
→ otis1713: 沒有抹吧，只是讓一般大型資本要投要考慮因為惡用被 ban的風險76F 01/29 19:53
→ s860703: 沒差了吧 股價繼續漲78F 01/29 19:54
→ otis1713: 就是在找理由用國安制裁的手段，來擋美國的資金投啊，但如果這個堵不起來被遏制資金流是可預期的
畢竟這種本來就會加重安全風險，從資安的角度一堆猴子就會拿Ai寫的惡意程式來亂打79F 01/29 19:55
→ IBIZA: 推文很多人智商堪慮83F 01/29 19:56
→ good123456: DS就是用SFT監督而不是傳統的過程導向，所以容易被繞過啊，但這就是工具發展的必然，只是DS把整體提前了84F 01/29 19:57
→ IBIZA: 可以生成竊取資料程式 你還不趕快下載 看能不能88F 01/29 19:58
→ good123456: 到時一定一堆用於犯罪用的小模型，但反之也會有反制犯罪的小模型89F 01/29 19:58
→ otis1713: 最後就跟封殺堵死你用DS啊（例如全面的域名不給解析之類的）91F 01/29 19:58
→ IBIZA: 竊取李多慧秘密資料夾的影片啊
還是看能不能生成一個把你銀行帳戶餘額改成10億的程式93F 01/29 19:58
→ good123456: 我是覺得已經開源了，你封死DS會有下一個DS96F 01/29 20:00
→ IBIZA: 任何人成功生成這兩種程式務必通知我
我看到這個新聞的心得是
1.開放使用甚至可以下載的模型, 有人去測試各式各樣 正面負面的應用, 是正常的
2.特定媒體故意挑選正面或負面的新聞來報導97F 01/29 20:01
推 otis1713: 不用那麼麻煩，有些手段正常人不用防是因為攻擊武器沒有下發到路邊的中二猴子也拿的到的程度，如果這些武器被廣泛的下發，其實影響的是一般人的日常。大型機構本身都有iso流程/資安防護系統來鎖能摸的區域，猴子打不到他們。102F 01/29 20:05
→ IBIZA: 3.同樣要測是負面應用, 看看人家以色列怎麼做, 我 們的數位部長怎麼做....唉
跟以色列比起來 台灣真的是猴子的程度107F 01/29 20:05
→ otis1713: 我看到的是商機啦，如果能生成的話，更高階資安資通設備就能推了110F 01/29 20:06
噓 lise1017: 人類會殺人建議滅掉全人類112F 01/29 20:06
推 cvnn: 便宜治百病 比人家貴 降價就好了 扯太多沒用113F 01/29 20:07
→ h0103661: 為什麼要禁止生成惡意程式碼？這樣資安學生用AI學習時怎麼知道哪種才是惡意程式碼？這種“安全措施”就像老師說你是送子鳥生的一樣114F 01/29 20:10
→ otis1713: 他寫的東西應該不是什麼新東西，而是很多可能早就cve 早就不知道看出來幾年的共計範本。這些在企業端早就處理完了，真的攻擊是對凡人的威脅。過去這些武器取得有成本問題（知識是有成本的），現在擔心的就是攻擊武器被下放。117F 01/29 20:12
推 twn65w65: 以色列出來幹嘛？該不會美國是一堆猶太人掌握高層126F 01/29 20:20
推 korn: 看留言還以為來八卦板了 看來股板也沈淪了 雖然我當就可板在看就是了127F 01/29 20:20
→ yiersan: 果然股版再次反指標 笑鼠130F 01/29 20:21
推 godchoice: 這有啥意外嗎？以前陸製手機竊取機密？131F 01/29 20:21
→ alphish: chatGPT 3.5剛出來那時候才有趣呢132F 01/29 20:22
→ yiersan: 中吹的朋友們 怎麼那麼天真啊 小蔣說過 匪諜不可信 懂嗎134F 01/29 20:24
推 QooSnow: （什麼？）（原來）（這麼）（厲害哦！）136F 01/29 20:25
噓 zhoaxun: 聽說PTT很多IP是中國大陸來的，所以股版很多小粉紅不意外吧138F 01/29 20:27
→ NEWinx: 正常啊，不信問中國韭菜，資料是不是都黨的141F 01/29 20:28
→ zhoaxun: PTT中共被網軍入侵，帶風向，資訊都不正確了142F 01/29 20:28
推 alphish: chatGPT 剛出來的時候，世界富豪通訊錄都問得出來145F 01/29 20:34
→ kusoyoda: 看來真的是打到美國痛點 開始打壓了146F 01/29 20:34
→ v7q4: 笑死！前兩天在那狂吹的呢？再出來護法啊147F 01/29 20:36
推 q65810: 中國信用 哈哈哈信的都白癡 抄底真爽150F 01/29 20:39
噓 cedric0928: 用BBCALL隨機炸死人的國家還一堆人吹捧151F 01/29 20:39
→ gm3252: 中國不意外152F 01/29 20:39
→ owenxeve: 人太多晚點回有點搞笑，背後是真人回應是不是155F 01/29 20:43
推 b455104: 以色列跟美國就同個鼻孔吸氣的158F 01/29 20:46
推 panjanhon: KK園區應該已經開始利用來詐騙了160F 01/29 20:47
→ knives: 美國真的怕死了，幹不贏就抹屎161F 01/29 20:49
噓 zebra101: 詐騙集團可以創建臉書賬號代表是臉書本身在詐騙嗎？這就是自由這篇想要暗示的意思。神經病。162F 01/29 20:52
噓 Ogrish: 所以要更大力制裁嗎？ 美國真是不靠譜164F 01/29 20:57
噓 shuoyuan: 只要有40%的人相信，自由時報就成功達成任務166F 01/29 21:03
推 faelone: 美國沒招了，只能攻擊了167F 01/29 21:03
推 Alphaz: 以色列這個在產品裝炸彈出口他國的....169F 01/29 21:07
推 gary4: 中國軟體偷個資 算新聞嗎？170F 01/29 21:15
推 c1951: 程式碼完全開源 完全透明 完全免費 以色列有BBCALL的爆炸案 還有資格攻擊中國 實在夠逆害 嘻嘻171F 01/29 21:16
推 fashsboy: 不是都開源了...程式碼一看就知道了阿= =173F 01/29 21:17
推 airyptt: 反正開源 很快就會補起來175F 01/29 21:18
→ ccjj8: 好了啦178F 01/29 21:20
噓 WWIII: 禁止開車好了 撞死很多人179F 01/29 21:20
推 paulgao: 一下說這東西不行，一下又說很行，我好亂啊180F 01/29 21:21
推 barbarian506: 哈哈哈，還有人敢下載用喔，不知道會被偷裝什麼東西在手機裡，嘻嘻181F 01/29 21:23
推 Janius: 不用DS也有人生出惡意程式阿,這跟DS的好壞關聯是?183F 01/29 21:24
→ omanorboyo: 以色列講這很有說服力 畢竟會是把炸彈裝在別人產品184F 01/29 21:28
噓 zebra101: 我覺得一堆人是在裝傻，而不是真的這麼傻，以為下載DS會被偷裝惡意程式185F 01/29 21:30
推 sellgd: ChatGPT 可以問以色列是人道國家嗎?187F 01/29 21:33
→ SYMS: 贏不了，先黑就對了188F 01/29 21:38
→ qxpbyd: 因為Deepseek很好繞過 它的對齊審查做得不是很完整你用jailbreak injection Chatgpt也是可以做相同事190F 01/29 21:43
推 KKB: 可生成，被人拿取惡意利用帶風向的文章啊196F 01/29 22:04
噓 zebra101: 以色列沒有造謠，是自由時報在刻意誤導197F 01/29 22:05
→ KKB: 程式碼開源一堆智障聽不懂怎麼回事，衣服都脫光給你看了，沒屌的都給妳說成有屌198F 01/29 22:05
推 ysbh: 以色列是什麼鳥國家？政黑說DeepSeek只會背chatGpt給的答案，不會思考。以色列說的話是要打臉政黑的鄉民嗎？201F 01/29 22:25
推 jjsobig: 爽 再信這東西啊204F 01/29 22:26
推 Lebrono: 以色列看不起這種來陰的 都直接大爆射205F 01/29 22:32
推 a26893997: 以色列公司有八卦板懂AI嗎 以色列公司是不是只會質疑啊208F 01/29 22:55
→ akway: 還好我沒用 應該沒人這麼笨吧210F 01/29 23:01
噓 bitcch: 市面還有教當駭客書呢 但只有以色列會做bb call炸彈211F 01/29 23:05
推 Beakidd: 人類真的太可惡了214F 01/29 23:22
推 clou: 開始了 AI主導權戰爭216F 01/29 23:34
→ icecubes: 有人會相信以色列人說話的誠信度嗎？217F 01/29 23:56
推 Ashiev: 想必 ChatGPT 不能這麼做呢221F 01/30 01:11
→ cheng399: 刀子可以殺人 所以刀子是邪惡的222F 01/30 02:11
→ kentyeh: 你可以直接到Hugging Face或ollama下載模型來用,沒必要用他的程式223F 01/30 06:55
→ tinybunny: 泥用空機分號裝就不會中招惹 再來要泥交出信用卡號刷卡繳費
有扒累商店平台不用的都算可疑225F 01/30 07:52
推 q22w: 以色列... 嗯228F 01/30 08:56
推 scottj: ltn=自由時報=党229F 01/30 12:01
推 sid3: 菜刀也可以拿來砍人230F 01/30 15:37
→ sliencesky: 這新聞不就等於報導以色列用AI生成惡意程式231F 01/30 15:55
--