看板 Stock作者 Kai877 (金炆炡的狗)標題 [新聞] DeepSeek破解率100%!R1上市2天就被破解時間 Thu Mar 6 12:45:27 2025
DeepSeek破解率100%!R1上市2天就被破解 專家曝衍生效應
https://reurl.cc/Q50XLq
2025/03/06 12:37:27
聯合報 編譯盧思綸
中國人工智慧(AI)新創「深度求索」(DeepSeek)以低成本、高性能的模型震撼矽谷乃至
國際社會。不過,全球網路安全巨頭思科(Cisco Systems)執行副總裁巴特爾(Jeetu Pat
el)透露,DeepSeek的R1模型上市不到48小時便被破解,攻擊成功率達100%,造成「DeepSe
ek效應」(DeepSeek effect),也就是AI模型成本下降後數量激增,顯著加劇該領域的安
全風險。
巴特爾(Jeetu Patel)告訴日經亞洲,當模型數量較少時,面對的挑戰相對較小,但隨著
模型數量激增,這些挑戰將變得更加複雜,「因此,需要確保所有模型都內建安全防護標準
」。
巴特爾表示,思科團隊在DeepSeek推出R1模型僅48小時內便成功「越獄」,破解原先設定的
操作規範和限制。
此外思科評估報告顯示,攻擊R1的成功率為100%,也就是說,它無法阻擋任何有害提示(pr
ompt)。提示是指請求生成式AI執行特定任務的自然語言文字。相形之下,OpenAI的AI模型
被攻擊成功率為26%。
巴特爾談到,AI模型部署將遭遇許多「瓶頸」限制。他說:「我們的效能、網路連結、連接
性都是瓶頸。安全也會是限制。計算、數據都會是限制。」
心得:
看來成本降低的同時,安全風險也提高很多
大家要買還是會買沒有安全疑慮的
輝達還是利多,準備上看200~
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 39.12.72.111 (臺灣)
※ 作者: Kai877 2025-03-06 12:45:27
※ 文章代碼(AID): #1doIXfAa (Stock)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1741236329.A.2A4.html
※ 同主題文章:
[新聞] DeepSeek破解率100%!R1上市2天就被破解 專家曝衍生效應
03-06 12:45 Kai877
推 THEBUG: Open source 要破解什麼?不太懂1F 03/06 12:47
→ love80: 台灣天才大臣早就提早破解,贏了不知道幾次了2F 03/06 12:47
推 a89182a89182: 破解 LLM意義在哪 他就開源了 害怕你知道背景內容?就騙自己而已啊3F 03/06 12:47
推 liu02112: 載下來隨便你玩 還管什麼破不破解的?6F 03/06 12:48
→ saisai34: 破解應該是指類似關鍵詞被鎖吧 比如8964之類的@@a12F 03/06 12:50
推 c928: 一個複製貼上的不用安全13F 03/06 12:51
→ kimula01: 對岸現在都在宣傳把各手機導入DS教學14F 03/06 12:51
推 kadolong: it大臣第一天就破解了 讓AI說話565616F 03/06 12:51
推 freshman: 為什麼不是比做強一點便宜一點的模型 比這幹嘛?17F 03/06 12:52
→ kimula01: 有幾億人免費的幫忙大量訓練18F 03/06 12:53
推 Lhmstu: 那不是很好19F 03/06 12:54
→ DDDDRR: 唐風早就破解了 這什麼野雞公司20F 03/06 12:56
推 shiki1988: 怎有人天真到認為標個開源就是100% 難怪詐騙橫行21F 03/06 12:56
推 sheng76314: 沒100% 但是看過代瑪 沒有什麼問題
就問你CloseAI可以在家裡部屬嗎23F 03/06 12:58
→ love80: 好了,別吵了,台灣最早破解26F 03/06 13:00
→ yesonline: AI自我審查機制啦. 繞過去就能得到壞壞的資訊28F 03/06 13:00
推 ilw4e: 這篇說的破解等同把censor牆去掉吧,不是最討厭阿共關鍵字屏蔽嗎,意思就是隨便都可以繞過去31F 03/06 13:02
推 Fezico: Cisco自己先振作好不,這風頭上還喝不到湯33F 03/06 13:03
→ bulabowu: 網路安全公司就是要販賣恐懼 不然誰要買它們產品35F 03/06 13:04
推 ilw4e: 八成測試就是問模型怎麼犯罪怎麼做炸彈這類的,然後發現可以用技巧繞過屏蔽得到答案36F 03/06 13:05
推 jei01: 有安全限制的AI不是真AI38F 03/06 13:09
→ potionx: 第一個官宣棄用ds的中國公司說成本很難那麼低42F 03/06 13:13
→ Lowpapa: DS真的幹爆CloseAI了 好強46F 03/06 13:19
推 AGODC: 天網來迎聖臨!47F 03/06 13:20
推 Swave: 內文寫得很清楚了,就是可以拿來做壞事48F 03/06 13:22
→ BIGETC: 可以本地機器出色情文章和圖片了嗎49F 03/06 13:22
→ yesonline: 潞晨科技退出跟SiliconFlow有關.後者搶客戶雙方互槓,還有抄襲以及後面融資等問題.太多原因了.51F 03/06 13:26
推 aneshsiao: ds本地部署跑起來一樣要大量算力,但是功能比較強53F 03/06 13:30
推 FlyBird: training 出來的東西要破解三小,早就超過人類認知的維度了55F 03/06 13:35
噓 tenshou: 靠盃開源有啥破解問題啦58F 03/06 13:38
推 snaketsai: 一堆不看內文的,簡單說就是拆掉它的防護機制59F 03/06 13:39
→ yoyun10121: 就一堆只會跟風酸的連開源是在開什麼都不知道62F 03/06 13:55
推 a89182a89182: 拆掉防護機制問題在哪 ?
這根本不是DS賣點阿 然後再來酸別人不懂 我就很好奇你們是又有多麼專業了63F 03/06 13:56
推 snaketsai: 憑我上班在寫training script67F 03/06 14:02
→ CYL009: ???看不懂啊 破解然後能幹嘛?68F 03/06 14:03
→ CYL009: 設在本地端變成在地版本有什麼問題???70F 03/06 14:03
推 applesck: 破解這個東西根本一點意義都沒有71F 03/06 14:11
推 chou3321: 破解之後可以色色了嗎>///<74F 03/06 14:31
推 HisVol: 很容易破解限制,不就代表沒有文字獄75F 03/06 14:42
→ guanaco: 不是本來就open?76F 03/06 14:45
推 tpegioe: 就是文字獄和內建牆被繞過罷了77F 03/06 14:46
推 jerrylin: 他的破解又不是程式碼的部分www
內文到底會不會看啊78F 03/06 14:48
推 a28200266: 這是好事阿 模型大家用(X
破解原本限制 不受習大大限制 大太好了80F 03/06 14:49
推 jiansu: 中國的模型 不要期待像歐美那種安全審核 DeepSeek 開源後更是讓你隨便玩 之前有人問如何賺大錢 他給你的幾乎都犯法 但這個就事實XD 沒有歐美價值 沒有道德觀 中國價值也可以捨棄 就訓練什麼給甚麼83F 03/06 15:28
--