作者 stpiknow (H)
標題 [新聞] 量子運算能夠協助未來AI系統的安全性,
時間 Thu Jun  1 11:53:50 2023


量子運算能夠協助未來AI系統的安全性,讓AI演算法運用在更多方面

https://bit.ly/3INnd4T

 

AI演算法正迅速成為日常生活的一部分。許多需要強大安全性的系統已經或即將得到機器
學習的支持。這些系統包括臉部辨識、銀行業務、軍事目標應用、機器人和自動駕駛汽車
等等。如今科學家發現,未免這些系統受到駭客攻擊,量子運算將扮演關鍵性角色。


其實,機器學習演算法對於許多任務來說都非常準確和有效。它們對於分類和辨識影像特
徵特別有用。但是,它們也極易受到數據操縱攻擊,這可能會帶來嚴重的安全風險。

數據操縱攻擊(Data manipulation attacks)是AI演算法會遇到的攻擊之一。數據操縱
攻擊涉及對影像數據的非常微妙的操縱,且可以通過多種方式發起攻擊。其可以通過將損
壞的數據混合到用於訓練演算法的訓練數據集中來發起攻擊,從而導致它學習不應該學習
的東西。例如:如果自動駕駛汽車使用的機器學習演算法遭到破壞,它可能會在實際上是
有人行走的路上,錯誤地預測路上沒有人,進而造成嚴重傷害。


墨爾本大學在 Nature Machine Intelligence上發表的文章表示,將量子運算與機器學習
相結合,如何產生稱為量子機器學習模型(quantum machine learning models)的安全
演算法。


量子運算遵循量子物理學中使用的原理。量子電腦中的資訊以量子位元(qubits)的形式
儲存和處理,亦可以同時以0、1(傳統電腦模式)或兩者的組合形式存在。一個同時存在
於多個狀態的量子系統被稱為處於疊加狀態。量子電腦可用於設計利用此屬性的巧妙演算
法強化安全性。


而這一方式也是雙面刃。一方面,量子機器學習模型將為許多敏感應用程式提供關鍵的安
全性。另一方面,量子電腦可用於產生強大的對抗性攻擊,甚至能夠輕鬆欺騙最先進的傳
統機器學習模型。


目前的證據表明,由於當前一代量子處理器的局限性,使得人們距離量子機器學習成為現
實還有幾年的時間。今天的量子電腦相對較小(少於500個量子位元)並且它們的錯誤率
很高。儘管如此,在過去幾年中,隨著量子硬體和軟體取得了巨大進步,可能會改變這樣
的情況。如今根據許多公司的量子硬體藍圖,預計未來幾年將可製造出具有數百至數千個
量子位元的量子電腦,這對於AI演算法的安全性將提高了非常之高。只不過在未達成這一
目標之前,全球仍要審慎看待AI演算法運用於許多系統,才能夠防止系統崩潰的情況。


--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 203.145.192.245 (臺灣)
※ 作者: stpiknow 2023-06-01 11:53:50
※ 文章代碼(AID): #1aU1PGWo (Tech_Job)
※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1685591632.A.832.html
yunf: 那不就是在打臉現在的安全性
況且另外一點就是AI失控時怎麼停下來?
如果安全性沒有漏洞可以被阻止
講了一堆不過就是包裝了一個議題給菜雞看1F 06/01 16:52
acgotaku: 量子運算是現在二位元運算的等比級數的效率
現階段所有的加密法 都是幾毫秒就能暴力解開的5F 06/01 17:01
m8403051: 理論上的量子運算也只是目前二元運算數量級的強化別以為會有天與地的不同7F 06/01 17:36

--
作者 stpiknow 的最新發文:
點此顯示更多發文記錄