看板 Gossiping作者 purplvampire (阿修雷)標題 [新聞] 研究人員展示AI的弱點:把烏龜辨識為槍枝時間 Mon Nov 6 20:02:02 2017
1.媒體來源:
iThome
2.完整新聞標題:
※ 標題沒有寫出來 ---> 依照板規刪除文章
研究人員展示AI的弱點:把烏龜辨識為槍枝
3.完整新聞內文:
※ 社論特稿都不能貼! 違者刪除(政治類水桶3個月),貼廣告也會被刪除喔!
https://imgur.com/0LASbiz
你會把上面圖片中的烏龜,誤認成來福槍嗎?應該不會吧,但Google釋出的InceptionV3
影像分類器,不管從那個角度,都認為這是一支來福槍
文/陳曉莉 | 2017-11-06發表
麻省理工學院(MIT)的AI實驗室LabSix上周發表一研究報告,以合成的3D對抗物件(
adversarial objects)來愚弄受過訓練的神經網路,顯示基於人工智慧的神經網路存有
弱點,把人類可輕易辨識的烏龜當成是槍枝。
在人們愈來愈信任人工智慧(AI)的當下,除了AI可能延襲人們的偏見而引發討論之外,
研究人員也發現AI仍有可遭受攻擊的安全漏洞。
研究人員說明,基於神經網路的分類器在許多任務上可達到近似人類的效能,也被應用在
高風險的實體系統上,不過,這些神經網路在遇見對抗物件時特別虛弱,當透過某些輸入
值來困擾它們時,就會造成神經網路在分類上的錯亂。
過去的對抗物件演算法並不成熟,物件可能轉個角度就能讓AI成功辨識,相關的攻擊行動
也只是理論上的。然而,LabSix採用了一個全新的演算去,可用來產生可靠的2D或3D的對
抗範例,它完全愚弄了Google的InceptionV3影像分類引擎,不管從哪個角度,
InceptionV3都會將烏龜辨識成槍枝,或是把棒球當成咖啡,就算是加入背景,
InceptionV3也會以為在水裡的烏龜是槍枝,而手套中的棒球是咖啡。
研究人員認為,若對抗物件被證實是個針對AI的可靠攻擊指標,那麼就應該發展防禦它的
能力。它可能被用來攻擊自動駕駛車,透過混淆的道路指標來愚弄AI系統,像是竄改道路
速限,或是精心打造一個可矇騙機場掃描系統的行李箱。
4.完整新聞連結 (或短網址):
https://www.ithome.com.tw/news/118052
5.備註:
說個笑話:人工智慧
--
推 obov: 雷姆教 雷姆教 雷姆幫你蕊懶叫08/22 00:40
--
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 220.132.107.225
※ 文章代碼(AID): #1Q04z51I (Gossiping)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1509969733.A.052.html
推 GalLe5566: 烏龜外掛~~~~~~~~~~啟動~~~~~~~~~~~~~~~~~~~~~~~~~~~~~3F 11/06 20:03
噓 jogan: 現在的AI都還不算AI吧10F 11/06 20:05
→ nk: 在推文時5樓是不特定人選11F 11/06 20:05
推 nk: 應該說目前AI只有某些面向,而且多數仰賴大數據14F 11/06 20:07
推 Apache: 看你覺得視覺算不算智慧囉16F 11/06 20:09
推 DarkerDuck: 視覺的模式辨識反而是非常難的AI課題,最近才有突破17F 11/06 20:12
推 hihjktw: 拍謝啦。拉鍊沒拉好。這麼長辨識錯誤情有可原19F 11/06 20:16
推 KirinP: AI發展起來會比原PO還聰明 技術奇異點20F 11/06 20:19
推 fuhu66: 看來我跨下有很大一支槍呢24F 11/06 20:37
推 silentence: 然後就被機器戰警打死了
幹 上面的麵包圖好噁爛XD25F 11/06 20:43
推 byline: 進步很快,明年搞不好就沒這些問題了27F 11/06 20:45
推 fauna: 這AI玩過瑪莉兄弟 知道烏龜可以當武器使用28F 11/06 20:49
推 jobsdone: ai表示人類竟然把槍看成烏龜29F 11/06 21:06
--