回上層
Disp BBS
看板 Gossiping
作者 bitcch (必可取)
標題 [新聞] 特斯拉CEO：人工智慧將召喚出惡魔
時間 Fri Oct 31 03:20:09 2014

特斯拉CEO：人工智慧將召喚出惡魔

電影機械公敵（I, Robot）當中，中央控制系統VIKI以人類正在危害己身安全的判斷，控
制了NS-5機器人來執行「人類保護計畫」的情節，或許你還記憶猶新。影片中企圖控制世
界的VIKI正是一款人工智慧系統。為了不在現實中重演這樣的情節，特斯拉的CEO Elon M
usk再一次發出警告表示「人工智慧將會召喚出惡魔！」


對於人工智慧，近期科技界的相關研究方興未艾。然而Elon Musk繼先前曾表達「人工智
慧比核能更危險」宣言後，再度在麻省理工學院航空系百年論壇中表示，他對於計算機產
業未來的發展，也就是人工智慧被惡意使用的情況感到擔憂。


Elon Musk表示，「透過人工智慧，我們將會召喚出惡魔。大家都知道這樣的故事，有人
拿著五芒星和聖水，肯定自己能夠控制惡魔，但事實上卻是不能」。

Elon Musk的發言聽起來十分駭人，但其實他指的是人工智慧發展領域，正無限制的被研
究、應用。他表示為了預防人類不會為了研究或其他理由，做出一些危險的事情，在人工
智慧領域的研究會需要監管機制，可能是國際間共同提出，或是由單一國家來提出。


他已不只一次表達過對於人工智慧前景的擔憂。他之前曾開玩笑的表示，為了消除垃圾郵
件而開發的機器人，可能會自行做出決定，要毀滅人類。這彷彿又重複了電影機械公敵中
，男主角與一位小女孩同時遭遇重大車禍時，機器人因為生存機率的判斷，而放棄拯救小
女孩一樣。如同電影男主角所言，對於人類而言符合情理的判斷，機器人並不一定能懂。
相對的，採用人工智慧系統來進行判斷的機器人，也有可能像電影中的VIKI一樣，奪取控
制權企圖凌駕於人類之上，而可能為人類帶來超乎預期的災難。


http://ppt.cc/bD5P
特斯拉CEO：人工智慧將召喚出惡魔 - 中時電子報
[圖]
電影機械公敵（I, Robot）當中，中央控制系統VIKI以人類正在危害己身安全的判斷，控制了NS-5機器人來執行「人類保護計畫」的情節，或許你還記憶猶新。影片中企圖控制世界的VIKI正是一款人工智慧系統。為了不在現實中重演這樣的情節，特斯拉的CEO Elon Musk再一次發出警告表示「人工智慧將會召喚出惡魔！」 ...

 

--
Sent from my Android

--
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 115.43.55.123
※ 文章網址: http://www.ptt.cc/bbs/Gossiping/M.1414696812.A.ABE.html
推 jack19931993: 還久吧1F 10/31 03:21
→ lzyx: 他說的是電影魔鬼終結者吧 =.=|||2F 10/31 03:23
推 flydragon198: 我有生之年可能都還見不到會思考有創意的人工智慧3F 10/31 03:23
推 samtony: 目前電腦連翻譯都做不好了 想太多4F 10/31 03:25
推 yangcain: 很多科技業的感覺都會擔心這個，奇點來臨不是沒可能的Elon Musk就是號稱現實鋼鐵人那位啊，南非出身的美國創業者5F 10/31 03:26
推 lolix: ULTRON8F 10/31 03:28
推 higameboy: 阿斯拉表示：...9F 10/31 03:28
→ TSbb: 有什麼好災難的? 人類現在就是對大自然的最大浩劫了10F 10/31 03:28
推 NuCat: 明年的復仇者聯盟2也是這塊主題，奧創時代來臨11F 10/31 03:29
推 gn005066: 阿薩謝爾要出來了12F 10/31 03:31
→ ZABORGER: 女神轉生!?13F 10/31 03:34
推 Cervelo1995: 要是初音有智慧，一定會討厭宅宅..這樣宅宅要怎辦14F 10/31 03:40
推 Greatgenius: 天網表示:15F 10/31 03:42
→ chaunen: 萬磁王嗎?16F 10/31 03:43
→ cp296633: 快造台chobits來奴役人類(宅男)17F 10/31 03:44
推 KJK5566: 先把伊波拉病毒搞定再來討論人工智慧危不危險18F 10/31 03:45
推 dderfken: 賈維斯表示19F 10/31 03:45
→ hihieveryone: 先把你的車弄好吧20F 10/31 03:53
推 idunhav1: 現在都是弱AI居多吧，車子電池燒起來該不會是強AI造成的21F 10/31 04:02
→ hihieveryone: ai強的很強好不好傻傻的
只是一直以來都在探索一個問題到底過度使用ai
會不會讓人類產生浩劫?22F 10/31 04:08
推 alog: ㄏㄏ把dns跟ip給切了看你怎麼連 只要機器人還需要連網路 人類winwin25F 10/31 04:09
→ hihieveryone: 那你太小看ai了
別忘了有鷹眼系統27F 10/31 04:10
→ alog: ai要足夠的空間放置樣本跟資料庫29F 10/31 04:10
→ hihieveryone: 他們還可以竊取衛星資料30F 10/31 04:11
→ alog: ai太強 肯定昂是人類給他權限太大 真的會被毀滅那太智障31F 10/31 04:11
→ hihieveryone: 你真的以為切掉ip能幹麻嗎?
以以為他們不會突破權限嗎?32F 10/31 04:11
→ alog: ㄏㄏ不然你做一個給我看好嗎
根本就無稽之談34F 10/31 04:12
→ hihieveryone: 他們還可以運算出最短的搜尋路徑
只要能想的到就有被實踐的可能36F 10/31 04:12
推 rockmanx52: 這東西其實已經不是會不會出現 而是何時出現的問題了38F 10/31 04:13
→ hihieveryone: 只要理論上可行只是要花多少力量寫出來的問題
光是我想就有辦法想的到何況美國那些鬼才39F 10/31 04:13
推 alog: 人是善用物器跟利用人的生物 AI這東西沒有你想象中的誇張
你想的到的 電影都演過了41F 10/31 04:14
→ hihieveryone: 想想看google bot是怎麼突破一般網站的目錄結構
讓他們洩光光 他們可以說你自己開的怪我囉?
只是你不知道而已43F 10/31 04:15
推 alog: 呵呵 網站目錄這不需要ai啊46F 10/31 04:17
推 rockmanx52: 電影劇本因為是人寫的所以才會讓人類贏啊= =47F 10/31 04:17
→ alog: 我只想說 ai根本沒這麼誇張 如果出事了也是因為人48F 10/31 04:17
→ hihieveryone: 一個決策的影響力可能是幾百年49F 10/31 04:18
→ rockmanx52: 基本上你只要寫出一個有黑猩猩思考能力等級的AI50F 10/31 04:18
→ alog: 那我還在等51F 10/31 04:18
→ hihieveryone: 就像是我們到現在都還在用牛頓的力學系統52F 10/31 04:18
→ rockmanx52: 那危機就有機會發生了...53F 10/31 04:18
→ hihieveryone: 一個國家的領導者就有那種高度到底要不要發展
可能是數百年前就決定好的
不用全ai 就算是有人用某種超強的工具也夠猛的
也不是你切ip就能解決的
講太多我怕會把某些技術提前曝光54F 10/31 04:19
推 peng1016: 目前ai盲點很多 但很多應用確實不錯 但都偏輔助比較多59F 10/31 04:23
→ hihieveryone: Don't be evil60F 10/31 04:23
推 alog: 目前人工智慧的應用還是要依賴網路
人工智慧的決策 運算 擬出來的策略要放的資料是非常龐大的人類很怪 明明自己才最恐怖 竟然要懼怕ㄧ個自己家做出來的東61F 10/31 04:25
→ hihieveryone: 呵呵 ai應該有辦法在你斷網前找到你64F 10/31 04:28
推 tinghsi: 你以為人類科技一直進步不斷讓電腦效能變好65F 10/31 04:28
→ alog: 西 等到真的如你所說的災難前 恐怕人類延伸出來的問題先自己給滅了66F 10/31 04:28
→ tinghsi: 實際上電腦是藉著人類的手不費吹灰之力拼命進化68F 10/31 04:29
→ hihieveryone: 從他打倒棋王那刻起世界就已經變的不一樣了
就說了不用全自動ai 超強工具落在你的敵人手裡
也夠讓你寢食難安了69F 10/31 04:29
推 alog: 事實上你還是該擔心的是社會上產生的問題 而不是這個ai
只有社會階級地位高的人才能決定跟整合這些資源
美國以前發展核武差點把自己給滅了72F 10/31 04:31
→ hihieveryone: 那未必
中東都可以出現ISIS75F 10/31 04:33
→ alog: 那ISIS是人還是AI?
你應該還是要懼怕的是人77F 10/31 04:33
→ hihieveryone: 難保哪天Anonymous可以建國
那些人有社會階級高嗎?
天知道google X 和 Bitcoin的bot裡面藏了多少資源說不定他綁架了一堆殭屍帳號幫他賺取全球的資源79F 10/31 04:34
推 alog: 那到底是人為還是ai為呢  你離清楚83F 10/31 04:39
→ hihieveryone: 你可能還不明白這股力量有多大84F 10/31 04:40
→ alog: 這篇人新聞重點還是在於要怎麼防堵人類濫用ai 做事
而至於那種電影般的ai奪權什麼的讓他在電影演就好了
該擔心的還是人85F 10/31 04:40
→ hihieveryone: 如果你能一點就通現在就不會在這裡爬文了88F 10/31 04:41
→ alog: 那我還真佩服你願意跟我這個土包子講這麼多@@89F 10/31 04:42
→ hihieveryone: 我不想再想下去了太可怕了
你可以試著從防禦者的角度換成攻擊者的角度
你就會看到無限可能90F 10/31 04:45
推 alog: 平常心看待就好了啦93F 10/31 04:47
推 tps6115: 資工畢業講真的100年內AI你還是吃土去吧。94F 10/31 04:49
推 arrenwu: 他講的惡魔應該不是Skynet這種吧95F 10/31 04:49
→ hihieveryone: 呵呵..真的很好笑跟鄉民說資工....96F 10/31 04:51
推 arrenwu: 為了消除垃圾郵件開發的機器人要毀滅人類這更奇怪了
這機器人的action space根本就沒有毀滅人類這一項啊97F 10/31 04:52
→ hihieveryone: 沒有沒有明確的選項不代表示情不會發生
這才是他擔心的地方99F 10/31 04:55
推 moon1139: 請問張飛打岳飛誰會贏啊? 窩覺得應該四岳飛喔248F 10/31 13:09
推 vespar: 人工智慧? 關電源就好了啊249F 10/31 13:13
→ hihieveryone: 他不會先對他的危機做策略喔
況且他不會寄生喔?250F 10/31 13:23
推 ll1: 天網252F 10/31 13:44

--
--
作者 bitcch 的最新發文:
點此顯示更多發文記錄
(bitcch.): [新聞] 特斯拉CEO：人工智慧將召喚出惡魔 - Gossiping板