看板 Gossiping作者 bitcch (必可取)標題 [新聞] 特斯拉CEO:人工智慧將召喚出惡魔時間 Fri Oct 31 03:20:09 2014
特斯拉CEO:人工智慧將召喚出惡魔
電影機械公敵(I, Robot)當中,中央控制系統VIKI以人類正在危害己身安全的判斷,控
制了NS-5機器人來執行「人類保護計畫」的情節,或許你還記憶猶新。影片中企圖控制世
界的VIKI正是一款人工智慧系統。為了不在現實中重演這樣的情節,特斯拉的CEO Elon M
usk再一次發出警告表示「人工智慧將會召喚出惡魔!」
對於人工智慧,近期科技界的相關研究方興未艾。然而Elon Musk繼先前曾表達「人工智
慧比核能更危險」宣言後,再度在麻省理工學院航空系百年論壇中表示,他對於計算機產
業未來的發展,也就是人工智慧被惡意使用的情況感到擔憂。
Elon Musk表示,「透過人工智慧,我們將會召喚出惡魔。大家都知道這樣的故事,有人
拿著五芒星和聖水,肯定自己能夠控制惡魔,但事實上卻是不能」。
Elon Musk的發言聽起來十分駭人,但其實他指的是人工智慧發展領域,正無限制的被研
究、應用。他表示為了預防人類不會為了研究或其他理由,做出一些危險的事情,在人工
智慧領域的研究會需要監管機制,可能是國際間共同提出,或是由單一國家來提出。
他已不只一次表達過對於人工智慧前景的擔憂。他之前曾開玩笑的表示,為了消除垃圾郵
件而開發的機器人,可能會自行做出決定,要毀滅人類。這彷彿又重複了電影機械公敵中
,男主角與一位小女孩同時遭遇重大車禍時,機器人因為生存機率的判斷,而放棄拯救小
女孩一樣。如同電影男主角所言,對於人類而言符合情理的判斷,機器人並不一定能懂。
相對的,採用人工智慧系統來進行判斷的機器人,也有可能像電影中的VIKI一樣,奪取控
制權企圖凌駕於人類之上,而可能為人類帶來超乎預期的災難。
http://ppt.cc/bD5P
特斯拉CEO:人工智慧將召喚出惡魔 - 中時電子報
電影機械公敵(I, Robot)當中,中央控制系統VIKI以人類正在危害己身安全的判斷,控制了NS-5機器人來執行「人類保護計畫」的情節,或許你還記憶猶新。影片中企圖控制世界的VIKI正是一款人工智慧系統。為了不在現實中重演這樣的情節,特斯拉的CEO Elon Musk再一次發出警告表示「人工智慧將會召喚出惡魔!」 ...
--
Sent from my Android
--
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 115.43.55.123
※ 文章網址: http://www.ptt.cc/bbs/Gossiping/M.1414696812.A.ABE.html
→ lzyx: 他說的是電影魔鬼終結者吧 =.=|||2F 10/31 03:23
推 samtony: 目前電腦連翻譯都做不好了 想太多4F 10/31 03:25
推 yangcain: 很多科技業的感覺都會擔心這個,奇點來臨不是沒可能的Elon Musk就是號稱現實鋼鐵人那位啊,南非出身的美國創業者5F 10/31 03:26
推 lolix: ULTRON8F 10/31 03:28
→ TSbb: 有什麼好災難的? 人類現在就是對大自然的最大浩劫了10F 10/31 03:28
推 NuCat: 明年的復仇者聯盟2也是這塊主題,奧創時代來臨11F 10/31 03:29
→ cp296633: 快造台chobits來奴役人類(宅男)17F 10/31 03:44
推 KJK5566: 先把伊波拉病毒搞定再來討論人工智慧危不危險18F 10/31 03:45
推 idunhav1: 現在都是弱AI居多吧,車子電池燒起來該不會是強AI造成的21F 10/31 04:02
→ hihieveryone: ai強的很強好不好傻傻的
只是一直以來都在探索一個問題到底過度使用ai
會不會讓人類產生浩劫?22F 10/31 04:08
推 alog: ㄏㄏ把dns跟ip給切了看你怎麼連 只要機器人還需要連網路 人類winwin25F 10/31 04:09
→ alog: ai要足夠的空間放置樣本跟資料庫29F 10/31 04:10
→ alog: ai太強 肯定昂是人類給他權限太大 真的會被毀滅那太智障31F 10/31 04:11
→ alog: ㄏㄏ不然你做一個給我看好嗎
根本就無稽之談34F 10/31 04:12
→ hihieveryone: 他們還可以運算出最短的搜尋路徑
只要能想的到就有被實踐的可能36F 10/31 04:12
推 rockmanx52: 這東西其實已經不是會不會出現 而是何時出現的問題了38F 10/31 04:13
→ hihieveryone: 只要理論上可行只是要花多少力量寫出來的問題
光是我想就有辦法想的到何況美國那些鬼才39F 10/31 04:13
推 alog: 人是善用物器跟利用人的生物 AI這東西沒有你想象中的誇張
你想的到的 電影都演過了41F 10/31 04:14
→ hihieveryone: 想想看google bot是怎麼突破一般網站的目錄結構
讓他們洩光光 他們可以說你自己開的怪我囉?
只是你不知道而已43F 10/31 04:15
推 alog: 呵呵 網站目錄這不需要ai啊46F 10/31 04:17
推 rockmanx52: 電影劇本因為是人寫的所以才會讓人類贏啊= =47F 10/31 04:17
→ alog: 我只想說 ai根本沒這麼誇張 如果出事了也是因為人48F 10/31 04:17
→ rockmanx52: 基本上你只要寫出一個有黑猩猩思考能力等級的AI50F 10/31 04:18
→ alog: 那我還在等51F 10/31 04:18
→ hihieveryone: 一個國家的領導者就有那種高度到底要不要發展
可能是數百年前就決定好的
不用全ai 就算是有人用某種超強的工具也夠猛的
也不是你切ip就能解決的
講太多我怕會把某些技術提前曝光54F 10/31 04:19
推 peng1016: 目前ai盲點很多 但很多應用確實不錯 但都偏輔助比較多59F 10/31 04:23
推 alog: 目前人工智慧的應用還是要依賴網路
人工智慧的決策 運算 擬出來的策略要放的資料是非常龐大的人類很怪 明明自己才最恐怖 竟然要懼怕ㄧ個自己家做出來的東61F 10/31 04:25
推 tinghsi: 你以為人類科技一直進步不斷讓電腦效能變好65F 10/31 04:28
→ alog: 西 等到真的如你所說的災難前 恐怕人類延伸出來的問題先自己給滅了66F 10/31 04:28
→ tinghsi: 實際上電腦是藉著人類的手不費吹灰之力拼命進化68F 10/31 04:29
→ hihieveryone: 從他打倒棋王那刻起世界就已經變的不一樣了
就說了不用全自動ai 超強工具落在你的敵人手裡
也夠讓你寢食難安了69F 10/31 04:29
推 alog: 事實上你還是該擔心的是社會上產生的問題 而不是這個ai
只有社會階級地位高的人才能決定跟整合這些資源
美國以前發展核武差點把自己給滅了72F 10/31 04:31
→ alog: 那ISIS是人還是AI?
你應該還是要懼怕的是人77F 10/31 04:33
→ hihieveryone: 難保哪天Anonymous可以建國
那些人有社會階級高嗎?
天知道google X 和 Bitcoin的bot裡面藏了多少資源說不定他綁架了一堆殭屍帳號幫他賺取全球的資源79F 10/31 04:34
推 alog: 那到底是人為還是ai為呢 你離清楚83F 10/31 04:39
→ alog: 這篇人新聞重點還是在於要怎麼防堵人類濫用ai 做事
而至於那種電影般的ai奪權什麼的讓他在電影演就好了
該擔心的還是人85F 10/31 04:40
→ alog: 那我還真佩服你願意跟我這個土包子講這麼多@@89F 10/31 04:42
→ hihieveryone: 我不想再想下去了太可怕了
你可以試著從防禦者的角度換成攻擊者的角度
你就會看到無限可能90F 10/31 04:45
推 alog: 平常心看待就好了啦93F 10/31 04:47
推 tps6115: 資工畢業講真的100年內AI你還是吃土去吧。94F 10/31 04:49
推 arrenwu: 他講的惡魔應該不是Skynet這種吧95F 10/31 04:49
推 arrenwu: 為了消除垃圾郵件開發的機器人要毀滅人類這更奇怪了
這機器人的action space根本就沒有毀滅人類這一項啊97F 10/31 04:52
推 tps6115: 沒你好笑吧?一整個電影看太多...101F 10/31 04:55
推 arrenwu: 你可以教我一個只能選擇要不要刪除郵件的機器人要怎麼毀滅世界嗎?102F 10/31 04:57
→ arrenwu: 奪取控制權這講法也一樣,action space 根本沒有這一項是要怎麼奪取?105F 10/31 04:58
→ arrenwu: 會去設計一個ai還允許他更改權限,這設計者是白吃嗎?108F 10/31 05:00
→ hihieveryone: 你的電腦沒中過毒嗎?
非體制內的行為又不是只有真實世界才會發生109F 10/31 05:01
推 tps6115: 電腦中毒是有人設計病毒讓電腦中毒阿111F 10/31 05:02
→ tps6115: 我都快笑死了,去學點基本知識再來好嘛!還電腦中毒勒114F 10/31 05:03
推 arrenwu: 所以是有人設計AI搞破壞,不是AI本身危險啊116F 10/31 05:04
→ hihieveryone: 裡面的mathod太多他只是有一項叫做求最有效率
光是那條就有可能讓AI產生越獄的行為
你們懂嗎他原意不是叫他破壞只是讓他自己去找最速解117F 10/31 05:05
推 arrenwu: ...你不給AI超過某個門的選項他是要怎麼越域
你進行optimization不表示你不能放constraint吧120F 10/31 05:06
→ hihieveryone: 但最速解的結果可能就是進行某些非體制內的行為
他進化了你們懂嗎?122F 10/31 05:07
→ tps6115: 我只能說現階段強AI領域停滯不前很久了,沒有天元突破你應該不用替未來人擔這個心。124F 10/31 05:08
→ arrenwu: 所以要ai找一個x<1的最佳解,結果他給出了x=2?126F 10/31 05:09
→ arrenwu: 我真的看不懂你在講啥耶128F 10/31 05:09
→ tps6115: 你的AI知識是來自哪裡阿?
電影?小說?還是自己幻想?129F 10/31 05:10
推 nk: 他說的不是沒道理 AI需要龐大的資料庫 這東西不可能放在機器人身上 但目前已經有這個資料庫技術了 那就是雲端運算系統131F 10/31 05:13
→ nk: 機器人只要投過條件式的搜索就可以從雲端資料內找到行動模式134F 10/31 05:15
推 tps6115: 這啥,猜謎機器人?136F 10/31 05:18
推 nk: 好吧 我想說的很簡單 從雲端系統內構築機器人的行動模式AI
的難度其實遠不如現在大家想的困難 只是現在剛起步而已137F 10/31 05:21
推 tps6115: 這技術有可能啊,但和AI會失控有什麼關聯?139F 10/31 05:22
→ nk: 所以這兩個實際的結合非常少 往往都是人有目的性的目標性事物問題在要給與行動限制這點會比較困難 因為他是蒐所出來的140F 10/31 05:23
推 tps6115: 而且雲端運算根本不是什麼新穎的技術,以往是被基礎建設的不足才侷限了功能。142F 10/31 05:24
→ nk: 所以他可能會跳過你的限制(因為限制條件本身可能不完美有漏洞)144F 10/31 05:24
→ tps6115: 雲端運算也是把他該做的事情轉移到server上去做處理,該限制的不會不同...145F 10/31 05:26
→ nk: 所以給予限制這點會隨著資料庫的增加反而有更大的缺陷存在147F 10/31 05:26
→ tps6115: 況且切斷連線就gg惹...148F 10/31 05:27
→ tps6115: 這都是弱AI的特點,沒有符合的行為模式就失去了智慧的外表150F 10/31 05:28
→ tps6115: 你們害怕的是強AI的出現,但就現階段而言就讓它留在電影裡吧。
要怎麼取得一個封閉網路核能電廠的主控權?若有能夠自己設計且製造機器人武力攻佔廠區的AI存在再來擔心吧。153F 10/31 05:30
推 arrenwu: 你倒是說說你到底在擔心什麼吧 哈哈158F 10/31 05:40
→ arrenwu: 如果我只讓一個ai下棋 他要怎麼威脅人類xD160F 10/31 05:41
→ arrenwu: tps6115講的能自己設計和製造機器人武力的ai確實危險162F 10/31 05:42
推 tps6115: AI原理沒你想的複雜,要創造出符合強AI定義的AI就現階段而言還太早164F 10/31 05:44
推 tps6115: 人類連本身智慧是如何存在都不能掌握了,更別說複製出來167F 10/31 05:46
推 arrenwu: 魏徵斬龍王跟AI危險的關聯是?169F 10/31 05:47
推 tps6115: 雲端技術也不是今年才出現的...170F 10/31 05:48
→ hihieveryone: 去睡吧連最基本的語句判斷能力都失去了
CAPTCHA 技術也不斷的在改進因為就是有人會破
而且還開放讓大家一起玩171F 10/31 05:50
推 tps6115: 會被破解不意外啊,那種圖靈測試只是廉價的解決方案
但是是AI自行破解嘛?不是嘛~還不是要有設計者去調校...174F 10/31 05:57
推 Pietro: 買下殘障車的人176F 10/31 06:05
推 WLR: 等進步到會上八卦版發廢文再來擔心177F 10/31 06:35
→ ccucwc: 明年風見就要開著惡魔阿斯拉出來拿冠軍了 ~@@!!!178F 10/31 07:10
推 ds1441: 這講的問題不是機械會自主思考,而是人類以為合乎邏輯
的判斷設定可能會成為惡魔思路的雛型,但因為主導權太大沒辦法再去改變設定179F 10/31 07:16
→ LearnRPG: 還不簡單 到東南亞聘請100萬廉價勞工 當電腦AI 不說誰知hihi 你講的那些根本不算AI 竊取衛星資料?robot parser都只是程式按照人類的演算法在執行的 真的AI是自己可以成長跟自己決定要做什麼事情 ...182F 10/31 07:19
→ riker729: 特斯拉聽起來就很像保護傘186F 10/31 07:26
推 wudi: 剛看完電影嗎, 該回到現實世界囉 :)187F 10/31 07:34
→ aisitelu: 真的人工自慧會自我改進 理論上是全能 無敵聰明 給它太多權限或工具一定出事 接個網路就出事了188F 10/31 07:35
推 Meds: skynet192F 10/31 08:05
推 itrs821: 東尼史塔克都這麼說了,那應該是真的193F 10/31 08:13
推 flyboring: 看看我們最高總統,好像也不可能更糟195F 10/31 08:16
推 cvn65: 看成阿斯拉被召喚出來了196F 10/31 08:22
推 Elis1221: 連蛇都還沒看過就在怕草繩wwww197F 10/31 08:33
→ nvalue: SOD都是真的198F 10/31 08:38
→ VVizZ: 只要人工智慧發展出"思考"人類就死定了199F 10/31 08:49
推 OOQ: 召喚阿薩謝爾201F 10/31 08:52
推 Bokolo: 魔鬼終結者演過了,謝謝~202F 10/31 08:56
→ route22: Samaritan, the machine204F 10/31 09:00
推 muskox: 有一套小說叫『www三部曲』,裡面有強AI的誕生流程,包括佛洛伊德的本我、自我、超我是如何在AI中出現,進而成為會獨立思考的智慧體,並成為全能的神的整套流程。208F 10/31 09:19
推 flydragon198: 上面擔心會毀滅世界的,的根本連AI都稱不上
下棋算什麼AI,只不過是一些演算法........
深藍能下贏棋王根本不是因為他有腦,純粹是大量運算能多推測幾步棋,再從最佳解中選擇下一步211F 10/31 09:23
→ bye2007: 什麼時候要進入母體?215F 10/31 09:34
推 porscheruf: 量子電腦還沒出現前,擔心這個好像很多餘.....216F 10/31 09:37
→ porscheruf: 不過哪天Asimo走一走突然說一句:Do we have soul?那時大家才真的會嚇死吧....219F 10/31 09:40
→ crazydai …
噓 crazydai: 本來還沒有什麼興趣的,現在....222F 10/31 09:43
推 tpfmpm: 懶惰的惡魔223F 10/31 09:45
推 Leeng: zazas zazas224F 10/31 09:46
推 n91324: 我反正是信了Elon Musk 他至少比現場鄉民聰明幾十倍225F 10/31 09:48
→ sakura000: 我連自己寫的程式為什麼能work都找不出原因了229F 10/31 09:54
→ brighton16: AI先能跟圍棋職業棋士分先互有勝負再來說什麼惡不惡魔234F 10/31 10:07
推 peoplefu5566: 新興領域本就應該監管 當初要不是柯林頓設下基因
複製領域的限制 沒辦法想像那些神經病科學家會做
出什麼東西來236F 10/31 10:13
推 rimi7609: 怎麼覺得某位版友各種腦補啊....現在不是連現有圖靈架構能否表示Mind,並且強AI實現的可能性都還在吵嗎....
AI因為無法真的產生(至少目前)evil mind,所以理性行動(act rationally)目前無法突破各種人設的限制啊....239F 10/31 10:23
推 saesar: 阿諾時候時候要來幹掉馬宗痛244F 10/31 11:18
噓 inby: 他應該是基督教的245F 10/31 12:43
推 moon1139: 請問張飛打岳飛誰會贏啊? 窩覺得應該四岳飛喔248F 10/31 13:09
推 vespar: 人工智慧? 關電源就好了啊249F 10/31 13:13
推 ll1: 天網252F 10/31 13:44
--