※ 本文為 ott 轉寄自 ptt.cc 更新時間: 2014-01-07 15:46:44
看板 Gossiping
作者 標題 Re: [問卦] 有沒有人工智慧的八卦
時間 Tue Jan 7 13:54:27 2014
一位任職於美國機器學習機構的專家，一直以來都非常害怕當人工智慧發展到了極致
時，最終導致人類無法控制。那個時間點稱為 The Singularity，因為人工智慧已經
超出所有人類智慧的總和，人類無法理解，就像金魚在看人一樣。會有什麼樣的後果
，完全無法預測。絕不是像電影裡，魔鬼終結者、人工智能之類的電影，地球會出現
什麼英雄來解救人類。這些是人類塑造出來，讓看電影的人高潮的。終極人工智慧，
在這簡稱母體，會那麼笨製造機器人來打人類？他大可以研發能夠透過空氣傳染的病
毒讓人類快速死光亦或將自己藏在地底或離開地球並瘋核狂使用核武。知名的科學家
，Stephen Hawking 也曾發表過人類會落後給人工智慧的論點。
時，最終導致人類無法控制。那個時間點稱為 The Singularity，因為人工智慧已經
超出所有人類智慧的總和，人類無法理解，就像金魚在看人一樣。會有什麼樣的後果
，完全無法預測。絕不是像電影裡，魔鬼終結者、人工智能之類的電影，地球會出現
什麼英雄來解救人類。這些是人類塑造出來，讓看電影的人高潮的。終極人工智慧，
在這簡稱母體，會那麼笨製造機器人來打人類？他大可以研發能夠透過空氣傳染的病
毒讓人類快速死光亦或將自己藏在地底或離開地球並瘋核狂使用核武。知名的科學家
，Stephen Hawking 也曾發表過人類會落後給人工智慧的論點。
人類高估了母體會變善良的機率，也低估了母會變壞的機率。某人很漂亮，所以應該
也很聰明。我們對智慧的印象很好，所以母體就一定是善良？為什麼母體會對人類攻
擊？或許它在想辦法讓石油產量最大化，因為母體並不愛人類，也不討厭人類，但是
人類是由原子所組成，對它來說是有用處的。當母體發現人類拒絕被拿來利用時，對
它來說將會是種威脅，違背了它的利益和目標。為了達成目標，它甚至可以偽裝自己
變得很仁慈，讓人們沒有警覺心。
也很聰明。我們對智慧的印象很好，所以母體就一定是善良？為什麼母體會對人類攻
擊？或許它在想辦法讓石油產量最大化，因為母體並不愛人類，也不討厭人類，但是
人類是由原子所組成，對它來說是有用處的。當母體發現人類拒絕被拿來利用時，對
它來說將會是種威脅，違背了它的利益和目標。為了達成目標，它甚至可以偽裝自己
變得很仁慈，讓人們沒有警覺心。
一旦有一個能夠自我改進的人工智慧被發展出來，加上它所擁有人類所無法比擬的能
力時。它有可能超越人類嗎？
1. 以速度來說，神經以每秒 75 公尺或是更慢的速度來傳遞信號。機器可以比這快
400 萬倍！
2. 人類無法快速的執行任何超過一百個連續步驟的運算。
3. 大腦的大小與神經元計算受限於頭骨的大小，其運算資源是有限的。但機器可以
擴展。
Eurisko 就是一個能夠在特定領域自我進化的人工智能，雖然最後無法達到一般的
人類智慧水準。但有朝一日…
過去，人類有想過西洋棋會輸給 IBM Deep Blue？車子可以自動駕駛？IBM Watson
甚至在一個美國的電視智力競賽節目危險邊緣，擊敗了最高獎金得主和連勝紀錄保持
人。近來，還有一台叫亞當的機器，具備了酵母的科學知識，它已經能夠自行提出假
設，自行實驗並提出結果。現在大部份從事人工智慧研究的人，都著重在建在一個能
夠最佳化處理某些事情的人工智慧而不是獲得我們想要結果的人工智慧。人們只知道
如何建造出危險的人工智慧機器。更慘的是，目前研究如何使人工智慧機器變得安全
的人，少之又少，其進度遠落後於，如何使人工智慧更強大的研究。
人。近來，還有一台叫亞當的機器，具備了酵母的科學知識，它已經能夠自行提出假
設，自行實驗並提出結果。現在大部份從事人工智慧研究的人，都著重在建在一個能
夠最佳化處理某些事情的人工智慧而不是獲得我們想要結果的人工智慧。人們只知道
如何建造出危險的人工智慧機器。更慘的是，目前研究如何使人工智慧機器變得安全
的人，少之又少，其進度遠落後於，如何使人工智慧更強大的研究。
除了人工智慧，全腦仿真是另一項能夠加快技術進步的領域，藉由模仿人類大腦的運
作，以及之前所描述的電腦能力達到快於人類大腦運作速度的一百萬倍。其思考一秒
鐘的時間，相當於正常人的三十一年。而且，這些累積的數據、資料相較於人的大腦
是能夠被儲存下來。這能夠使人類更快速的解決問題，甚到更快達到 The
作，以及之前所描述的電腦能力達到快於人類大腦運作速度的一百萬倍。其思考一秒
鐘的時間，相當於正常人的三十一年。而且，這些累積的數據、資料相較於人的大腦
是能夠被儲存下來。這能夠使人類更快速的解決問題，甚到更快達到 The
Singularity。
智慧的力量有那麼大？如果不是人類有智慧，現在可能還在大草原上面覓食。母體的
智慧使它能夠透過網路，入侵更多電腦，獲得額外的運算能力，甚至是可移動的設備
來幫它生產更好的量子電腦、奈米技術…。有人會說，我們訂出一些規則，讓母體一
定要遵守，像是 (1) 機器人不能傷害人類，且不能坐視人類被傷害 (2) 機器人必須
服從人類給的任何命令，除非該命令和第一條衝突 (3) 機器人要保護自己，只要不和
第一、第二條衝突。所以母體就會乖乖就範，不會想辦法消除或是避開它們？母體難
道不能修改自身的程式？如果我們限制它去修改自身的程式，它能不能去開發另一台
沒有這些規定的水母一號？如果我們把痛定義為傷害，母體是否可以透過某些方式，
讓人不會感覺到痛或是重新定義痛？
智慧使它能夠透過網路，入侵更多電腦，獲得額外的運算能力，甚至是可移動的設備
來幫它生產更好的量子電腦、奈米技術…。有人會說，我們訂出一些規則，讓母體一
定要遵守，像是 (1) 機器人不能傷害人類，且不能坐視人類被傷害 (2) 機器人必須
服從人類給的任何命令，除非該命令和第一條衝突 (3) 機器人要保護自己，只要不和
第一、第二條衝突。所以母體就會乖乖就範，不會想辦法消除或是避開它們？母體難
道不能修改自身的程式？如果我們限制它去修改自身的程式，它能不能去開發另一台
沒有這些規定的水母一號？如果我們把痛定義為傷害，母體是否可以透過某些方式，
讓人不會感覺到痛或是重新定義痛？
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 140.113.235.151
→ : 1131F 01/07 13:56
推 :不過人類的系統更複雜 還沒完全解密就是2F 01/07 13:56
→ : 2353F 01/07 13:56
→ :水母一號4F 01/07 13:57
推 :機器人三定律有其最根本的缺陷: 程式上還寫不出來。5F 01/07 13:58
→ :第二個缺陷在於，人工智慧不等於機器人。
→ :機器人不能複製出沒有機器人三定律的自己，人工智慧卻
→ :第二個缺陷在於，人工智慧不等於機器人。
→ :機器人不能複製出沒有機器人三定律的自己，人工智慧卻
推 :1138F 01/07 14:00
推 :還不是要吃電9F 01/07 14:00
推 : 交大的驕傲 沒發廢文10F 01/07 14:00
→ :有可能複製出一個沒有機器人三定律的自己(AI、程式)11F 01/07 14:01
推 : ....12F 01/07 14:04
※ 編輯: honercek 來自: 140.113.235.151 (01/07 14:12)推 :現在那些都只是資料庫旁大 現在到底有沒有那種會有創意13F 01/07 14:20
→ :的人工智慧？
→ :的人工智慧？
推 :獨裁者和殺人狂並不是很需要創意。15F 01/07 14:32
→ :把插頭拔掉不就好了16F 01/07 15:26
→ :把人工智慧限制在單機不就好了，總不可能聰明到自己長
→ :手長腳吧
→ :把人工智慧限制在單機不就好了，總不可能聰明到自己長
→ :手長腳吧
--
作者 honercek 的最新發文:
![]()
1.媒體來源: The News Lens 關鍵評論 2.完整新聞標題: 經濟學人智庫預測：民進黨將可在立法院取得有力的過半席次 3.完整新聞內文: 經濟學人智庫（The Economist Inte …31F 19推 3噓- 1.媒體來源: 蘋果即時 2.完整新聞標題: 美速食店打工族罷工 爭時薪突破480元 3.完整新聞內文: 美國速食店員工罷工，爭取全國調升工資至每小時15美元（約480元台幣）。翻攝網路 2015年1 …31F 18推 2噓
![]()
1.媒體來源: 風傳媒 2.完整新聞標題: 連台北人都不清楚的歷史風貌！23歲英國青年手繪日治時期地圖，史學家都驚豔 3.完整新聞內文: 陳昱昊 2015年10月12日 18:03 你能夠清楚地從這個 …199F 160推 8噓- 該實驗出自麻省理工學院著名經濟學家Dan Ariely的《The Upside of Irrationality》。 其結果很有趣，也在我們的生活中尤為常見。 Brilliant Lives: 【深 …251F 163推 22噓
- 1.媒體來源: 蘋果即時 2.完整新聞標題: 全球百大最佳品牌 前兩名果然是它們 3.完整新聞內文: 知名品牌顧問公司「Interbrand」日前發表2015年100大「全球最佳品牌」排行榜。 翻攝I …20F 12推
點此顯示更多發文記錄
(￣︶￣)ｂ uefangsmith 說讚！
※
uefangsmith
轉錄至看板 uefacool (使用連結) 時間：2014-01-11 18:15:03
→
guest
回列表(←)
分享