※ 本文為 MindOcean 轉寄自 ptt.cc 更新時間: 2016-11-15 19:43:26
看板 Gossiping
作者 標題 Re: [問卦] 要發明什麼東西，人類文明才能大躍進？
時間 Wed Nov 2 02:12:28 2016
好像沒有人提到最有可能讓人類科技天翻地覆的改變: 人工智慧
之前很有名做Alpha GO的公司deepmind 你點進去它的網站 官網就寫著
解決人工智慧>>>讓人工智慧解決剩下所有問題。
英文好可以參考這篇:
http://waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html
The Artificial Intelligence Revolution: Part 1 - Wait But Why
![[圖]]()
Part 1 of 2: "The Road to Superintelligence". Artificial Intelligence — the topic everyone in the world should be talking about. ...
![[圖]](http://waitbutwhy.com/wp-content/uploads/2015/01/G1.jpg)
簡單講就是，人類跟猩猩的智能差異是生物學的差異
人類跟猩猩智能上巨大的差異其實只在於很小的DNA不同，人工智慧沒有任何的
生物限制，因此一旦做出一個可以自我優化的人工智慧，它沒有理由會停在人類智能
附近，當人工智慧變得更聰明，它會以更聰明的方式變更聰明，也就是會在極短的時
間內智慧大爆炸，超越人類可以理解。其實世界科技的演變也的確是這樣，人類是以
越來越快的速度在發展，科技的進步在21世紀的前10幾年(切確數字忘了)，已經超越
整個20世紀，因為當你有更好的科技，更好的科技會幫助你更快創造出更進步的科技
，這叫做Law of Accelerating return。
附近，當人工智慧變得更聰明，它會以更聰明的方式變更聰明，也就是會在極短的時
間內智慧大爆炸，超越人類可以理解。其實世界科技的演變也的確是這樣，人類是以
越來越快的速度在發展，科技的進步在21世紀的前10幾年(切確數字忘了)，已經超越
整個20世紀，因為當你有更好的科技，更好的科技會幫助你更快創造出更進步的科技
，這叫做Law of Accelerating return。
文內有個這件事情"可能"發生的方式:
花了十幾年，終於有人工智慧成長成跟最笨的人類一樣，有一個人工智慧終於可以像
四歲小孩開始觀察世界，一小時內，它解決了相對論和量子力學的矛盾，一個半小時
後，這個人工智慧的智能超越正常人類的17萬倍
四歲小孩開始觀察世界，一小時內，它解決了相對論和量子力學的矛盾，一個半小時
後，這個人工智慧的智能超越正常人類的17萬倍
再來最有趣的地方來了，作者引用其他人所做的統計，那些人做了一個問卷去問2013
AI產業的專家，問他們啥時人工智慧會跟人類一樣(AGI)就像人一樣靈活可以同一個AI
開車，煮飯，甚至創造。樂觀的話麼時候AI會跟人類一樣，悲觀的預測，和最有可能的
預測，以下為中位數:
AI產業的專家，問他們啥時人工智慧會跟人類一樣(AGI)就像人一樣靈活可以同一個AI
開車，煮飯，甚至創造。樂觀的話麼時候AI會跟人類一樣，悲觀的預測，和最有可能的
預測，以下為中位數:
樂觀預測(定義為10%可能性): 2022
客觀預測(定義為50%可能性): 2040
悲觀預測(定義為90%可能性): 2075
另一個同樣的類似問券也問了一堆AI專家，這次是問西元幾年前，AI可以跟人類智慧一樣
2030前: 42%
2030前: 42%
2050前: 25%
2100前: 20%
2100後: 10%
永遠不會:2%
這只是跟人類智能一樣的AI，那回到超級AI，多久會從人類智慧變成超級AI，平均值
約20年，所以2040+20=2060，就算是2060，也只差40年。
超級AI出現的那個時間，有個英文叫做singularity。應該有點類似審判日，因為假設一
開始的參數沒設定好，這個AI只是聰明，並沒有擁有跟我們一樣的價值觀，地球上的生命
可能瞬間消失，如果他跟我們有類似的價值觀，那恭喜大家，這個AI將跟神沒有兩樣。
開始的參數沒設定好，這個AI只是聰明，並沒有擁有跟我們一樣的價值觀，地球上的生命
可能瞬間消失，如果他跟我們有類似的價值觀，那恭喜大家，這個AI將跟神沒有兩樣。
超級AI是人類所創造的最後一樣發明，而這些預測都是AI領域裡專家的預測，其實想想
蠻恐怖的，因為大家還覺得Elon Musk、Stephen Hawking呼籲大家小心發展AI，因為當
你一旦搞砸了，就回不去了，因為高智能者永遠是贏家。
蠻恐怖的，因為大家還覺得Elon Musk、Stephen Hawking呼籲大家小心發展AI，因為當
你一旦搞砸了，就回不去了，因為高智能者永遠是贏家。
可是感覺大家沒有把這件事情認真看待，我是覺得蠻奇怪的，全世界最聰明的幾個人都
ㄘㄨㄚˋ著等，大家還只管一些剩下其他芝麻蒜皮的小事，當初不限制核武最後大家才
知道造出那麼可怕的武器，核武你做出來比不發射就部會死人，超級AI一旦出現了，你
根本不可能把它殺掉...
ㄘㄨㄚˋ著等，大家還只管一些剩下其他芝麻蒜皮的小事，當初不限制核武最後大家才
知道造出那麼可怕的武器，核武你做出來比不發射就部會死人，超級AI一旦出現了，你
根本不可能把它殺掉...
希望有生之年出現的是神，不是失控的AI
※ 引述《gold97972000 (Miyanaga Saki)》之銘言：
: 要發明什麼東西，人類的文明才能以倍速成長阿？
: 1.時光機
: 2.任意門
: 3.時間停止器
: 4.其他
: 講來講去好像不是跟時間有關，就是跟空間有關
: 到底發明什麼東西最好呢？
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.227.7.172
※ 文章代碼(AID): #1O6DiFvl (Gossiping)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1478023951.A.E6F.html
推 : 霍金也有提出警訊惹1F 11/02 02:15
推 : 結果被更新成WIN102F 11/02 02:15
→ : 謝謝，我要準備拋售股票了3F 11/02 02:16
→ : 如果AI出現了 可以操控哪些東西R?我是說操控喔 癱瘓不算4F 11/02 02:16
推 : 因為還有很多全世界最聰明的人覺得這件事情是無稽之談5F 11/02 02:16
→ : 你說濫用AI就算了，Skynet那種AI現在八字還沒一撇
→ : 你說濫用AI就算了，Skynet那種AI現在八字還沒一撇
推 : 人類會進化嗎 還是會被滅絕？7F 11/02 02:19
推 : 所以AI會用鼻孔吃花生嗎?用眼睛吃麵?8F 11/02 02:21
推 : 或許獲得超高的智商找不到存在的意義，他就自殺了？9F 11/02 02:22
→ : 我賭到2100年都生不出這種AI10F 11/02 02:22
推 : 就是一台很聰明但是什麼都做不了的電腦阿11F 11/02 02:23
→ : 機器學習12F 11/02 02:23
→ : 一堆人肯定看不懂那張圖，呵呵13F 11/02 02:23
推 : 樓上看得懂可以幫解釋一下ㄇ14F 11/02 02:27
→ : 我不懂 為何低智能的生物最終有辦法創造出高智能的東15F 11/02 02:29
→ : 西
可是其實人類也創造出比自己運算更快的電腦啊? 這不矛盾吧→ : 西
推 : 沒插電就是一台廢鐵17F 11/02 02:30
推 : 我覺得人類沒辦法做出可以超越自己智能的東西 如果18F 11/02 02:32
→ : 做出來了 在那時人類的智慧不是也更上一層樓了嗎
→ : 做出來了 在那時人類的智慧不是也更上一層樓了嗎
推 : 同樓上 我的看法也差不多 人類也常常高估自己的能力20F 11/02 02:33
推 : 我賭人類滅亡都還做不出來啦 呵呵21F 11/02 02:33
→ : 以前的人類有些對我們現在的年代有些科學上的猜測22F 11/02 02:34
→ : 都覺得過不了多久人類的科技會如何的進步之類的
→ : 只是真的到了他們猜測的年代 科技幾乎不如他們猜想的高
那是某些不如猜想，你問1916年的人，他也不會相信6 70年後，人類真的想的話，可以→ : 都覺得過不了多久人類的科技會如何的進步之類的
→ : 只是真的到了他們猜測的年代 科技幾乎不如他們猜想的高
殺光所有的人類，我自己就連五年前都不相信，那麼快就有自動駕駛了
推 : 阿法狗不就屌打所有人類棋手？ 只要知道規則就有可能阿25F 11/02 02:35
→ : 機器可以用很笨的方式探索，他們的優勢在速度快且不會累
→ : 機器可以用很笨的方式探索，他們的優勢在速度快且不會累
推 : 人腦會遺忘、處理資訊速度緩慢，若能製出有創造力及自我意27F 11/02 02:36
→ : 識的AI，很快就能比人類聰明了....
→ : 識的AI，很快就能比人類聰明了....
推 : 那人類還有存在的必要嗎29F 11/02 02:38
推 : 阿發狗只會照人設定的走 這篇是說有自我成長優化的AI30F 11/02 02:38
推 : 如果AI只是在規則內很猛的話，那還真沒什麼好害怕的31F 11/02 02:39
推 : 阿法狗照著人類的規則走，但最後走到超出現在人類的知識32F 11/02 02:39
→ : 難道給阿法狗的規則不能改變？
→ : 難道給阿法狗的規則不能改變？
→ : 還真的是不能34F 11/02 02:40
→ : 應該說，他不能自己改變規則，規則是工程師告訴他的
→ : 應該說，他不能自己改變規則，規則是工程師告訴他的
推 : AI最後一定會贏人類 因為他沒有破綻不會怠惰還會自我更新36F 11/02 02:41
→ : 不容易被干擾
→ : 不容易被干擾
推 : 圍棋的玩法就那樣 有比較明確的方法來達到勝利 可以慢慢試38F 11/02 02:42
→ : 但是像文章說的 解決相對論和量子力學的矛盾
→ : 電腦就算想用暴力解 也完全沒有方向吧
→ : 但是像文章說的 解決相對論和量子力學的矛盾
→ : 電腦就算想用暴力解 也完全沒有方向吧
推 : 暴力解或者DeepLearning，都只是找尋最佳策略的一種方式41F 11/02 02:44
推 : 單一的人會死亡，但是AI可以一直累積之前的東西42F 11/02 02:48
AI沒有生物界限，又可以用以用大量數據判斷推 : AI可以學習五感也有情緒，失控也是很有可能的43F 11/02 02:53
推 : 單個AI不如人類，但是AI可以透過網路互相溝通44F 11/02 02:53
推 : 樓上說到重點了～而且還能以人類無法達到的速度讀完全部的45F 11/02 02:54
→ : 可用資訊，還不會遺忘
→ : 可用資訊，還不會遺忘
→ : 全世界的電腦一起解..你怎麼可能玩得贏..47F 11/02 02:54
→ : 我是說ccm大48F 11/02 02:54
→ : 而且若駭進全世界有連上網路的電腦,作分散運算....整個世界
→ : 都是我的超級電腦><
基本上只會越來越猛，除非人類自己先滅亡→ : 而且若駭進全世界有連上網路的電腦,作分散運算....整個世界
→ : 都是我的超級電腦><
→ : 阿發狗單機板棋力絕對下不贏李世石51F 11/02 02:56
→ : 可是分散式運算下就是我們看到的結果
→ : 可是分散式運算下就是我們看到的結果
推 : 我是覺得所有固定規則的競技 只要AlphaGO能玩都會贏人類53F 11/02 02:57
→ : 但這對人類並不構成威脅吧 反而是一件好事情
應該說AI進步就算只侷限於單一領域，也已經超過很多人預期了，有多少人在AlphaGO之→ : 但這對人類並不構成威脅吧 反而是一件好事情
前，會覺得李會輸? 其實科技進步速度越來越快日常生活是有感的，頂多再幾年就有一堆
自動駕駛的車了
※ 編輯: aalluubbaa (36.227.7.172), 11/02/2016 02:59:58
推 : 去看銃夢吧55F 11/02 02:59
推 : 要有能夠危及人類的AI，要心理學或腦神經科學那邊有突破56F 11/02 02:59
→ : 科技進步速度我是覺得還好 理論完備的速度才誇張
→ : 這80年來一堆理論真的是被搞到後人沒辦法在做什麼東西
→ : 科技進步速度我是覺得還好 理論完備的速度才誇張
→ : 這80年來一堆理論真的是被搞到後人沒辦法在做什麼東西
推 : 天網降臨59F 11/02 03:02
推 : 類神經網路那套 理論上讓他自己生 可以自己生出智能60F 11/02 03:02
推 : 這看你怎麼定義 智能61F 11/02 03:04
噓 : 電池，能夠長期大量儲存電能的!!62F 11/02 03:04
→ : 能找出一個不錯的policy我相信 但這跟智慧有落差63F 11/02 03:04
推 : 很好奇，如果給他佛像老莊思想，會不會算到最後自動64F 11/02 03:08
→ : 關機XD
→ : 關機XD
推 : 結果 從他有意識 馬上研究出什麼是意識 超越兩百多年研66F 11/02 03:13
→ : 究 超猛der 所以不能放資源給它 跑512k 巫毒顯卡吧
→ : 究 超猛der 所以不能放資源給它 跑512k 巫毒顯卡吧
推 : 問題是由模糊理論推出來的演算法 的特色就是難預測68F 11/02 03:13
→ : 就是 無限猴子假設 總有一天是會被他跑出智能
→ : 再者就是 人類如何定義人類的問題了
→ : 我也完全無法了解理解任何一個熟人或是陌生人的運作
→ : 就是 無限猴子假設 總有一天是會被他跑出智能
→ : 再者就是 人類如何定義人類的問題了
→ : 我也完全無法了解理解任何一個熟人或是陌生人的運作
推 : 無限猴子假設跟智能沒有關係吧72F 11/02 03:16
→ : 若一個設定好的機械人 對應回答和陌生人差不多73F 11/02 03:16
→ : 那他是個陌生人咩?
→ : 那他是個陌生人咩?
→ : 他是個回答跟陌生人差不多的機器75F 11/02 03:17
→ : 但是無限猴子假設 和部份模糊理論的演算法有關76F 11/02 03:17
推 : 假設人工智能有辦法被寫出來，那危險猴子就有可能寫出來呀77F 11/02 03:18
→ : 無限猴子
→ : 無限猴子
推 : 是啊 如果強AI真的被做出來 他靠自我進化是一定比人類強79F 11/02 03:19
推 : 假設 啊你的判斷動勢勒 誰去主持判斷勢?下棋有規則主持80F 11/02 03:20
→ : 對了，我認為人工智慧跟「真隨機」演算法也很有關係81F 11/02 03:20
推 : AI沒靈魂，取代不了人類的音樂藝術等創意領域的82F 11/02 03:20
→ : 靈魂這種講法就可以省了，AI就只是單純的智能不夠高而已83F 11/02 03:21
→ : 無限猴子也可以產生音樂家和藝術家的大作
→ : 無限猴子也可以產生音樂家和藝術家的大作
推 : 學習 能自主學習 而不是被動學習 界限點在這裡85F 11/02 03:21
→ : 若他能自主要學的東西 他還學你指定的下棋作啥?
→ : 若他能自主要學的東西 他還學你指定的下棋作啥?
推 : 問題是人類不知道怎麼做出一個可以自主學習的機器啊XD87F 11/02 03:23
→ : 這問題卡了20年有了吧
→ : 這問題卡了20年有了吧
推 : 這種東東 和複製人一樣 有阻力的啦89F 11/02 03:26
推 : 靠杯 被更新成WIN10 笑了XDDDDDDDDDDDDD90F 11/02 03:35
推 : 揪竟是天網 lovemachine 還是禪亞塔呢ˊㄇˋ91F 11/02 03:43
→ : ai光 可以操控公共運輸 就穩了92F 11/02 03:51
推 : 別再發明那些會讓自己更忙更沒時間的東西就好了93F 11/02 03:58
推 : 「18個讓全人類驚恐尖叫的方式」----- Alpha 天網94F 11/02 04:03
推 : 那是你自己的問題吧! 自動駕駛發展應該也有至少10多年了，95F 11/02 04:04
→ : 而且說真的技術也沒有到多難! 是因為你在台灣所以可能覺得
→ : 交通很亂，事實上他的原理真的不會到太難的
→ : 而且說真的技術也沒有到多難! 是因為你在台灣所以可能覺得
→ : 交通很亂，事實上他的原理真的不會到太難的
推 : 會像法人或政府這種抽象的概念(組織?)存在於社會吧...98F 11/02 04:05
→ : 在找到取代人類的資源之前會依附在人類社會上...
→ : 在找到取代人類的資源之前會依附在人類社會上...
推 : 霍金在AI應該不算研究太深捏..感覺他隨口嘴幾句而已100F 11/02 05:35
→ : Elon Musk講說要小心 但他自己發展的最兇 哈哈
推 : 現在在搞的AI 基本上還沒有脫離工具的範疇
→ : 先讓他們繼續發展個20年再來緊張吧
→ : Elon Musk講說要小心 但他自己發展的最兇 哈哈
推 : 現在在搞的AI 基本上還沒有脫離工具的範疇
→ : 先讓他們繼續發展個20年再來緊張吧
推 : SCP-079104F 11/02 05:50
推 : ㄏㄠˇㄨㄣ105F 11/02 06:11
推 : 這樣說好了，光是人工智慧用最佳解可以減掉多少人無意義106F 11/02 06:13
→ : 的勞動，這樣的突破就夠世界大亂了
→ : 的勞動，這樣的突破就夠世界大亂了
→ : 我很好奇一個問題，阿發狗能不能做到教完全不會下圍棋108F 11/02 07:39
→ : 的人去下圍棋
→ : 的人去下圍棋
推 : 如果ai可以做到通通全自動全智慧 那人類存在有意義嗎？110F 11/02 07:46
推 : 我有生之年可以看到人類滅絕，讚111F 11/02 07:57
推 : 先拔電源112F 11/02 08:38
推 : 最強的AI就是加入mistake. 有看westworld的都知道.113F 11/02 08:38
推 : 科技在軟體上進步是在增進效率，算是cost down。 真
→ : 的下一階段的大躍進是要能源的進步。能獲得無限的能
→ : 源才有可能發展更高度的文明。或許就可以扭曲空間跟
→ : 時間了
推 : 科技在軟體上進步是在增進效率，算是cost down。 真
→ : 的下一階段的大躍進是要能源的進步。能獲得無限的能
→ : 源才有可能發展更高度的文明。或許就可以扭曲空間跟
→ : 時間了
→ : 人類對地球，就像癌症對人類。智慧至高者，不可能不明白。118F 11/02 08:44
→ : 那麼，人工智慧必會發現自己使命，最重要的就是減少人類數量
→ : 那麼，人工智慧必會發現自己使命，最重要的就是減少人類數量
→ : 我約翰康納喇120F 11/02 09:04
推 :121F 11/02 09:07
推 : 拔他插頭122F 11/02 09:10
推 : 切他電路123F 11/02 09:13
推 : 斷他電源124F 11/02 09:18
推 : 推個125F 11/02 09:20
推 : 推2樓XD126F 11/02 09:23
推 : 難度很高 目前都還是使用傳統電腦 運算有其極限127F 11/02 09:27
推 : 結果最後AI出來是金髮雙馬尾高智能傲嬌蘿 DM幹得好阿！128F 11/02 09:28
推 : 就說已經發明了啊129F 11/02 09:35
噓 : 智能、優化 支那用語130F 11/02 09:42
噓 : 人類只要乖乖待在母體電腦裡就可以無憂無慮幸褔快樂一131F 11/02 10:04
→ : 輩子了
→ : 輩子了
→ : 解決所有問題，包括人類。133F 11/02 10:38
推 : 我認為沒有肉體的AI，不可能擁有跟人類一樣的價值觀134F 11/02 10:47
推 : 程式要Hard code入價值觀, 人性很簡單，難在要他自135F 11/02 11:06
→ : 己"理解"並當做準則用
→ : 己"理解"並當做準則用
推 : 最後超級AI會做出跟人一模一樣的軀殼，偽裝人類選上世137F 11/02 11:22
→ : 界大總統，艾西莫夫在說你有沒有在聽？
→ : 界大總統，艾西莫夫在說你有沒有在聽？
推 : 叫AI生論文 看論文好像不錯139F 11/02 11:25
推 : 能被人類操控的AI就像有人類智能的猴子能幹麼？140F 11/02 11:37
→ : 生產一堆香蕉嗎?
→ : 生產一堆香蕉嗎?
推 : 怕是人類以為能控制他。。。142F 11/02 11:59
推 : 人工智慧完成後，人類就變成猴子了143F 11/02 12:06
推 : singularity翻譯成奇異點 就是科學發展再也無法被人144F 11/02 12:14
→ : 類所理解的深刻
→ : 類所理解的深刻
推 : 我的傲嬌AI哪有那麼恐怖146F 11/02 13:39
推 : 有點可怕其實147F 11/02 21:29
推 : 巨神兵148F 11/03 00:27
--
※ 看板: Gossiping 文章推薦值: 0 目前人氣: 0 累積人氣: 1506
作者 aalluubbaa 的最新發文:
![]()
其實Ant身體素質真的蠻頂的 我覺得你看他切入就知道 每球都不會進得很勉強 過人過得都很乾淨 也不需要那種很遠的拋投靠手感進 基本上就是手已經在籃板籃框附近放進的 有推文提到身體素質 我覺得真的是定 …236F 69推 29噓- 30F 15推 1噓
- 30F 7推 2噓
- 身為十年以上老用戶真的覺得度爛啦！換成微軟這家垃圾公司以後變超爛！ NBA也很奇怪，與其一場比賽現在搞了十個不同語言、主播、長度的串流，為什麼不把錢省 下來把UI做好，真他媽有夠瞎的。 我因為幾乎每 …41F 26推 1噓
點此顯示更多發文記錄
回列表(←)
分享