看板 ZZZZZZZZZZZ9
作者 ZZZZZZZZZ9 (Z9)
標題 Fw: [問卦] 強人工智慧的機器人有靈魂嗎?
時間 Sun Sep 21 22:20:01 2014



作者: DarkerDuck (達克鴨) 看板: Gossiping
─────────────────────────────────────

因為被計概大師嗆不懂,而剛好維基百科的人工智慧條目有部分就是我翻的,原PO的定義
也是抄維基百科的。所以我還是回一下好了:

以強AI的定義,Watson能夠看病、參加益智問答拿冠軍、做食譜、甚至可以參與生醫研究
,已經符合部分強AI的定義,但仍然無法像人類一樣有"靈魂",會有喜怒哀樂會跟你打嘴
砲,看起來也沒有什麼知覺和動機,只是台機器。主要原因就在於現代AI實現的幾乎都是
大腦前額葉的功能,對於其他的感覺皮質、運動皮質、原始腦幾乎都沒有實現,以下我就
非常簡略的說明一下人類的"靈魂"(其實就是人類整個神經迴路的運作),大腦皮質前額葉
其實只佔非常小的一步:


我先做一些前提假設,不然一定會陷入無謂的哲學爭辯中:

我不討論"子非魚,安知魚之樂"的主觀感質(quale)問題,一切以圖靈測試的為基準,這個
人工智慧AI必須要完全顯露出一個具有"自由意識""自我意識""自我思想""價值觀"等看起
來像是一個有靈魂的人的行為。


人腦的運作看起來是跟超大型類神經網路相同,因為類神經網路是圖靈機,而且人腦的突
觸看起來也沒有小到產生量子效應,所以可以用圖靈機形式的電腦去模擬人腦AI。(有限狀
態、明確步驟)。當然有很多人爭辯人腦是量子電腦無法用圖靈機實現,這邊就先不討論。

人腦並非是黑箱,依現代醫學來看,人腦是精密分工的,大腦皮質有非常多的功能分區、
http://www.dls.ym.edu.tw/neuroscience/functional_c.htm

 
但要知道我們的意識和理性可能其實只佔大腦的一小部分,也就是只有冰山一角,絕大部
分的腦區都在處理無意識自動化行為。其實我們所謂的"自由"意識可能只由前額葉負責,
一個喪失前額葉的人會變得非常衝動,幾乎無法控制地自己的行為,跟一隻野獸或是機器
沒啥兩樣。剩下的都是無意識的自動處理,像是枕葉視覺皮質作視覺的自動處理,譬如我
們辨識連D的臉,絕對不會還要想他的眼睛長什麼形狀、皮有多厚才能辨識出來,在小於
0.5秒內,視覺皮質就自動化幫我們處理,整個過程其實是無意識的,而實際上我們生活
大部分行為都是沒有所謂的自由意識強力干涉,我們走路絕對不會一邊走還一邊要前額葉
的"自由意識"幫我們想現在要抬哪隻腳,不信可以去玩QWOP,保證你腦袋秀逗:

http://youtu.be/1CLsYPIF9NY
史上最難跑步遊戲(中文字幕版) - YouTube
實在是太好笑了!!所以我幫它加上中文字幕 這樣會比較看得懂!!

 
而這些無意識部分其實都是現在AI非常難處理的部分。就算現在電腦都可以做醫學研究了
,我們還是無法設計出一個跟人腦一樣可以通用辨識各個物體的影像辨識機器。
(連CAPTCHA都有問題了)

那人類的動機、慾望、價值觀、人類的"靈魂"可能在哪?動機、情緒目前研究來看並不是
新腦皮質所發起的,而是由原始腦裡的基底核、杏仁核、海馬迴所處理的,這裡發起人的
情緒、記憶回憶、動機(獎勵和懲罰迴路),而現在AI也幾乎是完全欠缺這個部分。譬如說
一個人無意識的價值觀行為可能都含有原始腦的制約反射(又稱調教反射),講的誇張點,
譬如689看到連D就會很高興,整個調教的過程可能如下:


維持生活安逸->高興 天生的非制約反射
KMT+維持生活安逸->高興 調教反射訓練
KMT->高興 調教成功
連勝文+KMT->高興 再次調教反射訓練
連勝文->高興 徹底調教成功

這部分是並不是理性的前額葉所發起的,所以看起來根本不理性,但這就是一般人大部分
行為模式,才不是像AI一樣經過精密計算找出最佳解,人類絕大部分的行為可能根本就是
原始腦的慾望所發起的、人的視覺皮質觀察風吹草動、人的聽覺皮質耳聽八方、人的運動
皮質和小腦統整運動行為,最後不小心被抓包,才由號稱理性的前額葉想理由圓謊。

即時性的滿足自己的慾望,自動化無意識的處理,只有當出了大包才會由前額葉的意識
處理。我們的行為其實就是經過文明化包裝的野獸。而電腦AI則完全欠缺野獸的慾望,
當然看起來沒有靈魂。再舉一個吱吱看到連D的反應:


枕葉辨識出連D
杏仁核發出連D的情緒反應記憶
海馬迴提取連陣營造謠抹黑的記憶
感覺與聯絡皮質整個感到憤怒
前額葉說停下來了,先不要扁牠

所以說人的腦其實就跟一些漫畫畫得很像,原始腦的本我慾望惡魔和前額葉的理性天使一
直在打架,人類的行為是充滿情緒的,充滿慾望、充滿動機、由原始腦的"本我"各種貪嗔
癡所驅動的,而理性的前額葉只負責抑制和協調規劃,也就是你以為的理性自我意識只能
解釋人類行為的超小一部分,無意識的本我慾望才能解釋大部分行為。當我們感受到有多
個慾望需要協調,這個時候才是前額葉需要上場的時候,在這個時候才是自由意識最強烈
的時候,這個時候我們大腦才會像電腦AI一樣去尋求實現最多慾望的"最佳解"。不然其實
平常我們在做的事情都是讓讓自動化的刺激和反應,譬如很快地看完一篇廢文,看完發

現很廢,邊緣系統生氣了,按噓,再換下一個。其實並不太需要思考。簡單的說就是
感性做決定、理性找理由。所以你根本不可能期望一個理性的AI能跟人類一樣

最後其實人腦還有一些更原始在處理吃喝拉撒睡的部分,因為AI不需要就不討論了。

看到這邊,我們可以發現現代的AI研究幾乎完全沒有我講得以上的東西啊,現在的AI做的
其實都是偏向前額葉的理性大腦,從以前到現在幾乎都是找某項問題的"最佳解"(很不幸人
做事通常是依據經驗而不是依據最佳解),像是打敗世界西洋棋冠軍的超級電腦,他就是建
一個Game tree,然後刪掉沒必要的分支,窮舉上百萬步找一個最好的分支棋步,簡單講起
來只有這樣。但人腦完全不同,人腦的類神經網路可以看成一個超強的濾波器,不需要像
電腦那樣窮舉,可以依照過去的下棋經驗和棋譜迅速找出"幾個"可行的棋步,然後再讓前
額葉去挑"最佳解",前額葉的負擔根本就不大,從各種地方都可以發現超強人腦經驗濾波
器和超級電腦窮舉法運作的不同。


人腦為什麼會這麼快,就是因為人腦靠經驗做事,電腦AI靠最佳解做事。人腦的類神經網
路激發速度最快也才100Hz,但電腦晶片隨便都有1GHz,這種驚人差異到最後卻還是人腦
在各種決策上都比較快。就算是那個可以自己做生醫研究、做食譜、打敗人類益智問答冠
軍、幫人看病的Watson超級電腦,也脫離不了這個範疇:Watson的基礎是DeepQA系統,他
遇到問題時會像個學者一樣生成假說,一次生成數百個假說,當然也是會先把一些不可能
的假說砍掉,然後平行運算丟給各個Server,之後開始去資料庫找證據,依照證據的

support程度開始評分,越多高support的證據當然這個假說的評分會越高,最後選擇一個
評分最高的答案,當然整個實際流程複雜更多,但實際上脫離不了那台會下棋的深藍所用
的窮舉法。最難解之謎大概就是為什麼人腦濾波效果為什麼這麼強大,可以輕易把可能結
果刪除到只剩下幾個給前額葉選擇,這可能要對於大腦神經迴路和Deep learning有更詳細
的研究才能曉得。

http://goo.gl/XYVgr5
研究遇瓶頸,讓人工智慧電腦 Watson幫你抓方向 | T客邦 - 我只推薦好東西
[圖]
IBM研發的超級電腦Watson,最近已經宣佈投入實際商業用途了,IBM推出「Watson Discovery Advisor」雲端智慧服務,把 Watson放上雲端,透過 Watson強大的運算以及分析能力,希望能幫助研究人員找到新的思維以及突破點。 ...

 

現在回到人的"靈魂",人的感覺、動機、慾望、情緒,現在AI沒有的原因很簡單,就沒有
實作而已啊,譬如Watson,它完全沒有我講的以上各種情感迴路,所以它做事情當然沒有
動機,只能聽命於人,就算它已經厲害到可以打敗人類的益智問答拿冠軍,可以做食譜、
甚至可以做生醫研究,但都還是跟人腦差非常遠,因為它只相當於人腦前額葉的功能,它
沒有視覺、聽覺、嗅覺、體感、情緒、慾望、動機,更無法把這些東西整合起來,更重要
的是人腦運作幾乎完全是靠經驗的,大量的生活經驗才是人腦的本體,這AI很難達到。這
些都要以上我講的大腦其他部分的皮質、原始腦去達成,而這些部份可能難多了,因為我
們只知道What不知道How,在額葉的部分思想是有意識的,所以我們可以把我們存在前額葉
的思想寫成程式記錄下來,但是其他視覺皮質、聽覺皮質是幾乎都是自動化潛意識運作,
我們根本不知道我們為什麼看到連D的臉就可以知道它是連D。有一句話叫做說,沒知識也
[圖]
,所以現在Watson做到有知識其實只是最簡單的,有常識而且會看電視才能夠讓AI真正像人。

基本上無意識的unsupervised machine learning已經因為Deep learning關係有大進展了
,現在Google可以在看了上萬片貓咪影片後,自動歸納出貓咪的臉長什麼樣子,完全不用
人去教。

http://youtu.be/TK4qLwTye_s
Computers Teach Themselves to Recognize Cats, Faces - YouTube Complete program available for free at  Peter Norvig, Director of Research at Google, demo...

 
甚至有公司依照人腦視覺區的模型,創造出一個可以解CAPTCHA的影像識別程式出來:
http://goo.gl/k6Rb13
人工智慧的又一步: Vicarious 模擬人腦成功破解文字驗證碼CAPTCHA | T客邦 - 我只推薦好東西
[圖]
人工智慧初創企業 Vicarious 宣稱他們的程式可透過模擬人腦處理視覺資訊的方式破解數種驗證碼,成功率可達九成以上。不是第一次有人聲稱可以破解驗證碼,但 Vicarious 表示他們的方法更加可靠而且實用,因為他們所採用的是一套模擬人腦處理及識別視覺資訊的認知系統。 ...

 
剩下的的大腦皮質感覺區也是可以漸漸地利用逆向工程創造出來,這將有助於AI有視覺
、聽覺和其他感覺,甚至於情緒和動機,這些所謂的"靈魂"可以靠全大腦逆向工程模擬

例如IBM的藍腦計畫: http://goo.gl/YBxVZE
藍腦計劃- 台灣Wiki
[圖]
藍腦計劃,是由瑞士科學家設想的一個複製人類大腦的計劃,以達到治療阿爾茨海默氏症和帕金森氏症的目的,最近瑞士聯邦理工學院科學家領導的一個人腦項目,計劃到2023年左右在分子水平上完成人腦模擬,用軟體而不是血肉來支持其運行,它將可能擁有感覺、痛苦、願望甚至恐懼感。 ...

 
Human Connectome Project: http://youtu.be/i2W570VgV6I
The Human Connectome Project - Relating Brain Circuits to Behavior: David Van Essen at TEDxCaltech - YouTube David C. Van Essen is the Alumni Endowed Professor in the Anatomy & Neurobiology Department at Washington University in St. Louis. He has pioneered the use o...

 
甚至是用硬體的方式去模擬: http://goo.gl/qKJVJo
TrueNorth:IBM 的百萬神經元類人腦晶片 | TechNews 科技新報
[圖]
郵票大小、重量只有幾克,但卻集成了 54 億個矽晶體管,內置了 4,096 個核心,100 萬個「神經元」、2.56 億個「突觸」,能力相當於一台超級電腦,功耗卻只有 65 毫瓦。 這就是 IBM 公布的最新仿人腦晶片:TrueNorth。 為什麼要做 TrueNorth? 因為自 200... ...

 

雖然已經在做全大腦模擬研究,但可能有生之年都不會用在AI上面,這太沒事找事做了,
藍腦計畫主要是要用在研究大腦病變上,而不是研究AI。而且這種靠各種本我慾望驅動的
AI大概也沒什麼人想要用,耗資上億美金的超級電腦最後變成一個肥宅只會在那邊發廢文
要怎麼辦呢?要請他做事還會偷懶,但加入動機和更強經驗法則的AI一定會出現,它可能
不會有像人類一樣完整慾望,但是他有已經訓練好的獎勵迴路,只要當奴工就會很快樂,
也會自己去尋找問題去解決,因為這會觸動獎勵迴路感到興奮,這是有可能的。而這的確
也已經有演算法這樣寫。現在高階AI不這樣子做純粹是為了節省資源,怎麼可能做一個AI
就讓它完全自由探索研究,超級電腦很貴的咧


現在繼續回答一些疑問,有些人說資料庫沒有的,電腦就不會回答了。不要說電腦、人腦
也是如此,難不成你要連D曉得新生高地下化不可能嗎?連D的資料庫就沒有瑠公圳存在,
怎麼可能會有正確答案呢?只是人類的經驗記憶提取系統實在是太強了,就算只是有類似
經驗,也都可以融會貫通。


有些人說電腦無法自行學習,其實這要看你自行學習的定義,人類大部分的學習也是要有
教師從旁補助,Watson它可以自行研讀科學論文,Google的超大型Deep learning類神經
網路也不需要人類去定義何謂貓,它就可以自己從影片裡發現有貓這種生物。這個領域在
AI裡叫做unsupervised learning,其實也不是什麼很神奇的東西,data mining就是不需
要人類去教,讓電腦自己去從一些unstructure data裡自行發現事物的關聯。跟所有AI進
展一樣,最剛開始大部分的人認為會解數學方程式就是有智慧,電腦很快就會了。

後來只好改成會下棋叫做有智慧,深藍也打敗世界棋王了。現在變成益智問答冠軍叫做有
智慧,然後Watson贏了,最後連醫學研究都可以靠Watson,所以AI的智慧和自主學習能力
只會不斷進展,直到我們正常人開始恐懼的地步。


: → jengjye: 不管再怎樣人工智能化 都是被創造出來的
: → jengjye: 電腦本身並無法產生智慧,甚至電腦的運算都要用補數去規範

我不曉得這到底和電腦無法產生智慧有啥關係,前面已經說過,只要人腦是圖靈機相容的
,那圖靈機型態的超級電腦就可以有人腦般的智慧。而人腦智慧也只是演化過程的"副產品"
,代表大腦運作遵守物理法則,理論上可以用物理機器重現。

: → jengjye: 沒錯我講智慧不夠嚴謹 但我想基本知道計算機組織的人
: → jengjye: 都會知道電腦只是一個聽命行事的東西

看完全文就可以知道人類其實也是聽命行事啊,只是不是聽別人的,而是聽自己本我的
慾望、情緒與生理需求。真的要機器人不聽命行事還不簡單,一大堆娛樂型的機器人都可
以做到,像我將近十年前有養過AIBO狗,跟個垃圾一樣,給他命令都不聽XDDD。

: → jengjye: 所以你假設的那個東西,是脫離不了原則(規則)的
: → jengjye: 本質上仍然是聽命行事的輔助工具啊

其實依照自私的基因理論,我們只是個基因承載容器,都不要吵,通通要聽基因調控。
實際上我們自以為的自由意識,也是為了要更好的滿足多個本我慾望的衝突,也就是相當
於AI選擇全域最佳解的概念,而不是像個野獸一樣依衝動行事。

: → jengjye: 噗嗤...物理定律???   哥還沒睡醒嗎?
人會睡醒也是物理法則的運作啊,不然你腦幹清醒中樞不運作就慘囉,就跟植物人一樣
一睡不醒惹。

: → jengjye: 哪天電腦可以理解1+(-1)不需要靠補數運算
: → jengjye: 再來討論它會產生自主思維也不遲...
我是不曉得為什麼AI的加法運算一定不能靠補數運算啦,不過假如要理解1+(-1),至少要
有集合的觀念、有序數列的觀念、負號的觀念、加號的觀念,等於的觀念,人腦一千億個
神經元聯合運作總算懂了。我想一個加法器運算應該是真的沒辦法啦。


: → jengjye: 你給他1+(-1)與1-(-3)電腦只是開關切換
: → jengjye: 與你說的自主意識 到底哪裡有關係呢 他甚至連那內容
: → jengjye: 都無法理解 這才是重點啊
真的一點關係都沒有,所以我懷疑你根本不知道要怎麼做像大腦一樣的AI。其實大腦如何
理解一個概念,在認知心理學上已經有非常多的研究,尤其是視覺方面的因為可以設計很
多精巧的實驗,所以視覺皮質的V1 V2 V3和後續處理都已經搞得很清楚了。

http://en.wikipedia.org/wiki/Visual_cortex
Visual cortex - Wikipedia, the free encyclopedia
[圖]
[圖]
[圖]
The visual cortex of the brain is the part of the cerebral cortex responsible for processing visual information. It is located in the occipital lobe. The visual cortex is made up of Brodmann area 17 (the primary visual cortex), and Brodmann area 18 and Brodmann area 19, the extrastriate cortical are ...
 
所以才會有公司可以做出仿造人類大腦皮質的視覺處理器,拿來破解recaptch。

打這麼多真的累了,簡單的來說要做出一個像人一樣的電腦絕對不簡單,但也不是不可能
,只是人工智慧學者並不會去刻意研究出一個跟人一樣好吃懶做的阿宅AI出來。

--
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 125.230.217.37
※ 文章網址: http://www.ptt.cc/bbs/Gossiping/M.1411223341.A.820.html
※ 編輯: DarkerDuck (125.230.217.37), 09/20/2014 22:31:59
snowwolf725: End...1F 09/20 22:31
pzyc79: 做出台跟人一模一樣的機器人 讓他有跟人一模一樣的經驗
他就有「靈魂」了2F 09/20 22:31
so03c: 人腦會突變出我們總統那種腦也是種風險...4F 09/20 22:32
※ 編輯: DarkerDuck (125.230.217.37), 09/20/2014 22:33:14
d512634: 靈魂是人賦予的5F 09/20 22:33
※ 編輯: DarkerDuck (125.230.217.37), 09/20/2014 22:37:34
airawesu: 推一個6F 09/20 22:35
alembert: 推7F 09/20 22:37
sc024500: 好像很厲害 改天再來看8F 09/20 22:37
asukarei124: 在八掛版寫這麼長的認真文一定要推!9F 09/20 22:39
CharleneTsai: 有趣推一個10F 09/20 22:44
loseptt: 強11F 09/20 22:52
sevenhahaha: VVVV~~~~~~12F 09/20 23:01
qcc0414: 推! 上Gossiping看到這樣的文章 太值得!13F 09/20 23:09
※ 編輯: DarkerDuck (125.230.217.37), 09/20/2014 23:12:10

 
hihijames: 講的不錯 不過不是學資訊領域的 可能很難想像程式模擬人腦會遇到的困難 跟運行方式15F 09/20 23:26
kcy7427p: 推17F 09/20 23:31
jeremy7986: 要是想像「自己」就在一個機器裡面,那應該蠻玄的。18F 09/20 23:38
ppoyi:19F 09/20 23:40
zuan: 超棒的文20F 09/21 00:20
divingwolf:21F 09/21 00:27
※ 編輯: DarkerDuck (125.230.217.37), 09/21/2014 00:30:23
※ 編輯: DarkerDuck (125.230.217.37), 09/21/2014 00:34:00
none049:  22F 09/21 01:32
imyme: 酷23F 09/21 01:35
deadtek: 你真厲害!24F 09/21 01:39


※ 發信站: 批踢踢兔(ptt2.cc)
※ 轉錄者: ZZZZZZZZZ9 (1.171.17.215), 09/21/2014 22:20:01
lecheck:非常棒!!感謝!!                                   推1F 09/24 21:51

--
--
(ZZZZZZZZZ9.): Fw: [問卦] 強人工智慧的機器人有靈魂嗎? - whatla板