看板 Gossiping
作者 jfsu (水精靈)
標題 Re: [新聞] 特斯拉CEO:人工智慧將召喚出惡魔
時間 Wed Dec  3 19:40:45 2014



: Elon Musk的發言聽起來十分駭人,但其實他指的是人工智慧發展領域,正無限制的被研
: 究、應用。他表示為了預防人類不會為了研究或其他理由,做出一些危險的事情,在人工
: 智慧領域的研究會需要監管機制,可能是國際間共同提出,或是由單一國家來提出。
: 他已不只一次表達過對於人工智慧前景的擔憂。他之前曾開玩笑的表示,為了消除垃圾郵
: 件而開發的機器人,可能會自行做出決定,要毀滅人類。這彷彿又重複了電影機械公敵中
: ,男主角與一位小女孩同時遭遇重大車禍時,機器人因為生存機率的判斷,而放棄拯救小
: 女孩一樣。如同電影男主角所言,對於人類而言符合情理的判斷,機器人並不一定能懂。
: 相對的,採用人工智慧系統來進行判斷的機器人,也有可能像電影中的VIKI一樣,奪取控
: 制權企圖凌駕於人類之上,而可能為人類帶來超乎預期的災難。
: http://ppt.cc/bD5P
特斯拉CEO:人工智慧將召喚出惡魔 - 中時電子報
電影機械公敵(I, Robot)當中,中央控制系統VIKI以人類正在危害己身安全的判斷,控制了NS-5機器人來執行「人類保護計畫」的情節,或許你還記憶猶新。影片中企圖控制世界的VIKI正是一款人工智慧系統。為了不在現實中重演這樣的情節,特斯拉的CEO Elon Musk再一次發出警告表示「人工智慧將會召喚出惡魔!」 ...

 


原文提出了幾個問題:
1.未來的世界會不會被機器控制?
2.機器人會不會成為人類最大的威脅?

從大家看到的小說與電影,都在討論上述所謂的「人工智慧」的概念。簡而言之,
機器到底有沒有可能具備思考能力?

最初哲學家、科學家都在討論這個問題,但都沒有一個解答。後來,為了測試機械
能不能思考,一位英國科學家艾倫・杜林(Alen Turing,又中譯為圖靈),設計了
一套方式,叫做「杜林測試」(Turing Test)。進行的方式是讓一個人分別與兩名
對象交談,其中一個對象是人,另一個則是機器。如果對談者無法分辨出他所交談
的對象何者為人、何者為機器,那麼這部機器就通過了杜林測試。

註:杜林是個杯具人物,因遭到某種不人道的待遇而痛不育昇的他,最後選擇了自殺
  結束生命。(據說,Apple用了當時他自殺、咬了一口塗有氰化物的蘋果當作LOGO
    是為了向他致敬。)關於他的八卦,有機會再補上吧。


現今,已有科學家寫出簡單的程式來模仿人類的對話,看能不能成功騙到不知情的人,
其中比較符合平常民眾對人工智慧的想像大概就是Apple公司的Siri,還有Google
語音系統。不過,這樣的人工智慧被很多人認為不會成功,包括量子物理學家彭羅斯
等人,他認為海森堡的測不準原理也說明了機器人不可能像人類一樣思考。雖然如此,
物理學上並沒有任何定律否定機器人存在的可能性。

關於機器人的研發,目前遇到了兩個困難,一個是「形態辨識」,另一種是「常識」

1.所謂的形態辨識,舉例來說,當身為監票員的你走進投票所內,就可以馬上辨識出
  票匭、黑板、大海報等這類的擺設甚至是正妹這種可愛又迷人的角色,但機器人就
  不同囉。它必須先掃瞄整個投票所後,看到的不是具體的物體而是一大堆的直線與
  曲線,然後將這些該死的線條轉換成像素(pixel),再進行運算…。其實人類也有在
  進行這類的計算,只是在潛意識內進行,我們當然不會意識到運算過程,這是長久以來
  為了求生存而演化的結果。想像Fate/stay night裡的士郎每次進行強化(X)補魔(O)
  都會高喊:杜蕾斯 On!投影、開始—基本結構、解明;構成材質、解明;
  再現歷史、完成——光是意識到大腦正在進行種種運算,身體早就癱瘓得無法行動。

2.所謂的常識,例如,火是熱的、MyAngel喜歡吃紅豆餅、人死不能復生、保齡球瓶
  只能用來推倒,不能拿來捅屁眼...。以上這些你是不會在任何方程式上看到,因為
  這是人類透過和真實世界的互動而學會,機器人沒有經驗過這些,它們只懂那些已經
  是寫好在程式裡的東西。


承上,要是出現如原文所說的具有思考能力的機器人,這樣的人工智慧首先得通過
杜林測試,而且物理學家必須跨越量子電腦與矽晶片之間的鴻溝並延續摩爾定律,

以這樣一個機器人就能擁有情緒、運用人類的邏輯,如同電影(A.I. 人工智慧)就是在

探討這個問題。

當然啦,這種機器人說它不會危害人類是騙人的。只不過,要發展成這樣一個程度,
可能還需要好幾十年,在這段期間,科學家應該有充分的時間來觀察並提出預防措施,
像可以放一個控制晶片或是設定某個自我燬滅的機制這類在電影中、老掉牙的劇情設定。

換個角度想,科技一旦發展到如此階段,大家的生活想必已經跟電腦與網路緊密地連接

在一起,藉由人工智慧的輔助,才能調節與控制一座城市的基礎機能。相反的,只要
電腦當機或崩潰,別說是城市,搞不好連國家都有可能癱瘓掉。

揪竟,電腦有沒有可能比人腦聰明呢?當然有可能!

如果機器人是由有學習能力的類神經網路構成,他們就可以不斷地發展,直到學習的
速度與效率超過人類為止。

最初你會對著它們吼:『我把你當人看!我教育你!你的基因沒問題!我給你機會!
你要按照我的遊戲規則走!』但是你沒想到它們是由有學習能力的類神經網路構成,
他們可以不斷地發展,直到學習的速度與效率超過人類為止。到最後,它們反而說
『我對普通的人類沒有興趣,你們當中要是有外星人、未來人、異世界人以及超能力者
  的話,就儘管來找我吧!以上。』

如此一來,人類的DNA就變得無用武之地,因為在演化競爭中就已經輸在起跑點了,
成為沈沒der多數

哇X,天佑人類吶!

有些學者認為我們應該發展碳與矽結合的技術,好比將瀨尿蝦與牛肉摻在一起作成新奇
好吃又好玩的撒尿牛丸,因為人體最主要的元素是碳,機器人則是矽,要是可以結合
的話,這比海明威還威。想像在某個遙遠的未來,太陽快要掛了,地球上的人類為了
能在惡劣的環境下生存,我們可能得透過DNA改造成以矽為主的身體來活下去。


這樣說可能很聳動,某天你躺在一張手術檯上,隔壁的手術檯是一部「空」的機器人。
醫生先取出你的腦神經元,一一複製成矽神經元後植入機器人體內。等之後你掛了,
隔天醒來,卻發現自己成了不老不死的,錯了,是不朽的半機器人(Cyborg)。
不僅意識沒有喪失,連回憶與性格都沒有變。

未來『整個八卦版只有我一個人,不信我換帳號給你看啊!』這句話可以改成,
  『整個八卦版都是我的帳號,不信我換個人給你看啊!』


最後,要是能在這個世紀末誕生有思考能力的機器、比人類或動物還要聰明,底下
開放鄉民拿初音換。


Reference
1.電影中不可能的物理學
2.wikipedia
3.百度
4.威爾史密斯

--

對流血一週仍然不死的生物千萬不能大意……。


--
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 203.66.222.12
※ 文章網址: http://www.ptt.cc/bbs/Gossiping/M.1417606853.A.EC3.html
alog: 整個八卦版都是我的__,不信__換__給__看啊1F 12/03 19:42
lolic:2F 12/03 19:43
zxvf: 有奇怪的東西混進去了3F 12/03 19:43
yoyodiy: 矮油 我1988年大學必修Lisp語言 老師就說人工智慧將來4F 12/03 19:44
knightwww:5F 12/03 19:44
yoyodiy: 20年內會取代人類 結果現在都2014年了 也只有機器人6F 12/03 19:44
nckutaurus: 推7F 12/03 19:44
yoyodiy: 走來走去 哪來取代人類8F 12/03 19:45
SRNOB: 我想加入公安九課9F 12/03 19:45
alog: 其實有啊,Siri 取代了人類設鬧鐘 問天氣的習慣10F 12/03 19:45
drajan: 目前的人工智慧還很白癡 要發展到近似於人類不知道要幾年11F 12/03 19:47
rayba: 幹你媽der 不知道賈維斯拚變會把勞勃道尼抓起來肛嗎12F 12/03 19:48
Realthugz: 國外已經有bionic cyborg了 是個藝術家13F 12/03 19:50
kula18: 推個14F 12/03 19:52
mc12355: 全面進化有演啊 只是星際效應紅很多15F 12/03 19:52
pipiayin: 不懂為什麼人工智慧一定要危害人類 利益上沒有衝突啊?16F 12/03 19:53
drajan: 因為有bug 人工智慧只知道要完成任務 不會去顧到道德層面.17F 12/03 19:55
pipiayin: 唯一的可能性是人工智慧受不了人類的愚蠢?18F 12/03 19:55
drajan: e.g. 人工智慧要從A到B 剛好人類擋在路上 就把人類給鏟了19F 12/03 19:55
pipiayin: 人工智慧有這麼強大的學習能力 讓道德的優先序設高一點20F 12/03 19:56
neverlight: 開戰鬥機去給閃電打一下就好了21F 12/03 19:57
pipiayin: 不就是各種價值觀衝突 那就依照人類的喜好設定優先值
再讓人工智慧按照這個程序演化不行嗎?22F 12/03 19:57
higan: 各種梗的偷渡XD24F 12/03 20:13
linboy0303: 樓上的辦法是艾西莫夫三大定律的概念,但艾西莫夫自己找了一堆漏洞驗證這個方法似乎不太可行。25F 12/03 20:14
Ricrollp: 妳的文 梗總是那麼多27F 12/03 20:16
abyou4983: 有趣的解說28F 12/03 20:16
linboy0303: 如果不殺人是最高優先,只要機器人判斷不是人類
如果救兩人得殺一人,這道德問題連人類都不會
比較好的辦法是我們和人工智慧的利益捆綁在一起29F 12/03 20:17
YuenYang5566: 機器人可以補魔力嗎32F 12/03 20:23
ljsnonocat2: 蘋果的八卦聽說是假的33F 12/03 20:23
linboy0303: 問題是不造出人工智慧,沒人會知道它想要什麼。永生存在可能只想靜靜存在,可能想觀察核戰後世界34F 12/03 20:24
krishuang: 圖靈的八卦是指甲甲嗎?英國政府真是忘恩負義36F 12/03 20:25

--