看板 C_Chat作者 praiseZun (praiseZun)標題 Re: [閒聊] 現實世界有哪些原理不明的科技時間 Thu Dec 10 15:24:19 2020
現在的AI就是啊
深度學習爆紅是十年前就開始了
但大家根本不知道為什麼neural堆深一點就可以學習
CNN出來時屌炸天,好像什麼pattern都學的起來一樣
然後你問研究者為什麼圖片和文字的data structure兩者可以取得有類比性的成功
他會和你說我也不知道,甚至直接寫在論文裡那種
然後花了好幾年時間trial and error,用結果反推為什麼
這個研究方法不叫懂基本原理,的確比較像動漫那種黑科技知道能用就將就著應用而已
基礎原理的理解完全跟不上
當然啦,我們知道nerual net可以趨近任意函數
我們也知道這個世界和高斯分布關係很深
(高斯分布encode了最多的不確定性,同樣大小的空間下高斯能紀錄最多資訊)
但一樣啊,這只是稍微justify我們用神經網路,還有每個未知的分布都先用高斯套或高斯p
rior套而已
然後他就work了
明明說因為天下沒有白吃的午餐理論,任何一個演算法都會被某一些分布的資料搞爆
但他就work了啊
著名學者像Andrew Ng在課堂上也就聳肩說看起來這世界對我們敵意沒那麼深
.
.
但是最近好像終於開始有些進展了,NTK之類的
滿多是19年和今年的論文的,我還沒跟上,懂得大大請體諒我的認知
我自己一路學來是覺得
這個領域就是霧裡看花,但你學越多霧就越散
現有理論的不完整,我是覺得一部分是真的不完整
但其他一部分是大部分人,甚至可以講非AI領域,貝氏統計領域,量子領域以外的對uncert
ainty(不確定性)都沒什麼認知
絕大多數人覺得世界就是0和1,不會去問threshold是什麼背後的分布長啥
一旦接受了這世界就是建立在不確定性的基礎上這設定後
很多事情就不會腦袋轉不過來這樣
要知道不一定要知道某一現象才叫懂
你知道你不懂什麼不知道什麼再能夠去推論你懂什麼
能做到這樣就很近似你懂了,這樣
--
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.12.84.61 (臺灣)
※ 文章代碼(AID): #1VqSqbKF (C_Chat)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1607585061.A.50F.html
※ 同主題文章:
Re: [閒聊] 現實世界有哪些原理不明的科技
12-10 15:24 praiseZun.
→ ZooseWu: 我知道寫程式溝通都像你文章這樣 但是你好歹打文章的時候要換成全部都是中文吧 雖然有些名詞用中文沒辦法精確表達意思1F 12/10 15:25
我學這些沒透過中文學過,很多是真的想不出對應中文是什麼,不好意思
→ Dirgo: 很多數學公式也是先找到通則,再想辦法證明或反證,很正常.5F 12/10 15:26
推 weltschmerz: 類神經的節點 每個都是不知道衝三小的 但最後就是能算好6F 12/10 15:26
推 arrenwu: 因為實際上他真的沒辦法保證這做法一定比較強8F 12/10 15:26
→ nh60211as: 可以撲要中文English mix在一起ㄇ,這樣讓我很confuse10F 12/10 15:26
→ arrenwu: 現在真的大家懂得原理就是Fundamental Approximation Thm也就是「資料夠多 層數夠多 就可以學得夠像」11F 12/10 15:27
推 cloud7515: 哪天我們變成劍與魔法的世界 也會有人問魔法原理是啥13F 12/10 15:27
→ arrenwu: 但是要多少資料或多深這類 performance gurantee 目前
是不清楚的,而且我覺得大家也不感興趣XD15F 12/10 15:27
※ 編輯: praiseZun (101.12.84.61 臺灣), 12/10/2020 15:28:40
→ arrenwu: 這東西沒有那麼像魔法,只是有時候效果很棒
但實際上reinforcement learning 現在正在撞壁18F 12/10 15:28
我自己覺得不是大家不敢興趣,是感興趣弄懂的都在數鈔票了。而且那些大家就算感覺的出
來怎麼做要寫成嚴謹的證明也是另一回事。
推 farseer7: 其實大家都是魔法師peko20F 12/10 15:29
→ ZooseWu: 我知道 因為我寫程式也都直接英文學習英文應用英文溝通21F 12/10 15:29
→ arrenwu: 因為他很容易發生"在這個情況好棒棒 但其他情況不是"22F 12/10 15:29
→ ZooseWu: 但是我沒學過AI看你的文章就會看不懂QQ23F 12/10 15:29
→ hmcedamon: 這些詞真想全部tran成中文會馬上引來支語警察24F 12/10 15:29
→ arrenwu: 把Deep Network 想成偶爾會膛炸的大砲就好了
這東西並不是像程式那樣保證會成立的東西
他隨時有可能在你不清楚的情況下爆開來26F 12/10 15:30
※ 編輯: praiseZun (101.12.84.61 臺灣), 12/10/2020 15:31:01
→ arrenwu: 至少就我知道的部分,performance guarantee是一攤死水你沒能寫成數學證明 基本上就是不知道啊XD
我想了一下 講不感興趣是不太對的說法
應該說,你現在去做那個研究 會比較難拿到錢
而且我聽到的部分是...那理論真的很難做30F 12/10 15:31
基礎研究現狀真的是這樣。我之前就看過美國很有名的教授在抱怨現在產的論文90%都是垃
圾,只是能快速累積應用上的成果就能被發出來了這樣
推 bag0831: It just works35F 12/10 15:33
→ Adiakyan: 有些專有名詞真的不知道要怎麼翻成中文36F 12/10 15:33
推 zznzm: 樣本標準差...38F 12/10 15:35
※ 編輯: praiseZun (101.12.84.61 臺灣), 12/10/2020 15:36:10
→ bag0831: 翻成中文反而比原文還能看懂…41F 12/10 15:37
推 arrenwu: 因為現在大家比較關心應用層面的部分
畢竟那些應用DEMO起來挺炫砲的42F 12/10 15:37
推 mihailseiko: 我懂用英文表達會比較習慣 但是work的中文你說沒學過我還真不相信==45F 12/10 15:38
推 daniel50506: 英文的比例明明就夠低 work用workg是因為最順啊
不然要打 行得通嗎==47F 12/10 15:39
推 kevin7770726: 很多詞翻成中文也不會好懂到哪去 堆疊類神經網路來學習(?) 別為難工程師了(扶額50F 12/10 15:41
推 CorkiN: 用work最能表達那個意思啊==52F 12/10 15:41
→ arrenwu: convolutional 這個中文我還真的不知道是啥53F 12/10 15:41
→ arrenwu: 卷積 ... 好像看起來還滿像回事的56F 12/10 15:43
講到這個就想起一個好笑的。因為現在AI還真什麼解釋性無法檢驗,之前就有個新聞是公司
造假AI其實是印度人在背後下判斷。
"人工"智慧,嗯
推 Yanrei: 謝謝你,大魔法師60F 12/10 15:48
※ 編輯: praiseZun (101.12.84.61 臺灣), 12/10/2020 15:50:03
→ bluejark: 看不懂不是英文的問題 因為這些東西只有懂的人才懂61F 12/10 15:50
推 arrenwu: 人工智慧(X) 工人智慧(O)62F 12/10 15:51
→ mnkrwb: 有些詞就跟代號一樣 還是要看解釋才懂 翻成中文沒意義63F 12/10 15:51
推 aegis91086: 就跟飛機為什麼會飛 一樣,雖然知道有利用牛頓第三運動定律和白努力運動,但更詳細的原理還是未知的65F 12/10 15:54
推 arrenwu: 樓上只是需要多寫些習題而已XD67F 12/10 15:54
→ arrenwu: 我是說 dieorrun69F 12/10 15:54
推 syarokoi: 怎麼會有人想要翻譯專有名詞==
很多詞中文根本沒辦法表達71F 12/10 15:55
推 waggamsn: 這倒是真的,Alphago Zero那麼強,但是圍棋邏輯也說不出來75F 12/10 16:00
→ arrenwu: 因為AlphaGO就不是用人類的理論去分析啊
用人類的圍棋理論反而是自行設定限制78F 12/10 16:01
推 winklly: 名詞翻下去本來只有外行人不懂的文章會變成沒人看得懂80F 12/10 16:04
推 siyaoran: 本來就不該翻譯 我們教育都看原文書的 中文翻譯沒有真的統一居多 硬要翻原本看得懂的變成看不懂81F 12/10 16:06
推 guolong: 資訊很多專有名詞還是用英文好一點85F 12/10 16:19
→ haoboo: 因為這樣才會有metaheuristic誕生阿86F 12/10 16:24
推 roc074: 我覺得CNN(DNN)的原理爆開來的那一天人類應該會有很可怕的進步。87F 12/10 16:25
→ LakersDlo: 真的不是中英文的問題,是專業問題
Neural Network翻成神經網路我相信不懂的人還是不懂
還有像domain這種翻成域以後講話別人都不知道你說什麼89F 12/10 16:43
推 dannyko: 深度學習我們能理解的只有梯度下降,數學只能證明到這一步,證明模型是終究可以收斂的,但是這是微觀的理解,全局上沒人懂他到底收斂了什麼,怎樣會平滑怎樣會卡在saddle point92F 12/10 16:47
推 strayer014: 沒錯 AI基本上就是瘋狂亂套亂算寫公式 再套進去
大概只有前0.000001%的人 真的知道自己在幹嘛
其他:誰他媽知道那些LAYER在幹三小 結果all right就好97F 12/10 16:53
→ LakersDlo: 以目前絕大部分論文都還是英文的情況來說 翻成中文
可不一定比較好,泛用性也得考慮進來啊102F 12/10 17:17
推 zxc1020305: 流體力學最後幾章都直接教你做個等比例模型去模擬情況,然後用公式換算到原始比例。因為實際情況複雜到原始比例根本很難用公式算104F 12/10 17:30
推 LeafLu: 的確是黑科技109F 12/10 18:33
推 aegis91086: 用電腦做流力計算到現在也只能說是有算出趨勢
然後計算方式也是百家爭鳴...
白努力只能用在層流計算,現在一般環境幾乎都是湍流,但計算問題前面也提到了==110F 12/10 18:33
推 kinomon: 我覺得未來十年二十年會很噁心114F 12/10 18:55
推 emptie: 很多人在期待泛用型的AI超越人類的那天116F 12/10 19:06
推 adagiox: 就是抄自然界存在的東西 就像飛機先抄鳥類構型一樣
非線性複雜系統只能部分解析特性
原理部分還是不完全明白118F 12/10 19:34
--