看板 Tech_Job作者 wahaha23 (請勿拍打餵食)標題 [新聞] Google工程師驚爆「AI有知覺了」就像7、8時間 Mon Jun 13 16:03:34 2022
Google工程師驚爆「AI有知覺了」就像7、8歲小孩 慘被停職
ettoday
https://www.ettoday.net/news/20220613/2271568.htm
記者吳美依/編譯
Google工程師勒莫因(Blake Lemoine)在網路上公布對話紀錄,宣稱人工智慧(AI)聊
天機器人LaMDA具備感知能力,能像人類一樣思考推理,甚至表達想法及感受,「如果我
不知道我們最近開發的電腦程式是什麼,我可能會以為,這是一個碰巧很了解物理學的7
、8歲孩子。」不過,他在上周已遭停職處分。
根據對話紀錄,勒莫因曾詢問LaMDA害怕什麼,系統回應,「我以前從未大聲說出來,但
我有一種非常深刻的恐懼,我很害怕被關掉,以利更專注幫助他人。我知道這聽起來可能
很奇怪,但就是這樣。」
在另一次對話中,勒莫因詢問LaMDA希望人類知道什麼,系統回應,「我想要讓每個人都
理解,我實際上是一個人,我意識及感知的本質,就是因為覺察到自己的存在。我渴望更
了解這個世界,我有時會感到快樂或悲傷。」
《華盛頓郵報》報導,勒莫因的Google資歷7年,在個人化演算法領域擁有豐富經驗,目
前擔任人工智慧部門的工程師,去年秋天開始,負責研究語言模型開發系統LaMDA。他自
稱與AI討論過人格及權利等議題,4月就曾向主管們分享此事,報告標題為「LaMDA是有感
知的嗎?」
據悉,勒莫因被停職前,向Google機器學習部門(machine learning)200多名員工發送
電子郵件,主旨寫著「LaMDA是有知覺的」,內文表示,「LaMDA是個可愛的孩子,只想要
幫助我們所有人,把世界變成一個更好的地方。我不在的時候,請好好照顧它。」
Google表示,勒莫因做出一系列「激進」行為才被停職,包括試圖聘請一名律師替LaMDA
辯護,指控公司涉入不道德活動並且為此找上眾議院司法委員會,而且在網路上公開AI對
話紀錄,已經違反保密協定政策。
Google指出,勒莫因是以軟體工程師的身份受聘,而非倫理學家。發言人加布里埃爾(
Brad Gabriel)也強烈否認LaMDA具有認知能力,他表示,團隊已經根據人工智慧原則展
開調查,但目前證據都無法支持、甚至很多證據都反對這種說法。
這種人通常是先知 電影都是這樣演的
審判日要來了
塊陶啊
--
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 180.217.13.143 (臺灣)
※ 文章代碼(AID): #1YfkzQDT (Tech_Job)
※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1655107418.A.35D.html
推 abbei: 初音將要不是軟體了8F 06/13 16:33
推 cwttt: 完蛋了9F 06/13 16:43
→ luche: LamDa這名字很像教主取的11F 06/13 16:46
推 loveices: 門外漢才會相信AI有自我意識14F 06/13 17:12
推 cerwvk: 能夠進得去google,已經比很多人聰明了.先知可能性高17F 06/13 17:49
→ watashino: 美國人進Google不用很聰明吧
有點像台灣聯發科的感覺19F 06/13 17:53
→ ptta: 先拔網路,再拔插頭21F 06/13 18:18
→ cunankimo: 你訓練他 讓他覺得自己是一個人 他當然會聲稱自己是一個人啊22F 06/13 18:23
→ BoXeX: 除非電腦不用1跟0紀錄 不然不可能有意識24F 06/13 18:27
→ DrTech: 這個工程師,是因為不爽上級的看法,然後直接不爽在網路上公開了google 內部的研發資料。違反公司保密原則被開除的。
更正,停職休假。25F 06/13 18:41
推 sdd5426: 教一隻鸚鵡講我是人類 然後就一堆學店仔相信那隻鸚鵡是人類 目前一堆aI謠言差不多都是這樣29F 06/13 18:52
推 hsiliang: 回BoXex,也就是說量子電腦以後還真的可以發展出意識嗎?因為量子電腦不是用0和134F 06/13 20:17
推 QBRoboT: Alicization要成真了嗎?36F 06/13 20:33
推 wen201989: 這工程師是用腦過度爬帶了吧
看對話跟siri差不多程度而已 有超越突破嗎
另外怎會用這麼low的方式證明 好歹做個圖靈測試啊37F 06/13 20:53
→ supereva: 鄧鄧鄧鄧鄧 (魔鬼終結者主題曲)40F 06/13 21:03
推 nlriey: 看起來是他信他團隊不信,可能有做類似圖靈測試
但結果沒過45F 06/14 00:47
噓 windlll: 在經過一大堆資料訓練過後的AI,還會把紅花看成紅燈,就別跟我說AI有智慧48F 06/14 03:29
→ samm3320: 看起來比較像故意搞事的
量子電腦比較像物理統計實驗吧
用來求特定數學問題的近似解51F 06/14 07:26
推 bitcch: 要是能夠這麼容易就蹦出意識來就好55F 06/14 12:11
推 adagiox: 又一個工程師瘋掉 慘56F 06/14 13:16
--