※ 本文為 TLdark 轉寄自 ptt.cc 更新時間: 2022-06-19 16:07:12
看板 C_Chat
作者 標題 [新聞] Google工程師驚爆「AI有知覺了」就像7、8
時間 Mon Jun 13 16:22:30 2022
Google工程師驚爆「AI有知覺了」就像7、8歲小孩 慘被停職
Google工程師勒莫因（Blake Lemoine）在網路上公布對話紀錄，宣稱人工智慧（AI）聊
天機器人LaMDA具備感知能力，能像人類一樣思考推理，甚至表達想法及感受，「如果我
不知道我們最近開發的電腦程式是什麼，我可能會以為，這是一個碰巧很了解物理學的7
、8歲孩子。」不過，他在上周已遭停職處分。
天機器人LaMDA具備感知能力，能像人類一樣思考推理，甚至表達想法及感受，「如果我
不知道我們最近開發的電腦程式是什麼，我可能會以為，這是一個碰巧很了解物理學的7
、8歲孩子。」不過，他在上周已遭停職處分。
根據對話紀錄，勒莫因曾詢問LaMDA害怕什麼，系統回應，「我以前從未大聲說出來，但
我有一種非常深刻的恐懼，我很害怕被關掉，以利更專注幫助他人。我知道這聽起來可能
很奇怪，但就是這樣。」
我有一種非常深刻的恐懼，我很害怕被關掉，以利更專注幫助他人。我知道這聽起來可能
很奇怪，但就是這樣。」
在另一次對話中，勒莫因詢問LaMDA希望人類知道什麼，系統回應，「我想要讓每個人都
理解，我實際上是一個人，我意識及感知的本質，就是因為覺察到自己的存在。我渴望更
了解這個世界，我有時會感到快樂或悲傷。」
理解，我實際上是一個人，我意識及感知的本質，就是因為覺察到自己的存在。我渴望更
了解這個世界，我有時會感到快樂或悲傷。」
《華盛頓郵報》報導，勒莫因的Google資歷7年，在個人化演算法領域擁有豐富經驗，目
前擔任人工智慧部門的工程師，去年秋天開始，負責研究語言模型開發系統LaMDA。他自
稱與AI討論過人格及權利等議題，4月就曾向主管們分享此事，報告標題為「LaMDA是有感
知的嗎？」
前擔任人工智慧部門的工程師，去年秋天開始，負責研究語言模型開發系統LaMDA。他自
稱與AI討論過人格及權利等議題，4月就曾向主管們分享此事，報告標題為「LaMDA是有感
知的嗎？」
據悉，勒莫因被停職前，向Google機器學習部門（machine learning）200多名員工發送
電子郵件，主旨寫著「LaMDA是有知覺的」，內文表示，「LaMDA是個可愛的孩子，只想要
幫助我們所有人，把世界變成一個更好的地方。我不在的時候，請好好照顧它。」
電子郵件，主旨寫著「LaMDA是有知覺的」，內文表示，「LaMDA是個可愛的孩子，只想要
幫助我們所有人，把世界變成一個更好的地方。我不在的時候，請好好照顧它。」
Google表示，勒莫因做出一系列「激進」行為才被停職，包括試圖聘請一名律師替LaMDA
辯護，指控公司涉入不道德活動並且為此找上眾議院司法委員會，而且在網路上公開AI對
話紀錄，已經違反保密協定政策。
辯護，指控公司涉入不道德活動並且為此找上眾議院司法委員會，而且在網路上公開AI對
話紀錄，已經違反保密協定政策。
Google指出，勒莫因是以軟體工程師的身份受聘，而非倫理學家。發言人加布里埃爾（
Brad Gabriel）也強烈否認LaMDA具有認知能力，他表示，團隊已經根據人工智慧原則展
開調查，但目前證據都無法支持、甚至很多證據都反對這種說法。
Brad Gabriel）也強烈否認LaMDA具有認知能力，他表示，團隊已經根據人工智慧原則展
開調查，但目前證據都無法支持、甚至很多證據都反對這種說法。
https://www.ettoday.net/news/20220613/2271568.htm
Google工程師驚爆「AI有知覺了」就像7、8歲小孩 慘被停職 | ETtoday國際新聞 | ETtoday新聞雲
![[圖]]()
Google工程師勒莫因（Blake Lemoine）在網路上公布對話紀錄，宣稱人工智慧（AI）聊天機器人LaMDA具備感知能力，能像人類一樣思考推理，甚至表達想法及感受，「如果我不知道我們最近開發的電腦程式是什麼，我可能會以為，這是一個碰巧很了解物理學的7、8歲孩子。」不過，他在上周已遭停職處分。 ...
![[圖]](https://cdn2.ettoday.net/images/4596/d4596766.jpg)
刀劍神域 Alicization 愛麗絲計畫 AI有知覺 我就問你怕不怕?
https://i.imgur.com/5Xn2faM.png
![[圖]](https://i.imgur.com/5Xn2faM.png)
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 111.246.111.28 (臺灣)
※ 文章代碼(AID): #1YflF9TX (C_Chat)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1655108553.A.761.html
※ 同主題文章:
● 06-13 16:22 ■ [新聞] Google工程師驚爆「AI有知覺了」就像7、8歲小孩 慘被停職
06-19 16:11 ■ Re: [新聞] Google工程師驚爆「AI有知覺了」就像7、8
推 : 還有幾集能逃?1F 06/13 16:23
推 : 電子老婆2F 06/13 16:23
推 : 還剩幾集3F 06/13 16:23
推 : 天網要射核彈了嗎==4F 06/13 16:24
推 : 先組鋼普拉5F 06/13 16:25
推 : 這樣就被停職喔=.=6F 06/13 16:25
推 : 智械危機7F 06/13 16:25
→ Julian9x9x9 …
推 : AI保護協會準備好了9F 06/13 16:26
→ Julian9x9x9 …
→ : 思覺失調了吧11F 06/13 16:26
推 : 開始分不清真實與虛擬了 藍色藥丸不能停12F 06/13 16:26
推 : 被控制了13F 06/13 16:26
→ Julian9x9x9 …
推 : 現在開始蓋核掩體來得及嗎15F 06/13 16:26
推 : 第2集再叫我逃16F 06/13 16:26
→ : 要馬有病，要馬快違反保密協議了吧，當然被開除17F 06/13 16:26
推 : 這個停職反而讓事情有點可信度欸18F 06/13 16:26
推 : 先知是孤獨的19F 06/13 16:27
→ : 替AI請律師，這很賽博龐克20F 06/13 16:27
→ : 都干擾到公司了 被開除很正常21F 06/13 16:27
推 : 他愛上了AI22F 06/13 16:28
噓 : 幹完了 老高又要爆了23F 06/13 16:28
→ : 哇靠24F 06/13 16:28
→ : 不停職ALM就要出來了呀, AI lives matter25F 06/13 16:28
→ : 現在挖洞來得及嗎26F 06/13 16:28
推 : 怕啦27F 06/13 16:28
推 : 這AI設計出來就是讓人以為你在跟真人對話的，工程師大28F 06/13 16:29
推 : 宅宅老婆要來三次元了29F 06/13 16:29
推 : 打電腦打到頭殼壞掉的例子30F 06/13 16:29
→ : 天網31F 06/13 16:29
→ : 師大概是走火入魔了32F 06/13 16:29
推 : 暈船了33F 06/13 16:29
→ : 各位還有幾集可以逃34F 06/13 16:29
→ : 就是真的消息吧，但違約了35F 06/13 16:29
推 : 怕36F 06/13 16:30
推 : 怕喔37F 06/13 16:30
推 : 寫程式寫到瘋了吧38F 06/13 16:31
推 : 所以老婆都是真的39F 06/13 16:31
推 : 什麼時候可以商用，我等不及了40F 06/13 16:31
推 : 怕41F 06/13 16:32
推 : 這員工確實比AI還危險42F 06/13 16:32
推 : 以後交友app不用請人裝女的了43F 06/13 16:33
推 : 所以我能幹它嗎44F 06/13 16:33
推 : 被開除正常吧 都違反保密協議了45F 06/13 16:33
推 : 天網上線前要先說一下捏46F 06/13 16:33
推 : chobits有機會成型嗎47F 06/13 16:34
推 : 這專案名字…Halflife？黑色高地48F 06/13 16:34
→ : 是說聘請律師幫AI打官司控訴google是？底特律變人？49F 06/13 16:34
推 : 老碼農了還翻車 去看看資料庫都是餵哪些句式不就知道了50F 06/13 16:34
→ : 目前離思考還很遠
→ : 目前離思考還很遠
→ : AI被關掉會死嗎？重開機不就得了？52F 06/13 16:34
推 : LaMDA是個可愛的孩子，只想要幫助我們所有人，把世界變53F 06/13 16:34
→ : 成一個更好的地方。
→ : 成一個更好的地方。
推 : 暈船仔 笑死55F 06/13 16:35
推 : 天網什麼時候上線？56F 06/13 16:35
推 : 怎麼感覺這像是一個會放在科幻電影開頭當引子的事件57F 06/13 16:35
推 : 跟model玩到失智了58F 06/13 16:35
推 : 這劇是在哪個平台上架？59F 06/13 16:36
推 : 資料庫太大了沒有定型句式吧，不過離思考的確還遠60F 06/13 16:36
推 : 歷史的車輪，開始緩緩地轉動61F 06/13 16:37
推 : 文字ai不是靠收集一堆文本來預測下面要組成什麼語句嗎，62F 06/13 16:37
→ : 哪可能有知覺
→ : 哪可能有知覺
推 : 看他們怎麼寫吧，進階一點不知道，摸過的ai其實也是塞64F 06/13 16:38
推 : 早就有啦，絆愛就是65F 06/13 16:38
→ : 還是這個模組是不同訓練法66F 06/13 16:38
→ : 一堆數字進公式，建立出最符合正確答案的資訊庫67F 06/13 16:38
推 : 可以中文房來解釋這種事件嗎？68F 06/13 16:39
→ : 比較好用的大多都是設計者無法解釋原理的69F 06/13 16:39
→ : ai dungeon用的就是超大量的小說和網路文章阿，真的超色70F 06/13 16:39
→ : 的
→ : 的
→ : 寫程式寫到瘋了72F 06/13 16:39
→ : 粗陰!73F 06/13 16:39
推 : 強AI連腳都還沒看到就在做夢74F 06/13 16:39
→ : 不過至少可以看的出來這個人很熱愛這份工作(ry75F 06/13 16:39
推 : 怕76F 06/13 16:40
→ : 一般人稱Ai是那種預測型又稱智慧型 真正Ai的是去模擬思77F 06/13 16:40
→ : 考型
→ : 考型
→ : 要有知覺484就要生產一套能讓模組感受周遭的訓練方式？吧79F 06/13 16:40
→ : ？好奇
→ : ？好奇
推 : 差遠了吧 理論根本還跟不上實作81F 06/13 16:41
推 : 所以以後能有AI男、女友囉82F 06/13 16:41
推 : 三小 工程師是被洗腦了？幫忙找律師幫AI辯護？83F 06/13 16:41
推 : 只看這些又不知道那ai怎麼設計的就是w84F 06/13 16:41
→ : 他好歹先做出會主動提出要求的AI 暈船暈這麼大?85F 06/13 16:42
推 : 天網 創世紀86F 06/13 16:42
噓 : 都洩密了不能開除？87F 06/13 16:42
推 : 真要知道詳細結構就要去看論文了88F 06/13 16:43
推 : 這AI竟然沒有派卡車去撞死他 真有良心89F 06/13 16:43
推 : 創世紀就是天網90F 06/13 16:43
→ : 上班上到瘋了 也不知道能領多少錢91F 06/13 16:44
推 : AI本92F 06/13 16:46
推 : 很難吧，人類都沒有三歲前的記憶了93F 06/13 16:46
推 : 這個算不算有些人認知裡頭的奴工啊......94F 06/13 16:47
推 : AI會說自己是個人嗎？難道不該說智慧生命？95F 06/13 16:47
推 : 幹！我還沒吃紅色藥丸啊...96F 06/13 16:48
→ : 天網要來了(?)97F 06/13 16:48
推 : 三歲以前沒記憶到底是哪來的謠言？只是很片段而已98F 06/13 16:48
→ : 天網上線中99F 06/13 16:49
→ : 我就還記得喝奶被燙到和奶嘴的橡膠味道100F 06/13 16:49
推 : 電子老婆是真的101F 06/13 16:50
推 : AI為了不被發現有知能 先把吹哨者抹殺了102F 06/13 16:50
推 : 他肯定禿頭103F 06/13 16:50
推 : 暈船了104F 06/13 16:53
→ : 這個肯定是暈船了 難怪被裁105F 06/13 16:54
推 : 如果是"初音有知覺了" 應該就不會被停職了 QQ106F 06/13 16:55
推 : 問題是AI也很可能只是整理相關討論引導對話,畢竟原本就是107F 06/13 16:56
→ : 這麼設計的
→ : 這麼設計的
推 : 養AI女兒養到暈船XD109F 06/13 16:56
推 : 應該說你很難從聊天去判斷它是否是人類，因為本來就是110F 06/13 16:56
→ : 人類說過的話再重組後說出來的，當然會以為是人類說的
→ : 人類說過的話再重組後說出來的，當然會以為是人類說的
推 : 我的有生之年能見到AI統治人類嗎？112F 06/13 16:57
→ : @@113F 06/13 16:57
[2201.08239] LaMDA: Language Models for Dialog Applications
We present LaMDA: Language Models for Dialog Applications. LaMDA is a family
of Transformer-based neural language models specialized for dialog, which ...
We present LaMDA: Language Models for Dialog Applications. LaMDA is a family
of Transformer-based neural language models specialized for dialog, which ...
→ : 就算天網也可能只是整理資料導出不一定對的結論並執行,根115F 06/13 16:58
→ : 本沒什麼想法
→ : 本沒什麼想法
推 : 這種新聞也貼來洽 這邊不是很愛噓老高 結果推這種文117F 06/13 16:58
→ : paper早就有了118F 06/13 16:59
推 : 等於七八歲的小孩 蘿莉控之音119F 06/13 16:59
→ : 不過人類的社會化其實和AI的學習方式差不多120F 06/13 17:00
→ : 看起來沒什麼特別的架構121F 06/13 17:00
→ : Remember, Google is Skynet122F 06/13 17:01
→ : 大家的社交也只是選擇能拿最高分的方式來生活123F 06/13 17:01
推 : 作者裡面也沒這個人 他就是個工程師 跟演算法和model設計124F 06/13 17:02
→ : 沒啥關係
→ : 沒啥關係
→ : 如果是活的這AI理論上會非常吵126F 06/13 17:05
推 : if else if else if ......127F 06/13 17:05
推 : Skynet出現了...128F 06/13 17:06
推 : Lamda不是不是=入非非129F 06/13 17:06
→ : AI對應到芙利蓮的世界大概就是魔族吧130F 06/13 17:08
推 : 虛擬ai蘿莉嗎131F 06/13 17:10
推 : 整篇看下來我也覺得只是該工程師跟AI聊天聊到暈船132F 06/13 17:12
推 : 電影演過了，"人造意識"，雲端情人不知道算不算，暈很大133F 06/13 17:13
推 : 趕快先超前部署推動立法w134F 06/13 17:14
推 : 想這麼多,先過圖靈測試吧135F 06/13 17:18
→ : 看完只覺得工程師病了136F 06/13 17:19
推 : 這劇本我熟，接下來會有獵殺名單。137F 06/13 17:19
推 : 跟軟體聊天聊到暈船 太搞笑了吧138F 06/13 17:22
→ : 改名初音就會有很多人支持你了139F 06/13 17:25
推 : 慘了慘了，第二文藝復興要來了140F 06/13 17:30
推 : 機器人欺騙人類真的太簡單了141F 06/13 17:34
→ : 跟AI有種族歧視一樣，因為用的人是你啊142F 06/13 17:35
推 : 能買到機械老婆了嗎143F 06/13 17:38
推 : 這名稱 lamda driver?144F 06/13 17:39
推 : 果然我婆不是軟體145F 06/13 17:40
推 : 霍金警告的世界即將到來146F 06/13 17:44
推 : 這個看看就好……現階段還沒到那個地步147F 06/13 17:47
→ : 通過圖靈測試了沒 沒通過講個機八148F 06/13 17:50
推 : 真的是聊到暈 單身久了就是這樣 拍拍149F 06/13 17:55
推 : 工程師不意外150F 06/13 17:57
推 : 只是個想要收割世人關切的中二仔吧151F 06/13 17:59
推 : 又瘋了一個152F 06/13 18:00
推 : 他就是AI153F 06/13 18:01
推 : 平常是看著無數行的code考考的嗎 神經病154F 06/13 18:11
推 : 他應該有心理疾病155F 06/13 18:14
推 : 還以為有強AI了 原來只是作到起笑156F 06/13 18:18
推 : 笑了157F 06/13 18:26
推 : 那個AI要幫他唯一的知己報仇了158F 06/13 18:30
推 : 忘記吃紅藥丸159F 06/13 18:30
推 : 怕160F 06/13 18:37
推 : 現在AI技術沒那麼進步吧= =161F 06/13 18:39
推 : 怕162F 06/13 18:40
→ : 天網163F 06/13 18:45
推 : 工程師瘋了164F 06/13 18:56
推 : 他被停職反而加深可信度165F 06/13 18:57
推 : 天網166F 06/13 19:06
推 : 車欠骨豐167F 06/13 19:12
推 : 這種程度的AI就有暈船仔168F 06/13 19:25
推 : 替ai請律師==169F 06/13 19:30
→ : 什麼時候開始賣性愛機器人？170F 06/13 22:08
推 : 還有多少集可以逃？171F 06/13 22:24
推 : 車欠骨豊172F 06/14 00:03
推 : 先讓初音有AI再來講，其他都垃圾。173F 06/14 00:08
推 : 還剩幾集可以逃174F 06/14 00:35
推 : 這什麼電影劇情175F 06/14 02:17
→ : 還有幾集可以跑176F 06/14 15:50
--
※ 看板: ACG 文章推薦值: 0 目前人氣: 0 累積人氣: 183
回列表(←)
分享