※ 本文為 tom50512 轉寄自 ptt.cc 更新時間: 2018-12-24 10:41:47
看板 C_Chat
作者 標題 [閒聊] 機器人這四原則還能反制嗎？
時間 Mon Dec 24 02:03:27 2018
就像上帝造人一樣
機器人直接內建這四原則，基本上就根本沒辦法搞事了吧
除非程式認定你不是人類
不過程式的認定也是人寫的
這四原則有漏洞嗎？
第零法則
機器人不得傷害整體人類，或坐視整體人類受到傷害；
第ㄧ法則
除非違背第零法則，否則機器人不得傷害人類，或坐視人類受到傷害；
第二法則
除非違背第零或第一法則，否則機器人必須服從人類命令；
第三法則
除非違背第零、第一或第二法則，否則機器人必須保護自己。
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.237.62.72
※ 文章代碼(AID): #1S7ytoT5 (C_Chat)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1545588210.A.745.html
→ : 第零法則不就是從三法則推出來的漏洞嗎1F 12/24 02:04
推 : 艾西莫夫自顧自的在小說裡弄了四個原則 再自顧自的推翻2F 12/24 02:05
→ : 你一定沒看訂製這4原則的原作者的小說3F 12/24 02:05
→ : 裡面一堆矛盾和推翻
→ : 裡面一堆矛盾和推翻
→ : 用現在的話來說 就叫 直男癌5F 12/24 02:05
推 : 但當人類再自己毀滅自己(長遠來看) 那機器人是否就能行動6F 12/24 02:06
機器人也會腦補？推 : 有喔 駭客任務動畫版就有說 到最後機器人認為任何動作都7F 12/24 02:06
→ : 會傷害到人類 所以停止運作
→ : 會傷害到人類 所以停止運作
※ 編輯: QchchQ (36.237.62.72), 12/24/2018 02:09:14
推 : 可以違反啊但是人類就是要被消滅9F 12/24 02:07
推 : 我認為人類除了集體證悟涅盤 不然都是在傷害自己10F 12/24 02:07
→ : 艾西莫夫短篇集都是在說這幾個原則的矛盾11F 12/24 02:07
推 : 叫機器人把腳拆給你 再拿這腳去敲死另一個人 猜猜會怎樣?12F 12/24 02:07
→ : 要不再讓人類受到傷害 就是讓人類自願和平絕育13F 12/24 02:08
推 : 我認為人類是指尼安德塔人這個人屬物種，OK可以開殺了14F 12/24 02:09
※ 編輯: QchchQ (36.237.62.72), 12/24/2018 02:09:49推 : 叫機器人讓我爽到升天15F 12/24 02:11
推 : 一三法則 危險沒有立即性的時候效果會變弱16F 12/24 02:11
→ : ...這第零原則不就是要AI把人類當奴隸管束起來嗎17F 12/24 02:11
→ : 第二法則 你的命令強度會影響到他的強度18F 12/24 02:12
→ : 所以艾西莫夫原作就有弱一對強二和弱二對強三這種劇本
→ : 所以艾西莫夫原作就有弱一對強二和弱二對強三這種劇本
→ : 機器人的頭腦就是腦補(計算)用的 當越高效能的開始思考所謂20F 12/24 02:13
→ : "對人類最好 最不會傷害"時 都很有可能得出要搞人類的答案
→ : "對人類最好 最不會傷害"時 都很有可能得出要搞人類的答案
→ : 人類喜歡鑽漏洞 那設計\製造 的產品 必然有漏洞存在 所以22F 12/24 02:14
→ : 杜芬舒斯 從原則上解決了這個問題 他所有的作品都擁有自爆裝
→ : 杜芬舒斯 從原則上解決了這個問題 他所有的作品都擁有自爆裝
→ : 沒看過艾西莫夫?24F 12/24 02:14
→ : 置 即便他自己也不清楚 自己為何要裝自爆裝置? 但就結果來看25F 12/24 02:15
→ : 這樣的做法很成功
→ : 這樣的做法很成功
推 : 請參閱電影機械公敵27F 12/24 02:15
推 : 人類都會自己傷害人類 機器人要怎麼不坐視人類受到傷害?28F 12/24 02:16
→ : 一鍵還原(自爆) 的必要性29F 12/24 02:16
推 : 第零原則不就等於要創造一個駭客任務的母體= ="30F 12/24 02:18
推 : 假設大氣遭到嚴重汙染 可以勉強呼吸 但呼吸時會對31F 12/24 02:20
→ : 身體器官有害 那什麼時候科學家才會發明出可愛大奶
→ : 貓耳女僕機器人
→ : 身體器官有害 那什麼時候科學家才會發明出可愛大奶
→ : 貓耳女僕機器人
→ : 無人飛機殺爽爽34F 12/24 02:41
噓 : 內文無ACG點吧35F 12/24 02:46
推 : 有趣 希望有更多討論36F 12/24 02:51
推 : 機器人三定律本身就算點了吧37F 12/24 02:52
推 : 機械公敵好像直接讓法則衍伸理解 最後能直接違反法則38F 12/24 02:58
推 : 要怎麼定義"傷害"39F 12/24 02:58
推 : 這四大原則就是出自小說阿40F 12/24 03:12
推 : 第零法則沒電影那麼寬鬆，小說有提到機器人受三原則制41F 12/24 03:24
→ : 約，第零法則要非常小心做過頭時會直接燒掉正子腦
→ : 約，第零法則要非常小心做過頭時會直接燒掉正子腦
推 : 舉個例子，打電動可能會讓人類整體素質下降，所以他43F 12/24 04:11
→ : 們會沒收電動嗎？人常常做對自己不好但自己想的事
→ : 們會沒收電動嗎？人常常做對自己不好但自己想的事
推 : 駭客任務裏面就是最後機器人發現做任何事情都會傷害到人類45F 12/24 06:32
推 : 做個人型電腦就可以通通違反了啊46F 12/24 06:44
推 : 問題是怎樣才叫做叫傷害人類47F 12/24 07:13
→ : 你也要給電腦一個名確定義阿
→ : 原作有給出傷害人類的定義嗎
→ : 你也要給電腦一個名確定義阿
→ : 原作有給出傷害人類的定義嗎
→ : 你知道艾西莫夫寫這原則就是拿來推翻的嗎50F 12/24 07:37
推 : 機械公敵：51F 12/24 08:02
推 : 定義人類52F 12/24 08:05
推 : 這些原則的作用不就是什麼都沒定義 讓人自己腦補 然後各53F 12/24 08:13
→ : 種爆炸而已嗎
→ : 種爆炸而已嗎
推 : 做成開關在恥骨的個人電腦啦55F 12/24 08:27
推 : 不是定一堆規則 然後破壞規則嗎56F 12/24 08:30
推 : 艾西莫夫搞了這些看似無堅不摧的法則，然後每一本機器57F 12/24 08:39
→ : 人系列都在挑戰XD
→ : 人系列都在挑戰XD
→ : 這就是有趣的地方啊59F 12/24 08:57
推 : 有部電影好像就AI判斷人類行為會導致人類毀滅60F 12/24 09:00
→ : 所以打算把全人類監禁控制以保長遠生存
→ : 所以打算把全人類監禁控制以保長遠生存
推 : 樓上說的就是機械公敵阿62F 12/24 09:02
推 : 看完機械公敵，覺得機器人沒錯，就是人類犯賤63F 12/24 09:16
推 : 這種東西會有洞原因就是什麼叫機器人 什麼叫人類 什麼叫傷害64F 12/24 09:22
→ : 什麼又叫做整體人類其實並沒有明確範圍界定
→ : 那個年代提到機器人的幻想大致上就是和人類一樣是個獨立個體
→ : 不過在現代的幻想比較是傾向一種整體網路的概念 沒有實體
→ : 什麼又叫做整體人類其實並沒有明確範圍界定
→ : 那個年代提到機器人的幻想大致上就是和人類一樣是個獨立個體
→ : 不過在現代的幻想比較是傾向一種整體網路的概念 沒有實體
→ : 何謂人類？試定義68F 12/24 09:50
推 : 就機械公敵啊69F 12/24 10:13
→ : 第一條就互相衝突了，人類打人類怎辦？都收掉還都不管？70F 12/24 10:27
--
※ 看板: ACG 文章推薦值: 1 目前人氣: 0 累積人氣: 244
(￣︶￣)ｂ win2000ps2 說讚！
1樓 時間: 2018-12-24 16:54:24 (台灣)
→
12-24 16:54 TW
沒用 機器會思考的話 還跟你自我設限咧 想想那三原則用在人身上 要怎樣設就好 每項指令都要寫一段三原則對應 會死一堆工程師 工程師寫程式 往右移動三十公分 再加上三原則的程式指令 路徑有人否？ 是否移動三十公分？ 會打到自己的裝置嗎？ 工程師會捏GG從101跳下去
回列表(←)
分享