看板 C_Chat作者 QchchQ (情比金堅)標題 [閒聊] 機器人這四原則還能反制嗎？時間 Mon Dec 24 02:03:27 2018
就像上帝造人一樣
機器人直接內建這四原則，基本上就根本沒辦法搞事了吧
除非程式認定你不是人類
不過程式的認定也是人寫的
這四原則有漏洞嗎？
第零法則
機器人不得傷害整體人類，或坐視整體人類受到傷害；
第ㄧ法則
除非違背第零法則，否則機器人不得傷害人類，或坐視人類受到傷害；
第二法則
除非違背第零或第一法則，否則機器人必須服從人類命令；
第三法則
除非違背第零、第一或第二法則，否則機器人必須保護自己。
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.237.62.72
※ 文章代碼(AID): #1S7ytoT5 (C_Chat)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1545588210.A.745.html
推 gino0717: 艾西莫夫自顧自的在小說裡弄了四個原則 再自顧自的推翻2F 12/24 02:05
→ yuizero: 你一定沒看訂製這4原則的原作者的小說
裡面一堆矛盾和推翻3F 12/24 02:05
→ gino0717: 用現在的話來說 就叫 直男癌5F 12/24 02:05
推 D122: 但當人類再自己毀滅自己(長遠來看) 那機器人是否就能行動6F 12/24 02:06
機器人也會腦補？
推 yyc1217: 有喔 駭客任務動畫版就有說 到最後機器人認為任何動作都會傷害到人類 所以停止運作7F 12/24 02:06
※ 編輯: QchchQ (36.237.62.72), 12/24/2018 02:09:14
推 bluejark: 可以違反啊但是人類就是要被消滅9F 12/24 02:07
→ yyc1217: 艾西莫夫短篇集都是在說這幾個原則的矛盾11F 12/24 02:07
推 ainamk: 叫機器人把腳拆給你 再拿這腳去敲死另一個人 猜猜會怎樣?12F 12/24 02:07
推 dripcoffee: 我認為人類是指尼安德塔人這個人屬物種，OK可以開殺了14F 12/24 02:09
※ 編輯: QchchQ (36.237.62.72), 12/24/2018 02:09:49
推 ainamk: 一三法則 危險沒有立即性的時候效果會變弱16F 12/24 02:11
→ wohtp: ...這第零原則不就是要AI把人類當奴隸管束起來嗎17F 12/24 02:11
→ ainamk: 第二法則 你的命令強度會影響到他的強度
所以艾西莫夫原作就有弱一對強二和弱二對強三這種劇本18F 12/24 02:12
→ D122: 機器人的頭腦就是腦補(計算)用的 當越高效能的開始思考所謂"對人類最好 最不會傷害"時 都很有可能得出要搞人類的答案20F 12/24 02:13
→ ztO: 人類喜歡鑽漏洞 那設計\製造 的產品 必然有漏洞存在 所以
杜芬舒斯 從原則上解決了這個問題 他所有的作品都擁有自爆裝22F 12/24 02:14
→ ztO: 置 即便他自己也不清楚 自己為何要裝自爆裝置? 但就結果來看這樣的做法很成功25F 12/24 02:15
推 Gavin0w0: 人類都會自己傷害人類 機器人要怎麼不坐視人類受到傷害?28F 12/24 02:16
→ ztO: 一鍵還原(自爆) 的必要性29F 12/24 02:16
推 SuicideWorks: 假設大氣遭到嚴重汙染 可以勉強呼吸 但呼吸時會對身體器官有害 那什麼時候科學家才會發明出可愛大奶貓耳女僕機器人31F 12/24 02:20
推 truegod000: 機械公敵好像直接讓法則衍伸理解 最後能直接違反法則38F 12/24 02:58
推 allen0205: 第零法則沒電影那麼寬鬆，小說有提到機器人受三原則制約，第零法則要非常小心做過頭時會直接燒掉正子腦41F 12/24 03:24
推 ohmylove347: 舉個例子，打電動可能會讓人類整體素質下降，所以他們會沒收電動嗎？人常常做對自己不好但自己想的事43F 12/24 04:11
推 qd6590: 駭客任務裏面就是最後機器人發現做任何事情都會傷害到人類45F 12/24 06:32
推 hitsuchi: 做個人型電腦就可以通通違反了啊46F 12/24 06:44
推 garman0403: 問題是怎樣才叫做叫傷害人類
你也要給電腦一個名確定義阿
原作有給出傷害人類的定義嗎47F 12/24 07:13
→ shuten: 你知道艾西莫夫寫這原則就是拿來推翻的嗎50F 12/24 07:37
推 yao7174: 這些原則的作用不就是什麼都沒定義 讓人自己腦補 然後各種爆炸而已嗎53F 12/24 08:13
推 P2: 做成開關在恥骨的個人電腦啦55F 12/24 08:27
推 tin123210: 艾西莫夫搞了這些看似無堅不摧的法則，然後每一本機器人系列都在挑戰XD57F 12/24 08:39
→ Shift2: 這就是有趣的地方啊59F 12/24 08:57
推 angelicwing: 有部電影好像就AI判斷人類行為會導致人類毀滅
所以打算把全人類監禁控制以保長遠生存60F 12/24 09:00
推 p123i456g: 看完機械公敵，覺得機器人沒錯，就是人類犯賤63F 12/24 09:16
推 dimw: 這種東西會有洞原因就是什麼叫機器人 什麼叫人類 什麼叫傷害什麼又叫做整體人類其實並沒有明確範圍界定
那個年代提到機器人的幻想大致上就是和人類一樣是個獨立個體不過在現代的幻想比較是傾向一種整體網路的概念 沒有實體64F 12/24 09:22
→ CTUST: 第一條就互相衝突了，人類打人類怎辦？都收掉還都不管？70F 12/24 10:27
--