作者 HarunoYukino ()標題 Re: [新聞] 中國「機器人之光」失控暴走！瘋狂揮拳時間 Mon May 5 01:35:49 2025
→ Homura: 我知道是設定，但是類似這種東西真的能放進程式當中去限制機器嗎？
05/04 19:11
少前有在對這玩意做劇情。
416心智升級第一段就有提到禁止攻擊人類，有攻擊人類的意圖就會系統鎖機。
問題在於三原則是很空泛的
比如說以機械公敵（電影版）為例子：
把人類監禁限制其活動有沒有違反三原則？以電影的解釋是沒有違反
但是在人類角度來看就是智械叛變。
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 42.70.231.240 (臺灣)
※ 作者: HarunoYukino 2025-05-05 01:35:49
※ 文章代碼(AID): #1e5wLtfu (C_Chat)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1746380151.A.A78.html
※ 同主題文章:
Re: [新聞] 中國「機器人之光」失控暴走！瘋狂揮拳
05-05 01:35 HarunoYukino
→ poke001: 三原則放進程式內要怎麼寫? 而且現場情況跟解釋上可以有很多會衝突或繞過的情況1F 05/05 01:39
推 rockmanx52: 想出3+1原則的自己都玩漏洞玩得超愉快了 帝國跟基地系列就是機器人以第零原則為基礎在幕前幕後各種操控人類歷史3F 05/05 01:40
→ shuten: 三原則就是為了被鑽漏洞才創造的6F 05/05 01:42
推 shadow0326: 就跟大語言模型的各種監理規則一樣啦 都能繞的
用大語言模型當人形機器人的AI基礎的話 就是那樣囉7F 05/05 01:43
推 j147589: 跟人類一樣啊 一條一條細項訂出來 被鑽漏洞再補訂啊9F 05/05 01:53
推 ciike4: 三原則就寫小說好發揮的原則性設定，比黑暗森林還沒學術性10F 05/05 01:57
→ shintz: 機器人只要學會"我是為你好阿"就能繞過所有限制了13F 05/05 02:37
→ john2355: 法律這麼多條都有縫能鑽了，三條規則是怎麼防14F 05/05 03:24
推 egg781: 寫一堆IF有解嗎?15F 05/05 03:27
推 Snomuku: 當機器人成為亞洲父母16F 05/05 03:27
推 tomhawkreal: 如今的世界 AI開始廣泛運用在軍事上 當然會殺人
眼前比較迫切的是究責 AI如果誤殺 誰該擔起責任17F 05/05 03:41
--