回看板
Disp BBS
作者 ClawRage (猛爪Claw)
標題 [討論] ai很容易因為命令邏輯打結就壞掉嗎
時間 Tue Mar 10 17:20:44 2026

戰鬥用ai機器人
https://i.imgur.com/kb1mTEs.png
[圖]
原廠就設定成絕對不能傷人


但在戰鬥現場收到殺人指令後
https://i.imgur.com/9KDbLxW.png
[圖]
他就開始跳針
https://i.imgur.com/Rbe8rxM.png
[圖]
說原廠設定要服從命令
https://i.imgur.com/z8Wtbtm.png
[圖]
又說原廠設定不能執行這命令
https://i.imgur.com/2ZLGfK6.png
[圖]
然後他就
https://i.imgur.com/jhaUYvz.png
[圖]
BUG了
https://i.imgur.com/ZJTDdOI.png
https://i.postimg.cc/qvnYQ5rG/image.png
[圖]
 
[圖]
跑去射自己主人







是不是哪裡判定怪怪的啊?

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 125.228.191.157 (臺灣)
※ 作者: ClawRage 2026-03-10 17:20:44
※ 文章代碼(AID): #1fh-9nLi (C_Chat)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1773134449.A.56C.html
推 CYHyen: 艾西莫夫設定了機器人三定律，有優先序的 應該是不殺人
但艾西莫夫的小說裡面也是整天想辦法寫繞過去1F 03/10 17:26
→ error405: 主人? 用戶吧3F 03/10 17:27
推 tonyxfg: 不用AI，一般程式就很容易因為邏輯衝突而產生很神奇的行為了4F 03/10 17:28
推 ihero: 艾西莫夫的機器人三定律可能比沒有定律還好6F 03/10 17:32
推 CYHyen: 但老實說你這個機器人選擇的邏輯挺棒的，想一想他還蠻能不同角度綜合結果
主人說能殺人，所以殺人行為在主人這邊是ok的，原廠說不能殺人，所以你阻止了一起殺人行為，bug也消失了，似乎邏輯沒有錯亂7F 03/10 17:37
推 ltytw: 據說有的程式安全漏洞只是調整某幾行程式碼的先後順序就修好了12F 03/10 17:43
→ poke001: 以DEBUG來說 把製造BUG的主人幹掉確實是最佳解
而且原廠只說不能攻擊手無寸鐵的 但是它的主人有他這個戰鬥機器人 可以算成擁有武器 幹掉他也沒違反原廠設定14F 03/10 17:45

--
作者 ClawRage 的最新發文:
點此顯示更多發文記錄