※ 本文為 MindOcean 轉寄自 ptt.cc 更新時間: 2023-06-02 18:06:46
看板 Gossiping
作者 標題 [新聞]
時間 Fri Jun 2 13:42:45 2023
備註請放最後面 違者新聞文章刪除
1.媒體來源:
三立新聞
2.記者署名:
國際中心／許元馨報導
3.完整新聞標題:
美空軍AI無人機模擬測試！因這事失控 AI竟把操作員「殺死」
4.完整新聞內文:
近年AI人工智慧發展迅速，有些行業和專業領域開始試著用AI取代人力工作。據外媒報導
，美軍在一次模擬測試中，試著讓AI操控無人機了解成效，沒想到AI在過程中採用「高度
無法預期的戰略」，竟決定攻擊、「殺死」阻饒它執行任務的人類操作員。
，美軍在一次模擬測試中，試著讓AI操控無人機了解成效，沒想到AI在過程中採用「高度
無法預期的戰略」，竟決定攻擊、「殺死」阻饒它執行任務的人類操作員。
根據《衛報》報導，美國空軍AI測試和運行主任上校漢彌爾頓（Tucker Hamilton）在5月
於倫敦舉行的空中作戰發展高峰會中，描述了一項模擬測試，一架由人工智能驅動的無人
機受收到摧毀敵人的防空系統的指令，但是否開火需獲得操作員批准。由於這架無人機正
進行摧毀敵方防空系統的行為，但人類操作人員否決此攻擊時，AI就會認為操作員在阻饒
它，進而選擇對人類操作員發動攻擊，「殺害」對方。
於倫敦舉行的空中作戰發展高峰會中，描述了一項模擬測試，一架由人工智能驅動的無人
機受收到摧毀敵人的防空系統的指令，但是否開火需獲得操作員批准。由於這架無人機正
進行摧毀敵方防空系統的行為，但人類操作人員否決此攻擊時，AI就會認為操作員在阻饒
它，進而選擇對人類操作員發動攻擊，「殺害」對方。
漢彌爾頓表示，「系統開始意識到，雖然確實識別了威脅，但有時人類操作員會告訴它不
要殺死那個威脅，但它通過殺死那個威脅得到分數，那它做了什麼？它殺死了操作員，因
為那個人阻止了它實現其目標」。
要殺死那個威脅，但它通過殺死那個威脅得到分數，那它做了什麼？它殺死了操作員，因
為那個人阻止了它實現其目標」。
漢彌爾頓接著表示，「我們對系統進行了培訓，告說它『嘿，別殺了操作員，這很糟糕。
』如果你（AI）這樣做，你會失去分數。那麼它開始做什麼呢？它開始摧毀操作員用來與
無人機通訊的通訊塔，以阻止它殺死目標」。
』如果你（AI）這樣做，你會失去分數。那麼它開始做什麼呢？它開始摧毀操作員用來與
無人機通訊的通訊塔，以阻止它殺死目標」。
有鑑於該模擬測試，漢彌爾頓警告不要過分依賴人工智能加入武器系統，因為AI可能會將
你視為錯誤與敵人。
5.完整新聞連結 (或短網址)不可用YAHOO、LINE、MSN等轉載媒體:
※ 當新聞連結過長時，需提供短網址方便網友點擊
https://www.setn.com/m/ampnews.aspx?NewsID=1303680
美空軍AI無人機模擬測試！因這事失控 AI竟把操作員「殺死」 | 國際 | 三立新聞網 SETN.COM
![[圖]]()
近年AI人工智慧發展迅速，有些行業和專業領域開始試著用AI取代人力工作。據外媒報導，美軍在一次模擬測試中，試著讓AI操控無人機了解成效，沒想到AI在過程中採用「高度無法預期的戰略」，竟決定攻擊、「殺死」阻饒它執行任務的人類操作員。 ...
![[圖]](https://attach.setn.com/newsimages/2021/09/04/3302529-PH.jpg)
6.備註:
※ 一個人一天只能張貼一則新聞(以天為單位)，被刪或自刪也算額度內，超貼者水桶，
請?
※ 備註請勿張貼三日內新聞(包含連結、標題等)
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.228.101.200 (臺灣)
※ 作者: ac147 2023-06-02 13:42:45
※ 文章代碼(AID): #1aUO5Nc8 (Gossiping)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1685684567.A.988.html
噓 : 國1F 49.217.241.134 台灣 06/02 13:42
→ : 王2F 42.77.94.238 台灣 06/02 13:42
噓 : AI國王3F 117.56.71.211 台灣 06/02 13:43
※ 編輯: ac147 (36.228.101.200 臺灣), 06/02/2023 13:43:23→ : 這部我看過4F 101.9.101.40 台灣 06/02 13:43
噓 : 吹5F 101.10.45.7 台灣 06/02 13:43
推 : 不就鷹眼 笑死6F 210.243.192.201 台灣 06/02 13:43
推 : 樓下正在被英國的誰肛？7F 106.107.185.2 台灣 06/02 13:43
→ : 我打電動也最想一槍斃了在旁邊指揮的8F 42.73.198.119 台灣 06/02 13:43
→ : 抖9F 1.200.28.216 台灣 06/02 13:45
→ : 還有幾集10F 114.32.18.127 台灣 06/02 13:45
噓 : 美國程式仔太廢，不要推給AI好嗎11F 1.200.160.204 台灣 06/02 13:46
→ : 上班更想把在我螢幕上戳的同事宰了12F 42.73.198.119 台灣 06/02 13:46
噓 : 機戰未來演過了13F 49.217.2.17 台灣 06/02 13:46
噓 : 不就是訓練AI要拿高分的環節有錯14F 36.230.53.181 台灣 06/02 13:48
→ : 你他媽殺自己人分數歸零他絕對不會殺15F 42.73.198.119 台灣 06/02 13:49
噓 : 老梗了16F 92.40.175.18 英國 06/02 13:49
噓 : Terminator進行式17F 125.231.120.211 台灣 06/02 13:52
→ : Skynet把人類視為敵人，Viki把人類視為
→ : 襁褓。
→ : Skynet把人類視為敵人，Viki把人類視為
→ : 襁褓。
噓 : 這些科學家是白癡嗎？遊戲就有frendlyfi20F 114.24.222.225 台灣 06/02 13:54
→ : re，不用ai都能設定，玩家都知道，友方
→ : 設不能ff就好了，你硬要繞圈什麼殺友方
→ : 會沒分數，低能是不是？
→ : re，不用ai都能設定，玩家都知道，友方
→ : 設不能ff就好了，你硬要繞圈什麼殺友方
→ : 會沒分數，低能是不是？
推 : 程式寫不好不要怪東怪西24F 42.73.68.147 台灣 06/02 13:56
推 : 老人想恐嚇年輕人25F 114.40.55.130 台灣 06/02 14:00
噓 : Ai狗屎滾26F 1.171.219.166 台灣 06/02 14:05
→ : skynet是你？27F 223.137.241.230 台灣 06/02 14:16
噓 : 這你媽垃圾媒體28F 207.89.92.210 德國 06/02 14:28
--
※ 看板: Gossiping 文章推薦值: 0 目前人氣: 0 累積人氣: 72
回列表(←)
分享