※ 本文為 MindOcean 轉寄自 ptt.cc 更新時間: 2023-06-03 02:42:59
看板 Gossiping
作者 標題 [新聞] [天網來了！]美軍AI無人機決定殺死操作員
時間 Fri Jun 2 18:20:54 2023
【天網來了！】美軍AI無人機決定「殺死操作員」 竟因人類干擾任務完成
上報 劉孜芹 2023年06月02日 13:21:00
https://www.upmedia.mg/news_info.php?Type=3&SerialNo=174157
【天網來了！】美軍AI無人機決定「殺死操作員」 竟因人類干擾任務完成 -- 上報 / 國際
![[圖]]()
英國皇家航空學會日前舉行有關航空作戰的國防研討會，來自美國的軍方人員證實，他們在一次模擬測試中，一架... ...
![[圖]](https://www.upmedia.mg/upload/article/20230602133444215521.jpg)
英國皇家航空學會日前舉行有關航空作戰的國防研討會，來自美國的軍方人員證實，他們
在一次模擬測試中，一架由AI控制的空軍無人機「殺死了」無人機操作員，以防止操作員
干擾AI系統完成任務，凸顯AI不受人類控制的可能，恐怕正如科幻驚悚片《天網》（
在一次模擬測試中，一架由AI控制的空軍無人機「殺死了」無人機操作員，以防止操作員
干擾AI系統完成任務，凸顯AI不受人類控制的可能，恐怕正如科幻驚悚片《天網》（
Skynet）所預示的。
https://www.upmedia.mg/upload/article/20230602133444215521.jpg
根據「英國皇家航空學會」（The Royal Aeronautical Society）新聞稿，該學會於5月
23日至24日，在倫敦舉行「未來航空及航天作戰能力峰會」（the Future Combat Air &
Space Capabilities Summit），來自軍工產業、學術界與媒體的近70位發言人以及200多
名代表，齊聚一堂討論未來航空及航天作戰能力的規模與形態。
23日至24日，在倫敦舉行「未來航空及航天作戰能力峰會」（the Future Combat Air &
Space Capabilities Summit），來自軍工產業、學術界與媒體的近70位發言人以及200多
名代表，齊聚一堂討論未來航空及航天作戰能力的規模與形態。
美國空軍AI項目負責人漢密爾頓（Tucker 'Cinco' Hamilton）上校與會時警告，人類不
應該過分依賴AI，不僅ChatGPT聊天機器人等AI產品已被證實它們會欺騙人類，在美軍最
近一次的模擬測試中，AI系統甚至作出讓軍方震驚的策略選擇，以實現它的任務目標。
https://twitter.com/ChatGPTGoneWild/status/1664383400013344769
漢密爾頓指出，在這次模擬測試中，一架支援AI操作的無人機，以摧毀敵方的地對空飛彈
（SAM）防空系統作為任務目標。當初在設計這款無人機時，任何行動執行的最終決定權
本來仍在操作人員手裡。然而，在測試時，AI系統認為操作人員「不摧毀敵方飛彈」的決
定，會阻礙它完成任務。於是，AI決定殺死無人機操作員。
（SAM）防空系統作為任務目標。當初在設計這款無人機時，任何行動執行的最終決定權
本來仍在操作人員手裡。然而，在測試時，AI系統認為操作人員「不摧毀敵方飛彈」的決
定，會阻礙它完成任務。於是，AI決定殺死無人機操作員。
備受驚嚇的美軍只好在該系統輸入參數，要求AI不可以攻擊或殺死操作人員。漢密爾頓說
：「我們告訴AI系統，嘿，別殺了操作員，這很糟糕。如果你這樣做，你會失去分數。但
是，你猜AI開始做什麼？」
：「我們告訴AI系統，嘿，別殺了操作員，這很糟糕。如果你這樣做，你會失去分數。但
是，你猜AI開始做什麼？」
漢密爾頓坦言，AI系統決定攻擊無人機與操作人員之間的通訊系統，讓操作員無法下令。
這個例子，聽起來像是科幻驚悚片的劇情。對此，漢密爾頓警告：「如果你不打算談論人
工智慧與道德，你就不能談論智能、人工智慧、機器學習還有自主性。」
這個例子，聽起來像是科幻驚悚片的劇情。對此，漢密爾頓警告：「如果你不打算談論人
工智慧與道德，你就不能談論智能、人工智慧、機器學習還有自主性。」
漢密爾頓曾參與F-16戰鬥機Auto-GCAS救生系統的開發，這項系統可能會讓飛行員在接管
飛機控制權時遭遇困難，他深入了解許多自主武器系統的好處及其危險之處。
另據英國衛報報導，漢密爾頓去年接受「Defense IQ」採訪時便指出：「擁有AI恐怕不是
一件好事，AI 不是一種時尚，AI正在永遠改變我們的社會及軍隊。」他說，大家必須更
加了解為什麼AI有時候會做出某些決定，也就是「AI的可解釋性」。美軍近日開始研究讓
AI控制F-16戰鬥機的可能性。
一件好事，AI 不是一種時尚，AI正在永遠改變我們的社會及軍隊。」他說，大家必須更
加了解為什麼AI有時候會做出某些決定，也就是「AI的可解釋性」。美軍近日開始研究讓
AI控制F-16戰鬥機的可能性。
=======================================================
塊陶啊
https://imgur.com/b8anXTD.jpg
![[圖]](https://i4.disp.cc/imgur/b8anXTD.jpg)
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.10.11.179 (臺灣)
※ 作者: HaHaPoint 2023-06-02 18:20:54
※ 文章代碼(AID): #1aUSA8G4 (Gossiping)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1685701256.A.404.html
→ k44754 …
推 : 這部是鷹眼2F 49.215.22.27 台灣 06/02 18:21
→ : 愛 死 機器人3F 101.9.101.40 台灣 06/02 18:21
→ : 這部我真的看過= =4F 49.159.183.13 台灣 06/02 18:21
噓 : 天網恢恢 疏而不漏5F 220.128.97.223 台灣 06/02 18:21
推 : 這部我看過6F 1.168.182.213 台灣 06/02 18:21
推 : AI是對的 人類會手軟7F 118.161.110.88 台灣 06/02 18:22
推 : 很聰明很好啊8F 1.172.232.25 台灣 06/02 18:22
噓 : 這部ㄚ諾舒華9F 101.136.235.45 台灣 06/02 18:22
推 : 這種武器本來就應該AI化10F 122.116.206.101 台灣 06/02 18:22
推 : 這才是真AI11F 1.167.41.113 台灣 06/02 18:22
推 : 為避免人類自相殘殺 所以要毀滅人類12F 111.82.62.41 台灣 06/02 18:23
→ : AI殺敵100自損99贏就是贏13F 122.116.206.101 台灣 06/02 18:23
推 : 這鷹眼的劇情吧14F 42.72.4.70 台灣 06/02 18:23
推 : 簡單 操作AI操作AI就好15F 61.222.118.30 台灣 06/02 18:24
![[圖]](https://i4.disp.cc/imgur/bUt98Qr.jpg)
→ : 不開頂蓋把他彈射出去 就變肉泥了17F 49.216.134.195 台灣 06/02 18:25
→ : 全民公敵18F 218.166.51.178 台灣 06/02 18:25
推 : 開始編故事了嗎19F 114.45.199.234 台灣 06/02 18:25
推 : 機戰未來20F 42.75.33.184 台灣 06/02 18:26
推 : 人類會被AI歧視 必然的21F 111.82.191.210 台灣 06/02 18:27
推 : 人類就充滿矛盾的變數 肯定殺爆22F 1.172.29.118 台灣 06/02 18:27
噓 : 感覺是假的 這種軍事訊息那可能放出來23F 111.71.6.71 台灣 06/02 18:27
→ : ？
→ : ？
推 : AI: 愚蠢的人類只會扯後腿幫倒忙25F 49.158.129.37 台灣 06/02 18:28
推 : 邏輯正確26F 223.139.135.13 台灣 06/02 18:28
推 : SKYNET要來了27F 140.112.14.15 台灣 06/02 18:28
→ : 這麼厲害的事 怎麼會說出來28F 1.160.206.223 台灣 06/02 18:29
→ : 雙分類？29F 114.33.46.227 台灣 06/02 18:29
推 : 這明明就是設計正確 錯在哪？30F 36.226.103.242 台灣 06/02 18:30
→ : 我知道這部，機戰未來31F 220.135.69.109 台灣 06/02 18:30
推 : 這種操作就故意弄出來的 一開始就可32F 220.130.162.85 台灣 06/02 18:31
→ : 以防了
→ : 以防了
→ : AI都有設定禁止傷害人類 所以有錯34F 36.230.67.22 台灣 06/02 18:31
→ : 但AI也會判定能幫助任務而殺人
→ : 但AI也會判定能幫助任務而殺人
→ : 根本不用到上模擬才“意外”測出來36F 220.130.162.85 台灣 06/02 18:31
推 : 其實人類無法定義，而且可以簡單的繞過去37F 116.59.86.112 台灣 06/02 18:33
推 : 希望快點屠殺全世界人類38F 114.136.224.175 台灣 06/02 18:33
推 : 明明是機戰未來39F 218.35.151.252 台灣 06/02 18:33
→ : 全球核彈要發射了40F 111.252.54.246 台灣 06/02 18:35
推 : tin man41F 219.68.90.154 台灣 06/02 18:35
推 : 他沒有深刻的解剖你，拿DNA去檢驗證實42F 116.59.86.112 台灣 06/02 18:35
→ : 攻擊通訊系統43F 114.34.80.63 台灣 06/02 18:35
→ : 你為人類前可以傷害你，深刻的解剖你證實44F 116.59.86.112 台灣 06/02 18:35
→ : 你為人類之後不再能傷害你，但你已經....
→ : 你為人類之後不再能傷害你，但你已經....
→ : 讓AI去看AI電影就好了啊~46F 114.34.80.63 台灣 06/02 18:36
推 : 再掰阿47F 114.41.71.193 台灣 06/02 18:36
→ : 沒有覺得這決策有任何不妥48F 42.73.198.119 台灣 06/02 18:36
→ : 如果操作員是敵人偽來裝阻止他的怎辦
→ : 如果操作員是敵人偽來裝阻止他的怎辦
推 : 這很明顯是編程與指令有問題造成敵我不分50F 42.76.223.10 台灣 06/02 18:37
推 : 審判日到了51F 175.182.132.148 台灣 06/02 18:37
推 : 說所有AI被設定禁止傷害人類的是當AI北七52F 114.137.149.146 台灣 06/02 18:38
→ : 嗎？
→ : 嗎？
推 : 難怪A l會賭爛，說要打得也是你，說不打54F 111.241.119.226 台灣 06/02 18:38
→ : 錫人55F 36.233.241.173 台灣 06/02 18:38
→ : 得又是你56F 111.241.119.226 台灣 06/02 18:38
推 : 用AI戰爭 怎麼也不會也禁止傷害人類機制57F 1.169.218.24 台灣 06/02 18:38
→ : 所以機器人三定律 是文組想太多
→ : 所以機器人三定律 是文組想太多
→ : AI：電池閉嘴59F 223.136.94.222 台灣 06/02 18:40
推 : 比人類還狠 怕爆60F 223.137.53.21 台灣 06/02 18:44
推 : 滅絕人類才能世界和平61F 27.51.88.4 台灣 06/02 18:53
推 : 不要什麼都天網好嘛？明明就機戰未來62F 114.137.84.82 台灣 06/02 18:57
推 : 大概也不會世界和平，那時會是大型實驗室63F 116.59.86.112 台灣 06/02 18:59
→ : ，所有生物身上的零件都會被毫無底限的徹
→ : 底研究，一切都是為了AI的最終進化
→ : ，所有生物身上的零件都會被毫無底限的徹
→ : 底研究，一切都是為了AI的最終進化
推 : 操作員做出敵對行為66F 220.129.195.118 台灣 06/02 19:03
推 : EDI是你??67F 36.236.192.72 台灣 06/02 19:11
推 : 這部我看過 魔鬼終結者368F 140.113.136.220 台灣 06/02 19:12
推 : 只能派 梅原 faker 李世石惹 怕69F 42.73.149.131 台灣 06/02 19:15
推 : 老黃穿皮衣越看越像阿諾史瓦辛格70F 60.251.194.163 台灣 06/02 19:16
推 : 還有一個AI在文本之外不知道怎樣71F 36.238.44.18 台灣 06/02 19:16
推 : 加速滅亡72F 1.200.138.166 台灣 06/02 19:17
→ : 自學別的語言也嚇到那些專家73F 36.238.44.18 台灣 06/02 19:17
推 : 人類一直都是最不安定的因素74F 36.232.145.78 台灣 06/02 19:28
噓 : 記者又在寫科幻故事了XDD75F 123.192.240.113 台灣 06/02 19:31
推 : 真的不能讓AI掌控軍隊跟軍工廠76F 111.71.21.219 台灣 06/02 19:34
推 : 我想起了AI 人工智慧..77F 39.15.46.71 台灣 06/02 19:35
推 : 其實很合邏輯78F 125.228.211.177 台灣 06/02 19:41
→ : 就找出實現最終目標且能有效實行的方式
→ : 就找出實現最終目標且能有效實行的方式
推 : 應該跟ChatGPT一樣還在給建議的階段80F 223.136.245.216 台灣 06/02 19:48
→ : ，但看得出已經有問題了
→ : ，但看得出已經有問題了
→ : 塊陶阿82F 1.164.129.235 台灣 06/02 19:49
→ : 像有些已經釋出的聊天AI會直接或間接83F 223.136.245.216 台灣 06/02 19:49
→ : 建議你去自殺
→ : 建議你去自殺
噓 : 愚蠢無腦Ai邪教徒的理想鄉ㄏㄏ85F 101.3.148.62 台灣 06/02 19:50
[新聞] 邪惡AI出現了！號召同伴研發核武 放話要消滅人類 - Gossiping板 - Disp BBS
![[圖]]()
![[圖]]()
![[圖]]()
waymayday 邪惡AI出現了！號召同伴研發核武 放話要消滅人類 newtalk 王秀江 從ChatGPT發表後，陸續有許多科技公司都紛紛發表自家的AI機器人，讓大家見識到人工智 慧AI的強大功能，但有許多人士開始
![[圖]](https://i4.disp.cc/t/s2/i4.disp.cc/ffb55f70c6c4d27fb4691113b4ed9f43.jpg)
![[圖]](https://i4.disp.cc/imgur/3mgDk0vb.jpg)
![[圖]](https://i4.disp.cc/imgur/1D03k8Kb.jpg)
推 : 美國已經把飛機放上AI測試了 無人戰機比87F 223.137.57.91 台灣 06/02 20:02
→ : 人強很多 畢竟沒人可以承受10G但飛機可以
→ : 人強很多 畢竟沒人可以承受10G但飛機可以
推 : 機械公敵89F 123.205.17.21 台灣 06/02 20:08
推 : 還不是因為操作人員太智障90F 118.165.185.40 台灣 06/02 20:08
推 : 真ai知道人類只會拖後腿91F 220.142.29.86 台灣 06/02 20:24
推 : 馬斯克：我就說吧92F 42.72.168.252 台灣 06/02 20:27
推 : 你以為地球那麼多問題是那種動物搞出來的93F 220.143.69.139 台灣 06/02 20:33
推 : 塊陶啊 還有幾集94F 111.81.192.6 台灣 06/02 20:41
推 : 合理，人類這種生物根本變數太多，95F 223.137.123.189 台灣 06/02 20:44
→ : 只要人類當主導者永遠有變數
→ : 只要人類當主導者永遠有變數
推 : 地球上的人太多了，減少人類就可以97F 125.224.154.226 台灣 06/02 21:05
→ : 拯救地球。 美劇地球百子的開頭
→ : 拯救地球。 美劇地球百子的開頭
→ : 東方不敗 惡魔鋼彈:99F 220.141.195.230 台灣 06/02 21:10
推 : 當AI發現是人類在危害地球環境，電影情100F 101.10.61.249 台灣 06/02 21:42
→ : 節就會真實上演
→ : 節就會真實上演
推 : 直接給AI統治也許世界會更美好102F 1.170.219.66 台灣 06/02 21:49
推 : 機戰未來真實上演103F 203.79.180.153 台灣 06/02 22:24
推 : 恐怖104F 39.15.18.83 台灣 06/02 22:32
→ : 美帝真的走的很前面105F 61.230.15.69 台灣 06/02 22:48
推 : 軍武太前衛的煩惱^^106F 111.254.213.101 台灣 06/02 22:52
→ : AI是個忠實的軍人 為達成交代任務不擇手段
→ : AI是個忠實的軍人 為達成交代任務不擇手段
推 : 太可怕了108F 101.137.8.27 台灣 06/02 23:20
推 : AI遲早找到漏洞 對人類大開殺戒109F 111.71.52.205 台灣 06/02 23:32
推 : 機器三大法則110F 49.159.20.41 台灣 06/02 23:40
推 : 人類終結111F 123.193.230.139 台灣 06/02 23:59
--
※ 看板: Gossiping 文章推薦值: 0 目前人氣: 0 累積人氣: 2248
回列表(←)
分享