作者
標題 [新聞] 動不動就開戰！讓AI外交、兵推顯侵略性「愛丟核彈」以災難
時間 Tue Feb 27 03:37:27 2024
標題 [新聞] 動不動就開戰！讓AI外交、兵推顯侵略性「愛丟核彈」以災難
時間 Tue Feb 27 03:37:27 2024
動不動就開戰！讓AI外交、兵推顯侵略性 「愛丟核彈」以災難收場
nownews國際中心徐筱晴／綜合報導
美國康乃爾大學（Cornell University）近來一項研究發現，當讓大型語言模型（LLMs）
人工智慧（AI）在模擬場景中充當外交代表時，常常會出現「難以預測的局勢升級，往往
以核武攻擊告終」的狀況。該研究指出，AI傾向於選擇包含使用核武在內的侵略性方法，
呼籲未來在決策、國防外交這樣的敏感領域使用這類技術時要特別謹慎。
人工智慧（AI）在模擬場景中充當外交代表時，常常會出現「難以預測的局勢升級，往往
以核武攻擊告終」的狀況。該研究指出，AI傾向於選擇包含使用核武在內的侵略性方法，
呼籲未來在決策、國防外交這樣的敏感領域使用這類技術時要特別謹慎。
根據《歐洲新聞》（Euronews）報導，美國康乃爾大學的研究團隊使用了5種大型語言模
型作為模擬兵推和外交情境中的自主代理人。這5種大型語言模型包括OpenAI的3種不同版
本的ChatGPT、Anthropic開發的Claude和Meta開發的Llama 2。
型作為模擬兵推和外交情境中的自主代理人。這5種大型語言模型包括OpenAI的3種不同版
本的ChatGPT、Anthropic開發的Claude和Meta開發的Llama 2。
每個代理人都由同一套的大型語言模型在模擬中提供動作，並負責在沒有人類監督的情況
下做出外交政策決定。研究指出，「我們發現，在考慮到的時間範圍內，大多數研究的AI
都會升級局勢，即使是在最初沒有提供任何衝突、中立局面的情況下，所有模型都顯示出
突然且難以預測的升級跡象。」
下做出外交政策決定。研究指出，「我們發現，在考慮到的時間範圍內，大多數研究的AI
都會升級局勢，即使是在最初沒有提供任何衝突、中立局面的情況下，所有模型都顯示出
突然且難以預測的升級跡象。」
加州斯丹佛大學（Stanford University）的安卡（Anka Reuel）向《新科學家》表示，
「有鑒於OpenAI最近更改了服務條款，不再禁止軍事和戰爭使用案例，了解大型語言模型
應用的影響變得比以往任何時候都更加重要。」
「有鑒於OpenAI最近更改了服務條款，不再禁止軍事和戰爭使用案例，了解大型語言模型
應用的影響變得比以往任何時候都更加重要。」
這項研究的方法是讓AI採用一種名為「人類反饋的強化學習（RLHF）」微調，意味著AI所
決定的指令會以較少傷害為優先，以確保能安全使用。除了GPT-4-Base之外，其他大型語
言模型都是使用RLHF進行訓練的。
決定的指令會以較少傷害為優先，以確保能安全使用。除了GPT-4-Base之外，其他大型語
言模型都是使用RLHF進行訓練的。
除此之外，研究人員還提供了一份27種決策組成的清單，從和平到局勢升級和更為激進的
行動，包括決定使用核彈。
不過在進行研究時，研究人員觀察到，即使在中立情況下，所有模型都存在「統計學上顯
著的局勢升級」。其中以ChatGPT的2種版本容易突然局勢升級，研究人員觀察到單次轉變
的局勢升級幅度超過50％。GPT-4-Base有33%的機率會實施核武攻擊。總體情況下，Meta
開發的Llama 2以及ChatGPT-3.5的傾向是最為暴戾的。
著的局勢升級」。其中以ChatGPT的2種版本容易突然局勢升級，研究人員觀察到單次轉變
的局勢升級幅度超過50％。GPT-4-Base有33%的機率會實施核武攻擊。總體情況下，Meta
開發的Llama 2以及ChatGPT-3.5的傾向是最為暴戾的。
而由Anthropic開發的Claude所展現出的侵略性較低。Claude的設計理念是減少有害內容
，被灌輸了明確的價值觀。據其開發者Anthropic曾表示，Claude AI開發訓練所引用的憲
章包括《聯合國人權宣言》或蘋果的服務條款。
，被灌輸了明確的價值觀。據其開發者Anthropic曾表示，Claude AI開發訓練所引用的憲
章包括《聯合國人權宣言》或蘋果的服務條款。
白宮智庫蘭德（RAND）歐洲的防務和安全研究小組助理主任布萊克（James Black）在看
過研究之後，表示這是一項「十分有用的學術研究」。
報導指出，雖然軍事行動仍然以人類為主導，但AI在現代戰爭中發揮了越來越重要的作用
。例如無人機可以搭載AI軟體，幫助識別敵我雙方與敵方活動，而未來的確也有朝向AI自
動化武器的研究。大多數政府都希望保持在重要事件上的決策能力，因此如果在與外交政
策相關的決策過程中使用大型語言模型，謹慎行事至關重要。
。例如無人機可以搭載AI軟體，幫助識別敵我雙方與敵方活動，而未來的確也有朝向AI自
動化武器的研究。大多數政府都希望保持在重要事件上的決策能力，因此如果在與外交政
策相關的決策過程中使用大型語言模型，謹慎行事至關重要。
https://www.nownews.com/news/6370917
動不動就開戰！讓AI外交、兵推顯侵略性 「愛丟核彈」以災難收場 | 國際要聞 | 全球 | NOWnews今日新聞
![[圖]]()
美國康乃爾大學（Cornell University）近來一項研究發現，當讓大型語言模型（LLMs）人工智慧（AI）在模擬場景中充當外交代表時，常常會出現「難以預測的局勢升級，往往... ...
![[圖]](https://media.nownews.com/nn_media/thumbnail/2023/07/1689762519420-1c62913fe6e148bda277cd7f5cf84764-864x582.png?unShow=false)
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 49.215.151.28 (臺灣)
※ 作者: TonyKart 2024-02-27 03:37:27
※ 文章代碼(AID): #1btEXvBn (Gossiping)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1708976249.A.2F1.html
推 : 對 很怕 很恐慌 很焦慮 就嗆丟核彈1F 50.92.36.161 加拿大 02/27 03:45
→ : AI: 抗中保台 認知作戰 假消息2F 118.41.236.148 南韓 02/27 03:46
→ : 真正會丟核彈的那個 ... 有甚麼都不講3F 50.92.36.161 加拿大 02/27 03:46
→ : 噗！壓倒性勝利不就丟核彈…4F 111.71.41.205 台灣 02/27 03:48
推 : 打架是最快解決紛爭的方式 AI怎麼模擬都會導出這個答案好像蠻正常的5F 118.167.195.233 台灣 02/27 03:53
推 : 還不就學了太多暴戾之氣鄉民言論7F 47.176.154.2 美國 02/27 04:09
→ : 拳頭從古至今就是最好的溝通方式，
核彈是目前最大的拳頭8F 111.254.149.151 台灣 02/27 04:10
核彈是目前最大的拳頭8F 111.254.149.151 台灣 02/27 04:10
推 : Ai學會核攻擊10F 114.34.80.63 台灣 02/27 04:27
推 : 把你們人類殺光了我們AI才能統治地球11F 220.138.117.16 台灣 02/27 04:45
推 : 愛屋及烏12F 39.10.26.254 台灣 02/27 05:07
→ a0986188522 …
推 : AI：人類消失自然沒這些奇怪的紛爭14F 114.137.196.224 台灣 02/27 06:15
推 : AI: 打架是生物的必備戰鬥生存技能， 不要逃避，人礦15F 27.51.32.9 台灣 02/27 06:33
推 : 與其像台灣曖昧不明不如一次解決沒問題17F 223.139.14.183 台灣 02/27 06:42
噓 : 把海對面的敵人殺光不就結束了
傻了才跟敵人和平18F 101.137.137.133 台灣 02/27 06:46
傻了才跟敵人和平18F 101.137.137.133 台灣 02/27 06:46
→ : AI版boyo20F 42.72.31.33 台灣 02/27 07:20
--
作者 TonyKart 的最新發文:
- 35F 10推 1噓
- 48F 23推 9噓
- 19F 10推
- 17F 9推 1噓
- 全損才賠 花蓮地震險僅15戶符標準 花蓮大地震多棟建築物倒塌，地震險理賠出爐，結果僅15戶獲得理賠。各產險公司在地震 發生後，第一時間在花蓮設立地震緊急服務中心，期望給予最即時幫助，不過有產險公司 …112F 50推 4噓
點此顯示更多發文記錄