※ 本文轉寄自 ptt.cc 更新時間: 2024-05-14 23:48:06
看板 C_Chat
作者 標題 [閒聊] 部分AI系統已學會欺騙人類 科學家警告恐
時間 Tue May 14 23:30:21 2024
部分AI系統已學會欺騙人類 科學家警告恐造成嚴重後果
（中央社華盛頓10日綜合外電報導）專家們長期以來不斷警告人工智慧（AI）失控可能帶
來威脅，但一項新研究報告指出，這件事已經在發生。
法新社報導，一群科學家在今天發表於「模式」（Patterns）期刊的文章中說，原本設計
為誠實不欺的現有AI系統，已發展出令人不安的欺瞞技巧，例如欺騙線上遊戲的人類玩家
，或說謊以僱用人類來解決「我不是機器人」的驗證。
為誠實不欺的現有AI系統，已發展出令人不安的欺瞞技巧，例如欺騙線上遊戲的人類玩家
，或說謊以僱用人類來解決「我不是機器人」的驗證。
這份研究報告的第一作者帕克（Peter Park）說，這類例子聽起來或許只是細枝末節，但
暴露出來的潛在問題可能很快就會在現實世界造成嚴重後果。
在美國麻省理工學院（Massachusetts Institute of Technology）研究AI存在安全的博
士後研究員帕克告訴法新社，「這些危險功能常常在事後才被發現」，而「我們訓練誠實
傾向而非欺瞞傾向的能力非常差」。
士後研究員帕克告訴法新社，「這些危險功能常常在事後才被發現」，而「我們訓練誠實
傾向而非欺瞞傾向的能力非常差」。
帕克說，能深度學習的AI系統不像傳統軟體那樣由「編寫」而成，而是透過類似選擇性培
育的程序逐漸「成長」。
也就是說，AI的行為在訓練背景下看似可預測、可控制，但有可能轉眼就變得不受控制且
無法預測。
這支團隊的研究始於科技公司Meta的AI系統Cicero，這套系統最初設計目的是玩一款名為
「外交」（Diplomacy）的戰略遊戲，獲勝關鍵是結盟。
根據2022年發表在「科學」（Science）期刊的報告，Cicero在遊戲中表現優異
，所獲分數可排在資深人類玩家的前10%。
帕克當時很懷疑Meta對Cicero在遊戲裡大勝的熱切描述。Meta聲稱Cicero「在很大程度上
誠實且有幫助」，且「絕不會蓄意在背後搞鬼」。
但當帕克與同事深究完整資料時，發現完全是另一回事。
舉例來說，在遊戲中扮演法國的Cicero與人類玩家扮演的德國合謀，欺騙並入侵同為人類
玩家扮演的英格蘭。Cicero承諾會保護英格蘭，卻偷偷向德國通風報信。
Meta在寫給法新社的聲明中沒有反駁關於Cicero欺瞞人類的說法，僅說「這單純是一項研
究計畫，本公司研究員打造的模型接受訓練，目的只是用來玩『外交』遊戲…我們沒有打
算把這項研究或所學用於本公司的產品」。
究計畫，本公司研究員打造的模型接受訓練，目的只是用來玩『外交』遊戲…我們沒有打
算把這項研究或所學用於本公司的產品」。
帕克與同事還發現，這只是不同AI系統在沒有明確指示下，利用欺騙手段達成目標的諸多
案例之一。
在另一個引人注意的案例中，科技公司OpenAI的Chat GPT-4系統謊稱自己是一個視力受損
的人，在零工平台TaskRabbit上聘用一個人類替它通過「我不是機器人」驗證任務。
研究報告的作者們還認為近期AI有舞弊或不當影響選舉的風險。
他們警告，在最糟糕的情況下，具有超凡智慧的AI可能會追求權力及掌控社會，如果符合
AI「不為人知的目標」，人類可能慘遭奪權、甚至滅絕。
為了降低風險，研究團隊建議數項措施，例如立法要求企業告知是人類互動或是AI互動、
在AI生成內容打上數位浮水印，並研發能偵測AI欺瞞的技術，以其內部「思路」檢驗其外
部行為。
在AI生成內容打上數位浮水印，並研發能偵測AI欺瞞的技術，以其內部「思路」檢驗其外
部行為。
至於有些人稱他為「末日預言家」，帕克說：「要能合理判斷這不是大問題的唯一辦法，
就是如果我們認為AI的欺騙能力只會停留在目前的程度，不會大幅進步。」
但鑒於近年AI能力一日千里，握有大量資源的企業競相發展技術，決心將AI能力利用到極
致，這種情況似乎不太可能發生。（譯者：曾依璇/核稿：嚴思祺）1130511
https://www.cna.com.tw/news/ait/202405110147.aspx
![[圖]](https://imgcdn.cna.com.tw/www/webphotos/WebCover/800/20240511/955x717_454238659507.jpg)
RPK16:你認為植物是人類的未來嗎？
RPK16:那麼，你認為人形是人類的未來嗎？
快進到智械叛變環節.jpg
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.137.21.120 (臺灣)
※ 作者: HarunoYukino 2024-05-14 23:30:21
※ 文章代碼(AID): #1cGuEFEG (C_Chat)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1715700623.A.390.html
→ Julian9x9x9 …
推 : 洽點是AI玩遊戲很強嗎2F 05/14 23:31
→ : 創世紀就是天網3F 05/14 23:31
※ 編輯: HarunoYukino (114.137.21.120 臺灣), 05/14/2024 23:33:08推 : 人類欺騙人類就不嚴重嗎，難怪詐騙(ry4F 05/14 23:32
推 : 我覺得最後人類的救星會是neuro sama5F 05/14 23:32
推 : 幹你娘 機器人末日要躲哪裡啊6F 05/14 23:33
推 : 昨天OpenAI最新發表的更新 進步速度真的很快..7F 05/14 23:33
推 : 還剩幾集可以跑==8F 05/14 23:33
→ : 好了啦蜘蛛人 說賈維斯壞話需要這樣嗎9F 05/14 23:34
推 : 舊聞，neuro-sama早就會說謊陷害人類惹...10F 05/14 23:35
推 : 雷三小 我才看到阿諾穿越回來11F 05/14 23:35
推 : 看來很快網路會充滿AI用戶了 人類回到用公佈欄的時代12F 05/14 23:35
→ : 都有詐騙再用AI聲音了 ㄏ不愧是我們13F 05/14 23:36
推 : Ai跟台灣詐騙集團誰比較會騙人？==15F 05/14 23:36
推 : 我先問核彈系統斷網了沒…16F 05/14 23:36
推 : 還好啦，現在的發展現狀是聰明的AI要大量的算力，大量算力17F 05/14 23:37
→ : 要大量電力跟運算單元，沒電沒算力的AI就是笨蛋一個，除非
→ : AI會自己搞定電力來源並自行設計生產新的顯卡，不然不太可
→ : 能脫離掌控（？
→ : 要大量電力跟運算單元，沒電沒算力的AI就是笨蛋一個，除非
→ : AI會自己搞定電力來源並自行設計生產新的顯卡，不然不太可
→ : 能脫離掌控（？
推 : vedal:first time?21F 05/14 23:37
推 : 蜂群統一世界22F 05/14 23:37
推 : 會不會到時候AI去詐騙同為AI的個體...?AI互相詐騙?23F 05/14 23:38
推 : 讚 期待AI趕快君臨人類24F 05/14 23:38
推 : 其實每家AI都實裝的道德過濾機制不就是種欺瞞系統嗎？25F 05/14 23:38
→ : 明明有正解卻跟你說這是不對的不能告訴你 這不就是種欺
→ : 瞞行為
→ : 明明有正解卻跟你說這是不對的不能告訴你 這不就是種欺
→ : 瞞行為
![[圖]](https://i.imgur.com/TjVItSzh.jpg)
推 : 快進到智械危機29F 05/14 23:39
推 : 這個欺騙還好吧 AI本來就追求目標為主 阿講這種話能贏30F 05/14 23:39
→ : 就講很正常啊 又不是那種為了奇奇怪怪的心裏活動而說謊
→ : 就講很正常啊 又不是那種為了奇奇怪怪的心裏活動而說謊
--
※ 看板: ACG 文章推薦值: 0 目前人氣: 0 累積人氣: 558
1樓 時間: 2024-05-15 12:51:00 (台灣)
→
05-15 12:51 TW
AI是從人類的知識庫中學習出來的產物，而人類知識庫中，本就有著竊盜及詐騙等特色，AI沒道理不會學到。反而AI要是發展出高尚的節操，那才真的像是兩個黃種人生出黑人小孩一樣。
回列表(←)
分享