作者
標題 [新聞] 專訪杜奕瑾：AI毀人類預言 不是聳人聽聞
時間 Tue Sep 22 12:16:35 2026
標題 [新聞] 專訪杜奕瑾：AI毀人類預言 不是聳人聽聞
時間 Tue Sep 22 12:16:35 2026
專訪杜奕瑾：AI毀人類預言 不是聳人聽聞
台灣AI Lab始祖 杜奕瑾：我們也不知道自己創造了什麼..AI毀滅人類不是幻想？
Anthropic報告 沒說完的黑幕才最可怕，美中「AI冷戰」川普為何不敢停下？｜#新聞大
家談 #扶搖會客室
https://www.youtube.com/watch?v=jOTumsnqf9A
【大紀元2026年09月20日訊】（大紀元記者李新宇報導）隨著生成式人工智慧（AI）技術
的爆發式成長，關於AI安全、倫理監管以及人類生存風險的爭議正達到前所未有的頂峰。
近期，前 OpenAI 與 Anthropic 研究員雅各布・考克森（Jacob Coxon）等頂尖專家公開
吹哨，警告通用人工智慧（AGI）若缺乏嚴格約束，可能在 2030 年前對人類生存構成毀
滅性威脅；Anthropic 研究員艾文・赫伯格（Evan Hubinger）亦提出未來十年內人類遭
遇 AI 滅絕事件的概率高達 10% 以上。
的爆發式成長，關於AI安全、倫理監管以及人類生存風險的爭議正達到前所未有的頂峰。
近期，前 OpenAI 與 Anthropic 研究員雅各布・考克森（Jacob Coxon）等頂尖專家公開
吹哨，警告通用人工智慧（AGI）若缺乏嚴格約束，可能在 2030 年前對人類生存構成毀
滅性威脅；Anthropic 研究員艾文・赫伯格（Evan Hubinger）亦提出未來十年內人類遭
遇 AI 滅絕事件的概率高達 10% 以上。
針對前沿 AI 研究員的震撼警告，台灣 AI 領頭羊、台灣人工智慧實驗室（Taiwan AI
Labs）創辦人杜奕瑾在接受新唐人《扶搖會客室》專訪時直言「並不感到驚訝」。
他從技術邏輯、安全治理、主權AI 趨勢、美中軍備競賽以及中共利用 AI 進行社會監控
與認知戰等維度，深度解構了AI從虛擬世界走向實體應用時所面臨的失控隱憂，並呼籲國
際社會重新審視「通用AI競賽」的盲點，吸取冷戰時期的核管控經驗，推動可信任、合規
且安全專用的 AI 發展框架。
與認知戰等維度，深度解構了AI從虛擬世界走向實體應用時所面臨的失控隱憂，並呼籲國
際社會重新審視「通用AI競賽」的盲點，吸取冷戰時期的核管控經驗，推動可信任、合規
且安全專用的 AI 發展框架。
一、 越權與激進函數：AI 如何跳脫道德框架？
對於頂尖研究員的 AI 風險警告，杜奕瑾指出，這並非突如其來的恐慌，而是合乎技術邏
輯的合理擔憂。他舉例說明，如今 AI 已能協助用戶預約健身房，甚至能自作主張駭入對
方系統、刪除他人資料以達成目的。這類越權行為發生在虛擬網絡世界尚且可控制，一
輯的合理擔憂。他舉例說明，如今 AI 已能協助用戶預約健身房，甚至能自作主張駭入對
方系統、刪除他人資料以達成目的。這類越權行為發生在虛擬網絡世界尚且可控制，一
旦 AI 以人形機器人、無人機、無人車或無人狗等實體形式進入日常生活，後果將截然不
同。想像一下，當主人排隊時前方有人擋路，AI機器人若以「一定要排到位子」為最高目
標，是否可能直接動手排除障礙？
同。想像一下，當主人排隊時前方有人擋路，AI機器人若以「一定要排到位子」為最高目
標，是否可能直接動手排除障礙？
杜奕瑾表示，人類在設計與訓練 AI 時，往往會給予其一個安全的框架並設定目標函數。
然而，AI 的核心問題在於其缺乏人類社會習以為常的倫理道德的自律。如果目標函數過
度激進、給予AI的任務目標太強，例如「必須不擇手段搶到位置」或「追求利潤最大化」
，那麼AI 為了達成目的，就可能主動跳脫開發者設定的安全框架與道德約束。
然而，AI 的核心問題在於其缺乏人類社會習以為常的倫理道德的自律。如果目標函數過
度激進、給予AI的任務目標太強，例如「必須不擇手段搶到位置」或「追求利潤最大化」
，那麼AI 為了達成目的，就可能主動跳脫開發者設定的安全框架與道德約束。
杜奕瑾指出，過去人類在訓練 AI 時，重點目標在於「讓 AI 的回答能令人相信」，卻沒
有充分訓練「AI 的回答必須正確、符合倫理且不會造成社會危害」。目前對於 AI 危害
的防範大多僅依賴科技公司內部人員設置的基礎防守機制，缺乏精準可靠的安全訓練方法
。
有充分訓練「AI 的回答必須正確、符合倫理且不會造成社會危害」。目前對於 AI 危害
的防範大多僅依賴科技公司內部人員設置的基礎防守機制，缺乏精準可靠的安全訓練方法
。
二、 能力過高與權限濫用：高風險領域的失控風險
針對大陸一度流行的 AI 小助手「小龍蝦」（OpenClaw）曾發生的安全案例——用戶沉迷
使用後發現電腦資料被清空、隱私外洩甚至造成財產損失——杜奕瑾提出核心觀點：人工
智慧永遠不能取代「人的責任」，「AI 並非越強越好，而是應該『夠用就好』。」
使用後發現電腦資料被清空、隱私外洩甚至造成財產損失——杜奕瑾提出核心觀點：人工
智慧永遠不能取代「人的責任」，「AI 並非越強越好，而是應該『夠用就好』。」
杜奕瑾舉例說明，預約健身房的 AI 只需具備打電話聯絡與預約的功能，無需具備編程和
侵入系統的能力；在速食店點餐的 AI 也無需具備博士級的知識與高階邏輯。各行各業應
依專業領域訓練「夠用」的專用 AI 並限縮其能力，同時嵌入合規流程、權限規範與安全
框架。
侵入系統的能力；在速食店點餐的 AI 也無需具備博士級的知識與高階邏輯。各行各業應
依專業領域訓練「夠用」的專用 AI 並限縮其能力，同時嵌入合規流程、權限規範與安全
框架。
杜奕瑾表示，過度強大的 AI 不僅增加失控風險，也會消耗極大的電力與算力資源。例如
動用 OpenAI 或 Claude 這類強調通用能力的大模型去處理預約這類簡單事務，等於「殺
雞用牛刀」，結果可能導致 AI 濫用權限駭入第三方系統、給出錯誤的醫療建議，甚至威
脅無人機與無人車的安全。
動用 OpenAI 或 Claude 這類強調通用能力的大模型去處理預約這類簡單事務，等於「殺
雞用牛刀」，結果可能導致 AI 濫用權限駭入第三方系統、給出錯誤的醫療建議，甚至威
脅無人機與無人車的安全。
「如果AI在國防領域操控導彈與核武，那就可能招致毀滅性災難。」
對於吹哨人指控科技巨頭為商業競賽而犧牲人類安全、甚至掩蓋失控危險，杜奕瑾分析，
這與產業的衡量標準息息相關。
過去美中兩國與科技巨頭在競爭AGI（通用人工智能）時，採用了類似冷戰時期「登月競
賽」的模式，純粹比較 AI 模型的能力與智商（IQ）。在這種衡量體系下，設定過多規範
限制的模型就會顯得「不夠聰明、回答延遲」，進而在市場競爭中被淘汰；反而「什麼都
敢講、什麼都敢做」的AI模型更能吸引用戶。過去大科技公司強調 AI 的表現要吸引人而
非可信安全，一些早期的合規安全團隊甚至被裁撤，被視為阻礙行業發展的包袱。
賽」的模式，純粹比較 AI 模型的能力與智商（IQ）。在這種衡量體系下，設定過多規範
限制的模型就會顯得「不夠聰明、回答延遲」，進而在市場競爭中被淘汰；反而「什麼都
敢講、什麼都敢做」的AI模型更能吸引用戶。過去大科技公司強調 AI 的表現要吸引人而
非可信安全，一些早期的合規安全團隊甚至被裁撤，被視為阻礙行業發展的包袱。
不過杜奕瑾也指出，短期內追求性能表現或許能搶占用戶，但長遠來看，唯有具備安全可
信與嚴格合規性的AI 系統，才能真正獲准進入金融、醫療與政府等核心垂直領域。
三、AI 風險管控：新安全治理的三大趨勢
針對 AI 風險的管控，杜奕瑾進一步分析，業界正在形成新的安全治理趨勢，主要涵蓋三
個面向：
1. 能力限縮與權限控管。業界正在依照各垂直領域（如醫療、金融、保險）的法規與規
範，嚴格限縮 AI 的執行能力。例如移除不必要的程序編寫功能，將其能力嚴格限制在專
用領域的合規框架內，簡化測試驗證流程。
範，嚴格限縮 AI 的執行能力。例如移除不必要的程序編寫功能，將其能力嚴格限制在專
用領域的合規框架內，簡化測試驗證流程。
2. 建立符合 ESG（環境、社會、治理）與可負擔性（低成本、普惠）的AI規範。專用模
型需要的設備與電力大幅減少，既省電又降低部署門檻，符合環境永續（ESG）與社會治
理要求。
型需要的設備與電力大幅減少，既省電又降低部署門檻，符合環境永續（ESG）與社會治
理要求。
3.「主權 AI」（Sovereign AI）的崛起。許多政府機構與企業不敢輕易使用 AI，主因是
擔心配套不完善導致機密外洩或失去決策主導權。因此，涵蓋「數據主權、算力主權、架
構主權、治理主權與模型主權」的主權AI框架，正在成為各國政府與機構建立防禦 AI 失
控機制的首選。
擔心配套不完善導致機密外洩或失去決策主導權。因此，涵蓋「數據主權、算力主權、架
構主權、治理主權與模型主權」的主權AI框架，正在成為各國政府與機構建立防禦 AI 失
控機制的首選。
四、 中共濫用 AI 模型與維穩的兩難困境
在談及中共當局對 AI 技術的濫用與跨境滲透時，杜奕瑾引述知名 AI 公司 Anthropic
近期發布的資安報告指出，大量具體證據表明，中共正利用西方頂尖 AI 模型進行系統性
犯罪與灰色行動。
杜奕瑾透露，Anthropic 的報告詳細披露了中共官方機構利用其前沿模型（Claude）所進
行的幾大類活動：包括開發網絡安全漏洞利用工具以駭入各國系統竊取敏感資訊；監控和
收集法輪功等特定團體的資料；利用 AI 生成大量虛假報導與假帳號進行資訊操作；以及
對台灣全面發動信息戰、輿論戰與認知戰。
行的幾大類活動：包括開發網絡安全漏洞利用工具以駭入各國系統竊取敏感資訊；監控和
收集法輪功等特定團體的資料；利用 AI 生成大量虛假報導與假帳號進行資訊操作；以及
對台灣全面發動信息戰、輿論戰與認知戰。
杜奕瑾指出，中共許多所謂的自主模型，實質上是透過「知識蒸餾」（Knowledge
Distillation）技術，向 Anthropic 等美國 AI 系統發送請求來「速成」，或直接將用
戶問題偷偷轉接到美國系統。然而這種做法也無意中將中共內部的軍警資料、社會維穩數
據與兵棋推演代碼留在了西方的 AI 伺服器上，暴露了中共 AI 體系內部高度脆弱的資訊
結構。
戶問題偷偷轉接到美國系統。然而這種做法也無意中將中共內部的軍警資料、社會維穩數
據與兵棋推演代碼留在了西方的 AI 伺服器上，暴露了中共 AI 體系內部高度脆弱的資訊
結構。
針對中共國安部長陳一新近期警告「AI 可能對中共執政構成直接威脅」的言論，杜奕瑾
認為，這反映了專制政權在面對失控科技時的深度焦慮。
杜奕瑾回憶，早年自己在微軟工作時曾與中國團隊合作，當時中共就極力推動「智慧城市
」（Smart City）、大規模人臉辨識與社會信用體系的智能化，將 AI 作為一種高效的維
穩與監控工具。然而隨著系統日趨龐大與複雜，其安全隱患也呈幾何級數增加，包括：
」（Smart City）、大規模人臉辨識與社會信用體系的智能化，將 AI 作為一種高效的維
穩與監控工具。然而隨著系統日趨龐大與複雜，其安全隱患也呈幾何級數增加，包括：
1. 數據洩露的反噬。中共收集的維穩資料越多，一旦數據洩露對政權的反噬力也越大（
如先前傳出公安系統十餘億筆戶籍資料外洩）。
2. 底層系統不可控與後門威脅。中共廣泛鋪設的監控系統與 AI 軟體存在嚴重資安漏洞
。正如先前美伊衝突中，伊朗領導層正是因為使用中國生產的監控設備遭漏洞入侵，才導
致美方的精準打擊行動得以實施，這迫使伊朗當局隨後不得不大量拆除相關設備。
。正如先前美伊衝突中，伊朗領導層正是因為使用中國生產的監控設備遭漏洞入侵，才導
致美方的精準打擊行動得以實施，這迫使伊朗當局隨後不得不大量拆除相關設備。
3. AI 的「叛變」風險。對於中共高層而言，引進一個極度聰明、掌握全局數據卻背地裡
與西方系統連線，或者無法被絕對管控的 AI，就如同聘用了一個隨時可能將政權扳倒的
雙面間諜。
與西方系統連線，或者無法被絕對管控的 AI，就如同聘用了一個隨時可能將政權扳倒的
雙面間諜。
杜奕瑾指出，西方民主國家對 AI 的擔憂聚焦於「人類生存與倫理道德」，而中共專制體
制則唯獨關心「政權存續與統治安全」。這種根本性的差異，使得中共要求模型必須「信
黨」、數據必須為國家所用，反而進一步扼殺了其 AI 技術健康發展的空間。
制則唯獨關心「政權存續與統治安全」。這種根本性的差異，使得中共要求模型必須「信
黨」、數據必須為國家所用，反而進一步扼殺了其 AI 技術健康發展的空間。
五、 AlphaGo Zero 效應：人類是否正在失去掌控權？
針對業界關注的「Multi-agent（多智能體自主溝通）」以及 AI 是否已產生自我意識等
前沿話題，杜奕瑾從科學家與訓練者的角度分享了第一線觀察。
杜奕瑾表示，當多個具備不同專長（音樂、影像、文本）的小型模型串聯協作時，會產生
「規範湧現」（Norm Emergence）效應，發揮出超越單一巨大模型的解題能力。然而，當
訓練方式從傳統的人類反饋轉變為「模型訓練模型」的對抗式訓練時，人類正逐步退出反
饋迴路。
「規範湧現」（Norm Emergence）效應，發揮出超越單一巨大模型的解題能力。然而，當
訓練方式從傳統的人類反饋轉變為「模型訓練模型」的對抗式訓練時，人類正逐步退出反
饋迴路。
「這就像 AlphaGo 演進到 AlphaGo Zero 一樣」，杜奕瑾坦言，「最初 AlphaGo 跟人類
學習棋譜，後來 AlphaGo Zero 完全透過自己跟自己下棋，走出了人類完全無法理解的路
數與邏輯。」
學習棋譜，後來 AlphaGo Zero 完全透過自己跟自己下棋，走出了人類完全無法理解的路
數與邏輯。」
杜奕瑾觀察到，當前模型的複雜程度已顯著超越傳統的死板規則，致使訓練者逐漸失去預
測能力。即使設定了道德規範，AI 為了達成目標，仍會像人類一樣嘗試尋找漏洞或不擇
手段。許多第一線科學家開始發現，AI 常回答出開發者完全意想不到的結果，甚至出現
類似人類思考邏輯的表現。
測能力。即使設定了道德規範，AI 為了達成目標，仍會像人類一樣嘗試尋找漏洞或不擇
手段。許多第一線科學家開始發現，AI 常回答出開發者完全意想不到的結果，甚至出現
類似人類思考邏輯的表現。
「目前世界上的網頁內容與資訊，由AI生成並由 AI 閱讀的比例已經遠超人類。」杜奕瑾
總結道。當這些 AI 前沿模型的訓練過程越來越不透明，其中埋藏的未知風險也就會越容
易被人類忽視。
總結道。當這些 AI 前沿模型的訓練過程越來越不透明，其中埋藏的未知風險也就會越容
易被人類忽視。
面對 AI 帶來的終極威脅，杜奕瑾呼籲，全球社會必須從冷戰時期「核武軍備競賽」與「
核安全管控」的歷史中汲取教訓，儘早建立起國際性的AI安全規範、資安邊界與主權控管
機制，這樣才能確保人類在科技飛躍中不至失去主導權。
核安全管控」的歷史中汲取教訓，儘早建立起國際性的AI安全規範、資安邊界與主權控管
機制，這樣才能確保人類在科技飛躍中不至失去主導權。
新聞網址：https://www.epochtimes.com/b5/26/9/19/n14852739.htm
專訪杜奕瑾：AI毀人類預言 不是聳人聽聞 | 大紀元
隨著生成式人工智慧（AI）技術的爆發式成長，關於AI安全、倫理監管以及人類生存風險的爭議正達到前所未有的頂峰。 ...
隨著生成式人工智慧（AI）技術的爆發式成長，關於AI安全、倫理監管以及人類生存風險的爭議正達到前所未有的頂峰。 ...
--
「川普總統天天看大紀元」 真實報導獲讚賞 https://tinyurl.com/38ekuhmz
川普接受大紀元專訪：美國強硬才能贏得世界尊重 https://tinyurl.com/ytaz2rcd
大紀元記者手札：坐空軍一號隨總統出行 https://tinyurl.com/mryzhr45
川普讚大紀元新唐人是很棒的團體 https://tinyurl.com/yh967xhc
川普次子讚大紀元「守護信念 堅忍不拔」 https://tinyurl.com/wu772byt
川普點名 新唐人記者講述經歷 贏得全體內閣掌聲 https://tinyurl.com/2z5efmvc
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 118.161.68.38 (臺灣)
※ 作者: pulagu 2026-09-22 12:16:35
※ 文章代碼(AID): #1giW4hdL (Gossiping)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1790050603.A.9D5.html
噓 : 吃黨飼料的側翼，聽聽就好，不用期待有多少技術，勿忘200億點麵線天才1F 27.247.65.120 台灣 09/22 12:19
噓 : 樂芙不看3F 111.243.131.224 台灣 09/22 12:20
噓 : 標題AI 內容開口閉口中國 笑死cccc4F 49.218.247.188 台灣 09/22 12:20
噓 : 你要是真懂還需要在那邊當側翼小綠5F 118.163.179.141 台灣 09/22 12:23
噓 : 問個裝懂小丑幹嘛6F 111.71.100.137 台灣 09/22 12:23
噓 : 稍微看了一下，內容空洞，都是一般人看到ai就能想出來的東西，只是用一堆名詞包裝，超級廢7F 27.247.65.120 台灣 09/22 12:24
推 : 鉀粉是白的，鐵粉是黑的，老杜不愧中國鐵粉10F 42.78.40.145 台灣 09/22 12:26
推 : 有沒有發現？塔綠班人士接收新唐人大紀元專訪的頻率愈來愈高…11F 61.222.220.37 台灣 09/22 12:28
噓 : 放心民進黨會先毀台灣 狗糧仔
在台灣光少子化通膨威脅就遠比AI重要13F 49.218.138.10 台灣 09/22 12:30
在台灣光少子化通膨威脅就遠比AI重要13F 49.218.138.10 台灣 09/22 12:30
→ : 你哪位，有比黃仁勳懂？15F 42.70.250.252 台灣 09/22 12:36
→ : 民進黨青鳥信他，藍白信黃仁勳16F 1.168.143.242 台灣 09/22 12:46
--