回看板
Disp BBS
作者 Scion (G8羊，專噓廢文)
標題 Re: [新聞] 美國國防部威脅制裁 Anthropic
時間 Wed Mar 11 03:08:08 2026

我覺得大多數的報導跟討論都沒有搞懂這件事的核心問題
其實也不是特別複雜，就是一個東西，叫做Constitutional AI (CAI)
中文直翻叫做憲政AI，說白了就是在AI的思考基礎上套上一個類似憲法的東西

傳統的AI(如ChatGPT)是透過人類反饋來學習好壞(RLHF)。
但Anthropic認為，人類反饋太慢且容易有偏見
於是他們給AI寫了一份「憲法」，讓AI根據這份憲法自己訓練自己

原則上聽起來沒什麼毛病，但問題在於這套憲法是Anthropic自己可以決定的
等於是在賣給國防部的AI上面加了一個上級機關：CAI
而這個機關直接接受Anthropic指揮，規則由Anthropic制定
這代表著這個AI將會有兩個指揮官，一個是國防部，一個是總公司的CAI代碼
小事聽國防部的，大事聽CAI的，然後CAI聽Anthropic的
當然，CAI目前的框架就是一些基本的道德觀念，比如說聯合國公約，人權宣言等等
內容來說沒有什麼問題，起碼現階段沒有問題

總而言之，這件事的問題核心，不在於道德標準的內容
OpenAI跟Anthropic框架的內容都是一樣的，國防部也是可以接受的
關鍵在於誰有權力制定以及控制這個道德標準
OpenAI的協議是，它跟國防部雙方同意了這樣的架構，就讓AI照這樣下去走
Anthropic的堅持是，它不相信國防部，甚至不相信自己AI的現在版本
所以它要保留未來改變及強化這個道德架構的權力

※ 引述《chordate (にんきもの)》之銘言：
: https://www.cna.com.tw/news/aopl/202603100013.aspx
: Anthropic提告反擊　要求五角大廈撤黑名單認
: （中央社記者張欣瑜舊金山9日專電）美國五角大廈和AI公司Anthropic間的軍事倫理衝突
: 持續延燒。Anthropic今天就五角大廈將其列入黑名單的決定向法院提起訴訟，請求法院
: 撤銷「供應鏈風險」之認定。訴狀指出，相關措施危及公司數億美元的營收。
: 總部位於舊金山的人工智慧（AI）新創公司Anthropic今天在提交給加州北區聯邦地方法
: 院的訴狀中表示，政府相關行動「前所未見而且違法」，正在對Anthropic造成不可挽回
: 的傷害。
: 美國媒體CNBC報導，Anthropic與川普（Donald Trump）政府在過去兩週衝突急遽升溫，
: 雙方爭議焦點，在於Anthropic的AI模型能否、及如何被用於戰場及其他用途。
: 在衝突公開升溫之前，Anthropic是多個美國政府機構的早期合作夥伴，當時政府正試圖
: 利用最先進的AI技術，快速升級其系統與能力。
: Anthropic堅持在技術中加入防護機制，但戰爭部則認為這些限制過於極端。
: Anthropic上週證實，公司已被正式認定為「供應鏈風險」企業。CNBC報導指出，這是一
: 項極為罕見的措施，過去通常只針對外國敵對勢力；此決定要求國防供應商與承包商必須
: 證明，在與五角大廈合作的案件中沒有使用Anthropic的模型Claude。
: Anthropic試圖推翻聯邦政府將其列入黑名單、認定其為「供應鏈風險」企業的決定。
: 訴狀並指出，Anthropic與聯邦政府的合約已經陸續遭到取消；目前及未來與民間企業的
: 合約也陷入不確定性，短期內恐危及數億美元的營收。
: 此外，訴狀表示，除了這些直接的經濟損失，政府行動還損害公司聲譽，並侵犯其受美國
: 憲法第一修正案保障的言論自由。若沒有司法救濟，這些傷害在未來數週與數月只會持續
: 擴大。
: Anthropic已請求法院撤銷「供應鏈風險」企業之認定，並在案件審理期間暫緩執行相關
: 措施。公司也已在華盛頓特區的美國聯邦上訴法院另外提出申請，要求對戰爭部的決定進
: 行正式審查。
: ------------------------------------------------------------------------------
: 如同之前大多數人所預料，進入法律戰了，
: 個人猜測甚至可能會打到美國最高法院。

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 207.70.155.162 (美國)
※ 作者: Scion 2026-03-11 03:08:08
※ 文章代碼(AID): #1fi6mQy6 (Military)
※ 文章網址: https://www.ptt.cc/bbs/Military/M.1773169690.A.F06.html
※ 同主題文章:
[新聞] 美國國防部威脅制裁 Anthropic
02-21 12:51 chordate
Re: [新聞] 美國國防部威脅制裁 Anthropic
02-25 07:16 jimmy5680
Re: [新聞] 美國國防部威脅制裁 Anthropic
02-26 10:34 chordate
Re: [新聞] 美國國防部威脅制裁 Anthropic
02-27 09:05 chordate
Re: [新聞] 美國國防部威脅制裁 Anthropic
02-27 23:21 chordate
Re: [新聞] 美國國防部威脅制裁 Anthropic
03-10 17:44 chordate
Re: [新聞] 美國國防部威脅制裁 Anthropic
03-11 01:38 evilcherry
Re: [新聞] 美國國防部威脅制裁 Anthropic
03-11 03:08 Scion
※ 編輯: Scion (207.70.155.162 美國), 03/11/2026 03:15:21
→ rogger: 沒道理是私人企業決定這個1F 03/11 03:25
推 fman: 私人企業的東西當然是私人企業決定2F 03/11 04:18
推 greedypeople: 政府起碼兩年一次有人制約可以改變  給私人企業決定那沒有制衡機制  甚至無法改變
講極端一點  如果中國持有該私企的過半股權  他可以直接癱瘓掉美國戰爭部3F 03/11 05:31
推 cannedtuna: 這可是天網啊 起碼要能被議會監督7F 03/11 06:31
→ LoveSports: Anthropic的憲法AI是受訓的時候把原則內化 跟OpenAI還有其他家AI訓練方式不同 其他家是訓練完才外加規則 比喻來說是上鎖練或關監獄(所以才會有些人引導AI"越獄") 如果要把已經內化的參數刪除 連帶會影響其他已經學過的東西 因為那些參數不是只含一個知識
也不是只包含同類的知識
A家無法接受國防部說的"同意一切合法使用"是因為現行法律可以透過鑽漏洞達到"接近"AI自主攻擊+大規模監控這兩件事("+"不是說同時)
#1ffjbkje (Gossiping)  #1ffkYSph (Gossiping)
這兩篇是AI分析的如何鑽漏洞 後者是好讀版8F 03/11 07:33
Re: [問卦] Claude是得罪了誰？ - 看板 Gossiping - 批踢踢實業坊
作者: LoveSports (我要當一個渣攻) OpenAI發表的與戰爭部的條款 2/28發布 3/2修改 (請google: Our agreement with the Department of War 不確定八卦板能不能貼) 但是兩個版本都有漏洞 以下是Claude Opus 4.6的兩篇分析 (正確性驗證：Gemini 3.1 Pro、GPT 5.2 Thinking mini、Grok 4.2 Beta) 畢竟涉及他國法律離我們有點遠
 
Re: [問卦] Claude是得罪了誰？ - 看板 Gossiping - 批踢踢實業坊
作者: LoveSports (我要當一個渣攻) OpenAI發表的與戰爭部的條款 2/28發布 3/2修改 但是兩個版本都有漏洞 以下是Gemini 3.1 Pro把本串上一篇Claude Opus 4.6寫的改寫成給一般人的好讀版 深入探討 OpenAI 與五角大廈合約（初步評估） 在檢視 OpenAI 與五角大廈合約中的技術與法律用語時，會發現幾個「灰色地帶」。讓我
推 okbon: 左膠公司真是可怕.19F 03/11 09:04
推 vandervaal: 某些人只會扣左膠的帽子嗎？20F 03/11 09:59
推 EBVirus: 就算官員說廠商不用負責，民間輿論還是會影響吧。更何況是戰爭這種議題21F 03/11 10:16

--
作者 Scion 的最新發文:
點此顯示更多發文記錄