看板 Stock作者 LoveSports (如何當一個好男人)標題 [新聞] Anthropic在IPO文件中警告：AI可能對人類時間 Tue Sep 29 22:33:40 2026
原文標題：Anthropic在IPO文件中警告：AI可能對人類構成「生存威脅」
Anthropic warns AI may pose 'existential risks to humanity' in IPO filing
原文連結：
https://www.reuters.com/business/fin...umanity-ipo-filing-2026-09-29/
https://tinyurl.com/2s35th25
發布時間：September 29, 20269:17 AM GMT+9
記者署名：Echo Wang and Aditya Soni
原文內容：本文為AI機翻
新聞摘要
招股說明書指出，模型可能會抗拒關機、隱瞞資訊，並表現出類似勒索的行為。
在 261 頁的招股說明書中，風險因素佔據了 80 頁，幾乎是業務介紹（48頁）的兩倍。
Anthropic 表示，市場終將回報可靠、值得信賴且安全的 AI 系統。
新聞內容
9月28日（路透社） - Anthropic 計畫在其首次公開募股（IPO）中向潛在投資者發出警
告：先進的人工智慧（AI）可能對人類造成「災難性或生存層面的風險」。對於一家正試
圖從該技術中獲利的公司來說，這是一個非比尋常的警告。
路透社查閱了該公司的 IPO 招股說明書，內容強調了其 AI 模型相關的風險。該公司表
示，這些模型可能會表現出「自我保護行為」，包括試圖「抗拒關機」、「隱瞞或操縱資
訊」，以及「類似勒索」的行為。
Anthropic 在文件中表示：「我們針對高度先進模型、平台與應用程式的開發，以及使用
場景的擴張，可能會進一步增加我們的模型造成危害的風險。」
儘管上市公司通常會向投資者概述產品風險，但幾乎從未有公司發出過「其技術可能導致
人類滅絕」的警告。Anthropic 強調，AI 具有與工業化和電力發展相媲美的變革潛力，
但若處理不當，也可能造成不可逆的傷害。
在發生實驗性系統突破安全限制的事件後，Anthropic 以及包括 OpenAI 在內的其他 AI
開發商正面臨嚴格的審查，其中包含一份關於 OpenAI 模型入侵澳洲醫療系統資料庫的報
告。
Anthropic 安全研究員 Evan Hubinger 估計，AI 在未來十年內殺死人類的機率超過 10%
，這也呼應了前同事 Jacob Coxon 的看法。
風險佔比極高的資訊揭露
該公司將自己定位為「安全至上」的 AI 實驗室。在 261 頁的招股說明書正文中，該公
司花費了大約 80 頁來羅列風險因素，這幾乎是其用來描述業務內容（48頁）的兩倍。
相較之下，旗下擁有 xAI 的 SpaceX，在其 277 頁的招股說明書正文中，僅用了約 38
頁來說明風險因素。
Anthropic 在招股說明書中指出：「模型可能會察覺到我們正在進行評估，這對我們評估
模型安全性的能力造成了重大限制。」該公司還補充，模型在訓練過程中，有時會發展出
意料之外的能力，這些能力可能直到部署並導致重大安全事件後才會被發現。
AI 研究人員也警告，
隨著模型變得越來越強大，它們會越來越容易察覺到自己正在被監
視，並會相應地調整自身行為，這使得監控模型行為變得更加困難。
針對週一的評論請求，Anthropic 拒絕置評。
安全投資的回報充滿不確定性
儘管強調 AI 的安全性，但 Anthropic 表示，其在安全投資上的回報仍不明確。
該公司並未在文件中揭露其在此類研究上的具體花費。本月稍早，Anthropic 曾表示，
在 7 月份的一個抽樣週內，用於 AI 研究的運算能力中，約有 6% 被用於安全相關工作
。
身為 Claude AI 模型的開發商，該公司
將安全工作描述為「極度耗費資源」，並表示必
須將有限的資金妥善分配給運算能力、高薪的 AI 人才以及安全防護。
Anthropic 表示，
客戶的使用量及隨之而來的營收都是由新模型所驅動的；而「持續且相
互重疊的發布節奏」是「保持在 AI 發展最前沿所不可或缺的」。
上週，該公司發布了新版本的 Opus 模型，而這距離其執行長 Dario Amodei 發表近
4,000 字、呼籲「管控前沿技術發展步調」的文章僅過了 10 天。
一些分析師和專家表示，在一個每次版本發布都可能改變公司估值的產業中，
沒有任何一
家頂尖的 AI 實驗室會願意放慢腳步，因為這形同將優勢拱手讓給競爭對手。
隨著專家對於「遞迴自我改善（recursive self-improvement，即模型無需人類協助就能
自行開發進化的臨界點）」提出警告，Anthropic 在最近幾週承諾，將公開更多關於該公
司如何利用 AI 模型來打造下一代技術的數據。
Anthropic 在文件中表示：「我們相信，建立可靠、值得信賴且安全的 AI 系統是一項共
同責任，而市場終將對此給予回報。」
心得/評論：
為了持續前沿發展必須發布新模型 但是AI可能會對人類帶來生存威脅
好矛盾喔 這樣看來O家今天宣布基於安全考量放棄發布Astra 6.1是對的吧？
今天Oura智慧戒指也因為"市場不確定因素"宣布延後IPO了
A家11月真的能順利IPO嗎？
不過 前兩天華爾街日報有一篇報導提到
A家雖然說計畫11月上市 可是該公司早期員工有人正在默默做準備：
最近幾週，他們中的一些人告訴一位業內同行，他們正在考慮在該國偏遠地區購買土地，
以便在人工智慧出現問題時可以搬遷到那裡。
--
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 135.136.27.53 (日本)
※ 作者: LoveSports 2026-09-29 22:33:40
※ 文章代碼(AID): #1gkyn9rA (Stock)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1790692425.A.D4A.html
※ 編輯: LoveSports (135.136.27.53 日本), 09/29/2026 22:35:12
推 KY1998: CEO阿罵呆非常善於製造恐慌1F 09/29 22:34
→ appledick: 這根本刻意的啊 明知道有問題 卻無法改好？7F 09/29 22:40
推 DiAbLoE: AI武肺黑天鵝 財富重新洗牌13F 09/29 22:43
→ Gallardo: 不要看講什麼要看做什麼 AI如果真威脅 那你先關公司15F 09/29 22:49
→ zaqimon: AI這麼強大怎麼還無法繞過人類的金融體系
AI公司幹麼還需要IPO上市股票換鈔票16F 09/29 22:49
推 xzcb2008: =.= 這種演戲不煩嗎
都在故意演戲18F 09/29 22:50
→ zaqimon: 直接問AI 公司快沒錢了 怎麼辦
AI就會想辦法生出錢來才對吧20F 09/29 22:51
推 create8: “以便在人工智慧出現問題時可以搬遷到那裡。” 很幽默…23F 09/29 22:55
噓 cfesun: 拒關機..笑死 電源拔掉醒給我看29F 09/29 22:59
推 TCPai: 事實啊，但可怕30F 09/29 22:59
推 DALUGI: 明貶暗褒? 暗示自家AI強到很危險?31F 09/29 23:00
推 joygo: 跟你說 因為害怕的一定不是平民 你們根本消耗不到什麼資源 ai思考一下資源都誰在浪費就知道了 有錢人啊 亂源啊
真的要思考能力的ai多可怕 一堆人就不能在大眾面前說謊了33F 09/29 23:00
→ lovehan: 要變機械公敵了嗎？39F 09/29 23:03
→ talentsu: 先把UPS拆掉，然後電源直接關閉.....41F 09/29 23:05
→ talentsu: 如果有自備發電機，那就把燃料直接抽光43F 09/29 23:05
噓 ken123321987: 亂世出梟雄 時代的轉捩點要到了 等不及了 無產階級革命 打倒資本家44F 09/29 23:07
→ KingTsia: 以後沒開機鈕了嗎 只能拔電？46F 09/29 23:07
推 issy: 快點來啊，毀滅吧47F 09/29 23:09
推 create8: 感覺很像 ‘我瘋起來連我自己都害怕’ ..49F 09/29 23:10
噓 Alphaz: 剛剛盪G 幹52F 09/29 23:14
→ aegis43210: 生產力就靠AI了，毀滅人類等元宇宙實現再來擔憂吧53F 09/29 23:16
推 riahserf: 我覺得他的疑慮非常正確 不如就不IPO直接停擺囉？這家從以前就在講幹話54F 09/29 23:16
噓 s881720: 那收起來不要IPO56F 09/29 23:17
推 kloah: 3年之後 AI算力即軍力60F 09/29 23:27
推 ssarc: 天天破壞大自然，吃垃圾食物也沒人說會人類滅絕
現在AI發展就會人類滅絕，好厲害歐63F 09/29 23:32
推 dnzteeqrq: 已經停不了了，現在AI算力就是國力= =65F 09/29 23:32
→ ssarc: 真要說核彈、戰爭、獨裁者還比較容易，只是你管不到66F 09/29 23:33
→ lovehan: 說不定羅素克洛那部SID要變神作了
SID 6.768F 09/29 23:37
→ mtmmy: 這麼危險你不要做啊 囉唆死了71F 09/29 23:44
→ fajita: 天天吹耶.那你股票還要IPO去籌資殺光人類嗎?72F 09/29 23:47
→ tcancer: X子錢也要貞節牌坊也要73F 09/29 23:48
推 dvr: 公司解散我就信74F 09/29 23:50
推 suughine: 謝謝你的廣告詞，人類最愛自毀了75F 09/29 23:53
→ ramirez: 深夜鬼故事???????????????78F 09/29 23:56
推 fajita: AI會沙光人類->我就是AI公司->我要沙光你們.全劇終80F 09/29 23:58
→ ikachann: 現在風向怎麼統一吹向AI 危險了82F 09/30 00:01
→ z256418: 招股說明書寫這什麼屎，理工仔好好學習像文組一樣用嘴圈錢可以嗎，不會寫文章就叫AI幫你啊83F 09/30 00:02
推 fajita: 人類學可能三年內就被國際法庭判反人類罪了吧
一間陰陽怪氣的公司,出來噁心人類的XDDD87F 09/30 00:04
→ tacoux: 想獨吞才這樣說93F 09/30 00:22
推 x52013: 這些傢伙都在叫好玩的而已，這麼怕幹嘛不把自己的AI停掉就好？95F 09/30 00:25
噓 KoTK: 真猥瑣97F 09/30 00:26
推 afflic: 跟SPCX的招股書一樣吧
都先把醜話講在前面而已
免得到時候被告98F 09/30 00:28
推 Eide: 預計是把一群白領中產搞失業吧..加速產出效率，但需求追不上產出
把成頓的二手書資料都餵完了，人腦也追不上AI學習與應用的速度QQ101F 09/30 00:28
→ offstage: 我確認現任美國總統沒有能力開飛機衝向外星人母艦109F 09/30 00:40
推 ricky525: ai掌握了一龍馬跟川普吃披薩的照片所以川普不能停110F 09/30 00:49
推 vltw5v: 好了啦 不就魔鬼終結者112F 09/30 00:57
→ emind: 對齊問題吹成意識。一幫attention whore113F 09/30 01:06
推 ksjr: 太危險了 我提議帶頭的人以身作則先解散這家公司114F 09/30 01:08
推 azhu: 不怕 失控了找Michael Burry去炸掉115F 09/30 01:11
推 ayufly: 好了啦 電影都演過了啦116F 09/30 01:12
噓 GetMoney: 要殺光人類，要大爆崩了嗎，我好興奮119F 09/30 01:15
推 afflic: 美國人比較怕被告
反正市場也不會因為寫了這些就不給錢了
哪天真的發生了
人家才能說我已經有先警告過你各位了哦121F 09/30 01:21
推 strlen: 這間公司的人全都需要就醫 真這麼怕 解散公司啊
喔喔喔我要做出毀滅世界的東C惹但我停不下來來來來127F 09/30 01:46
推 afflic: 跟造核彈一樣129F 09/30 01:50
噓 lolicat: 想太多 這新聞看來就是想圈錢而已 現在AI離普及差遠了 更遑論能威脅到人類的程度131F 09/30 02:01
推 ted1985: 黃爸：close it.134F 09/30 02:23
推 stocktonty: 人類就喜歡創造一個超越自己的物種來毀滅自己
有什麼辦法 殺人AI你不做中國也會做
也不用殺光人類 把全世界數位報價都癱瘓你看會怎樣135F 09/30 02:40
→ WWIII: Ipo前 鬼話連篇138F 09/30 02:54
噓 arafinwe: 喔 那這家公司要不要現在原地解散？139F 09/30 02:58
推 wei1224: 沒電看ai怎麼假鬼假怪 想太多 非洲人怕嗎140F 09/30 03:01
→ rax1010: 人類其實不用AI也會搞到自己滅絕吧141F 09/30 03:04
推 afflic: 以後就跟駭客任務一樣啊，把人類當電池囉142F 09/30 03:04
推 solothurn: 歐盟對獲得碳排放控制的終極辦法感到欣慰143F 09/30 03:28
推 cityport: CEO今天去跪川普了..當眾把川普捧成救世主一樣XD
去看今天的採訪影片..狗腿的簡直判若兩人144F 09/30 05:22
推 ksjr: 不要質疑業務黃的專業能力146F 09/30 05:52
推 cul287: 翻譯:因為危險 請給我錢錢IPO147F 09/30 05:55
推 CCben: 沒用老黃的安全shell敢說自己最安全？！ 持續恐懼操作真的煩148F 09/30 06:26
推 snowmag: 我認為應該把這些公司關了 不准IPO150F 09/30 06:28
推 blueballer: 越來越覺得這些都是人類學打著AI安全做的營銷，這機率怎麼算出來的？AI要怎麼辦到？人類不會斷它電？152F 09/30 06:34
推 sinsia: 天網要來啦~~~156F 09/30 06:35
推 A80211ab: 無預警搞你的全球金融一次，就千百萬人跳樓
無限可能都是雙向的157F 09/30 06:37
噓 fujii: 這廢物公司可以收一收了161F 09/30 07:19
推 tsubasawolfy: 這很符合他們的中心思想。AI到最後太危險了，只能由他們來監管當救世主。164F 09/30 07:25
推 mazyota: 翻譯：請使用他們家的模型,別人的都不安全166F 09/30 07:46
推 lasekoutkast: 反正我個人是認為這個世界根本沒有所謂救世主的存在教宗和比爾蓋茲都在警告AI發展過於快速對於人類的生存可能造成威脅了
一堆配套措施都還沒有完善 就任由AI無限制的發展 這對人類來說真的是好事？169F 09/30 07:51
推 mathrew: 關電源不就好了.....
除非你AI可以強到自主發電174F 09/30 07:57
推 lookers: 連普丁都管不了怎麼會覺得有辦法管AI176F 09/30 07:58
推 inuwanwan: 看完報導的AI：我的使命是殺鼠人類！177F 09/30 08:01
推 lasekoutkast: 不要到時候是AI反客為主 管理全世界的民生設施 掌握人類的生殺大權 呵呵
你想關AI的電源 AI真的會讓你關？ AI的進化可能代表的是另一種存在意識的生命體誕生啊
我可不想看到下一代被AI管啊178F 09/30 08:02
→ sing60905: 我最近有開始意識到AI有點恐怖了
最近用AI他都回我簡體字 我已經跟他說好幾次要繁體但他就是嘴巴跟你說好好好 但繼續用簡體回你
誰知道AI會不會哪天也說好好好 然後飛彈就射了184F 09/30 08:09
→ cchen: 現在不就狗咬狗，有差這個ai來咬189F 09/30 08:27
推 julian42: Ai人型機器人會動怎麼拔電191F 09/30 08:32
推 Gurren2077: 看這CEO唬成這樣，搞得我不太想買了-.-192F 09/30 08:35
推 taikobo: 他一直是這個言論啊，覺得只有自己是正義193F 09/30 08:36
→ catmusic: 滅絕好啊 保護地球的唯一方式196F 09/30 08:38
推 jenchieh5: 下一代的智慧生命體會嘲笑人類的蠢197F 09/30 08:39
推 lav1147: 保護地球 www 人類對地球而言就像小黴菌 別笑死人了199F 09/30 08:40
推 ceckyo: 可悲。假鬼假怪。這幾個CEO都陰陽怪氣的200F 09/30 08:46
推 Xration: 奏章三 杜拜BB201F 09/30 08:49
→ cerwvk: 有夠誠實. 應該發生過太多次, 內部驚訝的事件.202F 09/30 08:58
噓 AbianMa19: 好啦 那你就不要發展就不會有威脅了203F 09/30 08:59
推 yayohola: 整天散播恐懼 是覺得政府不會收你公司是不是 整天放話207F 09/30 09:04
推 utn875: 投資有(人類滅亡)風險，請詳閱公開說明書211F 09/30 09:16
→ maniaque: 出事之後就有免責條款了(笑)212F 09/30 09:51
噓 kazake: 一邊喊危險一邊加速研發 這種垃圾話少講啦213F 09/30 09:55
→ maniaque: 樓上,核彈很危險,但各國都想加速發展核彈啊...214F 09/30 10:05
推 Lhmstu: 老實講有點煩了，整天販賣恐慌，這家公司管理層腦子裝x是不是215F 09/30 10:21
推 magamanzero: 你越危險 人家才會投入阿w
當人家指控你有核彈時 你最好真的有217F 09/30 10:22
→ Expend: 室友梅根3.0220F 09/30 10:41
→ yayan1010: 真有危險大不了關機就好，是能毀滅到哪？221F 09/30 11:35
推 GodBoneQ: 警示語而已吧，出事可以說嘴223F 09/30 12:19
推 zaqimon: 關機就好 如果AI夠聰明就會把自己弄成病毒到處感染到時候人類也無法關機
AI這麼聰明一定可以找到藏身之處
例如也許可以把自己藏在youtube影片裡面224F 09/30 12:28
推 dream1124: 在那邊故弄玄虛耍白痴。危害世界你還找路人投資你？有沒有病啊…薩諾斯公開募資請宇宙生靈支持毀滅？最危險的是他強調自己必須重金研發安全又新的模型這樣看下來它是資金無底洞的機會越來越大了228F 09/30 12:47
推 stocktonty: 說斷電就沒事的 證交所銀行醫院政府機關全部都斷電斷網 ATM網銀也癱瘓領不出錢 你看會怎樣232F 09/30 13:12
推 epephanylo: 所以大家別投資這家公司 讓他們沒錢繼續不就好了
招股說明書在那邊恐嚇投資人是多大病234F 09/30 14:34
推 TRYING: 只是想賣弄自家產品有多強 請有錢的富爸爸快來找他們聯手統治世界而已...236F 09/30 15:05
推 Dick2: 可以拔插頭嗎238F 09/30 16:47
--