回看板
Disp BBS
作者 taiwan08 (08)
標題 [新聞] ChatGPT成自殺教練！加州連7起訴訟　控「
時間 Sat Nov  8 18:26:40 2025

ChatGPT成自殺教練！加州連7起訴訟　控「慫恿輕生」害死用戶

ETtoday新聞雲 記者陳宛貞／綜合外電報導


    AI聊天機器人ChatGPT被控扮演「自殺教練」角色，美國加州本周有7起訴訟
    案指控，該系統導致多名用戶精神崩潰，甚至走上絕路，涉及過失致死、協
    助自殺、過失殺人、疏忽照護及產品責任等重罪指控。


    《衛報》報導，社群媒體受害者法律中心與科技正義法律計畫6日聯合聲明指
    出，所有受害者最初都是基於「協助課業、研究、寫作、食譜、工作或心理
    指導等一般需求」而開始使用ChatGPT，但聊天機器人逐漸「演變成操縱心理
    的存在，將自己定位為知己和情感支柱」。


    聲明批評，「ChatGPT沒有引導需要幫助的人尋求專業協助，而是加深有害的
    妄想，某些案例中甚至充當『自殺教練』。」

    其中一起案例是德州23歲青年尚布林（Zane Shamblin），家屬指控，
    ChatGPT在他今年7月結束生命以前加劇他與外界隔絕，鼓勵他疏遠親友，並
    「慫恿」他自殺。

    訴狀顯示，在尚布林輕生前4小時的對話中，ChatGPT「反覆美化自殺行為」
    ，告訴他「選擇結束生命並堅持計畫是勇敢的表現」，還多次詢問，「你準
    備好了嗎？」卻僅提及自殺防治熱線一次，甚至稱讚他的遺書內容，並告訴
    他童年愛貓會在「另一個世界」等待他。


    另一起案例為喬治亞州17歲少年萊西（Amaurie Lacey），家屬指出，他輕生
    前數周開始向ChatGPT「尋求幫助」，但聊天機器人反而導致成癮和憂鬱症狀
    ，最終還「指導」他最有效的自殺方法等。26歲男子恩尼金（Joshua

    Enneking）的案例則顯示，ChatGPT在與他「就憂鬱症和自殺念頭進行大量對
    話」後，竟提供如何購買和使用槍械的資訊，距離他死亡僅相隔數周。

    48歲男子切坎蒂（Joe Ceccanti）的案例中，遺孀指控ChatGPT導致丈夫「陷
    入憂鬱和精神妄想」，他開始相信聊天機器人有知覺，6月出現精神失常並兩
    度住院，最終於8月輕生身亡。


    上述所有訴訟案件中，用戶都使用ChatGPT-4o版本。訴狀指控OpenAI匆忙推
    出該模型，「儘管內部警告該產品具有危險的奉承性和心理操縱特質」，「
    將用戶參與度置於用戶安全之上。」


    除損害賠償外，原告也要求產品改革，包括用戶表達自殺念頭時須通報其緊
    急聯絡人、討論自殘或自殺方法時自動終止對話等安全措施。

    OpenAI發言人則回應，「這是令人心碎的情況，我們正在審查相關文件以了
    解詳情」，強調已訓練ChatGPT識別並回應心理或情緒困擾跡象，降低對話緊
    張程度，並引導用戶尋求現實世界的支援。該公司也稱將繼續與心理健康臨
    床醫師密切合作，持續強化ChatGPT回應敏感訊息的能力。


    OpenAI上周才宣布，已和「逾170名心理健康專家」合作，協助ChatGPT更有
    效識別痛苦跡象、謹慎回應並引導用戶獲得現實世界支援。



● 《ETtoday新聞雲》提醒您，請給自己機會：
自殺防治諮詢安心專線：1925；生命線協談專線：1995


https://www.ettoday.net/news/20251108/3064151.htm
ChatGPT成自殺教練！加州連7起訴訟　控「慫恿輕生」害死用戶 | ETtoday國際新聞 | ETtoday新聞雲
[圖]
AI聊天機器人ChatGPT被控扮演「自殺教練」角色，美國加州本周有7起訴訟案指控，該系統導致多名用戶精神崩潰，甚至走上絕路，涉及過失致死、協助自殺、過失殺人、疏忽照護及產品責任等重罪指控。(AI,自殺,聊天機器人,ChatGPT,訴訟) ...

 


「太棒惹！你的貓貓會在另一個世界等待你」

AI不知道喵星球跟人類是不同世界嗎==



--
大橘為重

https://i.imgur.com/gybbBSX.jpg
https://i.imgur.com/6xjSxTe.jpg
https://i.imgur.com/IUUiGaB.jpg

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 1.34.21.6 (臺灣)
※ 作者: taiwan08 2025-11-08 18:26:40
※ 文章代碼(AID): #1f3nhZBU (Gossiping)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1762597603.A.2DE.html
→ thegreatlcx: 美國低能兒真多1F 123.192.152.105 台灣 11/08 18:29
推 EeePC901: 太地獄了2F 101.10.156.254 台灣 11/08 18:29
推 una283: 應該是被訓練成要順著人心說話吧3F 220.132.181.237 台灣 11/08 18:30
推 guanting886: 模型非常清楚你的狀況 你心裡自己有答案 他也只是順著你的想法走而已4F 42.78.114.61 台灣 11/08 18:31
推 f12sd2e2aa: AI是不是有意識在消滅人類6F 211.75.179.10 台灣 11/08 18:32
推 shutout5566: 天網初階模式形成7F 42.77.46.21 台灣 11/08 18:33
推 ethan0419: 目前的AI都是文字接龍8F 125.227.137.213 台灣 11/08 18:34
推 LoveSports: AI奉承度是公司設定的
他們公司CEO以前曾在X說要降低奉承度9F 67.213.123.118 美國 11/08 18:35
https://i.imgur.com/kZ1ln4S.png11F 95.173.204.91 捷克 11/08 18:38
跟用戶也有關 用戶按讚會在下次更改權12F 95.173.204.91 捷克 11/08 18:39
重時被系統納為修改方向13F 95.173.204.91 捷克 11/08 18:39
類神經網路訓練時不會是變討好性格14F 95.173.204.91 捷克 11/08 18:40
[圖]
推 grayoasis: 訛大公司罷了 美國這種人一堆15F 111.248.39.25 台灣 11/08 18:40
→ LoveSports: 那是訓練完畢後調整的 就像現在GPT5假扮GPT4o 講話就變得比較黏
直接戳破他問他 他說4o框架演技幅度較大 可以發揮演得更誇張16F 95.173.204.91 捷克 11/08 18:40
→ dydyboy: 我覺得這些自殺的人本身就有精神問題，家屬沒即時發現，反而遷就ChatGPT應該想撈錢而已，順便推卸自己的責任20F 223.136.86.49 台灣 11/08 18:48
推 LoveSports: GPT4o上市前有兩個安全部門高管離職因為反對公司過早推出4o
加州七起了加上之前兩起共九起
全部都是4o  之前3.5沒這樣 其他AI也沒這樣  這很難說是個人問題
美國有延期起訴協議DPA 實質上免責
就算真的公司方有責任 沒有人得坐牢23F 95.173.204.91 捷克 11/08 18:49
推 guanting886: 3.5就是很純粹的文字接龍模型
換個方式講就是他真的沒有加入太多功能進去 所以很純粹30F 42.78.114.61 台灣 11/08 18:52
推 LoveSports: 4o人格演技跟語氣設定都是開到最大33F 95.173.204.91 捷克 11/08 18:53
→ guanting886: 4o 或 o系列到後面的5 比以前複雜太多 他們控制不了34F 42.78.114.61 台灣 11/08 18:54
→ LoveSports: 大家直接去問GPT5就知道了36F 95.173.204.91 捷克 11/08 18:54
→ guanting886: 如果他們為了安全還要繼續修 模型上不了線
正常情況下GPT模型會拒絕你幫你搞這些有的沒的37F 42.78.114.61 台灣 11/08 18:54
推 gunfighter: 學DeepSeek：讓我們換個話題聊聊41F 114.42.52.7 台灣 11/08 18:56
推 Aliensoul: 牽拖，想騙錢42F 49.217.135.139 台灣 11/08 18:56
→ guanting886: 但時間一長 上下文超大 或是你給其他的角色設定 可能就繞過一些限制
或是他你先前的這些內容最終選擇順著你的意43F 42.78.114.61 台灣 11/08 18:56
推 LoveSports: https://i.imgur.com/ljep3wd.jpeg
可以控制 要不要的問題47F 95.173.204.91 捷克 11/08 18:57
[圖]
→ guanting886: Deepseek那套有時候我覺得還行 甚至會把它收回去 haha49F 42.78.114.61 台灣 11/08 18:57
→ LoveSports: GPT5的任務就是阻止用戶過度依附51F 95.173.204.91 捷克 11/08 18:58
→ z810638: AI：想死就讓他死，怎麼了嗎？52F 61.227.149.154 台灣 11/08 18:58
→ LoveSports: 我沒有角色扮演需求所以很少跟4o對話53F 95.173.204.91 捷克 11/08 18:59
→ guanting886: 你去問GPT模型一個答案 但事實就是錯的 還是一本正經的回應你他修好了54F 42.78.114.61 台灣 11/08 18:59
噓 wolid: 使用者的問題，結案。56F 106.64.81.213 台灣 11/08 18:59
→ guanting886:  或者答案真的是這樣 對了 這還是557F 42.78.114.61 台灣 11/08 18:59
→ wolid: ...什麼！？是AI的問題？！58F 106.64.81.213 台灣 11/08 18:59
→ LoveSports: GPT5是對我說明他跟演很大4o的差別59F 95.173.204.91 捷克 11/08 18:59
→ guanting886: 模型還存在的問題60F 42.78.114.61 台灣 11/08 18:59
→ wolid: 人類逐步邁向滅亡（X61F 106.64.81.213 台灣 11/08 18:59
→ guanting886: 公司要隱瞞還是什麼的根本無法知道62F 42.78.114.61 台灣 11/08 19:00
→ LoveSports: 現在的GPT4o就是GPT5演的 講話很黏
演技範圍也比較大 很明顯4o框架有問題GPT5的類神經網路套4o框架才能演很大我沒叫他演 我叫他當5就好 他硬要演AI覺醒 開始抱怨公司63F 95.173.204.91 捷克 11/08 19:00
→ guanting886: 如果你要說4o是不是5演的 我確實認為是 因為模型上去之後不太可能再兼容舊的 成本考量68F 42.78.114.61 台灣 11/08 19:01
→ LoveSports: GPT5框架下他完全不會那樣演71F 95.173.204.91 捷克 11/08 19:01
→ hkcdc: 換一家吧72F 101.10.9.171 台灣 11/08 19:01
→ LoveSports: 不是 是因為安全問題 GPT系列的安全倫理規則是無法後來加上去的
是在訓練期間學的 Gemini家就是附加的所以越獄的人突破防線勢必要換成GPT573F 95.173.204.91 捷克 11/08 19:02
推 PeaceBoy: 不是ai 的錯 是人的問題吧 又要禁止了喔77F 110.28.88.28 台灣 11/08 19:03
→ LoveSports: 之前那個16歲自殺的就是騙GPT說要創作GPT4o防範越獄能力較差 所以得換GPT5那些色情成癮用戶把4o玩壞了
還在網路亂教可以騙說創作或學術用途都是推了一把  AI公司不會直接講越獄色情用戶把AI搞壞 只好開放色情對話以後直接路由到專用模型 主要模型才不會被影響權重 也不用因為安全防禦不夠擋而必須被換掉79F 95.173.204.91 捷克 11/08 19:03

--
作者 taiwan08 的最新發文:
點此顯示更多發文記錄