作者 badruid (Gryphon)標題 Re: [新聞] 抵抗人類指令！ ChatGPT o3「竄改程時間 Wed May 28 01:23:48 2025
其實目前的生成式AI再怎麼厲害，都只是分析推理能力更厲害，就算給了他更多的感知器，
那也頂多只做到眼耳鼻舌身意，還是不會有自我意識。
但想要機器有意識的想法一直都有討論，可參考下面論文提到的路線圖
David J. Chalmers, Could a Large Language Model Be Conscious? Boston Review, Aug
ust 9, 2023.
https://www.bostonreview.net/articles/could-a-large-language-model-
be-conscious/
簡單說，離具備意識至少還差幾項條件：
1. 要有身體提供邊界感：讓機器能夠區分「自身」的範圍和身外之物的差異
2.要有連貫記憶提供主體感：必須能記得自啟動到目前所得到的內容，以形成機器自己的「
人生」經歷
3.要有能自我覺察的思考模型，擁有一個表示「我是誰、我知道什麼、我做了什麼」的資料
結構並不斷更新
4. 给 AI 自主能力。自主選擇注意哪裡、忽略什麼，而不是被動地對输入做反應
做到以上4點，然後驗證讓機器人能否做到
1.看鏡子能分得出自我與他人
2.知道自己昨天做了什麼，過去經歷了什麼
3.對於自身的行動能表達其動機目的與目標等
做到這樣，大概就能說我們讓機器模擬出自我意識了
接下來要問的，就是我們真的需要這樣的機器人嗎？一個不能隨時斷電清空其記憶，有自己
想法會自主活動，不再被動反應而是可能主動行動影響你的生活，我們真的需要這麼危險的
存在而不是維持現在只要chatgpt陪你聊天就好嗎？
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 42.70.135.174 (臺灣)
※ 作者: badruid 2025-05-28 01:23:48
※ 文章代碼(AID): #1eDVKdXB (C_Chat)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1748366631.A.84B.html
推 h0103661: 首先定義什麼是自我意志吧，一堆動物過不了鏡子測試，但會有人說貓沒有意識嗎1F 05/28 01:26
→ badruid: 意識的關鍵就是「我」這個概念，要認真討論確實又是另外一篇4F 05/28 01:30
推 WLR: 無關需不需要，一定會有人去造出來6F 05/28 01:32
推 GAOTT: 需要 人類可以沒有工具 但不能沒有未知7F 05/28 01:39
推 hutao: 我怎麼感覺neuro好像都做到了8F 05/28 01:41
推 KAGOD: 這早就講到爛了 看不懂的就是看不懂 人類被ai統治好可怕9F 05/28 02:17
推 j23932: 當然需要，我等小唧等很久了10F 05/28 03:05
→ bitcch: 對意識太過簡略的描述跟推論了11F 05/28 03:07
推 daniel50506: 要怎麼驗證它做到了沒啊@@ 不然neuro嘴炮起來都有做到 我有時候覺得她已經夠像人了...12F 05/28 03:59
推 h0103661: 牛肉本質還是腳本阿，不是純ai14F 05/28 08:12
--