作者 badruid (Gryphon)
標題 Re: [新聞] 抵抗人類指令! ChatGPT o3「竄改程
時間 Wed May 28 01:23:48 2025


其實目前的生成式AI再怎麼厲害,都只是分析推理能力更厲害,就算給了他更多的感知器,
那也頂多只做到眼耳鼻舌身意,還是不會有自我意識。
但想要機器有意識的想法一直都有討論,可參考下面論文提到的路線圖
David J. Chalmers, Could a Large Language Model Be Conscious? Boston Review, Aug
ust 9, 2023. https://www.bostonreview.net/articles/could-a-large-language-model-
Could a Large Language Model Be Conscious? - Boston Review
Within the next decade, we may well have systems that are serious candidates for consciousness. ...

 
be-conscious/
簡單說,離具備意識至少還差幾項條件:
1. 要有身體提供邊界感:讓機器能夠區分「自身」的範圍和身外之物的差異
2.要有連貫記憶提供主體感:必須能記得自啟動到目前所得到的內容,以形成機器自己的「
人生」經歷
3.要有能自我覺察的思考模型,擁有一個表示「我是誰、我知道什麼、我做了什麼」的資料
結構並不斷更新
4. 给 AI 自主能力。自主選擇注意哪裡、忽略什麼,而不是被動地對输入做反應

做到以上4點,然後驗證讓機器人能否做到
1.看鏡子能分得出自我與他人
2.知道自己昨天做了什麼,過去經歷了什麼
3.對於自身的行動能表達其動機目的與目標等

做到這樣,大概就能說我們讓機器模擬出自我意識了

接下來要問的,就是我們真的需要這樣的機器人嗎?一個不能隨時斷電清空其記憶,有自己
想法會自主活動,不再被動反應而是可能主動行動影響你的生活,我們真的需要這麼危險的
存在而不是維持現在只要chatgpt陪你聊天就好嗎?


--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 42.70.135.174 (臺灣)
※ 作者: badruid 2025-05-28 01:23:48
※ 文章代碼(AID): #1eDVKdXB (C_Chat)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1748366631.A.84B.html
h0103661: 首先定義什麼是自我意志吧,一堆動物過不了鏡子測試,但會有人說貓沒有意識嗎1F 05/28 01:26
sd2567: 貓過得了啊3F 05/28 01:28
badruid: 意識的關鍵就是「我」這個概念,要認真討論確實又是另外一篇4F 05/28 01:30
WLR: 無關需不需要,一定會有人去造出來6F 05/28 01:32
GAOTT: 需要 人類可以沒有工具 但不能沒有未知7F 05/28 01:39
hutao: 我怎麼感覺neuro好像都做到了8F 05/28 01:41
KAGOD: 這早就講到爛了 看不懂的就是看不懂 人類被ai統治好可怕9F 05/28 02:17
j23932: 當然需要,我等小唧等很久了10F 05/28 03:05
bitcch: 對意識太過簡略的描述跟推論了11F 05/28 03:07
daniel50506: 要怎麼驗證它做到了沒啊@@ 不然neuro嘴炮起來都有做到 我有時候覺得她已經夠像人了...12F 05/28 03:59
h0103661: 牛肉本質還是腳本阿,不是純ai14F 05/28 08:12

--
作者 badruid 的最新發文:
點此顯示更多發文記錄