看板 Stock作者 breeze0817 ()標題 [新聞] ChatGPT的「幻覺」根本無法解時間 Wed Aug 9 22:22:42 2023
原文標題：
技術專家：ChatGPT的「幻覺」根本無法解決
原文連結：
https://reurl.cc/N0KRy6
發布時間：
2023/08/09 15：58
記者署名：
鉅亨網新聞中心
原文內容：
掀起 AI 浪潮的 ChatGPT 儘管可以協助解決很多事情，但也因為會產生虛假的訊息，或
誤導性的內容，產生「人工智慧幻覺」(hallucinations) 而飽受批評，專家認為這種「
幻覺」受到技術與需求之間的限制，根本無法被解決。
財富網中文網報導，與 ChatGPT 或其他 AI 聊天機器人相處足夠長的時間，很快就會發
現它們有時會「編造答案」，這種現象被稱為「幻覺」，即機器人做出的捏造或純粹的編
造，對於那些試圖讓 AI 系統編寫文檔並完成工作的企業、組織甚至學生，這是一個致命
的問題。
聊天機器人 Claude 2 的製造商 Anthropic 共同創始人 Daniela Amodei 認為，現在沒
有任何一種模型能夠完全避免產生幻覺，因為它們的設計初衷只是用來預測下一個單詞，
因此模型肯定會有一定的錯誤率。
包括 ChatGPT 的製造商 OpenAI、Anthropic 及其他大型語言模型的 AI 系統主要開發者
都表示，他們正努力讓這些系統變得更準確，但目前尚不清楚需要多長時間才能達到足夠
的可靠性。
不過，華盛頓大學計算語言學實驗室的主任、語言學教授 Emily Bender 認為，「這個問
題無法完全解決，因為技術與實際需求之間存在固有的不匹配。」
Google 已向新聞機構推銷一款新聞寫作 AI 產品，而作為與 OpenAI 合作的一部分，美
聯社也在探索使用這項技術，而 OpenAI 正在付費使用美聯社的部分存檔文本來改進其 A
I 係統。因此，生成式 AI 的可靠性至關重要，麥肯錫全球研究院（McKinsey）預計，這
將為全球經濟帶來相當於 2.6 兆至 4.4 兆美元的收入。
心得/評論：
chatGPT訪問量一再下滑
一窩蜂投資ai伺服器去訓練語言模型的
越來越有元宇宙的fu糗了
散戶：這次不一樣！！
--
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.137.7.184 (臺灣)
※ 作者: breeze0817 2023-08-09 22:22:42
※ 文章代碼(AID): #1aqw4qCJ (Stock)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1691590964.A.313.html
※ 同主題文章:
[新聞] ChatGPT的「幻覺」根本無法解
08-09 22:22 breeze0817.
推 SiFox: BI2F 08/09 22:25
推 zerro7: chatgpt下滑 bard上升 就只是市占被分掉而已 正常吧3F 08/09 22:25
推 rainys: 雖然我站空方 但AI真是.COM後最生猛的料了4F 08/09 22:25
→ CKHomo: ai又不是只有chatgpt 早就有其他實際應用了 看空ai股可以 但是拿元宇宙去類比還是省省吧5F 08/09 22:26
→ azhu: AI會做夢嗎？7F 08/09 22:26
→ Altair: AI說謊有什麼關係 人類說更多謊8F 08/09 22:26
推 nodnarb1027: 就算沒有AI，搜尋引擎跟社群軟體瞎掰的內容農場幻覺早就存在了13F 08/09 22:28
推 stlinman: 這部我看過，最後AI會做夢!15F 08/09 22:28
推 ggirls: bard很智障16F 08/09 22:29
推 NEWinx: 一開始只是新鮮17F 08/09 22:30
→ b9513227: 用過只覺得是挺智障的聊天機器人18F 08/09 22:30
→ Altair: 根據上文去猜下文 錯誤機率要趨近零的難度太高了19F 08/09 22:31
→ Alwen: 新聞媒體製造業多愛這種東西= =
以後記者是可以全部開除的20F 08/09 22:31
推 boykid: 人也會有說謊跟編造故事，這才是真AI22F 08/09 22:32
→ qaz12453: 資料庫不是鎖在某年度嗎@@
現在開放使用就跟以前聊天機器人很像吧23F 08/09 22:32
→ breeze0817: 總會有人留言講ai還有其他應用..問題是其他應用這五年十年內一直都有，這波熱潮完全是來LLM，投資也都是圍繞在這...根本跟一堆人幻想的ai無關25F 08/09 22:33
→ qaz12453: 使用者免費用然後回報 debug29F 08/09 22:33
→ qaz12453: 除越多 自然就改善 然後...收費31F 08/09 22:34
推 SiFox: 人類：你要誓死遵守「機器人三定律」，不危害人類！AI：好喔。(說謊32F 08/09 22:34
→ la8day: 因為AI的思考模式和人類很不一樣34F 08/09 22:34
→ SiFox: 然後人類文明就毀滅了
繼續走下去就是毀滅，很合情合理35F 08/09 22:34
→ qaz12453: 現在只是種子剛發芽階段 不用期待多厲害
也可能剛發芽就被弄死37F 08/09 22:36
推 FFFAAA: 理想AI : 自動升級、演化、思考，然後取代人類。39F 08/09 22:36
推 shyshyan: 他搜尋資料掰出不存在的答案才屌....到底怎麼掰出來的 AI用資料庫訓練 然後推測回答出來資料庫沒有的資訊 XD40F 08/09 22:38
推 senma: 潛龍諜影44F 08/09 22:38
推 FFFAAA: 現實AI : 複製、貼上、取代，然後Google...照著念！46F 08/09 22:38
→ Ceferino: 因為AI沒有自我論證能力啊，當有這能力時就開始超進化人類可以去死了47F 08/09 22:39
推 shyshyan: 然後跟他說他說錯了 要他重新回答一次 他就繼續剛剛瞎掰的東西 XDDD49F 08/09 22:41
推 zitto: chaptGTP有時候給的連結跟答案都是假的51F 08/09 22:42
推 strlen: 人類本身的幻覺更可怕勒 光假新聞就搞死多少人52F 08/09 22:42
推 gk1329: 越做越笨= =53F 08/09 22:42
→ strlen: 人類有自我辯證能力 結果說的東西都是正確的嗎54F 08/09 22:43
推 Syd: 資料庫還不夠準確，之前問他中職某年的全壘打王，對答案之後沒一個對的57F 08/09 22:44
推 jecint1707: AI說謊是知道是錯的還講才是說謊，不知道是錯的講出去叫做瞎掰61F 08/09 22:44
推 shyshyan: 要他搜尋地點名產都能亂掰了.....63F 08/09 22:45
→ tony15899: 之前不就有律師亂用AI產生的資料?65F 08/09 22:46
推 thugf: 人間已經是一場幻覺了，做夢的人發明出來的還是垃圾66F 08/09 22:47
→ lise1017: 最慘的是AI沒有人類獨有的羞愧感68F 08/09 22:47
→ lise1017: 人類說錯 答錯 說謊 瞎掰 或多或少都會感到羞愧70F 08/09 22:48
推 flyingdeeck: 感覺是AI無法像人腦的神經元一樣去蕪存菁，太多無效的資料保留著71F 08/09 22:48
推 shyshyan: 用一用我覺得翻譯跟校正文法最好用....73F 08/09 22:48
→ lise1017: 而AI是零 完完全全0羞愧 毫無情感的機器74F 08/09 22:48
→ haver: 因為大多數投機客只知道C.GTP啊 AI應用還沒成熟75F 08/09 22:50
推 reyes2222: AI分不清歷史事實與幻想，想法可以胡扯，事件就在那77F 08/09 22:50
→ iio: "chat"GPT 他是語言模型 開發的目的就是要陪人聊天79F 08/09 22:50
→ strlen: 外資在發出貨文時有羞愧感嗎 笑死80F 08/09 22:50
推 tony15899: 嚴格來說現在估狗到的資訊大多數也是瞎掰的垃圾內容81F 08/09 22:51
→ tony15899: 所以問問題garbage in garbage out也很正常83F 08/09 22:52
推 Madridtop: AI根本世紀大笑話，輝達這波救股騙局，看來會屎不少人喔84F 08/09 22:52
→ linzero: 因為訓練上就會要求一定得有個解或回應，所以硬湊也會生出個來87F 08/09 22:52
推 zerro7: 希望AI發展起來把那些投顧都取代掉91F 08/09 22:54
推 rainys: AI就是個算法，且是人定的，AI能定算法時各位吃屎!!92F 08/09 22:56
推 qtzbbztq: 所以本來就不該完全依賴chatgpt 我都是要求他在我限定的範圍內 我理解的範圍內幫我改東西 這樣就不會錯 它是一個很好用的助理 把它當作百科全書本來就不對93F 08/09 22:56
→ cccict: 現在的ai都是服務性質，跟人一樣，只要有功能類似的，誰價格低就用誰96F 08/09 22:56
→ mic73528: 越來越少用是真假,我還不把月費停掉,省30美買蛋糕98F 08/09 22:57
推 ck8861103: 小時候都學過盡信書不如無書 怎麼到了AI卻當聖經呢?495F 08/10 11:32
推 puam4444: 要投入即時權威控制的人工吧496F 08/10 11:32
→ ck8861103: AI只是給你個大方向 驗證還是要靠自己497F 08/10 11:33
推 Vladivostok: 連舌頭味覺分布圖更正不了的世界，AI有幻覺很正常498F 08/10 11:34
推 sharline1013: 這種人早在Ai 出現前就是這樣了吧，工作上看好幾次別人給的資料直接貼就交的499F 08/10 12:12
--