作者
標題 Re: [討論] AI真的會取代這麼多東西嗎？
時間 Wed Apr 22 10:26:08 2026
標題 Re: [討論] AI真的會取代這麼多東西嗎？
時間 Wed Apr 22 10:26:08 2026
話說現在有人開始想要對抗AI了
對抗的方式是什麼?不是打砸機器，而是投毒
https://www.bnext.com.tw/article/84742/anthropic-data-poisoning
資料中毒攻擊是什麼？Anthropic研究揭：只要250份惡意文件，就能毒害任何大小AI模型|數位時代 BusinessNext 只要250份惡意文件，就能讓AI模型胡言亂語？Anthropic近日公佈的研究，揭露了「資料中毒攻擊」針對大型語言模型的危害。 ...
資料中毒攻擊是什麼？Anthropic研究揭：只要250份惡意文件，就能讓AI模型胡言亂語
當然你也可以透過審查把有毒資料剃除，但成本就增加了
在不久的未來，大概還會有用AI來對其他AI投毒的互捅大戰
這就是使用網路資料來訓練AI的必然缺點
https://youtu.be/rv9vhv8AGuc?si=5YtIJVTwOiu1bYtK
圖靈獎得主對現在的大語言模型的批評
現在知名的AI是從網路上學了一堆文字，然後學習要怎麼回答比較符合你的期待
至於現實是什麼模樣，他一無所知
圖靈獎得主認為AI學習的出發點應該是現實世界
先去觸碰 去觀察現實世界
就像一個幼兒，先去認識什麼是蘋果，然後才從與人的溝通中理解蘋果叫APPLE
--
“Two dribble shot, three dribble shot, four or five dribble shot, 10 dribble
shot. 24 second shot clock shot. No dribble shot. Shoot when I want to shoot
shot. He has every shot. Kobe is amazing.”
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 123.192.217.220 (臺灣)
※ 作者: ehentai 2026-04-22 10:26:08
※ 文章代碼(AID): #1fw3768v (C_Chat)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1776824774.A.239.html
※ 同主題文章:
04-21 08:00
… ×24
04-21 21:28
04-22 01:50
04-22 07:24
Re: [討論] AI真的會取代這麼多東西嗎？
04-22 10:26
04-22 12:03
04-22 15:16
04-22 15:23
… ×2
推 : 我懂了 首先準備250張蘿莉巨乳圖1F 04/22 10:31
→ : 現代人都該學防衛性編程2F 04/22 10:32
推 : 我記得語言模型第一件事就是把名詞跟一個向量參數做對應 這個向來就是機械對於那東西的認知了吧3F 04/22 10:33
→ : AI還有很長的路要走啊，人類不用惡意文件就能胡言亂語了5F 04/22 10:35
推 : 搞不好這反而加速AI發展6F 04/22 10:36
推 : 別鬧了，網路上100份文章大概80份是垃圾還不是訓練出來了，投毒有什麼意義==7F 04/22 10:39
→ : 同意樓上 網路上的垃圾文已經夠多了並沒有影響到AI9F 04/22 10:41
→ : 現在已經有部分是轉向小參數精煉數據去做訓練了
甚至是AI模擬出數據給AI訓練10F 04/22 10:45
甚至是AI模擬出數據給AI訓練10F 04/22 10:45
推 : 所以即使大模型好用，還是要定時更新自己的小模型庫12F 04/22 11:09
推 : 兩津病毒 ai都變成不良中年13F 04/22 11:49
--