看板 C_Chat作者 KotoriCute (乙醯胺酚)標題 [情報] OpenAI正打造AI圖偵測器 精確度達99%時間 Wed Oct 18 16:08:35 2023
揪出AI造假圖片！OpenAI透露正打造偵測工具 精確度99%
https://udn.com/news/story/6811/7513624
開發出聊天機器人ChatGPT的OpenAI正在打造一種工具，可偵測由AI生成的影像或照片，而
且具有很高的精確度。
OpenAI技術長穆拉蒂（Mira Murati）17日表示，OpenAI的工具在判斷一張照片是否是利用A
I生成可達到「99%的可靠」。她說，這項工具在規劃公開發表前正在進行內部測試，沒有具
體時間表。
穆拉蒂是與OpenAI執行長奧特曼參加華爾街日報在加州拉古納海灘舉辦的Tech Live研討會
時提及上述說法。OpenAI旗下除了有ChatGPT，也擁有影像生成工具DALL-E。
目前已經存在幾種宣稱可偵測由AI生成影像或內容的工具，但結果可能不精確。舉例來說，
OpenAI在1月時推出一種類似的工具，號稱可以判斷哪些文字段落是由AI生成，然而在7月就
已下架，原因是「不可靠」。
OpenAI表示，正努力改善這款軟體，並致力於開發能判斷由AI生成的音檔或圖檔的方式。
關於這類偵測AI生成內容的工具需求正在增加，因為AI工具可被用來對全球事件進行操作或
製造假新聞。Adobe的Firefly影像生成工具則因應了另一方面的挑戰，承諾不創造侵害創作
者智慧財產權的內容。
----
人類繪師救星要來了嗎？
那個1%的誤判
不知道是AI圖判斷成非AI圖
還是把非AI圖判斷成AI圖
--
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 111.82.128.223 (臺灣)
※ 作者: KotoriCute 2023-10-18 16:08:35
※ 文章代碼(AID): #1bBvA5ln (C_Chat)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1697616517.A.BF1.html
推 Ceelo: 用魔法才能打敗魔法 只有ai才能抓ai圖2F 10/18 16:10
※ 編輯: KotoriCute (111.82.128.223 臺灣), 10/18/2023 16:11:24
推 qscgg: ai正在打造反ai偵測生成圖片3F 10/18 16:11
推 sssyoyo: 再用這個工具訓練不會被辨識出來的AI -> LOOP4F 10/18 16:11
→ kirimaru73: 意思是你可以抓出99個沽名釣譽的騙子，同時把一個無辜7F 10/18 16:12
→ yuherngshi: 其實ai早變成免費素材生成工具了 原本就會畫的更愛8F 10/18 16:12
推 guogu: 可是之前判斷文章的就失敗了10F 10/18 16:12
推 shikao: 抱歉了1啪的繪師 請你轉行ㄅ11F 10/18 16:13
推 h0103661: 下一步就是ai生圖還會避免被偵測12F 10/18 16:13
→ kirimaru73: 本來就說自己會用的不受影響，但一定有宣稱自己沒用的13F 10/18 16:13
推 Muilie: 真.AI警察14F 10/18 16:13
推 staristic: 以後訓練生圖的AI就會把會不會被偵測放進參數16F 10/18 16:14
推 roc074: 99%是要笑死人，99.9999%可能還比較保險一點。19F 10/18 16:14
→ staristic: 反偵測，反反偵測，反反反偵測，沒完沒了20F 10/18 16:14
推 Tsozuo: 靈魂檢測機22F 10/18 16:15
→ linzero: 99%還是要開寶箱23F 10/18 16:15
推 Gokudo: 下一款是反AI偵測繪圖 我知道27F 10/18 16:18
推 mrmowmow: 什麼繪師一輩子只畫一張圖？
算錯一張又怎樣28F 10/18 16:20
推 clothg34569: 一張就夠毀人名譽了好嗎
忘記之前多少繪師被獵巫喔
甚麼信誓旦旦的20年老粉專業繪師32F 10/18 16:21
→ kirimaru73: 另外還有對抗攻擊，真的夠黑的黑粉認識會拿你的圖加上一些人眼看不到的細節，全部做成會讓AI警報大響的圖片35F 10/18 16:22
→ gura9527: 算錯一張就夠毀你名聲了好嗎37F 10/18 16:23
→ kirimaru73: 這東西最多就是當個玩具(而且已經會被有心人玩出事)如果拿他當判官，那後果不堪設想38F 10/18 16:24
推 Vram: 竟然用我的魔法對付我.jpeg43F 10/18 16:25
推 clothg34569: 之前不就一堆AI警察拿著AI偵測結果四處獵巫
每個繪師的圖都被丟進去跑 跑出來誤暴就開始出征44F 10/18 16:25
→ kirimaru73: 更早前還有更好笑的，知名網站用人工方法篩AI46F 10/18 16:26
推 rhox: 很多AI繪圖都內建浮水印跟meta資料了47F 10/18 16:26
→ kirimaru73: 然後他們人工篩掉一個繪師的帳號，繪師不服去抗議
並且也附上證據，結果該網站審查過後回應：
我們知道你有證據，但是你可以人力化成這麼像AI的圖片48F 10/18 16:26
→ bnn: 這主要還是對抗AI生圖來造謠或換臉用的啦51F 10/18 16:27
→ bnn: 二次元什麼的沒人在乎54F 10/18 16:27
→ kirimaru73: 人工審查都可以搞這種笑話了，有「工具」後還得了55F 10/18 16:27
噓 likeyousmile: Ai生人修圖呢？ ai生背景人畫主題呢？ai生然後人描圖呢？
人畫圖然後用ai改姿勢呢？換衣服呢？56F 10/18 16:27
→ kirimaru73: 現實上是新聞那些問題比較嚴重，次文化比較沒人在乎59F 10/18 16:28
→ a204a218: 現在這種環境不就被一群AI狂粉樂子人搞出來的60F 10/18 16:28
→ kirimaru73: 反正那些次文化圈子中的有心人會自己引火亂燒61F 10/18 16:29
推 excia: AIAI警察63F 10/18 16:29
推 Shawn5689: 那拿普通圖來i2i一張低denoising的 會算AI圖嗎64F 10/18 16:31
→ bnn: 不過要是你手機自拍一下(手機自動AI修圖)然後被判定是AI生成你以後拍照也會被人家說這是AI生成不是拍到的 你拍的是假訊息65F 10/18 16:31
→ npc776: AI狂信者才不管你這麼多 問就是砸蒸汽機67F 10/18 16:31
→ a204a218: 天天拿AI在那邊搞事，然後再來說怎麼你們都不爽AI69F 10/18 16:32
推 x2159679: 偵測工具也是ai發展的一環啊 不好嗎70F 10/18 16:32
→ bnn: 畢竟現在手機幫你修圖連月亮都幫你自動P上細節這類的太常見了71F 10/18 16:32
→ x2159679: 怎麼會有人反對偵測工具@@72F 10/18 16:32
→ clothg34569: 因為前面幾個偵測工具 最大用途就是給
樂子人拿去出征繪師阿73F 10/18 16:33
推 cow7913: 不符繪畫常規 瘋狂影射潑髒水就好了 哪需要這些76F 10/18 16:34
推 kirimaru73: 偵測工具當然是必要的研究題目，但是99%的偵測工具
真的沒什麼用，嚴格上還是必須靠人審查，但對自我要求不嚴格的警察來說就是超好用的點火道具77F 10/18 16:34
推 pov: 生成式網路對抗81F 10/18 16:35
→ kirimaru73: 以前只是可以潑髒水，現在99%是真的可以唬到一堆民眾82F 10/18 16:35
→ rufjvm12345: 再來就是反偵測 然後是反反偵測 反反反偵測 反反反反84F 10/18 16:36
→ kirimaru73: 畢竟有些人的觀點就是 99%你是個大騙子 那何必相信你85F 10/18 16:36
→ clothg34569: 以前其實準確率就99%了啦 對不額外跑後製的圖來說86F 10/18 16:36
推 x2159679: 就算真的被拿去出征也不是偵測工具的錯啊......
偵測工具是無辜的
這是ai發展中必然的產物87F 10/18 16:37
→ clothg34569: 樓主底下說的"人類繪師的救星"這句
工具當然無辜 但過去的例子這種不會成為救星90F 10/18 16:38
推 kirimaru73: 以後如果有圖片被拿來攻擊，第一個要檢查的可能是能否證明這張圖是繪師產出後「完全無修改」的版本
因為對於一個正確率「只」有99%的模型來說
對抗攻擊有無數種手法可以拿來玩到不著痕跡92F 10/18 16:38
→ npc776: 再講下去蒸汽機警察就要出動了吧...96F 10/18 16:41
→ macocu: 工具準嗎，再來這只是給一些人確立個目標去超越而已97F 10/18 16:41
→ Flyroach: 下一步就是利用AI開發能繞過偵測是否是AI畫的圖的工具98F 10/18 16:45
推 allanbrook: 比較好奇他判斷的依據是啥
算出來又再畫再輸出的他是有甚麼方法判斷99F 10/18 16:45
推 ainamk: 現代AI你大概很難弄出人類看得懂的判斷依據XD101F 10/18 16:47
→ gura9527: 判斷依據一定是史詩級的條件 人類要懂洗洗睡102F 10/18 16:48
推 x2159679: 反正我相信ai大人的判斷103F 10/18 16:48
→ ainamk: 最多只能跟你說 哪些區域比對起來比較像AI生成不像人畫的104F 10/18 16:48
推 koexe: 之前看一篇文章還有防AI的浮水印呢XD105F 10/18 16:50
推 shadowdio: 請相信是繪師自己畫的 不然要相信繪師說是AI畫的嗎107F 10/18 16:51
推 ainamk: 防AI浮水印是個有效果但是沒有實質意義的東西108F 10/18 16:51
推 aiqinar: 結果那1%被認證會不會被AI警察網暴的更慘109F 10/18 16:51
推 HellFly: 放整形圖會不會被偵測是AI110F 10/18 16:53
→ triplee: 不知道為什麼推文只想到繪師 覺得這工具主要還是針對真人111F 10/18 16:56
推 bobby4755: 會有人挑戰AI率99%的手繪油畫嗎112F 10/18 16:56
→ triplee: 的AI模擬畫像 因為那真的是很容易成為犯罪或謠言製造工具113F 10/18 16:57
→ skyofme: 因為跟這裡直接相關的就是批鬥畫師啊115F 10/18 16:59
推 liusean: 用AI找你的AI116F 10/18 16:59
推 jeffbear79: 99%如果是指模型的準確度蠻唬爛的，搞不好只是驗證用的資料集99%而已117F 10/18 16:59
→ skyofme: AI圖犯罪隱患跟這邊的主題又沒啥關係119F 10/18 16:59
推 guogu: 之前防ai那個主要是肉眼可見 而且很容易去除
比你加上去還快 不過還是有優點的121F 10/18 17:01
→ Annulene: 神仙對決 沒有凡人介入的空間123F 10/18 17:02
→ guogu: ai圖加上防ai圖浮水印拿去測會說不是ai圖124F 10/18 17:02
推 bobby4755: 一定會有YouTuber 交叉測試 AI狼人殺125F 10/18 17:04
→ triplee: 繪師真正面對的問題還是商業市場需求與創作被拿去訓練
而不是AI警察 那只是社群平台的一種固有行為 主題換成AI罷了 所以這也無關什麼繪師救星127F 10/18 17:07
推 aaaaooo: 沒100%的話那個名譽被你毀掉的畫師就能把你告到脫褲132F 10/18 17:33
→ ilove640: 發現AI會找到不是AI的圖 於是再發明驗證AI圖找到AI圖的AI135F 10/18 17:38
推 Milandess: 這個偵測器最大的用途之一：
讓AI圖進化到無法被辨認= =138F 10/18 17:52
--