看板 Gossiping作者 Israfil (贖罪聖音)標題 [新聞] OpenAI認了「人聲複製新工具」太危險 時間 Mon Apr 1 14:39:55 2024
1.媒體來源:東森新聞雲
2.記者吳美依
3.完整新聞標題:
OpenAI認了「人聲複製新工具」太危險 不宜全面開放
4.完整新聞內文:
https://cdn2.ettoday.net/images/7351/d7351915.jpg
美國人工智慧開發公司OpenAI於3月29日公布語音AI工具「Voice Engine」,只需要短短15
秒的說話聲音樣本,就能複製出此人聲音。不過,該公司也認定這項語音複製工具風險太大
,不適合全面發布。
「Voice Engine」於2022年首次研發,初始版本被使用在ChatGPT內建文字轉語音功能。其
生成結果不受聲音樣本語種限制,若說的是英文,這項技術可使用你的聲音,生成西班牙語
、法語等其他語言結果。不過,考量到存在濫用風險,現階段僅提供合作夥伴使用,尚未對
外開放。
《衛報》報導,OpenAI延遲推出「Voice Engine」,是為了在至關重要的全球大選年,最大
限度地減少假消息出現的可能性。
OpenAI在一篇貼文中表示,目前「Voice Engine」的生成結果都有浮水印,以利追蹤生成式
音檔的來源。與合作夥伴的使用條款也規定,必須取得原始說話者的明確知情同意,更不允
許開發人員讓個人用戶自行創造聲音檔案。
OpenAI表示,「目前選擇預覽而非廣泛發布這項技術」,是為了強化社會面對「更具說服力
的生成式模型」的能力,呼籲逐步淘汰語音認證,作為登入銀行帳戶或其他敏感資訊的安全
措施,制定在AI領域使用個人聲音的保護政策,以及推廣理解AI能力與限制、包括欺騙性內
容的公眾教育。
OpenAI寫道,「我們希望針對負責任地使用合成聲音,以及社會如何適應這些新功能,展開
一場對話」,並且根據對話結果及小規模測試,對於是否、如何大規模使用這項技術,做出
更明智的決定。
5.完整新聞連結 (或短網址)不可用YAHOO、LINE、MSN等轉載媒體:
https://www.ettoday.net/news/20240401/2710876.htm
6.備註:
o'-'o
--
--
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.230.149.98 (臺灣)
※ 作者: Israfil 2024-04-01 14:39:55
※ 文章代碼(AID): #1c2bQ-1I (Gossiping)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1711953598.A.052.html
推 ZakkWylde: 統神早就有了 不愧是神1F 101.10.46.205 台灣 04/01 14:40
推 STi2011: 放心 肯定快氾濫了2F 59.125.79.58 台灣 04/01 14:40
→ vowpool: 台灣政治人物以後說過啥話都可以不用認了3F 125.227.40.62 台灣 04/01 14:40
→ bill403777: 沒事本來就有了 還是更猛?4F 42.73.180.78 台灣 04/01 14:40
推 staristic: 當有第一個出現,大量出現是遲早的事5F 58.80.21.170 日本 04/01 14:41
噓 Stupidog5566: 翻譯: 多給點錢就開放這功能6F 118.160.206.139 台灣 04/01 14:41
→ lucifiel1618: 你隨便到github上都能找到成熟的相7F 111.254.92.146 台灣 04/01 14:41
→ dayend: 連我媽 都以為AI是我 本尊是假的^^8F 103.59.108.73 台灣 04/01 14:41
→ lucifiel1618: 似軟體,講得什麼先進東西一樣笑死幾百年前就已經超級氾濫的東西9F 111.254.92.146 台灣 04/01 14:41
推 SUMPO: 柯南11F 211.23.129.170 台灣 04/01 14:42
推 lipstick: 統神都一堆了 sb13F 36.224.120.249 台灣 04/01 14:43
推 gk1329: 配音員全面失業14F 39.9.103.227 台灣 04/01 14:43
推 kausan: 早就有了15F 27.67.123.245 越南 04/01 14:44
推 kimkim9988: 詐騙集團一定會弄到手16F 203.190.20.137 台灣 04/01 14:44
→ nnkj: 我準備開間 生前複製 公司把 志玲嘉嘉數位化17F 36.231.82.47 台灣 04/01 14:44
→ yzelly: 拜託,都一堆用ai 外國歌手聲音唱中文歌了18F 49.217.192.22 台灣 04/01 14:45
→ nnkj: 木村拓哉金城武也數位化做成AI19F 36.231.82.47 台灣 04/01 14:46
→ mij: 來不及了 詐騙集團都弄到手了20F 111.240.129.145 台灣 04/01 14:47
推 devidevi: 風險太大XDD21F 49.159.219.21 台灣 04/01 14:47
→ excercang: 這個用在老人死去後遺產分配上用22F 220.135.207.212 台灣 04/01 14:47
推 douge: 選前: 貪汙錄音證據 抓到了
這件事情 哪一年美國選舉會出現呢?23F 140.112.175.204 台灣 04/01 14:47
→ excercang: 即使是不孝子也能靠AI變造口述遺囑25F 220.135.207.212 台灣 04/01 14:48
推 clydebbman: 柯南表示 :26F 122.118.170.194 台灣 04/01 14:48
推 aigame: 一堆開源早就到處流竄了27F 114.26.86.19 台灣 04/01 14:48
→ dayend: 這東西真的會影響的 是聲紋辨識的保安系統28F 103.59.108.73 台灣 04/01 14:48
推 mo42: 不開放=我可以用 你們不能用~29F 1.136.104.158 澳大利亞 04/01 14:48
→ excercang: 拿到大量財產30F 220.135.207.212 台灣 04/01 14:48
推 z842657913: 詐騙集團要爽到射精了31F 49.216.110.11 台灣 04/01 14:48
推 orze04: 已經夠氾濫了32F 223.136.118.184 台灣 04/01 14:48
→ dayend: 人耳聽起來像 跟聲紋比對系統相比 太粗糙33F 103.59.108.73 台灣 04/01 14:49
→ aigame: 大陸網路卡通早就一堆明星AI配音了34F 114.26.86.19 台灣 04/01 14:49
→ kojajay: 很快就會在政治上 出現了35F 42.79.244.160 台灣 04/01 14:49
噓 Stupidog5566: 內文根本沒說不開放 而且已經給他們36F 118.160.206.139 台灣 04/01 14:49
推 broian: 有錢的還不是照用 變普通人用不到而已37F 101.10.67.35 台灣 04/01 14:49
→ dayend: 目前用最多聲紋比對的 就各國的類FBI CIA38F 103.59.108.73 台灣 04/01 14:49
→ Stupidog5566: 的合作夥伴使用了 簡單來說就是要錢39F 118.160.206.139 台灣 04/01 14:50
→ raku: 以後就影像照片音檔都不能當證據的時代40F 223.137.12.43 台灣 04/01 14:50
推 DarkChilles: 詐騙集團爽到翻來覆去41F 114.137.247.221 台灣 04/01 14:50
→ dayend: 法院目前也是蠻多接受聲紋比對的^^42F 103.59.108.73 台灣 04/01 14:50
推 losel: 15秒???43F 111.240.209.185 台灣 04/01 14:51
推 retrud: 以後很難證明你媽是你媽了44F 223.137.193.246 台灣 04/01 14:52
推 rainylife: 以後要假新聞滿天飛了45F 42.79.7.60 台灣 04/01 14:52
→ sexygnome: 陳菊avi真的要上市了46F 223.137.150.71 台灣 04/01 14:52
→ jameshcm: 林百里.rar47F 36.239.247.42 台灣 04/01 14:53
推 hydralee: 黨被錄影的都是Deepfake被錄音都OpenAI48F 223.137.70.26 台灣 04/01 14:53
推 segga: 台灣詐騙新創產業再創高峰49F 42.71.124.185 台灣 04/01 14:53
推 Stella: 雖然,但是,這東西早就有了,GitHub上面隨便找都有50F 27.247.66.249 台灣 04/01 14:53
推 madaofreak: 詐騙集團的終極工具52F 39.12.9.252 台灣 04/01 14:53
→ cat05joy: 假圖片假音檔假影片都有了 看你以後怎鬥53F 211.20.117.1 台灣 04/01 14:53
推 junshinw: 早就有了54F 42.72.145.96 台灣 04/01 14:55
推 xfaw4d35t: 看來是收費功能55F 101.136.104.176 台灣 04/01 14:56
→ Araiman: 花了那麼多錢 敵不過道德風險57F 110.28.34.163 台灣 04/01 14:59
推 basslife: 詐騙集團表示興奮58F 61.220.127.70 台灣 04/01 15:00
推 Chen7: 早就來不及了吧59F 60.250.201.82 台灣 04/01 15:00
推 gn01693664: 統神AI60F 114.137.79.106 台灣 04/01 15:01
推 bart102617: 台灣早就用過這詐騙了61F 220.129.25.98 台灣 04/01 15:05
推 leecoco: 連打電話都無法辨識真假啦62F 42.71.46.58 台灣 04/01 15:06
推 zaqimon: 不是早就有了63F 123.194.149.99 台灣 04/01 15:09
→ fujimoto: 視訊都有假的了何況聲音65F 39.10.48.249 台灣 04/01 15:12
→ twmadrid: 我怎記得就算openai不開放 仿間一堆這66F 42.77.236.134 台灣 04/01 15:13
推 ahlolha: 貝克街的亡靈就有了 還在那新工具67F 49.218.95.130 台灣 04/01 15:13
→ twmadrid: 種工具68F 42.77.236.134 台灣 04/01 15:13
推 isaa: 台灣詐騙集團必備69F 42.79.159.110 台灣 04/01 15:14
推 iam0718: 矽谷群俠演過了70F 111.255.101.125 台灣 04/01 15:16
推 Human2003: 早就流通了吧 話說配音員是不是要失業71F 210.242.25.55 台灣 04/01 15:20
推 dong80: 聲紋解鎖要全部作廢了72F 124.8.37.118 台灣 04/01 15:23
→ darkMood: 不意外,以前沒見到人前都是假的。
後73F 175.181.113.10 台灣 04/01 15:23
推 birdy590: 很快對岸就會有公司放出來了75F 27.242.102.165 台灣 04/01 15:29
推 skygray2: 詐騙集團肯定拿來大用特用76F 61.216.55.178 台灣 04/01 15:31
推 cccwahaha: 這應該是複製聲紋了 如果沒對應的破解等於會無法確定到底是本人還AI講的話77F 36.226.90.148 台灣 04/01 15:32
推 cat5672: 同人里番已經用的很爽了 啊嘶~79F 49.216.104.26 台灣 04/01 15:33
→ idolater: 詐騙新工具80F 60.248.119.235 台灣 04/01 15:35
推 broian: 配音員應該還好 主播這種比較危險81F 101.10.67.35 台灣 04/01 15:36
推 koj: 不可能的任務就玩過了82F 101.10.14.116 台灣 04/01 15:38
→ WWIII: 詐騙集團 嘿嘿嘿83F 36.229.130.195 台灣 04/01 15:42
→ poz93: 台灣詐騙集團已經準備開高薪挖角AI人才84F 118.171.1.247 台灣 04/01 15:44
→ jil: 以後錄音可能也不能當證據了85F 111.253.194.5 台灣 04/01 15:52
推 eudemonscv: 不用請歌手唱現場,改請AI。86F 42.73.127.54 台灣 04/01 15:56
→ samm3320: 我以為詐騙集團已經開始用了87F 42.72.37.15 台灣 04/01 15:58
→ joke3547: 現在才想到?88F 114.137.207.22 台灣 04/01 16:03
推 josh0114: 越想越恐怖89F 114.136.92.118 台灣 04/01 16:04
→ aaff0511: ai統神曲目多到可以出合輯了才在講不安全90F 42.73.213.18 台灣 04/01 16:04
推 koexe: 詐騙神器92F 223.138.18.99 台灣 04/01 16:24
→ xxxholic031: 現在才小心也太遲鈍,網路上都一堆Ai翻唱了,被拿來犯罪是遲早的事94F 114.33.43.57 台灣 04/01 16:34
推 mewofpqaz: 熊哥哥的聲音都早就被玩到壞掉了96F 42.78.54.8 台灣 04/01 16:38
推 LiangNight: 你不出 其他人也會出97F 1.172.0.79 台灣 04/01 16:39
推 lsslz: 早晚會一堆公司做得出來 擋也沒用99F 49.216.192.237 台灣 04/01 16:43
推 other9343: 詐騙又取得重大突破了科科100F 207.174.28.181 美國 04/01 16:44
推 gcobc07494: 哥哥的心焦U真的好頂 還有瘸瘸的101F 118.166.153.39 台灣 04/01 16:45
噓 DUFTON: This is Tony Your homie102F 42.73.50.238 台灣 04/01 16:48
推 Eumenides: 詐騙大勝利103F 49.217.193.227 台灣 04/01 16:48
推 yuumyng: 台語有辦法嗎?104F 122.121.227.136 台灣 04/01 16:52
推 secretmen: 可以用AI叫hey! Siri105F 42.77.118.104 台灣 04/01 16:59
→ tskcuit: misson impossible 第幾集?106F 101.137.18.43 台灣 04/01 17:07
→ liker1412: AI影像目前還很假 但聲音就不知道了107F 60.250.51.145 台灣 04/01 17:17
推 EXZUSIC: 有錄音為證,傳位于四子108F 123.195.0.100 台灣 04/01 17:18
→ shwkz: 以後就是人造人時代了...人類會被AI取代109F 101.0.236.184 台灣 04/01 17:24
推 gisasy001: 詐騙集團表示110F 49.215.22.118 台灣 04/01 17:27
推 cloudpart2: 遲早的
以後只能講台語111F 114.46.111.139 台灣 04/01 17:28
推 ryan1106: 詐騙集團:商機來囉…113F 49.217.192.123 台灣 04/01 17:39
→ qxpbyd: 已經有一堆開源的114F 61.230.246.215 台灣 04/01 17:41
推 kausan: 晚了115F 27.67.123.245 越南 04/01 17:43
推 bryanwang: AI遲早會毀了世界秩序116F 223.136.147.75 台灣 04/01 18:00
→ CTUST: Mission Impossible3, what is rab
bit foot?117F 223.137.142.99 台灣 04/01 18:12
推 lovehinata: 詐騙好幫手119F 223.136.66.248 台灣 04/01 18:31
→ shinmori: 合作夥伴才能用,感覺更危險120F 114.27.29.230 台灣 04/01 18:38
推 jimmy1688: 來不及了121F 219.85.228.111 台灣 04/01 18:48
推 issemn: AI孫燕姿表示122F 220.143.75.156 台灣 04/01 18:52
推 hate9989: 有這個選舉會被拿來抹黑123F 223.141.138.63 台灣 04/01 18:53
推 sheep79119: 阿不就變聲器124F 126.156.183.132 日本 04/01 19:05
推 ting445: 沈睡的小五郎125F 124.218.229.88 台灣 04/01 19:32
推 Somebody99: 這東西不算違法肖像權嗎?126F 223.136.98.174 台灣 04/01 19:55
→ rtoday: b站都已經教你怎麼搞了你新聞現在才出127F 111.83.54.218 台灣 04/01 20:45
推 inuwanwan: 數位世界會不會因此崩掉?還是成長128F 111.254.102.156 台灣 04/01 21:12
→ serrier: AI有沒有認為政治人物很危險?129F 36.228.152.39 台灣 04/01 21:20
→ u9596g12: 詐騙早就拿來用了 還要你開放喔 笑死130F 218.35.130.171 台灣 04/01 21:21
推 fony1029: 詐騙集團準備好了131F 223.137.4.135 台灣 04/01 21:29
推 parkyu531: 世界進入失序的開始132F 39.15.17.217 台灣 04/01 22:16
推 venomsoul: 統神已經唱遍所有熱門金曲了134F 111.83.245.47 台灣 04/01 22:30
→ evaras: 看看咱們台灣人135F 36.228.92.130 台灣 04/01 22:31
推 tonyian: 銀行肯定是等到遍地開花才會開始動作啊,所以就直接放出來吧136F 218.35.163.91 台灣 04/01 23:16
--