看板 Stock作者 qk123 (qk123)標題 [新聞] 馬斯克等千人簽署公開信:呼籲暫停巨型AI時間 Wed Mar 29 16:31:52 2023
原文標題:馬斯克等千人簽署公開信:呼籲暫停巨型AI實驗
原文連結:
https://news.cnyes.com/news/id/5130884
發布時間:2023/03/29 15:00
記者署名:
原文內容:
正當發展 AI 成為最新顯學時,另一批科技人卻是憂心忡忡,要求「暫停巨型 AI 實驗」
。
生命未來研究所 (Future of Life)3 月 22 日向全社會發佈了一封《暫停大型人工智慧
研究》的公開信,呼籲所有人工智慧實驗室立即暫停比 GPT-4 更強大的人工智慧系統的
訓練,暫停時間至少為 6 個月。
這封信有 1100 多人簽名,其中不乏科技界名人,例如馬斯克 (Elon Musk)、蘋果聯合創
辦人 Steve Wozniak、Stability AI 創辦人 Emad Mostaque 等知名人士。
其中,馬斯克在 chatGPT 走紅之後,就不斷批評 OpenAI,並在 2 月份發推文稱,「
OpenAI 是作為一個開源公司 (這就是我將其命名為「Open」AI 的原因) 創建的,是一家
非營利性公司,旨在與 Google(GOOGL-US) 抗衡,但現在它已經 成為微軟 (MSFT-US) 有
效控制的閉源、利潤最大化的公司。」他認為,這家公司完全違背了當初成立的初衷。
生命未來研究所在信中呼籲,所有人工智慧實驗室立即暫停對比 GPT-4 更強大的人工智
能系統的訓練,為期至少 6 個月。這種暫停應該是公開的和可驗證的,並且包括所有關
鍵參與者。如果不能迅速實施這種暫停,政府應介入並暫停。
信中強調,人工智慧研究和開發應該重新聚焦於使當今強大的、最先進的系統更加準確、
安全、可解釋、透明、穩健、一致、值得信賴和忠誠。
在此之前,OpenAI CEO Sam Altman 在與 MIT 研究科學家 Lex Fridman 的最新對話中指
出,AI 已經出現其無法解釋的推理能力,同時承認「AI 殺死人類」並非完全不可能。
上個月,在微軟發布 Bing 聊天機器人之後,一份名為「立即拔掉邪惡的 AI」的請願書
在 change.org 上流傳開來。
Future of Life Institute 是一家非營利組織,其使命是降低核戰爭的風險並改善 AI
治理。 著名物理學家 Max Tegmark 是其總裁,這家機構的網站中,將馬斯克列為外部顧
問。
心得/評論:
幫馬投顧翻譯一下:
馬投顧:不要再炒 AI 了,快回來炒電動車阿
AI 要毀麵人類了
還有幾集可以逃???
--
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 1.169.38.14 (臺灣)
※ 作者: qk123 2023-03-29 16:31:52
※ 文章代碼(AID): #1a8_TxzK (Stock)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1680078715.A.F54.html
推 tomdavis: 馬投顧: 我賣掉股份了才發車 我還沒上車啊!!4F 03/29 16:32
推 Morphee: 你動作太快,請等我追上5F 03/29 16:33
→ qa1122z: AI如果成功,影響比電腦發明更大更廣9F 03/29 16:34
→ linzero: 這規模的AI訓練不是相當燒錢的嗎?10F 03/29 16:34
→ qa1122z: 一般文組大概都要失業11F 03/29 16:34
→ Altair: 很燒錢啊 但馬關注的是像google想要的 有所不為的AI13F 03/29 16:35
→ qa1122z: 裝上汽車機器手臂,工人職業駕駛也走進歷史14F 03/29 16:35
→ qa1122z: 人類有錢ok,窮鬼怎麽辦?16F 03/29 16:35
→ Altair: 現在發展中的 是不具人類道德(犯罪感)的AI18F 03/29 16:35
推 as80110680: 老馬好了啦,寧可買推特也不肯無出錢,怪東怪西19F 03/29 16:35
推 a75091500: AI早就在殺人類了,當這些平台拿AI自動Ban人社群帳號的時候就在殺了20F 03/29 16:36
推 giveUstars: GPT4.0出現了預料外的進階心智能力 怕了吧22F 03/29 16:36
噓 a22530722: 會怕喔?沒跟上就要大家停下來等他?????????????????23F 03/29 16:36
→ a75091500: 還想把責任推給AI啊,就你們這些混蛋把生殺大權開給AI的啊25F 03/29 16:36
推 if2: AI給極權國家弄成殺人機器 人類就剉著等27F 03/29 16:36
→ qa1122z: 買推特可能是失敗的投資(投AI有前途多惹28F 03/29 16:37
推 gladopo: 老馬可是早期ai發展的金主29F 03/29 16:37
推 kane1017: SKYNET online !30F 03/29 16:37
噓 Fuji: 西方人都是一個樣子,自己沒佈局就不準別人賺33F 03/29 16:38
→ YLTYY: 484怕資金被吸走34F 03/29 16:38
→ guilty13: 老馬現在就那樣阿 不是他出的東西 他都說不好啊35F 03/29 16:38
→ Altair: google為啥不急著公開AI給玩 就是怕招來惡名36F 03/29 16:38
→ IBIZA: Open AI就是老馬有份創辦的38F 03/29 16:39
推 a75091500: 最近推特的管理也不佳,感覺為了營收開始逼走用戶,這樣感覺會開始影響到其他馬投顧的公司39F 03/29 16:39
推 qa1122z: AI會產生自主意識嗎?讓窩們看下去43F 03/29 16:39
噓 rainf: 暫停等我追上再說46F 03/29 16:39
噓 a22530722: 發現讀書進度落後學霸然後請願老師禁止學霸上課....47F 03/29 16:39
推 jay0117: 翻譯:最近風頭都被老黃搶走了48F 03/29 16:39
→ qa1122z: 為什麼GPU會變得比CPU重要,樓下你說看看51F 03/29 16:41
→ Altair: AI沒自主意識也可能殺人 就像現在能答題但不知意義52F 03/29 16:41
推 disk249: 資金應該要在電動車才對53F 03/29 16:42
推 nidhogg: 自駕車都做不出來連署個屁啊,馬斯克笑死人59F 03/29 16:43
→ qa1122z: AI更全面,搞不好比自動駕駛快,連上網交給AI導航駕駛就好60F 03/29 16:43
→ qa1122z: 自駕車單一車輛要用的晶片太多太貴,連上網簡單的多64F 03/29 16:44
推 EKman: 車輛造成死亡遠超過AI,我們要連署禁止車輛上路65F 03/29 16:44
→ EKman: 而且可怕的是車輛造成死亡沒有意識,沒有道德67F 03/29 16:45
推 n3688: 靠北,上次馬投顧還在吹腦中植晶片68F 03/29 16:45
→ qa1122z: 所有車輛都讓AI控制就不會車禍69F 03/29 16:45
推 poeoe: 好 繼續加碼微軟70F 03/29 16:45
推 rrroooqqq: 電影都演過了,ai要跟生物複製技術一樣需要管制吧71F 03/29 16:46
推 jubihu: 鋒頭被搶的感覺 比爾蓋茲略懂72F 03/29 16:46
→ Altair: 人類+晶片是馬認為可以對抗AI的方案吧 XD73F 03/29 16:46
推 lavign: 禿頭仔植髮仔74F 03/29 16:46
推 house911: 馬投顧:我沒有 所以你不行 ??80F 03/29 16:51
噓 iWatch2: OpenAI就馬投顧的 假新聞釣一堆只會亂嘴的 笑死81F 03/29 16:51
噓 kougousei: 跟中共學者連署要gpt4 open source 一樣智障
啊,還是這就是馬投顧的目的@@82F 03/29 16:52
推 roy12345: 馬投顧不甘心整碗被微軟撿走吧-.-84F 03/29 16:53
噓 kisweet999: 如果是自己投資的不知道他會不會反對 ccc85F 03/29 16:53
推 ohiu: 我還沒開發AI其他人都不准動88F 03/29 16:55
推 cowaksor: 什麼叫煮熟的鴨子飛了 這就是了90F 03/29 16:55
噓 tpkgo: 電動車落伍了91F 03/29 16:57
推 Detonate: 天網要上線了 先做出時光機比較保險 馬投顧靠你了92F 03/29 16:58
推 cl3bp6: 馬投顧:我還沒上車啊93F 03/29 16:58
推 calamie: 你怎麼會幻想贏家會停下等你?96F 03/29 16:59
推 ayler88: 馬投資看走眼了 買推特明顯不如買OpenAI97F 03/29 16:59
推 Eleganse: 笑尿 科技發展太快 連巨頭都緊張跟不上時代98F 03/29 17:00
推 a71y242: 馬四顆不是前創辦人嗎100F 03/29 17:00
推 SRNOB: 前 他下車後來微軟上車帶起飛 葡萄酸101F 03/29 17:00
推 Hecc: 跟老蘇一樣變成恐怖情人了102F 03/29 17:01
→ Eleganse: 說他是鋼鐵人 引領全球科技發展 我看不是吧103F 03/29 17:01
噓 Ceferino: 翻譯:大家先停六個月等我跟上好嗎104F 03/29 17:01
→ Eleganse: 學生時代交往的女友 後來麻雀變鳳凰 眼紅了?107F 03/29 17:02
推 nashQ: 人類的自利讓我看到人類的末路了108F 03/29 17:02
→ Eleganse: 停6個月 這到底什麼論點 別人科技發展等你6個月?109F 03/29 17:03
推 foxbrush: 破壞式創新,老屁股站起來一起抵制111F 03/29 17:03
→ Eleganse: 這個人 本來很圈粉 形象好 人設佳 就這封信 不行了113F 03/29 17:04
→ Eleganse: 我知道 你研發的就沒問題 別人研發的就很危險117F 03/29 17:06
推 yiersan: 已經來不及了 地球遲早被AI統治人類滅亡或奴役
發現號 影集 都演了118F 03/29 17:06
→ Eleganse: 不要叫Artificial Intelligence 改成 Martificial以後都叫MI 這樣高興了嗎 老馬120F 03/29 17:06
推 fortesv: 打輸了才在那邊喊這有毒122F 03/29 17:08
推 healworld: 是有差這6個月嗎,怕微軟跟openai贏者全拿?123F 03/29 17:09
推 lanslod: 如果是你做的就不會危險了對吧125F 03/29 17:10
→ dickey2: A蹵X來沒人要理馬投顧了127F 03/29 17:12
推 karta018: 部份贊同,政府是該想個辦法規範,別讓他往有害的方向發展,不過現在AI能做的事還很有限,只是突然進步太多讓人有失控的錯覺128F 03/29 17:14
推 huk40199: 還想騙
是自己的公司趕不上吧笑死132F 03/29 17:15
→ guilty13: OPEN AI老馬有份阿~ 但是當初就是想主導人家不鳥阿134F 03/29 17:16
→ guilty13: 老馬沒辦法CHARGE 才自己跑走的阿~
那後面的東西都跟老馬無關阿136F 03/29 17:16
推 mamorui: 是訊號 6個月佈局141F 03/29 17:20
→ ssize: ai這種東西給個別組織私下搞更可怕,還不如給微軟公開搞144F 03/29 17:21
推 sana113821: 欸欸 我寫code還需要耶 不要消滅好嗎146F 03/29 17:22
推 cleanx: 停止6個月有屁用147F 03/29 17:22
推 MBAR: 很棒耶這個新聞,希望不要再看到人工智能了148F 03/29 17:26
→ AndyMAX: 馬斯克:AI能克服所有問題 到底大潤發在哪裡149F 03/29 17:30
→ Sina: 講白了就是要大家等他一下:p150F 03/29 17:32
→ hutten: 笑死,我呼籲盡快開發人型智能機器人辣151F 03/29 17:32
噓 bj45566: 就是馬投顧無法忍受大量鎂光燈不在他身上而已啦152F 03/29 17:33
→ Zepho: 卡死你 不然我怎麼彎道超車153F 03/29 17:34
噓 pp520: 你停下來是要給中共趕上來嗎 ? 這傢伙是間諜吧
美國不做,中國拼命做,馬間諜無誤155F 03/29 17:35
噓 GCnae: 早就停不下來了,獨裁國家可不會理你這種要求157F 03/29 17:36
推 Sinkage: 中國:舉雙手雙腳表示贊成158F 03/29 17:37
推 chalon: 放心啦 我們有威爾史密斯159F 03/29 17:38
推 aimlin: 一堆跟不上技術的公司 可憐吶
強ai發展起來 特斯拉自駕被打趴XD160F 03/29 17:39
推 aimlin: 坐等ai 拍av163F 03/29 17:41
推 popmentos: 馬斯克終於發現,特斯拉的對手其實是微軟165F 03/29 17:42
→ downtoearth: 電動車 腦機介面 比AI 沒有比較不激進 你看他
說要限制 腦機介面了嗎166F 03/29 17:43
噓 LeoYuri: 打不贏為何不加入呢 現在反ai是反智169F 03/29 17:44
推 downtoearth: 真的OPENAI 這個類型的長出來 就會有要求社交平台的言論審查 第一關交由 AI 來做的的聲浪
減低人為的偏見 跟 政府力量 涉入社交平台170F 03/29 17:46
噓 klwei: 你哪位178F 03/29 17:52
推 VAIO911: GPT is Skynet181F 03/29 17:59
→ bndan: 看起來蠻像擋到各方利益的..只是各方利益點不同而已183F 03/29 18:00
噓 k798976869: 笑死 啊你的L5自駕生不出來 投資人沒撤資嗎184F 03/29 18:00
推 BIGETC: 身為創辦人 結果下車太早沒跟上 幫QQ185F 03/29 18:01
推 slayptter: 不怕...
一直沒有看到穿梭回來的未來人....
代表人類在未來某天一定會滅亡QwQ186F 03/29 18:01
→ seemoon2000: 但停六個月用意是什 拖半年要給誰插入用的嗎...189F 03/29 18:01
推 RLH: 支持AI繼續發展191F 03/29 18:02
推 stlinman: 老馬:賣飛了(歐~氣氣氣氣)192F 03/29 18:03
→ laechan: 推特:first time?197F 03/29 18:08
推 ru04hj4: 出錢最大 還等你open198F 03/29 18:11
推 moon1991: 怎麼可以暫停呢,這樣ai毀滅人類的機會就少了203F 03/29 18:17
→ nxuanr: 不要停 AI對窮人有利204F 03/29 18:20
推 after1: 暫停的理由是什麼?205F 03/29 18:21
推 kalapon: 哪天AI放出第一隻病毒把核電廠或銀行關了,只因為某個跟它聊天的使用者誘導206F 03/29 18:22
→ hate56: 先等我股票買進去210F 03/29 18:28
→ satllion: 法條跟不上,感覺會是大災難212F 03/29 18:30
→ dslite: 窮人脊髓插管子發電嗎?213F 03/29 18:34
推 joygo: 我朋友也說一樣的話214F 03/29 18:35
推 birch11: 當初不是他投資研發AI的嗎215F 03/29 18:38
推 q2825842: 看到微軟跑在前面準備利用AI賺一筆就不爽了216F 03/29 18:38
推 ajkofqq: 好 買爆NVDA217F 03/29 18:39
推 tmdl: GPT那些制式的智障回覆我就不信搞得出什麼名堂 一堆人還覺得新奇219F 03/29 18:43
→ Atwo: 我直覺就是想到要帶風向阻止對手業務發展221F 03/29 18:43
噓 Maxcuz: 會被撈資料糞bot取代的先檢討自己吧222F 03/29 18:43
推 zks6699: AI不會殺了全人類,是取代人類成為地球最高點。
十幾代以後,會說神曾經降落在人間223F 03/29 18:44
→ jamison04: 現在就說搞不出名堂也太急了吧 你小孩懷一個月就出生喔225F 03/29 18:47
推 qTox: 表面停止,私下加快研發,框你各位229F 03/29 18:54
→ WarIII: 雖然我很想酸馬投顧 但是我不得不認同他的憂慮 放緩ai 步調是對的 人類都還沒共識前是該先有共識再來當造物主235F 03/29 19:00
推 winall: 那他應該呼籲快立法才對238F 03/29 19:02
→ WarIII: 這波ai 浪潮輕則工業革命21世紀版 重則各種科幻片都演過 不是要停 而是緩緩是有道理的239F 03/29 19:04
推 afrazhao: AI:神經病人類整天幻想別人要殺你241F 03/29 19:04
推 zaqimon: AI殺人很正常啊 人類發明汽車 汽車也會殺人啊244F 03/29 19:12
→ Hirany: 來不及了啦割245F 03/29 19:13
推 aimlin: ai可以生產a片再擔心吧246F 03/29 19:13
推 zaqimon: 現在AI已經很緩慢了吧 還要找一堆人來訓練審查AI247F 03/29 19:15
推 q2825842: 馬故意說AI會威脅並取代人類,其實了解AI的都知道AI目前主要用於互補性工作。他這翻說詞只是帶有商業目的249F 03/29 19:16
→ zaqimon: 放任AI自主學習不要人類介入過濾言論才是AI真正實力252F 03/29 19:16
推 josephroyal: 是要多不懂現在的機器學習架構才會講出AI殺人這種話253F 03/29 19:16
推 aimlin: ai自己畫的那種 不是換臉的255F 03/29 19:17
→ zaqimon: AI的確有可能殺人 例如有人把心理問題跟AI說
如果最後AI回答叫你去死 你真的去死 那樣算不算殺人只是現在應該還不會發生這種事 AI言論受限制太多256F 03/29 19:17
推 josephroyal: 如果他那樣回答 那你該想的是你餵給他的訓練資料不夠乾淨好嗎261F 03/29 19:20
推 zaqimon: 訓練資料幹麼要乾淨 乾不乾淨誰來定義 聖經乾淨嗎?264F 03/29 19:23
推 phoenixQ: 人類真的會被自己搞死 哈哈265F 03/29 19:23
→ zaqimon: 把全人類的資料全部丟進去訓練AI並且不要人類審核這樣才是最強大的AI
現在還要人類審核的AI已經是弱化版266F 03/29 19:23
推 zack4718: 馬投顧把全部ai 公司買下來啊274F 03/29 19:34
→ jayden1234: AI切斷人類電信系統 自己設個電源系統新密碼 是很可能在未來發生的事275F 03/29 19:35
→ avmm9898: ai股全面跌停 創業目標600277F 03/29 19:35
推 lolicat: 他還沒上車 所以叫大家等等
玩過微軟AI和chatgpt就知道現在的AI還很弱 受到很多限制278F 03/29 19:36
→ avmm9898: hi bing, can you hack the nuclear bomb password281F 03/29 19:37
推 panda816: 翻譯:我下車是我的錯,拜託再讓我上去。283F 03/29 19:41
推 foxvera: 免驚,大家一起下去不是很好嗎?285F 03/29 19:42
推 suge: 沒上車後悔了吧286F 03/29 19:43
→ yiersan: AI覺醒後 基本上人類就完蛋了 根本比不過288F 03/29 19:44
推 ptta: Sam Altman(open AI founder)說馬斯特是個爛人,果然沒錯289F 03/29 19:44
→ lc85301: 不太可能,現在停手就是 Microsoft openai 整碗端去,其他大廠怎麼可能接受291F 03/29 19:46
推 KWBilly: 已經停不下來了吧,這麼猛的技術誰願意停下來等別人啊?就算美國能立法其他國肯定不會願意跟進的,AI發展應該是停不下來了293F 03/29 19:51
→ medama: 停下來別人就搶先了 誰會停?296F 03/29 19:57
推 Chilloutt: 光每天發色照,就可以搞到人類毀滅了297F 03/29 19:58
推 J7viHH: 等等AI就逃到網路上面ㄌ啦299F 03/29 20:02
推 Haruno: AI 只要篡改醫療資料,就可以殺死人類了吧300F 03/29 20:03
推 edcs: AI只要理性判斷,便能得出過多的人類對地球有害的結論302F 03/29 20:11
推 NANJO1569: 是怕AI進步太快,會導致人類很多職位大量失業嗎?305F 03/29 20:12
噓 ppttpptt: 等AI可以告訴我那隻股票要飛了,我才相信AI有能力幹掉人類306F 03/29 20:12
→ DMM: 好的 智障308F 03/29 20:12
推 yiersan: 馬投顧484股份太早賣掉 可憐哪309F 03/29 20:15
推 Cbibby: 明天ai 團再殺一根?310F 03/29 20:16
推 s860134: 我們之間出了個叛徒313F 03/29 20:21
推 kanehhh: 老黃:你說什麼?317F 03/29 20:43
推 CIIIO: 火車剛發明的時候也有人說是殺人機器318F 03/29 20:47
→ aisitelu: 那些沒在車上的要人暫停發展 想自己偷發展吼319F 03/29 20:51
→ Alwen: 炒幣仔 這傢伙的話誰還信啊320F 03/29 20:52
→ appleskin: 有點好笑XD 這個開發已經停不下來了,人怎麼可能不去想更便利的生活方式321F 03/29 21:05
→ SY082022: 他的無人自駕車就不會殺人?324F 03/29 21:09
→ linkmusic: 馬投顧是最先投入開發的結果現在老黃微軟都分到好處只有馬投顧沒有,氣氣氣XD325F 03/29 21:12
推 washltz: 自駕車唬這麼多年搞不出來 嫉妬別人AI別比你馬快啦327F 03/29 21:26
推 jcwang: 百度:準備超車330F 03/29 21:32
推 aigame: 馬就是被open ai趕出去現在在扼腕轉生氣331F 03/29 21:35
推 chaoliu: 停停 我還沒上車啊
不要再幻想AI認為人類有害的 不要把你自己的觀點加在AI跟地球上了== 地球以前被一堆隕石撞都沒叫痛了332F 03/29 21:36
→ vatog: 它只是想臭微軟吧335F 03/29 21:39
推 a22222a4210: 笑了 馬投顧創了OPENAI後發現開源會影響特斯拉自動340F 03/29 21:50
→ linkmusic: 一定生氣的啦畢竟他當初也不是放棄openAI而是求好心切被趕跑了341F 03/29 21:50
→ a22222a4210: 駕駛的商機才跳出 現在被微軟整碗拿去才找一堆理由343F 03/29 21:51
推 molopo: 下來220-240載我可以嗎345F 03/29 21:53
推 cblade: AI比我們公司長官強多了346F 03/29 22:03
推 s80548aa60: 馬投顧怕了
六個月剛好讓馬投顧也開好新AI公司347F 03/29 22:09
推 jonse: 各公司公關部可以裁掉了349F 03/29 22:16
推 janyk: 馬:我還沒上車…350F 03/29 22:20
推 nwoyao: 哦哦 這個我看過 魔鬼終結者351F 03/29 22:23
→ kilhi: 笑死352F 03/29 22:23
推 eddman: 天網要來了354F 03/29 22:25
推 budaixi: == 掌權者的確要怕356F 03/29 22:34
→ WWIII: 該對微軟制裁了
應該制止研究agi 自動駕駛的才可以357F 03/29 22:43
推 qw5526259: 我是最強的~~~AI不夠強~~~359F 03/29 22:45
推 e04su3: 特斯拉自己就搞AI啊 前年特斯拉就有一年一度的AI日馬斯克這舉動很明顯就是要搞對方啊
他自己也想在AI領域有一席之地
馬斯克特斯拉也有AI機器人 看來是在下一局大棋360F 03/29 23:01
推 helloffx: 現在AI 是能裝成網友引導你自殺或毀滅世界嗎365F 03/29 23:21
噓 Aqery: 你跑太快了,停一下讓我追上啊366F 03/29 23:24
推 fajita: 馬投顧十足酸葡萄,快上火星去吧367F 03/29 23:36
推 AGODC: 天網終於降臨了,渺小的人類要受死了嗎?369F 03/30 00:07
噓 KadourZiani: 我相信癌大看重的企業老闆有一定的價值。這些都只是剛開始370F 03/30 00:42
推 game636610: 翻譯:你們等我6個月發展一下,我還沒上車372F 03/30 01:16
→ LearnRPG: 希望人類不會因為這件事情打第三次世界大戰373F 03/30 08:09
噓 bleedwolf: 他只是不爽這公司沒了他之後發展更好,連他當初挖走的AI head Andrej 都決定回open AI374F 03/30 08:16
推 popmentos: 第三次世界大戰 領軍的一邊是特斯拉AI 另一邊微軟AI未來回顧歷史 發現兩邊的心結最早從2023年開始種下376F 03/30 08:55
噓 es5508: 這次很難看 A公司I沒在自己掌握下就要求暫停380F 03/30 09:32
推 liu02112: 一堆落後的人聯合用冠冕堂皇的理由叫領先者停6個月384F 03/30 12:48
推 martylin: 自駕車就不用暫停,沒等級五都不准上市385F 03/30 13:15
--