看板 Stock作者 Player01 (Player2(請投入硬幣))標題 [新聞] ChatGPT幫律師寫文件 結果一堆假判例 時間 Sun May 28 19:17:31 2023
-------------------------------發文提醒----------------------------------
1.發文前請先詳閱[新聞]分類發文規範，未依規範發文將受處份。
2.連結過長請善用
https://bit.ly/ 等縮網址服務，連結不能點擊者板規1-2-2處份。
3.心得/評論請盡量充實，心得過短或濫竽充數將以板規 1-2-3、4-4 水桶處份。
4.發文請依照格式文章標明段落，不符合格式者依4-1刪文處分。
------------------------ 按ctrl+y
可刪除以上內容。 ----------------------
原文標題：
※請勿刪減原文標題
ChatGPT幫美國律師寫法庭文件 結果發明一堆假判例
原文連結：
※網址超過一行過長請用縮網址工具
https://ynews.page.link/PDVLX
ChatGPT幫美國律師寫法庭文件 結果發明一堆假判例
聊天機器人ChatGPT近半年來爆紅，號稱不久後將能取代一堆文組工作；但科技專家也紛紛警告，ChatGPT可能自行編造內容，成為假新聞來源。美國一名律師在準備法庭文件時就讓ChatGPT來寫，結果引用的6個判例裡，沒有一個是真的，在法院紀錄裡根本找不到這些判例。 ...
發布時間：
※請以原文網頁/報紙之發布時間為準
2023年5月28日 週日 上午11:50
記者署名：
※原文無記載者得留空
原文內容：
聊天機器人ChatGPT近半年來爆紅，號稱不久後將能取代一堆文組工作；但科技專家也紛紛警告，ChatGPT可能自行編造內容，成為假新聞來源。美國一名律師在準備法庭文件時就讓ChatGPT來寫，結果引用的6個判例裡，沒有一個是真的，在法院紀錄裡根本找不到這些判例。
《紐約時報》27日報導，美國紐約一家律師事務所的律師史瓦茲（Steven A. Schwartz）協助客戶馬塔（(Roberto Mata）打官司。馬塔自稱在2019年8月搭乘哥倫比亞航空公司（Avianca）班機從薩爾瓦多飛往紐約時，被空服員推的推車撞到膝蓋而受傷。事隔多時，他才打算控告航空公司。
曼哈頓法院今年3月駁回本案，稱訴訟時效已過。律師史瓦茲於是提交了一份10頁的文件，引用超過6項判例，包含旅客馬丁尼茲（ Martinez）控告達美航空、旅客奇赫曼（Zicherman）控告大韓航空、旅客瓦吉斯（Varghese）告中國南方航空等，針對訴訟時效長篇大論了一番。
看起來很厲害，問題是，沒人找的到這份文件裡引用的判例。航空公司的律師找不到，法官本人也一頭霧水。法院訴訟紀錄上會載明判案的法院、法官、判決書編號和日期，照理說不可能找不到；航空公司委任的律師發現，史瓦茲提供的判例看起來似乎是出自聊天機器人的手筆。
史瓦茲本月25日在宣誓書裡承認，他使用了ChatGPT來準備法律文件。已經在紐約執業30年的他對法官表示，他不是故意要欺騙法庭或航空公司，這是他第一次用ChatGPT來準備開庭資料，先前從沒用過，所以不知道ChatGPT寫的東西「可能是假的」。
例如ChatGPT引用的「奇赫曼訴大韓航空」判例，聲稱是美國第11巡迴上訴法院2008年的判決。美國第11巡迴上訴法院的書記官調查後發現，ChatGPT提供的案卷編號確實存在，但是案件本身完全不相關。ChatGPT又用他編造的大韓航空去驗證另一起「瓦吉斯訴中國南方航空」，結果實際上也是沒這回事。最終，ChatGPT引用的判例裡，有6個是假的。
上當的律師史瓦茲對法官表示，他非常後悔依賴ChatGPT來工作。他甚至還有問ChatGPT說，「你提供的瓦吉斯訴中國南方航空是真的案例嗎？」ChatGPT回答「是的」。
但在史瓦茲進一步追問「你的資料來源是哪裡」時，ChatGPT道歉說，「對於先前的混淆，我深感抱歉」，然後提供了一份法律引證。史瓦茲再問，「你提供的其案例是假的嗎？」ChatGPT堅持：「不，我提供的其他案例都是真實的，可以在有公信力的法律資料庫裡找到。」
史瓦茲律師可能找不到那些判例，但本人可能將要成為新的案例。法官已下令6月8日舉行聽證會，針對律師提交這份充滿假判例的法律文件，討論潛在的制裁措施。
心得/評論：
※必需填寫滿30字，無意義者板規處分
有用chat gpt的人應該會有發現
其實搜尋一些消息會是亂湊的
還有些更誇張直接就是掰出來的資訊
如果沒有特別查證會過度相信他的統整資訊
不知道目前這個問題能不能解決
--
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 49.216.129.232 (臺灣)
※ 作者: Player01 2023-05-28 19:17:31
※ 文章代碼(AID): #1aSpXDDz (Stock)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1685272653.A.37D.html
推 mioco: 找不到就自己編一個 被抓包還會先強辯 很人性4F 05/28 19:24
→ pikaaco: 這種敢用chatgpt幫寫也是很勇5F 05/28 19:24
→ Kobe5210: 你已經違規超貼新聞了，下次不用那麼興奮一直貼，把時間留給其他事吧6F 05/28 19:24
→ xuane: 可憐，這位律師提出前根本沒看過書狀吧14F 05/28 19:37
推 rrroooqqq: 這問題要解決不難吧，只要有專門針對法律去訓練，應該就可以改善很多了15F 05/28 19:37
→ ikachann: GPT真的很有自信把一件胡扯的事情說成像真的一樣19F 05/28 19:39
→ JuiFu617: 這律師通用模型拿去搞專業領域好像誤會了什麼
跟人一樣不懂的也會胡說八道，但是chatgpt比較適合作文整合，不適合直接搜索結果20F 05/28 19:40
推 Kydland: 為什麼我覺得是這位律師亂掰亂寫一通 然後推給
是chatGPT的錯？23F 05/28 19:41
推 sazabijiang: 我確定chatGPT會亂掰內容。我虛構兩個人名，問它
誰比較厲害，他還是煞有其事地完成分析。25F 05/28 19:42
→ JuiFu617: 美國法律很重視判例，但是判例其實到各大法律數據庫搜索會比較完善吧27F 05/28 19:43
推 pponywong: chatGPT 本來就是文本產生器 你怎麼會認為是真的 XD29F 05/28 19:43
噓 NotGiveUp: 靠chatGPT寫完，自己都不用驗證內容嗎......32F 05/28 19:46
推 JuiFu617: 這麼懶的律師文件生成後判例不去餵狗，你覺得他會用付費gpt4嗎？34F 05/28 19:47
推 ltflame: 沒有搜尋功能當然只能用掰的，用錯工具怪工具喔37F 05/28 19:51
推 dos01: 之前就說過好幾次了 這東西就尬聊APP 他會為了跟你尬聊胡扯
自己用還沒什麼事情 但用到商業上 被告死就是活該38F 05/28 19:51
推 mooto: chatGPT是聊天AI 不是工作AI42F 05/28 19:54
推 saygogo: 這律師很故意 怎麼可能不知道43F 05/28 19:58
推 bj45566: 這就是我最討厭 ChatGPT 的地方 -- 一本正經的胡說八道44F 05/28 19:58
推 ganninian: 這律師是腦袋撞到？不怕被disbar？46F 05/28 19:58
推 mdkn35: 完了 GPT空47F 05/28 20:05
→ laechan: 我coding mud時最喜歡gpt跟我鬼扯,我就是需要它鬼扯48F 05/28 20:06
推 Alphaz: 果然越來越像人類 唬爛嘴49F 05/28 20:06
→ laechan: 要懂得它好用的地方,而且不要誤用它,專業的事問專家50F 05/28 20:06
推 ccjjea: 我之前查蜘蛛，他編了一堆學名新品種，還跟我說都是真的，真的扯51F 05/28 20:07
→ huabandd: chatGPT跟GPT 4.0都一樣，連手續費都會算錯
給他算式了算出來答案還能錯，真的無言53F 05/28 20:08
推 CGDGAD: chatgpt只適合拿來談談心55F 05/28 20:09
推 clubee: 笑死人 準備開告chatgpt56F 05/28 20:12
→ koexe: ChatGpt還是需要人去判斷啊57F 05/28 20:14
→ mooto: 不能說chatgpt只適合尬聊 而是現在生成式AI的訓練方式是封閉的 你餵給他屎當然就給你亂回58F 05/28 20:14
推 HaHaPoint: 果然是AI 相當人性化 人類的壞習慣也都學會了60F 05/28 20:18
推 DDDDRR: 人工智慧結果要人類去判斷 現在還剛開始而已呀61F 05/28 20:20
推 saygogo: chatgpt技能樹目前沒有點在算術，不過這問題不大62F 05/28 20:25
推 bj45566: ChatGPT 就是沒辦法從語境模式順利切換的符號運送模式，這問題很大好嗎65F 05/28 20:26
→ saygogo: 我估計早晚會去點數學的科技樹的 不難67F 05/28 20:27
→ ferb: 比小學生還不如!68F 05/28 20:27
推 TyuzuChou: 有玩chatgpt的應該都知道AI很會唬爛69F 05/28 20:28
推 bj45566: 馬上就有人秀出實測圖了 wwww71F 05/28 20:29
推 bj45566: @saygogo：你去查一些 AI 大師級的發言，就會知道這不是點不點數學科技樹的問題73F 05/28 20:30
→ bj45566: 這是現在的 AI 架構和人類大腦基本上的差異76F 05/28 20:31
→ ferb: 明明他自己答案就有108,然後還說沒有108
我被它搞到以為自己算錯了77F 05/28 20:32
推 bj45566: @ferb：呵呵呵呵79F 05/28 20:33
推 bj45566: 人腦可以很清楚的辨別自己正在做數字與符號運算，現在的生成式對話 AI 就是不能
*運算81F 05/28 20:36
推 PTTVERTWO: 說4.0 比 3.5 強很多的資訊，會不會也是3.5 唬爛瞎掰的？86F 05/28 20:42
噓 abc12812: 哪位律師敢給ChatGPT寫文件? 不怕洩漏客戶秘密是嗎?88F 05/28 20:45
推 reyes2222: 就是這樣，明明不知道，也可以胡扯的像真的89F 05/28 20:46
→ JuiFu617: 為什麼用f大的同問題去問gpt,發現沒有回答很差啊
gpt很明確知道自己是在做數字與符號運算90F 05/28 20:46
推 bj45566: 這是可以用增加語境的方式訓練出來的
因為 GPT-4 還是會出現給了公式仍然算錯的情況92F 05/28 20:50
→ wind2k: 我上次問ChatGPT哪裡有素食吃 給我一堆沒聽過的95F 05/28 20:52
→ JuiFu617: 因為gpt不是搜尋用的，你問素食吃根本問錯人97F 05/28 20:54
推 cutbear123: chatgpt大部分都瞎掰
現在確實是不太實用的狀態 只是未來性可期98F 05/28 20:54
推 becksue26: 律師準備告openai產品提供錯誤資訊嗎100F 05/28 20:54
→ cutbear123: 重點是一本正經的瞎掰 沒有相關知識還會被騙101F 05/28 20:55
推 psynanako: 靠 他自己瞎編還不註明喔 那這樣是不是他給資料 附上引據比較好 他無法辨別真假資料咩102F 05/28 20:55
→ JuiFu617: 用bing搜尋啊，會給你註明出處104F 05/28 20:56
推 ariadne: 就基本的gigo來源資料有問題當然得到垃圾結果105F 05/28 20:56
推 ckp4131025: 老實說這個加一個相關資料庫的plug in就解決了108F 05/28 20:59
→ vicklin: 本來就會亂掰內容，理工的也會
以現狀免費版本完全贏不了嫻熟的文字使用者109F 05/28 21:01
噓 deepdish: 越黑越噴啦 笑死 都不敢寫 do not pay112F 05/28 21:06
推 QQFU: 黃董一直吹，股市一直漲，應用零113F 05/28 21:06
推 yisky: 法律邏輯跟理組邏輯差很多，要取代很難啦！頂多幫你潤稿，要引用還是太難115F 05/28 21:07
→ deepdish: AI人工智慧應用｜全球首位AI律師在美國伸張正義，Do117F 05/28 21:07
推 bj45566: 「不能順利切換」=/= 「完全不能切換」119F 05/28 21:09
推 A1pha: 每次我請他附上資料來源，他的網址點開都不是他說的資料= =120F 05/28 21:09
DoNotPay - Wikiwand
DoNotPay is an online legal service and chatbot. The product provides a "robot lawyer" service that claims to make use of artificial intelligence to c ...
推 bj45566: 而是指切換的效率很差，切換後的運送力很差 -- 人類用二十幾年前的 AI 技術就已經寫出在算方程式或解微積分方面遠遠超出常人能力的 Mathematica (如果是比速度，那麼連人類的高手也比不過)127F 05/28 21:13
推 yisky: 美國的法律不清楚，但台灣很多法條設計上就自相矛盾（感謝台灣立委），要取代不可能131F 05/28 21:13
→ bj45566: *運算力
問題在於現在即便是 AI 圖靈獎得主的宗師級人物，都沒辦法讓生成式對話 AI 擁有 1/10 Mathematica
的符號與數值運算能力135F 05/28 21:14
推 YLTYY: Ai 不會說謊139F 05/28 21:18
噓 deepdish: 市場就是有需求啦 問題就是濫用法律欺壓老百姓142F 05/28 21:23
推 vicklin: 市場有強烈需求不過算圖應該會比文本更實用143F 05/28 21:26
推 bj45566: @JuiFu617：ChatGPT 只是在你這個問題上沒說謊而已啦 XDDD ChatGPT 很會臉不紅心不喘地扯漫天大謊好嗎
*也比不過它144F 05/28 21:34
推 Kouson: chatGPT已經失去公信力了 盡是瞎掰 有時還死不認錯149F 05/28 21:38
推 bj45566: 補充：「集成」是對岸用詞，我國通常用「整合」，對應於英文的 "Integrated" -> 對岸講的「集成電路」 == Integrated circuit == IC154F 05/28 21:46
推 antijacken: Chatgpt都瞎掰啊 我問水滸傳108星有誰 他媽的連宋慶齡都跑出來157F 05/28 21:47
推 bj45566: 所以 GPT4 的回答是它沒有辦法整合 Mathematica 的符號與數值運算能力159F 05/28 21:48
推 bj45566: ChatGPT 本質上是鄉民最鄙視最愛罵的「文組腦」163F 05/28 21:52
→ b9513227: 聊天機器人是期望有多高智商?164F 05/28 21:53
推 greenpine: 訓練個商業用的好嗎 chatgpt現在還是聊天面向167F 05/28 22:03
推 greenpine: 訓練個法律AI 應該比繪圖AI簡單多了171F 05/28 22:05
推 bj45566: 法學最好比繪圖簡單 =.=173F 05/28 22:17
推 gametv: 之前問chatgpt三上悠亞是誰，居然回答是2000年沖繩縣出生的日本女星、演過大河劇wtf176F 05/28 22:18
推 patrol: 那個AI寫的故事其實有點無聊...
請AI講笑話也很難笑，文組可能還能苟活一段時間
，大概暫時只能取代寫財經新聞的記者182F 05/28 22:53
推 b22072117: 用 chaptgpt 寫程式還會有很多 compile error186F 05/28 23:17
推 jo4: 這種是有付費連網的嗎?187F 05/28 23:37
推 bj45566: 現在最抖的應該是翻譯、繪圖師攝影師、財經記者和小模
不過小模很容易轉行繼續賺... 青春就是本錢，如果外型不錯那在任何社會都不怕沒收入188F 05/28 23:40
→ s860134: 不意外 你問他小說他自創一堆
你只要問有關文獻有關的他都會回答錯錯的
問她生物物種他會自己自創生物
問他小說她會自己寫劇情回答你
所以才叫生成式AI阿 無法完全取代搜尋192F 05/28 23:50
→ qaz12453: 但就考驗你知識辯證能力啦 無腦一樣被唬爛197F 05/29 00:00
推 bj45566: 所以我還是重度依賴 Google 其次 Google Scholar199F 05/29 00:03
推 Annahahaha: chatgtp ：查資料很麻煩喔，隨便編一編呼嚨一下200F 05/29 00:21
→ GABA: 給ChatGPT寫五分鐘code要花五天debug202F 05/29 00:30
推 mainsa: 我覺得是一堆人故意去亂訓練把他養壞欸 還是這是他們演算法的缺陷 競爭對手有暗地出手207F 05/29 01:25
推 bj45566: 樓上想太多了，現在的 GPT-4 已經比上一代進步很多很多了，問題不太可能出在惡意外部人士
這是 GPT 內在性的缺陷
不過歐美人和東亞人看待「缺陷」的態度相差蠻大的，可以想像為何歐美對它有那麼多熱烈掌聲，或許 GPT 的前景真的是很光明燦爛（非反串）209F 05/29 01:32
推 L1ON: 台灣也一樣215F 05/29 01:40
推 gbman: 幹!笑死
ai真不出答案的還蠻多唬爛的XD216F 05/29 01:51
噓 yunf: 像是這種新聞有關於真假的有爭議性的首先就要看誰寫的是不是真的有這一條新聞都還要先驗證像是這篇就連署名他都不敢也沒有人管新聞的來源到底是否確有其事！然後出版商是誰經過幾個轉介點當然鄉民之所以是鄉民就是那份純樸的感覺什麼東西轉進來他都有辦法討論你們覺得身為一個律師使用AI出庭前難道都不會自己先查證過嗎？也太低估律師的智商和專業了吧！219F 05/29 06:37
→ kducky: GPT目前的隱患就是這樣，用權威的語法寫幹話，這問題滿致命的226F 05/29 07:14
推 GentIe: 完美無缺228F 05/29 07:14
→ rondox: AI具創造力！231F 05/29 07:50
→ tatty5566: 笑死 一定是下載到Reddit的廢文232F 05/29 07:52
推 jorden: 笑死 比唬爛三師還更會唬爛233F 05/29 08:01
→ iamaq18c: 有玩過的就知道 假訊息假資料甚至明顯錯誤都有234F 05/29 08:04
推 flyingdeeck: 設計者又沒給他判例資料庫。。。頂多教他怎麼寫判例吧
有用過都知道，設計者傾向讓AI瞎掰，不論有意無意236F 05/29 08:27
→ JuiFu617: 你找烏龍院作者怎麼會問gpt呢？人家是外國人，又不能聯網，你至少要讓外國人聯網吧239F 05/29 08:47
推 fcz973: 覺卿：台灣應該將AI引進司法241F 05/29 09:07
推 NeGe56: 就是不希望你們抄功課的設定呀242F 05/29 09:14
噓 ToastBen: 它不是搜尋引擎 要說幾次243F 05/29 09:34
→ JuiFu617: 真的，一堆人都以為gpt是搜索引擎，又直接問中文問題，gpt沒有被餵這些資料，還要翻成英文去搜索，重點gpt又不能聯網，你又在那邊嫌難用244F 05/29 09:48
推 magamanzero: 人家都跟你說是chat了 ....
律師是看不懂英文逆247F 05/29 09:53
推 tw11509: GPT沒有資料的時候就會用雲的啊，厲害的地方是他不會讓你覺得是編出來的ＸＤ249F 05/29 09:57
噓 eipduolc: 北七喔用這種明顯免責的東西= =
這律師牌怎麼考的啊
他拿的收入本來就對應他的責任跟風險誒251F 05/29 09:59
推 fatb: gpt4最大的問題是不知道會亂掰254F 05/29 10:05
推 paul40807: New Bing：阿我怎麼都沒人用257F 05/29 10:29
推 ice84man: ChatGTP是文字接龍，不是Google258F 05/29 10:42
推 a77942002: 這種AI就是將大量的隨機可能性收束到“趨近”模型跟想要的結果(輸入值) 不要拿來做需要高度正確的事~259F 05/29 11:03
推 ecwecwtw: GPT一句抱歉就沒事了，但使用者要自行承擔造假後果261F 05/29 11:11
推 truevines: 這個包是要OpenAI賠，還是簽名的律師賠？262F 05/29 11:26
推 bettybuy: GPT真的很會唬爛，唬爛王263F 05/29 12:01
推 lancelot123: 我用bing GPT在引用資料來源上至少好得多，點開網址都是正確的，只是編文章的內容相較之下弱得多，沒辦法長篇大論266F 05/29 13:55
--