看板 Gossiping作者 nk11208z (小魯)標題 [新聞] Google推出機器學習公平性量測工具以評時間 Sun Dec 15 18:52:31 2019
ithome
Google推出機器學習公平性量測工具以評估模型偏見
文/李建興 | 2019-12-15發表
Google發布了Fairness Indicators工具,可針對二元和多類別分類(Classification)
進行運算與視覺化,幫助機器學習開發團隊,評估與修正模型所存在的偏差。
產業界與學術界大量地使用機器學習技術解決問題,但是機器學習演算法和資料集,可能
同時反映且強化了偏差。Google提到,偏差有可能出現在機器學習工作管線的任何部分,
從資料集到模型的表示,甚至是將結果呈現給終端使用者的方式都不例外。
而為了檢測機器學習存在的偏差,針對單一用戶或是用戶群的評估非常重要,Google強調
,因為總體指標可以掩蓋某些群組不良的狀況,這些群組包括敏感的特徵群體,像是種族
、性別、國籍、收入、性傾向、能力和宗教信仰。
Google的人工智慧原則其中一項,是要避免造成或是加強不公平的偏見,他們也持續在這
領域耕耘,現在並於TensorFlow World大會發布了Fairness Indicators工具。Fairness
Indicators可運算並視覺化像是誤報率等常用的分類模型公平性指標,還能計算信賴區間
,以多個閾值進行評估。在使用者介面上,使用者可以切換基準群組並調查不同指標的效
能,也可為自己的使用案例,增加自定義的視覺化指標。
Fairness Indicators可以用來產生透明性報告指標,以幫助開發人員更負責地調校模型
,Google表示,公平性的顧慮與評估會因為案例而不同,因此Fairness Indicators工具
還包含了一個互動式研究案例,提供Jigsaw毒性資料產生的意外偏差,說明使用
Fairness Indicators檢測和修補機器學習模型偏差的方法。
Google提到,光靠指標與測量並無法讓機器學習模型實現完全的公平,這些方法僅是辨識
與解決偏差的其中一環。
https://www.ithome.com.tw/news/134834
--
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 61.231.251.226 (臺灣)
※ 文章代碼(AID): #1TzXAWzl (Gossiping)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1576407712.A.F6F.html
噓 r30385:1F 223.137.82.251 台灣 12/15 19:01
推 art118520: 錢4F 118.161.83.212 台灣 12/15 19:01
推 aclock: 推6F 223.138.77.143 台灣 12/15 19:02
推 dannyko: 錢7F 223.136.71.3 台灣 12/15 19:02
推 oZGYo: 錢10F 111.253.55.186 台灣 12/15 19:02
→ chiy16: 777777 錢11F 49.159.121.20 台灣 12/15 19:02
推 SEEDA: 錢13F 114.35.140.109 台灣 12/15 19:02
→ douCai: 錢14F 42.74.81.21 台灣 12/15 19:02
推 funkD: 錢15F 1.170.189.206 台灣 12/15 19:02
推 HSUNiFi: 錢16F 114.136.102.133 台灣 12/15 19:02
推 z32510z: $$17F 114.137.112.109 台灣 12/15 19:02
推 justin521: 錢18F 61.223.42.174 台灣 12/15 19:02
推 arvsynd: 錢19F 117.19.229.175 台灣 12/15 19:02
推 Granatha: 發錢20F 140.115.238.76 台灣 12/15 19:02
推 ching620: 777777777721F 27.242.170.169 台灣 12/15 19:02
推 mafeyabob: 錢22F 36.230.85.168 台灣 12/15 19:02
→ revohow: 錢23F 101.15.217.200 台灣 12/15 19:02
推 carwho: 7777777724F 175.97.36.114 台灣 12/15 19:02
→ twqe4: 錢25F 114.27.242.232 台灣 12/15 19:02
推 gex3213: 錢26F 1.175.66.201 台灣 12/15 19:02
→ dog556602: 錢27F 49.214.163.235 台灣 12/15 19:02
推 tkglobe: 錢28F 61.64.108.22 台灣 12/15 19:02
推 xp84720: 錢29F 101.12.61.192 台灣 12/15 19:02
→ frtwwilo …
→ frtwwilo: 錢30F 101.15.205.93 台灣 12/15 19:02
推 Litan: 笑死31F 123.195.224.243 台灣 12/15 19:02
推 RyuTokuYu: 錢32F 123.241.208.177 台灣 12/15 19:02
推 ctrlshift: 77734F 223.137.242.99 台灣 12/15 19:03
推 alloc: 錢35F 114.37.149.126 台灣 12/15 19:03
推 shinewind: 錢36F 220.141.49.221 台灣 12/15 19:03
推 kamener: 錢啦38F 111.254.45.217 台灣 12/15 19:03
推 Avril1975: 給錢39F 27.242.190.210 台灣 12/15 19:03
推 sweat992001: 結果沒人在理內文XD40F 123.241.239.251 台灣 12/15 19:04
推 Luff543: 錢41F 42.77.88.198 台灣 12/15 19:04
推 Gordon168: 錢42F 220.141.3.167 台灣 12/15 19:04
推 mostoops: 錢43F 126.34.121.124 日本 12/15 19:04
推 bbc0217: 錢44F 36.235.0.117 台灣 12/15 19:04
推 kenbo: 錢47F 220.133.16.176 台灣 12/15 19:04
推 xxx60133: 錢49F 223.141.92.167 台灣 12/15 19:05
→ a3221715: 錢50F 39.8.38.95 台灣 12/15 19:06
→ coollfd …
推 coollfd: 錢51F 172.58.27.21 美國 12/15 19:06
→ qscxz: $$$52F 211.20.90.229 台灣 12/15 19:06
推 alonesnow: 錢54F 118.168.201.79 台灣 12/15 19:06
推 joymidi: 推55F 49.216.46.124 台灣 12/15 19:07
推 AScorpio: 錢56F 223.136.82.158 台灣 12/15 19:07
推 sofaly: 7777777757F 180.217.116.179 台灣 12/15 19:08
→ estupid: 想說哪來這麼多推58F 122.117.149.53 台灣 12/15 19:08
推 zxc17893: 錢錢59F 182.234.160.141 台灣 12/15 19:08
推 HappyDiD: 錢60F 223.138.224.100 台灣 12/15 19:08
推 as74155: 錢61F 110.50.160.97 台灣 12/15 19:08
推 seysem: 給我錢62F 61.58.175.40 台灣 12/15 19:08
推 GLung: 無心搶7就會搶到63F 223.136.24.248 台灣 12/15 19:08
推 F93935: 幹 發錢喔64F 101.9.140.3 台灣 12/15 19:09
推 g5637128: 77777765F 36.236.50.114 台灣 12/15 19:09
推 jku: 錢66F 223.136.228.88 台灣 12/15 19:09
→ kipi91718: 錢67F 223.141.98.253 台灣 12/15 19:10
推 jogan: $$69F 175.98.47.141 台灣 12/15 19:10
推 stja: 77770F 114.43.109.35 台灣 12/15 19:10
推 nojydia: 錢!71F 223.136.148.89 台灣 12/15 19:10
推 wxp992: 錢錢72F 117.19.215.14 台灣 12/15 19:10
推 joe581892: 錢73F 101.137.92.41 台灣 12/15 19:11
推 jim543000: 錢74F 118.161.73.20 台灣 12/15 19:11
推 stcr3011: 錢75F 223.137.107.147 台灣 12/15 19:13
推 deedo: 錢77F 49.215.128.110 台灣 12/15 19:15
噓 Dooo: 反詐騙
反詐騙78F 111.246.30.223 台灣 12/15 19:15
推 h569: ?????80F 218.164.161.24 台灣 12/15 19:15
推 tikitaka: ?錢81F 114.137.178.137 台灣 12/15 19:15
推 willen: 錢83F 111.251.50.211 台灣 12/15 19:16
推 boryi: 錢84F 220.129.52.207 台灣 12/15 19:17
推 michaelwu: 錢85F 223.137.172.205 台灣 12/15 19:17
→ arext: 推86F 42.74.218.244 台灣 12/15 19:17
推 eterbless: 我賭會跟亞馬遜那套評鑑求職者的AI一樣87F 180.22.96.19 日本 12/15 19:17
→ EggAcme: 原來是777777 想說莫名其妙...88F 36.235.149.228 台灣 12/15 19:17
→ eterbless: 扯到性別問題後就被封殺89F 180.22.96.19 日本 12/15 19:18
→ giggstw: 錢啦!91F 180.217.165.235 台灣 12/15 19:19
推 shiow1026: $$92F 210.138.178.193 日本 12/15 19:19
推 penolove: 為啥有錢93F 61.216.8.103 台灣 12/15 19:22
推 soarling: 錢94F 61.228.128.83 台灣 12/15 19:22
推 adr56980: 給錢96F 111.82.8.207 台灣 12/15 19:24
推 BBQOO: 錢97F 220.129.227.141 台灣 12/15 19:25
推 eric850609: 怎麼還沒爆 錢98F 111.83.250.170 台灣 12/15 19:25
推 monar: $$$$99F 1.34.233.213 台灣 12/15 19:26
推 StevoWu: 錢100F 223.136.10.205 台灣 12/15 19:28
推 cwuwang: 錢101F 101.12.65.230 台灣 12/15 19:28
推 DBben: 錢102F 111.83.245.70 台灣 12/15 19:28
推 your135: 7777777777104F 111.240.122.239 台灣 12/15 19:29
推 Toge: 我還以為這麼多人推錯篇,原來105F 180.217.218.36 台灣 12/15 19:29
推 MEloNs: 7777777777777106F 114.45.135.144 台灣 12/15 19:30
→ zy116pj: 錢107F 27.246.69.109 台灣 12/15 19:31
推 shiwa: 酷108F 39.12.227.61 台灣 12/15 19:32
推 chrisjay: 發錢喔109F 223.141.93.226 台灣 12/15 19:32
推 Titus: 錢ㄋ110F 110.28.2.231 台灣 12/15 19:33
推 palapalanhu: XDDDDDDDDDDDDDDDDDDDD111F 220.133.90.64 台灣 12/15 19:34
推 xaxnxdxy: 發錢喔112F 42.73.58.141 台灣 12/15 19:36
推 qazqazqa: 錢114F 1.160.211.233 台灣 12/15 19:38
推 jason138: 錢115F 114.43.77.64 台灣 12/15 19:38
推 chunfo: 不就政治正確濾鏡 不然ai不知道有些實話不能說116F 111.71.16.103 台灣 12/15 19:39
推 fatyi: 錢118F 218.173.142.230 台灣 12/15 19:42
推 YobyYbYb: 錢119F 223.141.187.218 台灣 12/15 19:43
→ color3258: 學習自助餐模式的公平 :)120F 114.43.105.157 台灣 12/15 19:43
推 goat1: 什麼錢?121F 114.198.186.62 台灣 12/15 19:45
→ ldeathkiller: 幹 google真的要統治AI界了122F 1.161.194.53 台灣 12/15 19:46
→ tmwolf: 被之前的測試結果嚇到了齁123F 223.136.173.220 台灣 12/15 19:47
→ Wand …
推 Wand: 錢125F 1.170.69.162 台灣 12/15 19:47
推 zxnstu3104: 777777777127F 140.112.230.119 台灣 12/15 19:51
推 jpg6102: 給錢129F 111.71.220.34 台灣 12/15 19:53
→ kiayx: 錢131F 114.40.68.224 台灣 12/15 19:54
推 t0455453: 誰說八卦沒人 這種文還是爆132F 39.12.231.97 台灣 12/15 19:56
推 anper: 馬的想說怎麼沒事會爆133F 153.147.196.105 日本 12/15 19:57
推 victoryman: 這個大數據一定很驚人134F 1.173.98.36 台灣 12/15 19:57
推 chao0210: 錢136F 27.242.131.205 台灣 12/15 20:07
推 afabletw: 錢137F 220.132.68.179 台灣 12/15 20:07
推 MePrank: 錢140F 36.225.52.69 台灣 12/15 20:33
推 pharhan: 點進來想說在錢三小XDD142F 114.136.184.12 台灣 12/15 20:36
推 ohrring: 發錢啊幹143F 223.136.143.70 台灣 12/15 20:38
推 tony20095: 錢144F 115.82.172.197 台灣 12/15 20:47
推 pzhbk2200: 錢喇145F 42.76.24.22 台灣 12/15 20:48
推 jelly777: 推 777146F 223.140.157.133 台灣 12/15 20:49
推 barry0718: 錢147F 101.14.244.188 台灣 12/15 20:59
推 SamuelLuo: 推148F 223.136.119.136 台灣 12/15 21:15
--