商業道德你的演算法是否捍衛了公平標準？
你的演算法是否捍衛了公平標準？
Are Your Algorithms Upholding Your Standards of Fairness?
- 商業道德
- 李天惠 Michael Li
- 2019/12/05
如果演算法並未支持你對公平性設下的標準，會發生什麼情況？本文提到發生在亞馬遜公司的狀況，以及ProPublica一篇有關機器偏見的文章，並得出結論：公司領導人必須對衡量公平性進行自我教育，以便決定如何為組織定義公平性。這也意味著，應該要把所選的公平性衡量標準納入關鍵績效指標，搭配傳統的業務衡量標準一起使用。
在最近備受關注的人工智慧（AI）偏見醜聞之後，企業已經開始了解到必須重新思考本身的人工智慧策略，不僅要把人工智慧公平性（AI fairness）納入策略，而且要更廣泛地把演算法公平性（Algorithmic Fairness）當成一項基本原則。我任職的務實學院（Pragmatic Institute），為《財星》五百大企業提供關於資料科學和人工智慧的教育課程。我們從這些工作中發現，許多企業很難為自家組織明確定義何謂演算法公平性。如果沒有明確的定義，立意良好的公平性方案就會在善意之中失去活力，絕不會產生有意義的影響。但是，定義公平性並不像表面看來那樣容易。有兩個例子可說明這項工作可能會有多大的挑戰。
首先，想想2016年亞馬遜（Amazon）發生的情況，這家總部位於西雅圖的線上零售商當時向27個都會區，推出了Prime會員一日到貨服務。當時彭博社（Bloomberg）指出，向來是非裔美國人的社區被排除在外（如紐約市的布朗克斯區或芝加哥南區），不符合一日到貨服務的資格，結果亞馬遜受到大量批評。在亞特蘭大，有96％的白人居民住在一日到貨區域，黑人居民則只有41％。這個例子特別令人不愉快，因為它...
