為何需要查核演算法

演算法決策和人工智慧（artificial intelligence）有巨大潛力，很有可能在未來成為熱門商品，但我們擔心，這股熱潮會讓許多人忽視把演算法引進商業及社會可能造成的嚴重問題。我們的確看到許多人已成為微軟凱特．克勞佛（Kate Crawford）說的「資料基本要義派」（data fundamentalism），也就是認為巨大的資料集是一些儲存庫，我們只要運用機器學習工具，就可以從那些儲存庫裡找出可靠、客觀的真相。但我們必須採取更細緻的觀點來檢視。目前情況已經很清楚，嵌入在數位及社交科技中的人工智慧演算法，若不節制管控，可能會把社會偏見納入編碼之中、加速謠言及虛假資訊的傳播、擴大公眾輿論的回音室效應（echo chamber；編按：指類似意見一直在自己的小圈子裡流傳）、奪走我們的注意力，甚至損害我們的心理健康。

若要確保演算法及人工智慧技術能正確反映社會價值觀，所需要的創意、努力及創新，並不下於開發人工智慧技術本身。我們建議採取一個很好的出發點：查核。長久以來，企業一直被要求發布經過稽核的財務報表，這對金融市場及其他股東都有好處。原因在於，企業內部的運作就像一些黑盒子（演算法也是...