AI的自動推薦總是差強人意，該如何改善背後的演算法？

現在企業、非營利組織和政府都在設計演算法，用來了解與預測使用者的偏好。他們把演算法內建在推薦系統裡，協助消費者做出各種選擇，從該購買哪些產品或服務、該看哪部電影，到該從事哪些工作，不一而足。這些演算法是依據使用者的行為來推測使用者的偏好，因此人類的偏見就會融入演算法的設計裡。如果想讓演算法更有效地預測使用者偏好、更能夠提升消費者福祉與社會福祉，那麼組織在衡量使用者偏好的時候，就必須把人類偏見納入考量。

假設有某個新的應用程式號稱能徹底改變你的晚餐。這個程式運用專有的演算法，專門針對你的喜好來推薦食物。你急著想試用，於是很快就註冊。但你得到的推薦菜色與你預期的不同。星期一，推薦的品項是披薩。星期二，漢堡。星期三，炸雞。星期四，烤肉。星期五，牛排配炸薯條。你十分疑惑，打電話給業者詢問這是怎麼回事。

他們解釋：「我們的演算法會分析你過去的食物訂單，挑出你最喜愛的食物，然後只推薦你最愛的那些食物。這是完美的個人化飲食方案！」

演算法是這樣打造出來的。這就是演算法不如人意的原因。

協助我們做出最佳決定的演算法──也就是讓我們得到最好的想法、體驗、工作、對象與產品──應該要能讓我們的生活更豐富。但演算法目...