行銷定向廣告與動態定價讓偏見長存?

定向廣告與動態定價讓偏見長存?

How Targeted Ads and Dynamic Pricing Can Perpetuate Bias

公司很難在不歧視的情況下提供個人化的服務。機器學習與大數據的進展,伴隨著隱藏風險:自動化系統會讓有害偏見持續下去。即使是最大的科技公司與演算法專家,都很難在避免歧視之下實現高度個人化的服務。因此,企業領導人必須明白哪些自動化決策的方式,既會傷害顧客,也會傷害組織。

理論上,行銷個人化應該會是公司與顧客雙贏的主張。行銷科技可以用獨一無二的方式提供令人滿意的顧客體驗,做法是恰當地結合溝通、推薦與促銷,而所有這些都會針對每個人的特定品味來量身制定。

雖然手法拙劣的個人化做法,可能為這種做法帶來汙名,但鎖定目標對象的技術日益變得更複雜精細。機器學習與大數據的新進展,使得對於消費者來說,個人化變得更切合需求、造成較少打擾,也比較不惱人。然而,這些進展也伴隨一種隱藏風險:自動化系統有能力讓有害偏見持續不衰。

我們在一項新研究中,探討動態定價與定向折扣(targeted discount)的使用情況,想了解當消費者支付的價錢是由演算法決定時,是否可能會出現偏見(以及如何出現)。這類個人化行銷做法的一則警世故事,是測驗輔導公司「普林斯頓評論」(Princeton Review)。2015年,這家公司被揭發的做法是,儘管他們的教學課程都是透過視訊會議進行,卻根據不同郵遞區號而向顧客收取不同價錢,有些區域之間的差異達到數百美元。短期內,這種動態定價似乎能輕鬆提高營收。但一直有研究顯示,消費者認為這種做法在根本上就不公平,造成信任度與回購意願降低。此外,普林斯頓評論公司的...