生成式AI的時代，顧客關係仍然至上

生成式人工智慧（generative artificial intelligence）的應用激增，促使各種令人興奮的創新和消費者實驗應運而生，卻也令不少人擔心數據隱私，或擔心自己只能透過機器人才能和公司溝通。在銀行業或健康照護等顧客互動和數據隱私極其重要的行業中，尤其叫人憂心忡忡。

突破性技術問世時，通常會引發某種程度的焦慮，人們自然而然會對能模仿人類智慧的技術感到擔心。但是隨著這一類新型大型語言模型（large language models）的出現，大多數公司都將模型風險、模型輸出的準確性，以及數據使用應合乎倫理，作為風險框架的核心。它們的目標，是確保新的AI技術能以負責任的方式被使用。

然而，有一方面的風險卻比較不受人重視，那就是公司將顧客體驗拱手讓給設計來獲取短期價值的模型和機器人，而不是用機器人來培養長期的顧客忠誠。企業可能日益將傳統的AI、機器學習模型與生成式AI搭配，以更貼近人性的方式，向顧客傳達訊息和提供優惠。如果我們不小心謹慎，追求利潤的機器人、演算法和預測模型，確實可能帶來反烏托邦的負面體驗。

即使在AI的世界裡，也應該以顧客的喜好至上。傳統的顧客感受指標，例如淨推薦分數...