出事要自己扛責任?最優秀員工也會推翻AI系統
【11月號搶先看】AI要真落地,先重設決策權責
Why Even Your Best Employees Override AI Systems That Work

攝影/潔米.鍾(Jamie Chung)
企業導入有效的AI系統並授予決策權後,員工仍會悄悄推翻AI的決定,原因在於最終責任仍由員工承擔。領導人必須重新設計治理機制,讓責任隨決策權一併移轉,並讓員工轉任監督與例外處理的角色。
2022年末,一家全球銀行核准一套用於自動執行日常信貸決策的AI系統。表面上看,這正是專家一直鼓勵企業採取的前瞻措施。在試行階段,系統處理申請案的速度比人類快、錯誤少,可望大幅節省成本。風險管理團隊通過這項計畫,法遵部門也予以同意,執行長更公開宣揚這是銀行積極走向未來的證明。
6個月後,系統還是只用於申請案的評分以及建議的生成。大部分檔案仍然進入人工審查流程。例外案件倍增,原本只是暫時的防護機制,如雙重審查門檻、人工確認標記,也固化為例行的流程步驟。AI系統雖然是銀行工作流程的一部分,大部分最終決策實際上都不是由它做成。
銀行提供的理由聽起來很熟悉:組織尚未準備就緒、模式需要改良、員工需要更多訓練、變革也困難重重。但是這項技術確實行得通,有明確的經濟效益,系統也已經獲得正式核准與大力支持。它從來沒有真正獲得的其實是權限,也就是在議定範圍內做成決策並得到組織全力支持的權利。
這個故事以不同的版本在許多產業上演。一家全球製造商推出AI需求預測系統,但是規畫人員還是沿用他們陳年的工作手冊,把AI的預測視為第二意見。一家醫療體系引入AI輔助的檢傷分類系統,以縮短等候時間並提升一致性,但醫師儘管認同系...
本篇文章主題

