AI代理不會讀空氣:四步驟補上組織的不成文規則
How to Design Agentic Systems Around the Implicit Rules that Govern Your Company

Illustration by Ana Yael
企業部署AI代理,常把書面流程直接交給系統,卻忽略人員長期依靠默會知識、工作動機與專業裁量等「隱性組織」機制。這些原本由人員默默補足流程缺口的功能,一旦被自動化悄悄取代,錯誤可能隨系統高速運作而迅速擴大。本文提出4個關鍵做法:盤點不成文規則、設計停頓與人工監督、治理多代理系統,以及保留培養判斷力的實務練習場。
一位高資產客戶打電話給她往來的金融服務公司,要求變更受益人指定,這是一項例行工作。負責分流的AI代理正確判定案件類型,營運部門完成處理,溝通AI代理則套用標準範本確認辦理完畢。整套系統每個環節都按設計運作。
但若是由已替她管理投資組合兩年的專屬顧問來執行這項工作,就會發覺此任務背後隱藏的訊號。上一次季度檢視時,這位客戶曾提到遺產規畫,隨口詢問帳戶移轉的便利性,還提及一位朋友把帳戶整合到別家機構。這些資訊在任何客戶關係管理系統欄位中都找不到,卻隱含了經驗豐富的顧問能從對話中讀出的訊號——3週後的受益人變更,已是一項更重大決定的第一步,不能再視為例行表格作業。
顧問或許會親自打電話給她。這通電話的重點會是談談表格未能呈現的事情,而非只是處理受益人變更。結果,公司卻只完成文件作業,然後寄出制式訊息。1個月後,這位客戶轉投競爭對手,把大額帳戶整合到另一家機構。
沒人做錯任何事。每個AI代理都正確執行任務。然而,公司最後仍做出了錯誤的決策——或更精確地說,沒能看見那些悄然透露商業關係正受到威脅的訊號。
這類情景只是更難察覺的冰山一角:人類長期默默承擔的那層組織工作,一旦被AI代理取代,缺少的後果才會浮現...
本篇文章主題
生成式人工智慧
追蹤

