人工智慧與機器學習 當AI組成互聯網絡，你準備好迎接新風險了嗎？
當AI組成互聯網絡，你準備好迎接新風險了嗎？
A Guide to Managing Interconnected AI Systems
Illustration by Brian Rea
AI 不再是獨立運作，而是形成高度互聯的生態系統。醫療、金融、法律等產業中的AI應用，是與其他AI系統協作、共享數據，甚至影響決策。但這種互聯性也帶來了新的挑戰——誰來監控？如何確保安全？系統之間的協作是否會產生不可預測的風險？當 AI 變得愈來愈有能力，它的影響也愈來愈大，企業與組織該如何適應這個變局？
醫生使用AI來草擬給保險公司的「事先授權」申請，讓原本單調費時的流程變得有效率。然而，如果保險公司的AI根據醫生的系統所不知道的一些標準而拒絕這項申請，則會造成延誤和令人沮喪的結果。這是AI生態系統的新現實；AI生態系統是由事業單位或組織內相互合作、競爭或衝突的智慧代理人和系統所組成的互聯網絡。這些生態系統可帶來新的機會，也會產生新的複雜性與風險。
想要安全及負責任地建立與管理這些生態系統，特別需要重新思考人力培訓、運用科技以維持一致並進行協調，以及建立治理架構以確保信任與責任承擔。我們將在本文中討論這些準則，並根據我們與其他人在AI風險與法規監管領域所做的研究提供範例。
有關AI生態系統內如何操作的訓練
企業全面採用AI時，應該加倍重視AI訓練。AI生態系統包含多個層次的相互依存系統，其中一個工具的輸出結果不僅影響使用者的決策，還會影響其他AI系統的運作——因此也會影響到下游的決策。所以員工不但要強化自己與AI共事的能力，還要引導與協調多個AI系統的互動。員工不僅得更敏銳地觀察這些系統可能會如何影響員工自己的決策，更要了解系統如何影響組織內外其他人的決策。
我們舉一個例子，看看英國如何透過演...
