人工智慧與機器學習 關於AI稽核,領導人需要知道的事

關於AI稽核,領導人需要知道的事

Jorg Greuel/Getty Images

AI已經成為人人都能使用的工具,因此,推出AI產品的公司也必須「稽核」自家產品可能對使用者造成的危害。本文具體說明,稽核自家AI可能遇到哪些困難,以及領導人可以提供哪些協助,克服這些困難。 

過去幾年,AI從技術團隊的禁臠,轉變為人人都能使用的工具。AI曾經隱身於幕後工作,例如驅動消費性產品,或是決定社群媒體的動態消息;如今一般大眾則是直接和虛擬助理、生成式AI聊天機器人互動。像這樣使用量的增加,也讓人們愈來愈意識到AI系統可能帶來的危害,包括不同群體受到截然不同的對待(這個問題在貸款和居住等受法律保護的領域特別重要),以及捏造虛假、敏感或有害的資訊(尤其是針對影響重大的主題,例如醫療或法律問題)。

面對這個情況,政策制定者試圖建立防護措施,管理這些工具可能對社會造成的衝擊。例如,世界各地的立法者和監管機構已經強制要求演算法系統接受外部稽核,比方說歐盟的《數位服務法》(Digital Services Act)、《數位市場法》(Digital Markets Act)和《人工智慧法》(Artificial Intelligence Act);加拿大的《人工智慧與數據法》(Artificial Intelligence and Data Act);以及紐約市的AI偏見法(New York City AI bias law)。此外,即使法律沒有強制要求,公司也對自家系統進行演算法...