別讓AI掏空你的大腦!啟動三大互動防線,守住員工的批判思考
Design AI Systems That Actually Strengthen Human Reasoning

Yaroslav Danylchenko/Stocksy
使用者若是一逕不假思索地接受AI產出,將造成認知卸載、脈絡知識流失與思維同質化。企業可採取3種做法因應:翻轉互動由AI提問、明訂AI禁用時機與場域,並重新改造互動介面,藉此保留人的判斷力、專業能力與觀點多元性。
大多數組織都明白,員工不能只會照指示行事或套用規則。具備批判思考能力的人會提出問題、挑戰假設;這些行為對組織保持敏捷與創新至關重要。然而,愈來愈多證據顯示,使用AI可能削弱這種能力。
為協助企業因應這個問題,我們以管理學(包括我們自己的部分研究)、認知科學、人機互動,以及組織中的工作與科技研究等既有成果為基礎,並訪談正在嘗試不同做法的企業主管,提出一套設計、導入及應用AI的新方法,期望長期促進多元觀點與批判思考。
組織應聚焦批判思考遭到侵蝕所帶來的兩項主要風險:專業能力流失,以及知識多元性的流失。這兩項風險可能損害組織保持敏捷與創新的能力。領導人必須認清,科技並不中立,可能以負面方式塑造我們的思考與互動。因此,領導人不應只看短期效益,例如提高效率與降低成本的承諾,而應鼓勵使用者不要把科技的功能視為理所當然,並透過實驗去主動形塑AI,而不要讓自己受AI所形塑。
AI如何塑造思考方式
早在生成式AI迅速普及以前,包括卡倫.安東尼(Callen Anthony)在2021年對投資銀行家的民族誌研究在內的多項研究就已指出,「黑箱化」(black boxing)可能使專業人員失去專業能力;所謂黑箱化,是...
本篇文章主題
生成式人工智慧
追蹤



