技術與營運人工智慧,我的麻煩隊友?

人工智慧,我的麻煩隊友?

AI Can Be A Troublesome Teammate

人工智慧聚焦在「智慧」上,並追求極致的完美。研究顯示,這就是為什麼大部分的人不信任人工智慧。因為人工智慧雖有強大的思維能力,卻沒有感受能力。換句話說,它能為你做出最佳選擇,卻無法照顧你在過程中的感受。
人工智慧(AI)可望比人類,甚至比聰明的人類,更快作出更好的決定。若要選擇「我該走哪條路回家」或「我該如何組織經銷鏈」,人工智慧明顯比較優秀。但在生死攸關之際,人工智慧仍能表現優異嗎?

我是研究科技的社會心理學家,但我讀大學時,曾在一家地球物理勘測公司工作。我們在加拿大北部的冰原裡尋找天然氣。大多數勘測站地處偏遠且酷寒,許多勘測站只能搭乘直升機抵達。

一個冬日午後,某個勘測站的飛行員以無線電發出壞消息:一場風暴已進入該區,能見度變差,飛行很危險。我的機長伊恩(Ian),必須作出艱難的決定:他應該讓我們冒著生命危險在風暴中飛行,或是在嚴寒的荒野中過夜,沒有食物或掩蔽?他選擇過夜。雖然我們面臨冰點以下的氣溫,但我完全信賴伊恩的決定。他擔任荒野消防員已有很多年,懂得如何存活。當時我確實把我的性命託付給他。

如果我的公司一直在使用人工智慧,那天晚上作出決定的可能不是伊恩。可能是由一個電腦程式來考量天氣情況、喪失工作人員的成本、直升機損毀的成本和許多其他因素,權衡這些因素的利弊得失。那個智慧型機器可能得出和伊恩相同的結論:讓我們留在那裡過夜是最好的選擇,但我會信賴那個決定嗎?我會覺得安全嗎?

根據在那之