風險管理AI「生成」你的焦慮?

AI「生成」你的焦慮?

Generative AI-nxiety

AI「生成」你的焦慮?

HBR Staff; Mensent Photography/Getty Images; Midjourney

生成式AI的崛起對於企業來說,是巨大的機會,卻也伴隨著巨大的風險。本文指出企業運用生成式AI時面對的4種道德風險,包含錯覺的問題、審慎思考的問題、狡猾銷售人員的問題,以及共同責任的問題,並提出應對方式。

所有產業的領導人目前都面臨自家董事會和執行長的壓力,要釐清可以在哪些地方實施「生成式人工智慧」(generative AI)解決方案。其原因可想而知:一方面,他們對於可善用新的機會感到興奮,另一方面,他們又擔心落後於競爭對手。但在推動創新的同時,他們也有充分理由感到焦慮。三星(Samsung)的員工將公司敏感數據上傳到ChatGPT,隨後數據外洩,於是三星禁止員工使用ChatGPT。已有很多紀錄顯示AI會產出歧視性的內容,而生成式AI同樣也有這種傾向。同時,生成式AI公司正面臨訴訟:生成圖像的Stable Diffusion面臨圖像公司Getty Images提出的訴訟,而微軟(Microsoft)、GitHub和OpenAI則面臨一起集體訴訟

負責這項技術的人員和公司也在敲響警鐘,從傑佛瑞.辛頓(Geoffrey Hinton)和約書亞.班吉歐(Yoshua Bengio)等好幾位「AI教父」,到OpenAI執行長山姆.奧特曼(Sam Altman)等人都陸續提出預警。他們聲稱,在不久的將來人類可能會面臨滅絕,或至少會被機器人霸主所統治。其他人士也警告說,在美國總統大選前夕,很容易透...