科技與分析AI工程師不能只有工程思維

AI工程師不能只有工程思維

AI Engineers Need to Think Beyond Engineering

AI工程師不能只有工程思維

MirageC / Getty Images

人工智慧有將不公平偏誤放大的力量,使固有偏誤的有害程度呈指數增長。Google人工智慧從業人員主張,為了避免錯誤的因果假設,人工智慧工程師必須與社會科學家、代表性不足的社群成員合作,以便更深入理解複雜的問題。此外,要轉變心態,從「打造我們可以打造的」變成「打造我們應該打造的」,開發出更公平的演算法。

人工智慧(Artificial Intelligence, AI)已成為科技變革的最大推手之一,衝擊各行各業,且開創全新商機。從工程角度來看,AI只是資料工程的一種更先進的形式。大多數優秀AI專案的運作方式,比較像是沾滿塵土的貨卡,而不是一塵不染的跑車;它們是一種能負荷繁重作業的技術,只能讓生產線的安全度略微提升5%,或是讓電影的推薦更精準一些。但與其他科技相比,一位立意良善的AI從業人員原本想要做好事,卻非常、非常容易在無意間造成傷害。AI有把不公平偏誤放大的力量,使固有偏誤的有害程度呈指數增長。

我們身為Google的AI從業人員,明白開發與運用AI科技的方式,將在未來許多年對社會產生重大影響。因此,制定最佳實務極為重要。首先,應該要以負責任的方式開發這項科技,以及減少任何可能不公平的偏誤,這兩者都需要科技專家不只設想下一步而已:不只是思考「配送自動化能否節省15%的運送成本?」而是思考「這項改變會對我們營運地點的城市和那裡的居民,尤其是容易面臨危險情況的人口,帶來什麼影響?」

這必須以老派的方式進行:要讓人類資料科學家去了解,產生出最終儲存在資料集與模型中各項變數的過程。此外,完成這...