Google人工智慧助理提醒我們的事

Google's AI Assistant Is a Reminder that Privacy and Security Are Not the Same
阿杰.艾格拉瓦 Ajay Agrawal , 約書亞.甘斯 Joshua Gans , 阿維.高德法布 Avi Goldfarb
瀏覽人數:2027
隱私和安全,常必須有所取捨。

今年5月初,Google發表自家自動化虛擬助手令人驚豔的新能力。這些能力根據的是Google在人工智慧(artificial intelligence, AI)日益強大的專業。

其中最戲劇性的技能,就是Google人工智慧助理模仿人類打電話的能力,而從大量相關評論看來,這項技能也引發疑慮。雖然以今日的技術還無法實現,但不久的將來,你應該可以指示人工智慧助理使用傳統技術(打語音電話)幫你預約,並代替你與其他人互動,或是與其他人工智慧互動(如果對方願意的話)。這已足以顯示,這方面會有價值。

那麼,還有什麼好擔心的?疑慮在於,聽起來像真人的人工智慧,會危害到隱私和安全。雖說隱私和安全常被放在一起談,但兩者其實不一樣。

隱私包含不受干擾的權利。用人工智慧打電話會破壞隱私,因為它有可能侵入打擾。當資訊被使用在其他情境(例如,用於說閒話、差別定價或定向廣告〔targeted advertising〕),也有隱私上的疑慮。聽起來像真人的人工智慧電話,可能會破壞隱私,因為對方可能會誤以為自己是在跟真人對話,完全不知對方其實是機器。它們可能會從你那邊取得資訊,然後用你料想不到的方式使用那些資訊。如果是你在跟人工智慧對話,或是在將來,是你的人工智慧助理代表你發言,都可能出現前述情況。

然而,有些人在談隱私問題時,其實真正擔心的往往是安全。重點不在於定向廣告或閒話流言,而在於盜竊和安全防護。所謂安全,是一種免於危險的狀態。如果有人用非法方式擷取和使用資訊,就會產生安全疑慮。其中最明顯的就是身分盜竊。假設人工智慧打電話時能模仿你的聲音,你可能會想要把它納入你可掌握的服務當中,但也可能會有某個人複製那個功能來欺騙別人,讓別人相信自己是在跟你說話。

問題在於,提高安全性不見得對保護隱私有幫助。例如,加強監視也許可以防範壞人,以提高安全性,但要付出的代價就是隱私。

解決隱私問題,也可能無助於提高安全。限制資訊流通的隱私權規定,可能會讓警察難以知道不法人士的行動,結果讓人們更不安全。

針對人工智慧助理,我們可以讓假冒真人變成非法行為,並為身分驗證建立更多新關卡,讓身分盜竊變得困難。這有助於提升安全性,但無益於維護隱私。我們還是可能被人工智慧打的電話詐騙,而你向人工智慧透露的資訊,還是可能被用於定向廣告。

許多評論者呼籲應要求Google(還有其他業者)顯示打電話的是人工智慧,而非真人。Google回應將來會這麼做。然而,打算盜用你身分的人,不會客氣地遵守這些規定。

即使政府明令人工智慧助理必須表明身分,也只有在不法之徒也必須表明身分時,你才能真的受到保護。畢竟,如果你的聲音可以被模仿,語言陳述一樣也可以被模仿。主動表明身分有助於維護隱私,但對安全性沒有幫助。

現在,該是時候考量跨領域人工智慧溝通的協定,以保障隱私和安全。各個社群網絡有自己的識別方式,以認證是誰在傳訊給誰。不過,目前還沒有好的方式,可進行跨網絡的身分識別。我們仍活在類比世界,而語音辨識這種傳統的類比驗證方式,已經不夠用了。

我們的目標很明確。我們想要人工智慧助理的好處,但不想要重大的隱私和安全問題。我們需要人工智慧在撥打電話時,用可驗證的方式表明自己是機器;我們還需要一套協定,規範如何處理用人工智慧撥打的電話。語音辨識已不再適合用來進行驗證,現在該採取數位優先的解決方案。

(陳佳穎譯)



阿杰.艾格拉瓦

阿杰.艾格拉瓦 Ajay Agrawal

多倫多大學羅特曼管理學院(Rotman School of Management, University of Toronto)創業學講座教授,以及美國國家經濟研究局(National Bureau of Economic Research)研究人員。他也是創意解構實驗室(Creative Destruction Lab)創辦人,以及人工智慧創新計畫Next AI和人工智慧公司Kindred共同創辦人。他與人合著《預測機器:人工智慧的簡單經濟學》(Prediction Machines: The Simple Economics of Artificial Intelligence)。


約書亞.甘斯

約書亞.甘斯 Joshua Gans

多倫多大學羅特曼管理學院(Rotman School of Management, University of Toronto)技術創新與創業講座教授,也是創意解構實驗室(Creative Destruction Lab)首席經濟學家。他與人合著《預測機器:人工智慧的簡單經濟學》(Prediction Machines: The Simple Economics of Artificial Intelligence),並著有《破壞的兩難》(The Disruption Dilemma)。


阿維.高德法布

阿維.高德法布 Avi Goldfarb

多倫多大學羅特曼管理學院(Rotman School of Management, University of Toronto)行銷學講座教授,也是美國國家經濟研究局(National Bureau of Economic Research)研究人員、創意解構實驗室(Creative Destruction Lab)首席資料科學家,以及《行銷科學》期刊(Marketing Science)資深編輯。他與人合著《預測機器:人工智慧的簡單經濟學》(Prediction Machines: The Simple Economics of Artificial Intelligence)。


本篇文章主題安全與隱私