道德倫理真正的人工智慧千萬別出現

真正的人工智慧千萬別出現

The Last Thing We Want is Real Artificial Intelligence

神經科學家蓋瑞‧馬可斯(Gary Marcus)在紐約客(New Yorker)網站以一貫犀利的文筆,指出最尖端的人工智慧技術目前仍有多笨。

比方說,它們依舊很不會回答以下那類問題:

鎮議員不准憤怒的示威者上街,因為擔心會演變成暴力衝突。誰害怕暴力衝突?

  • 鎮議員
  • 憤怒的示威者

大球撞破史泰洛泡棉(Styrofoam)做的桌子。什麼東西是用史泰洛泡棉做的?(另一種句法是用鋼取代史泰洛泡棉)。

  • 大球
  • 桌子

以上是維諾格拉德基模測試(Winograd Schemas)的例子。取這個名稱,是因為它是人工智慧泰斗泰瑞‧維諾格拉德(Terry Winograd)的原創。我們人類通常可以立刻正確回答這些問題,但連今天功能最強的人工智慧系統也會出錯。馬可斯表示,這是因為人工智慧系統仍然缺乏常識。它依賴巨大的運算力量和不計其數的資料。但如果資料中找不到過去曾出現過和球、鋼、史泰洛泡棉桌子、撞破有關的問題或文件,再怎麼強大的運算力量也一無是處。

馬可斯強調,人工智慧圈裡許多人坐立不安,因為正如維諾格拉德基模測試和其他許多例子顯示的,今天最先進和商業化最成功的人工智慧應用,其實都是「冒牌貨」(這是我用的詞,不是馬可斯講的)。它們不是以人類大腦的方式去思考。相反的,它們只是在愈來愈大和愈來愈好的資料庫中,強力進行統計樣式比對。

這樣的消息真是讓人放心。我才不希望電腦...