別讓AI專案敗在營運問題上

The Dumb Reason Your AI Project Will Fail
謝慈銘 Terence Tse , 馬克.艾斯波西多 Mark Esposito , 水野貴明 Takaaki Mizuno , 吳梓維 Danny Goh
瀏覽人數:1748
許多企業推行人工智慧專案看似很順利,最後卻以失敗收場。大多數原因在於企業投注大量的時間資源來打造人工智慧模型,卻沒有考慮能否與自己現有的系統搭配。本文提醒主管,應從最初就打造能發揮人工智慧效益的生產環境,並成立適合的團隊。重點並不在於人工智慧模型本身,而是需要一整套由人工智慧推動、順暢的運作機器,才能將企業從今日所在的位置,帶向未來期許的目標。

想採用人工智慧(AI)的企業之所以無法成功,以下是一種常見的情形。企業與某家看來十分可靠的科技供應商密切合作,投入必要的時間、金錢、心力,希望自己的概念驗證(proof of concept)能得到巨大成功,並呈現如何使用人工智慧,來改善本身業務。但接著,一切在一陣刺耳噪音中戛然而止,企業發現陷入困境,原本看來優異的概念驗證被擱置,團隊感到沮喪。

為什麼最後會落入這種令人失望的結局?原因是,很難(其實是非常難)把人工智慧模型整合進入企業的整體科技架構。若要這麼做,必須把這項新科技適當地嵌入整體資訊科技系統和基礎設施裡;如果你無法把頂尖的人工智慧連結到你現有的系統裡,它就無法為你帶來任何好處。然而,目前企業投注時間和資源來思考人工智慧模型本身,卻常常忽略了應考慮要如何讓這些模型,真正與企業擁有的系統搭配運作。

這裡忽略的部分,就是「人工智慧營運」(AI Operations,簡稱AIOps)。這種實務做法包括打造、整合、測試、釋出、部署及管理這套系統,把人工智慧模型得出的結果,轉化為公司想要的有關最終使用者的見解。人工智慧營運的最基本概念,在於不只要有適當的軟硬體,還要有適當的團隊:開發人員及工程師,他們擁有必要的技能和知識,能夠將人工智慧整合到企業現有的流程及系統當中。這項概念演變發展自一項軟體工程及實務(它的目標是把軟體開發與軟體營運作業整合在一起),這是重要關鍵,可以把人工智慧引擎的成果,轉化成真正的商業產品,並以廣大而可靠的規模來讓人工智慧發揮作用。

從適當的環境開始

在許多使用人工智慧的企業當中,只有一小部分的程式碼是真的用於人工智慧功能;實際上,真正的人工智慧模型只是一個更大系統的一小部分,而人工智慧的使用者介面,其實和模型本身一樣重要。想發揮人工智慧的價值,你首先需要一個設計良好的生產環境(production environment,開發人員用這個詞來指稱程式碼與使用者接觸時的真實環境)。一開始就思考到生產環境的設計,有助於你管理這項專案,例如思考是否真能開發出人工智慧解決方案,並整合進客戶的資訊科技環境之中,以及思考如何把演算法整合、部署到客戶的作業系統當中。你需要的環境,應該是軟硬體順暢地配合運作,好讓企業可以仰賴它來即時進行日常的商業營運作業。

良好的生產環境必須符合三項標準:

可靠。目前,人工智慧科技還充斥著各種技術問題。舉例來說,人工智慧驅動的系統及模型,如果被匯入錯誤或格式不符的數據資料,就會停止運作。此外,如果要處理大量數據,人工智慧系統的運作速度必然會變慢。這些問題在影響最小的情況下,會拖慢整個系統,而在最嚴重的時候,則會讓系統無法運作。

想打造一個可靠的環境,重要的是應避免數據瓶頸。建立經過精心考慮的處理及儲存架構,可以克服流通量及延遲的問題。除此之外,事前預期準備也是關鍵。優秀的人工智慧營運團隊會設法防止環境崩潰,並準備好應變計畫,在出錯時可使用。

彈性。企業的目標,以及整體系統內的支援流量及流程,都會持續改變。同時,在系統層次的一切事物都必須順暢地運作,好讓人工智慧模型提供所承諾的各種好處:必須根據固定的規則、按照規律的間隔而輸入數據;回報機制必須不斷更新;經常更新數據,以免數據過時。

為了符合持續演變的業務需求,生產環境必須有足夠的彈性,以便迅速且順利地重新配置系統、讓資料同步,而不致降低運作效率。把整個架構劃分成一些可以處理的區塊,就像樂高積木一樣,接下來就能增加、替換或取消一些區塊,用這種方式來仔細思考建立彈性架構的最佳做法。

可擴充、可延伸。企業擴張的時候,基礎設施內部的「管路系統」當然也得調整。做法包括擴充現有的功能,以及延伸發展出新的能力。然而一項無法逃避的事實是,不同的資訊科技系統,常會在效能、擴充性及延伸性上有不同特性。結果就是:在跨系統運作時,可能會出現許多問題。

在企業擴張的時候,很關鍵的是要能維持業務正常運作,同時還要納入升級的人工智慧模型。是否能成功做到,主要取決於這個團隊是否有能力運用提議的新解決方案,持續地調整、修補、測試現有系統,讓新舊系統順暢運作,以達到彼此均衡的狀態。

好的系統來自好的團隊

因此,問題不在於你是否需要人工智慧營運團隊,而在於哪一種人工智慧營運團隊最適合你的業務。對多數企業來說,關於人工智慧營運團隊的最重要決定,就是這個團隊要由公司內部自行建立,還是要外包進行。兩者各有優點,但各自也必須做一些取捨:

公司自行建立。正面來看,設立自己的團隊來打造及維護生產環境,能讓你完整掌握整個架構,也能在與外部供應商合作時,避免可能會出現的管理及合約麻煩。這一點適用於大型公司,也適用於中小型公司;大公司可能想要垂直整合人工智慧營運團隊,而中小企業可能想要擴大本身資訊科技團隊的能力,以便直接處理生產環境。

雖然如此,自行建立這個團隊並不輕鬆,會在行政及組織上造成極大的負擔,更別提還有經常性費用。此外,企業必須在內部培養人工智慧營運的專業能力和知識。開始推動時,對公司的財務影響也可能很大:一開始就得投入大筆現金,綁定在一些價值不斷下滑的資產上,像是儲存硬體及伺服器。即使採用雲端設備,設置過程中不斷的嘗試錯誤也可能提高安裝成本。

外部合作。另一種選項,是與人工智慧營運供應商合作。好的供應商能夠與客戶密切配合,提供所需的專業來打造和運作適當的生產環境,既能在客戶的資訊科技基礎設施裡運作良好,也能支持人工智慧模型,無論這些模型是客戶自行開發的,或由第三方供應的(我們任職的Nexus FrontierTech就提供這種服務)。透過這樣的服務,企業目前就能使用健全的生產環境,以及可靠的人工智慧營運團隊,而且省下自行進行人工智慧營運所需的龐大資源。

但對許多企業來說,這可能表示要放棄擁有自家專屬的系統,在執行人工智慧營運方面也沒有完整的決定權。這可能被視為要在下面兩者之間折衷妥協:一方面是財務限制,另一方面是能夠使用穩固健全的人工智慧架構(這可能不如公自行建立的人工智慧營運專案那樣是量身打造的,但已經夠好,足以協助公司讓生產數位化)。

一整套順暢運作的機器,讓企業得以前進

我們常常聽到有關人工智慧創造奇蹟的許多新聞,描述人工智慧將為我們做些什麼、未來會如何改變我們的生活。但這些報導都漏了重要的一點:任何企業如果想要善用人工智慧的好處,真正重要的並不是人工智慧模型本身,而是一套由人工智慧推動、順暢運作的機器,可讓企業從今日所在的位置,邁向它未來想要達到的目的地。理想和一次性的專案,無法做到這一點。因此,人工智慧營運不能只是事後的想法,而是競爭上的必要事項。

(林俊宏譯)



謝慈銘 Terence Tse

Nexus FrontierTech共同創辦人,歐洲高等商學院(ESCP Business School)創業學教授。


馬克.艾斯波西多 Mark Esposito

Nexus FontierTech共同創辦人及學習長,曾在美國霍特國際商學院(Hult International Business School)及亞利桑那州立大學雷鳥全球管理學院(Thunderbird)擔任經濟學教授,也是哈佛商學院「競爭力個體經濟學」學程共同主任。


水野貴明 Takaaki Mizuno

Nexus FontierTech共同創辦人及科技長,有多本著作,包括日本亞馬遜暢銷書《Web API 的設計與開發》(Web API: The Good Parts)。


吳梓維 Danny Goh

Nexus FrontierTech共同創辦人及執行長,牛津大學賽德商學院(Said Business School)創業專家。


本篇文章主題技術