環境永續生成式AI超耗電?8 個步驟讓它更環保

生成式AI超耗電?8 個步驟讓它更環保

How to Make Generative AI Greener

生成式AI超耗電?8 個步驟讓它更環保

Illustration by Alex William

大家都知道生成式AI的能耐,但這些模型背後的環境成本呢?無論是訓練模型、部署模型進行推論,或是製造所需的相關硬體,都會留下龐大的碳足跡,因此,在生成式AI更普及前,應設法找到更環保的做法。本文建議公司採取8項步驟,既可以廣泛運用這項技術,又降低對環境的衝擊。

雖然觀察家對ChatGPT、BERT、LaMDA、GPT-3、DALL-E-2、MidJourney和Stable Diffusion等新型生成式人工智慧(generative AI)工具展現的能力驚嘆不已,但這些模型隱藏的環境成本和衝擊往往為人忽視。這些系統的開發和使用,能源密集程度極高,而且要維護它們的實體基礎設施,也需要耗用電力。目前,這些工具剛剛開始獲得主流認可,但有理由相信,這些成本勢必很快將成長,而且是急劇成長。

數據中心產業,是指為了儲存和管理資訊與通訊技術系統的實體設施,占全球溫室氣體(greenhouse gas,GHG)排放量的2%~3%。每兩年,全球數據量就會倍增。數據中心伺服器要儲存不斷擴增的資訊之海,就需要耗用巨量的能源和水(直接用於冷卻,以及間接用於產生非再生能源電力)來運轉電腦伺服器、設備和冷卻系統。這些系統使用的電力占丹麥的7%,占美國的2.8%

幾乎所有最知名的生成式AI模型,都是由「超大規模」(非常大)的雲端供應商生成的,它們有數千台伺服器,產生大量的碳足跡;尤其是,這些模型是在圖形處理器(graphics processing unit,GPU)晶片...