在今天看見明天
熱門: 配息 玉山金 pimco esg 房地產

優化數據、改善產線、成本管控⋯缺一不可 實現「AI即永續」 英特爾的節能神解方

優化數據、改善產線、成本管控⋯缺一不可 實現「AI即永續」  英特爾的節能神解方
在AI爆發年代,英特爾產品永續長Jen Huffstetler認為, 「永續運算」已是必須面對的新課題。

黃浚瑋

科技

攝影/ 吳東岳

1403期

2023-11-08 14:08

企業導入人工智慧需要愈來愈多的運算力,勢必難以兼顧節能減碳。

當永續與運算力看似互相衝突,英特爾產品永續長教你善用AI,成為永續發展的解決方案。

根據IDC近期報告,全球二九%的企業高層表示,會在二○二三年投資生成式AI。問題來了,英特爾的近期研究指出,七六%的IT主管認為,要提升運算力因應業務需求,同時又要節能減碳,將是一大挑戰。

 

企業真的無法兼顧人工智慧(AI)與永續發展,推動更永續的AI?

 

解決高能耗問題

推動AI普及就是最佳解

 

十一月六日,《今周刊》舉辦「ESG永續台灣:永續國際峰會二○二三秋季場」,邀請多位國內外相關領域專家分享觀點與經驗,其中,美國半導體巨擘英特爾的產品永續長、負責推動產品永續的Jen Huffstetler,就以「AI運算世代驅動永續發展」為題,跨海分享她對人工智慧及永續議題的想法。當台灣積極朝淨零碳排目標努力時,我們如何從英特爾的經驗中借鏡學習?

 

專講一開始,她就引用史丹佛大學的報告指出,當今兩大生成式AI模型:Gopher及GPT-3,每次訓練模型均須消耗超過百萬度的電量,碳排放量介於三五○到五○○噸,「訓練這些模型一次,就產生超過一輛車生命週期的碳排放,或是一個人整年的排放量。」

 

不僅訓練模型會耗費大量能源,應用AI「推論」時更須大量運算力。Google發現,有六成機器學習能耗是用在推論上;Meta也曾公開表明,五○至六五%的機器學習碳足跡都在推論。且從一九到二一年,推論的基礎設施就增加了二.五倍。因此,究竟如何讓AI永續節能?

 

「我們相信,善用AI,正是永續發展的解決方案!」Huffstetler強調,模型、軟體、硬體以及「執行時序」等幾個項目最需要優化。

 

她指出,優化模型並利用軟體工具提高效率,可以顯著節能減碳。「首先,強調數據重質不重量,」如此一來,數據集較小,訓練所需能耗也跟著變少,「研究顯示,在訓練過的神經網路中,可精簡或移除的參數高達九九%。」

 

延伸閱讀

ESG永續台灣高峰會》英特爾:「AI可提升永續性」有效降低碳足跡,打造永續運算時代

2023-11-06

善用AI正是永續發展的解決方案!英特爾產品永續長無私透露:Intel內部如何「從上而下」進行中

2023-11-01

走蘋果老路自研安謀CPU 尬上英特爾、超微 迎億台AI PC換機潮 高通十年煉成黑馬

2023-11-01

英特爾新處理器亮相!季辛格展現背後製造新技術:AI驅動8兆美元產值「矽經濟」

2023-09-20

00878、00929準備除息,最後買進日這天!00878季配0.4元、00929月配0.13誰贏面高?

2024-02-26