在今天看見明天
熱門: 台積電 兆豐金 股市 00929 航運股

黃仁勳口中的AI工廠是什麼?日月光已導入!引進美超微水冷散熱AI伺服器,如何讓工廠更擁「五感」

黃仁勳口中的AI工廠是什麼?日月光已導入!引進美超微水冷散熱AI伺服器,如何讓工廠更擁「五感」
日月光半導體副總經理李政傑。

黃靖文

科技

黃靖文攝

2024-06-06 11:24

輝達執行長黃仁勳在全台掀起AI旋風,只是他口中最常提到的不是AI PC,而是將更多篇幅,擺在要價數百億的AI伺服器與「AI工廠」。未來每一座工廠都需要具有五感,並裝上「大腦」,不僅提升效率、更節省能耗。

美超微、日月光半導體、中華系統整合攜手在高雄打造全台首座水冷散熱技術的資料中心,透過人工智慧優化研發與生產流程,還能提供更好減碳成果。日月光表示,採用水冷技術伺服器,預計可節省20%以上的能耗。

替工廠打造大腦、增加五感 提升效率、降低能耗


日月光副總李政傑說明,正如同人有五感,日月光也能利用感測元件加AI,應用到工廠,譬如攝影鏡頭可以監測廠區,聽覺也可以監測馬達異音,能運用在環境保護與智能助理,


李政傑說,現在使用AI愈來愈多,因此需要的算力也愈來愈大,目前粗估每年至少有1.2倍的成長。過去的資料中心、伺服器使用空冷來卻,需要比較大的空間,但水冷技術完全不同,能有效降低20%以上的能耗,進而達成2030淨零的目標。


採用水冷散熱 節省電費與空間


日月光這次導入的美超微水冷AI伺服器,搭載了兩顆英特爾CPU,單顆功耗就達350W,此外還有8張輝達H100 GPUs,每張功耗達700W,算力強大,但發出的熱能也十分可觀。


過去空冷時代,伺服器機櫃需要有足夠空間,讓機器能夠散熱,還得隨時開啟冷氣,讓室內溫度能夠在25度以下。採用空冷散熱後,藉由水路將伺服器的熱能帶走,不僅不需耗費冷氣電費,也更節省資料中心的空間。

 


▲日月光半導體在高雄導入台灣首台美超微水冷AI伺服器。黃靖文攝


AI伺服器需求熱絡 美超微:未來數月產能全被包下


美超微高層透露,目前AI伺服器機櫃需求熱絡,未來幾個月的產能、材料幾乎都已被少數大廠包下。第一波需求幾乎都是美國雲端供應商、大型企業包下,當AI需求突然暴增,這些客戶對算力的需求也跟著大幅提高。未來,還會有像日月光這樣的智慧工廠,也會跟著加入。接著,甚至連學校、政府單位都會跟進,到時候的需求量就會得更大。


美超微透露,過去30年來水冷伺服器的建置,可能僅有1%以下。不過今年已經開始出貨,客戶對算力需求快速提升,市占要衝上15%非常有可能。


美超微說明,其實目前空冷、水冷伺服器的建置成本,已經十分接近氣冷伺服器。但水冷能節能省電,還能省下空間,過去只能擺1,000櫃的資料中心,未來就能擺放更多。

 

相關新聞:

影/梁見後的場子、黃仁勳驚喜給抱抱!喊美超微AI機櫃「五告水」,30年交情從哪來?老黃說只有他信我


黃仁勳演說科技大佬全來!3兆男喊「輝達的一切、AI起點在台灣」…算力通膨時代來臨,什麼是CEO數學?


美超微自行開發水冷零組件 讓客戶放心


美超微高層分享,過去有大廠曾經採用過浸沒式水冷技術,用容器把整個機櫃浸泡在專用水冷液中,想不到因為停電,液體溫度升高膨脹,全滲出機櫃外,讓資料中心花更多時間清理。


由於一般廠家對於水冷的接受度仍不高,「畢竟只要一漏水,那可能就是台機器報銷」。為此,美超微還自行開發各種水冷組件,嘗試各種可能性,為的就是讓客戶相信水冷解決方案。


中華系統整合吳明德董事長則分享,綜整 ICT 應用、能源管理、機房維運經驗,搭配合作夥伴商的高速運算伺服器主機及最先進水冷散熱解決方案,讓我們得以解決機房高耗能的問題。


高雄經發局:歡迎各大廠來台


高雄市政府經發局副局長高鎮遠表示,非常歡迎全球封裝大廠日月光半導體加大投資高雄,進一步設立資料中心與增加就業,藉由引入美超微新一代的創新水冷散熱技術,不但可大幅節能減碳,響應政府 ESG 政策,並帶動產業升級,為高雄快速崛起的科技產業聚落做出示範。


高鎮遠說明,除了日月光,台積電、IBM、鴻海等國際大廠已陸續進駐,日前信驊、Skymizer也宣布投資高雄。近年高雄非常熱鬧,今年不僅有黃色小鴨、演唱會經濟,現在更要打造AI灣區,高雄市政府會成為企業投資最堅強後盾。

延伸閱讀

輝達市值飆破3兆美元、超越蘋果 成為全球第二大上市公司!黃仁勳身家一天大增近1700億台幣 股票在周五將1拆10
輝達市值飆破3兆美元、超越蘋果 成為全球第二大上市公司!黃仁勳身家一天大增近1700億台幣 股票在周五將1拆10

2024-06-06

影/梁見後的場子、黃仁勳驚喜給抱抱!喊美超微AI機櫃「五告水」,30年交情從哪來?老黃說只有他信我
影/梁見後的場子、黃仁勳驚喜給抱抱!喊美超微AI機櫃「五告水」,30年交情從哪來?老黃說只有他信我

2024-06-05

台積電豪捐40億給4所大學,剛好都是「黃仁勳大學」!培養半導體研究教學與人才,高中也能獲捐
台積電豪捐40億給4所大學,剛好都是「黃仁勳大學」!培養半導體研究教學與人才,高中也能獲捐

2024-06-05

美超微將在台灣擴產?創辦人梁見後回母校贈10台AI伺服器:看好液冷散熱技術,近期定案擴產計畫
美超微將在台灣擴產?創辦人梁見後回母校贈10台AI伺服器:看好液冷散熱技術,近期定案擴產計畫

2024-06-01

美超微股價飆漲、梁見後魔鬼操練揭密:大弟開會「遲到30秒」門口罰站、買跑車也挨罵「跟大哥講話緊張到結巴」
美超微股價飆漲、梁見後魔鬼操練揭密:大弟開會「遲到30秒」門口罰站、買跑車也挨罵「跟大哥講話緊張到結巴」

2024-02-27