當全球資本市場與科技圈還在為「誰能訓練出更大模型、誰能堆疊更多GPU」而瘋狂加碼時,真正決定AI產業能否長期存活的關鍵,早已從「算力上限」悄悄轉移到「電力上限」。數據中心用電量正以每年接近兩位數的速度攀升。電力焦慮不再是未來式,而是當下的現實約束。在這樣的背景下,只有真正省電的AI推論架構,才有機會成為可持續的AI。
電力與散熱才是真正的瓶頸,也是總成本的真正枷鎖
近十年來,AI硬體一直針對訓練工作負載進行最佳化,FLOPS(每秒浮點運算次數)成為主流基準。生成式人工智慧興起後,現代生成式AI越來越注重推理,而非一次性的模型訓練。推理與訓練有著本質差異:每個產生的詞元都需要反覆存取記憶體中的模型權重,記憶體頻寬成為效能的主要瓶頸。
更關鍵的是成本結構的變化。僅靠演算法與軟體架構的改進,AI訓練成本每年就能降低約80%。這意味著模型本身的「智力」與「效率」正以驚人速度提升,Token成本理應持續大幅下降。然而,真正拉住整體擁有成本(TCO)或每Token成本持續下降的,卻是電力。電力基礎設施的擴建速度、散熱成本、以及高功耗硬體帶來的營運支出,成為民主化AI的最大阻礙。
如果無法從源頭大幅降低電力消耗,即便演算法再進步,企業與開發者仍將被高昂的電費與機房改造成本擋在門外。讓中小企業、新興市場與個人開發者也能負擔得起高效推論,而非只有少數超大規模業者能享有AI。這正是我們發展邏輯的核心:不是追逐最大算力,而是追逐「每瓦能產生最多可用Tokens」的解決方案。
作為長期參與營運AI領導型企業的投資機構,過去幾年我們持續評估從訓練到推論的AI全價值鏈創新。訓練階段的軍備競賽固然重要,但真正決定商業化成敗、決定企業能否在既有電力與散熱預算內大規模部署的,卻是推論(Inference)。推論才是AI真正「被使用」的時刻,也是電力消耗與碳排的長期累積點。
因此,我們特別關注那些從第一天就以「高效能推論」為核心設計的新創,其中我們深度參與並領投的Positron與Salience Labs,最能具體說明為什麼「省電」不是錦上添花,而是可持續性的必要條件。
Positron:從記憶體優先出發的推論晶片革命
Positron創立於2023年,專注於AI推論加速晶片。其第一代Atlas系統已開始出貨,相較NVIDIA H200不僅效能更高,功耗僅約三分之一,性能功耗比可達4.5倍左右。更重要的是,Atlas全程以氣冷運作,無需液體散熱基礎設施,可直接部署於現有氣冷資料中心,不必為了新硬體而大興土木。
到了第二代Asimov與搭配的Titan系統,Positron進一步把「記憶體優先」與「低功耗」推向極致。Asimov單晶片記憶體容量可達最高2.3TB,比NVIDIA Rubin的384GB高出一個數量級以上,採用商品化DRAM而非高價、高耗能、供應鏈受限的HBM。
這不僅避開了HBM的供應瓶頸與高功耗,還能在可實現記憶體頻寬利用率達到90%以上(GPU通常僅10-30%),整系統仍可維持全程氣冷,無需液冷或設施改造,並在核心推論任務中達成相較NVIDIA Rubin約5倍的效能/成本比與效能/功耗比。
沿用傳統氣冷,意味著企業可大幅節省重新興建算力中心與建置高昂液冷系統的支出,同時大幅降低電力帳單與碳排。我們因此推動並共同領投其安謀與卡達主權基金亦參與的最新增資。
這背後的設計哲學是,大多數AI加速器先追求理論FLOPs,再把記憶體當「附加品」;Positron則反過來,先圍繞記憶體頻寬與容量設計,再讓計算單元與之匹配。在decode階段,GPU超過90%的電晶體會因等待記憶體而閒置,而Positron的架構正是針對這個瓶頸而生。
對投資者與營運者來說,這不只是「更高效」,而是直接改寫ROI模型,回本期可從傳統GPU系統的數年,縮短至一年左右甚至更短。
Salience Labs:從網路層面解決功耗與延遲
電力焦慮不只來自晶片本身,網路互連同樣是隱形殺手。在200G訊號速率下,銅連線超過約一公尺便會失效。Salience Labs專注於矽光子全光交換(OCS),淨插入損耗透過晶片上放大器抵銷,埠到埠延遲大幅縮短,每個連接埠耗電約1瓦而非數十瓦,並省去每條鏈路上的兩個收發器。
這直接減少昂貴銅導線使用、降低電流傳輸產生的熱能、減輕機櫃重量,從而降低算力中心建置成本,並讓整體系統更省電。從我們的內部研究分析,Salience是唯一將專有半導體光放大器(SOA)異質整合至自有矽光子交換晶片上的OCS公司。
Google多年來已在資料中心規模運行OCS,達成約30%資本支出節省、約40%網路電力節省。Salience的快速切換矽光子方案,正是針對scale-up/推論使用情境,提供比傳統慢速MEMS更優的解法。我們同樣領投其Intel創投、軟體銀行、應用材料、摩根士丹利、牛津和劍橋大學創投也早期參與的增資,因為這正是從網路層源頭解決電力與延遲的關鍵槓桿。
要從架構上就減少不必要的電力,而非一味增加發電
把Positron與Salience Labs放在一起看,會發現一個共同的邏輯:真正可持續的AI,不是無限堆疊更高功耗的硬體,然後再想辦法用再生能源或碳權來「補償」,而是從架構上就減少不必要的電力與熱量。
當大家都在煩惱電力不足、爭辯如何多發電、如何耗用更多地球資源時,我們和我們領投的這兩家美國領先的IC設計公司,想的是如何從源頭讓AI的使用更省電、越來越省電,達到AI和地球的永續。
Positron試圖證明專為推論優化的晶片可以在氣冷、低功耗、非HBM的條件下,提供更優化的性能成本比與性能功耗比;Salience Labs則試圖證明網路層的全光化,可以減少銅線使用、降低熱能與機櫃重量。兩者都把「省電」從行銷口號變成可量化的工程與財務優勢。
我們投資的馬斯克創辦的xAI與SpaceX,在今年合併後上市前,就已經積極規劃太空算力中心,從根本上解決地球電力不足與散熱的物理極限。太空中可全天候利用太陽能板提供穩定電力,無需依賴地面電網;同時真空環境所需的輻射散熱也大幅降低冷卻能耗與基礎設施成本。
這不僅能繞過地球資源與碳排的限制,更讓AI算力真正突破地表瓶頸,實現潛在「不增加地球負擔」的可持續擴張,正與我們「從源頭解決電力焦慮」的投資哲學高度一致。
從AI省電到能源永續:TAE Technologies的啟示
這種「從源頭解決問題」的思維,貫穿我們的長期投資與經營哲學。我們被Google邀請參與的TAE Technologies,就是另一個鮮明案例。TAE是商業化核融合的全球領導者,擁有超過900項專利、超過13億美元資本投入,以及包括三位諾貝爾獎得主在內的頂尖團隊。其低溫核融合技術旨在提供乾淨、可持續、無放射性的能源,特別針對AI資料中心的龐大電力需求。
Google不僅是早期投資者,更積極參與其技術分析;高盛、瑞士銀行擔任多輪融資的財務顧問並直接投資,住友商事則作為日本首家投資者加入。2025年12月,川普總統的上市公司Trump Media & Technology Group(DJT)宣布以逾60億美元全股票交易合併TAE,雙方各持約50%股權,讓TAE成為全球首家公開上市的核融合企業。
合併邏輯清晰:Trump Media帶來資本市場流動性與政策動能,TAE則提供可規模化的清潔基載電力,直接服務AI時代對低成本、高可靠能源的迫切需求。合併後計畫於2026年開始選址並興建全球首座公用事業級核融合電廠(50MW),後續擴建至350-500MW等級,目標就是為AI算力中心提供充足、乾淨、價格可負擔的永續電力。
我們很早就觀察到「傳輸效率與功耗碳排」才是決定算力真正可用性的關鍵,因此十年前布局了Mellanox、兩年前投資Groq。Mellanox以高效能網路互連技術大幅降低資料傳輸延遲與功耗;Groq則以專為推論設計的LPU,在效能、成本、功耗與碳排上全面優於傳統GPU。
這兩家公司後來分別成為NVIDIA史上最大的兩宗收購案——2019年以69億美元併購Mellanox打造NVLink,以及2025年底以約200億美元完成對Groq的技術授權與團隊整合,驗證了我們從源頭提升傳輸效率、降低功耗碳排的投資邏輯。
AI的未來不會只有「更大、更快」一條路。沒有電力焦慮的AI,才有機會真正普及、真正長期運行、真正為社會創造可持續的價值。這正是為什麼,在我們的框架中,我們持續把「效能功耗比」與「部署彈性」放在與純算力同等重要的位置。省電的AI,才是可持續的AI;而從源頭思考永續的企業,才是真正能陪伴產業走向下一個十年的力量。
作者簡介_林家振
美國安卓樂資本Andra Capital合夥人