AI使用量持續攀升,企業必須重新思考模型選擇、Token成本與營運流程。
過去在談AI,往往問的是哪一個模型最強?然而,隨著AI的使用量提升、Token消耗增長,越來越多的討論開始變成:哪一個模型,放在這個任務上最划算?
原因很簡單,AI正在從一問一答的模式,走向一個指令後,開始協調各項工作的系統。
AI從「隨叫隨用」走向Always-On,Token消耗量將大增
現在多數人使用AI,仍是一個任務、一個指令。寫一封信、整理一份資料、寫一段程式,完成就結束,這樣的模式是On-Demand。
但Agent出現後,開始朝Always-On發展,AI開始可以持續運作,自己拆解任務、查資料、做判斷、呼叫其他工具。即使我們正在開會、看電影,甚至沒有對它下新的指令,背後的AI可能都還在運作。
這代表什麼?Token的消耗量,將遠比今天想像的更大。也因此,AI下一階段的競爭,不只是模型能力的競爭,而是Token效率的競爭,尤其是在企業端。
AI變便宜了,企業可能反而花更多錢
最近可以看到一個很有意思的變化,Token單位成本正在下降,但企業對AI的使用量卻快速增加,當AI變便宜,大家反而會用得更多。
而當Token消耗量持續成長,即使單位成本下降,總成本仍可能因使用量快速增加而大幅攀升。這時,企業便不會只是在比較哪個模型比較聰明,而是要開始精算,這項工作到底需要哪個模型?
簡單的分類、摘要、資料整理,也許小模型就能完成;高頻率、標準化的工作,交給效率更高的開源模型可能更划算;只有真正複雜、需要高度推理能力的任務,才值得使用昂貴的前沿模型。
大模型不會吃遍天下,企業將進入「模型分工」時代
簡單來說,未來不會是一個大模型吃天下,而會是模型越來越多元、越來越分眾。
企業真正要建立的能力,是知道什麼事情該交給誰做。這也是為什麼我認為,AI時代的「CP值」會變得非常重要。企業永遠會追求最佳化的Token使用,在可以接受的品質下,用最合理的模型、算力與架構完成工作。
但如果企業只把注意力放在Token成本,其實還是不夠。如今AI工具本身可以很容易取得,但能不能把AI真正轉化成企業生產力,是另外一回事。這也是今天很多企業導入AI時,最容易忽略的地方。
企業AI轉型的關鍵,是重新設計整套工作流程
我們常常會把「導入AI」理解成多一個工具。例如原本員工花一小時寫報告,現在用AI可以縮短成半小時,這當然有價值;但如果企業因此就認為AI轉型完成,可能還早了一點。
真正困難的,是把原本的流程重新設計。
以企業教育訓練為例,把原本的課程從實體搬到線上,是數位化;如果再加上一個AI助理,幫員工回答問題,是AI加值。但真正的AI轉型,是從學習目標、內容產製、個人化推薦、學習追蹤到成效評估,整套流程重新設計。
大家都可以使用同樣的模型,但每家公司累積的資料、流程、人才、管理制度與組織能力不同,最後產生的成果也會完全不同。所以,AI時代真正值得管理者問的,不是「我們有多少人用了AI」,而是「AI到底改變了我們什麼工作?」
另一個值得注意的變化,是AI正在讓原本不同產業的邊界越來越模糊。
過去,企業會很清楚地區分自己是做軟體、雲端、晶片或網路服務。但AI時代,企業為了降低自己的成本,可能先自己打造算力、工具或模型;當這套能力成熟後,卻發現市場上也有人需要,於是內部使用的能力,最後可能變成對外的產品與服務。
AWS就是很經典的例子,原本是為了解決自身的IT需求,最後發展成全球雲端服務供應商。未來類似的事情還會不斷發生。雲端公司往晶片走、晶片公司往軟體走、企業自己建立AI基礎能力,再把能力服務化,產業的疆界會越來越模糊。
但不管最後跨到哪一個領域,問題仍然會回到同一件事情:怎麼用最適合的模型、算力與流程,完成最有價值的工作?
企業AI轉型,最後比的不是模型,而是組織能力
今天我們看到的AI,多數仍然是在提升生產力、降低成本,真正全新的Revenue Model與商業模式,其實還沒有完全浮現。這也意味著,現在仍然是AI發展的前期,還有非常大的空間等待企業去探索。
因此,企業現在不需要急著回答什麼時候應該使用哪一種模型,而是要回到營運的核心,精準找出內部流程的關鍵癥結點,思考如何透過AI重塑流程、創造全新價值。
在這個AI Always-on的時代,下一場競爭絕非單純比較誰比較會用模型,而是比誰能將AI深度融入營運,帶動組織能力持續升級。
真正能拉開差距的,永遠不只是模型本身,而是企業能否將AI轉化為一種長期、可持續且越用越高效的組織核心影響力。
作者簡介_朱曉幸
現任台灣大哥大企業服務事業商務長,深耕電信業逾 20 年,橫跨行動、固網與數位服務。
具備卓越的策略布局與轉型推動力,引領團隊轉型發展新世代 ICT 整合服務;任內推動戰略投資精誠資訊,並因應 AI 浪潮主導海內外 AIDC 基礎建設版圖布局,創造 2025 年企業事業營收年增 26% 的卓越成長。