「前陣子我們去拜訪一些公司,有些公司已經導入多個Edge AI(邊緣AI),並且給它們員工編號、設有管理辦法,有給它MBO(目標管理,概念近似KPI)、也有淘汰機制,做不好的也會被淘汰掉,好處是把它開除沒有人會抗議。」
中信金董事長陳佳文用半開玩笑的方式,於週三(4/22)分享這個案例,讓人感受到AI對職場的改變正在發生。
對於受到高度監管、不能有絲毫差錯的金融業來說,在導入與應用AI前,最重要的課題就是如何降低「幻覺」發生的可能性。對此,由16家金融機構一起參與加入的「金融大語言模型」(LLM)專案應運而生,該專案預計將投入逼近7000萬元的成本,訓練出一個懂台灣在地法規的金融大語言模型。
中信金董事長陳佳文。(攝影:林韋伶)
爲何需要本土訓練?「ABC」不懂台灣法規
中信金資訊長賈景光在說明發展台灣專屬金融大語言模型的必要性時,巧妙地將現有的通用型AI模型形容為「一位哈佛、MIT畢業的ABC」。
賈景光指出,像ChatGPT、Gemini…等這樣的大型語言模型雖然聰明,但它是「從小在美國出生,從沒來過台灣」的ABC。由於其訓練資料中有97%是英文,繁體中文比例不到1%,導致這名「ABC」對台灣在地資訊與金融專業極度陌生。
中信金資訊長賈景光。(攝影:林韋伶)
「當你問它台灣金融法規時,它會本能地從大腦裡的美國、韓國或日本法規中,歸納出一個看似正確的答案,因此答錯是理所當然,答對才是驚喜。」賈景光分析,也因此,目前許多銀行採用外掛參考書(RAG技術)讓AI邊查邊答,但這就像讓ABC每次被問問題才翻書,速度不僅慢且容易翻錯。
將ABC培育成「專業行員」 成專案目標
賈景光強調,建立台灣專屬模型的目的,就是要把這名「ABC」帶回台灣,進行為期一年的「銀行教育訓練」,將台灣特有的金融史、管理慣例、合規實務及金融證照知識直接灌入AI的大腦。訓練後的模型將不再只是快問快答,而是具備「初階銀行從業人員」的素養,能讀懂法規邏輯,並進行授信或財務分析等專業評估。
賈景光指出,透過這項本土訓練計畫,台灣金融業能確保AI在「懂台灣」的前提下,將出錯機率降至最低,真正成為具備高度信任度的數位員工。
首版「銀行業推理模型」 彭金隆:年底前問世
在週三的專案啟動典禮上,金管會主委彭金隆強調,金融業是高度仰賴文字處理且受高度監理的行業,通用型模型難以完全適用,建立屬於台灣自己的金融大語言模型「確實有它的必要性」。
金管會主委彭金隆。(攝影:林韋伶)
彭金隆指出,金融服務業包含銀行、資本市場及保險領域,有極高比例的工作具備自動化潛力,對大語言模型的應用需求極大。然而,金融業涉及大量在地法規與監理要求,「實在不太適合,直接套用現在通用的大語言模型」。
他也指出,這項計畫不僅是前瞻性技術計畫,是金融市場應用的重要里程碑,更能降低個別機構重複投入的成本;他也預期,該項專案將帶來至少三大效益,包括:三大效益:強化資安、技術升級與普惠金融。
列入國家級政策 年底推出第一版
彭金隆透露,這項計畫已獲得政府高度重視,並感謝數發部提供主權AI語料庫支援。關於進度規劃,彭金隆宣布:「預計在今年年底會推出第一版。」第一階段將以銀行業為起點,下一階段則計畫擴充至保險、證券等其他重要金融領域。
數發部部長林宜敬在專案啟動記者會上也分析,雖然現有的大型語言模型能力極強,但面對特定國家的金融專業時,常因「學得太多」而產生幻覺,「如果我問這些大語言模型一個關於台灣金融產業的問題,它可能引用韓國的法律、香港的法律……講起來我們都會被迷惑,好像是真的一樣」。
專業勝過「臃腫」 將有效降低成本
林宜敬分析,自行訓練台灣金融大語言模型能讓AI專注於在地知識,未來回答將「依照台灣的法律還有台灣的憲法來回答」。此外,相較於市面上功能全面卻也相對「臃腫」的通用模型,專業化模型的營運成本將更具競爭優勢。
數發部部長林宜敬。(攝影:林韋伶)
他進一步點出「主權AI」的核心意義。林宜敬認為,主權AI除了要了解台灣在地文化與法規,更關鍵的是算力中心的地緣位置,「只有當這個AI的模型的算力中心在台灣的時候,台灣的法律才管得到」。
「世界各國對於主權AI都有很強的焦慮」,林宜敬分享,許多國家的政府與企業領袖不希望在未來AI世界中,只有美國與中國兩個選項,而台灣正是他們的首選。他強調,台灣已提供全球絕大多數的AI伺服器與晶片,未來更應藉由此類專案的成功經驗,將軟體服務推向國際。
此次參與該項專案的金融機構專案成員,包括:中信金、中華郵政、台新新光金控、永豐金控、合作金庫銀行、兆豐金控、第一銀行、將來銀行、國泰金控、富邦金控、華南金控、凱基金控、彰化銀行、台灣銀行、台灣土地銀行與台灣企銀。