在今天看見明天
熱門: 鋼鐵股 富邦金 開發金 鴻海 升息

AI把阿湯哥36年「死敵」聲音找回來 竟會種族歧視? 清大師生與美加團隊 意外揭露醫學隱憂

AI把阿湯哥36年「死敵」聲音找回來 竟會種族歧視? 清大師生與美加團隊 意外揭露醫學隱憂
清大資工系助理教授郭柏志(中),帶領學生陳立晴(左)、王瑞恩(右),參與AI也會種族歧視的跨國研究。

劉煥彥

健康

清華大學提供、shutterstock

2022-06-09 17:15

人工智慧(AI)也會搞種族歧視?

國立清華大學資訊工程系助理教授郭柏志與美國麻省理工學院(MIT)、哈佛大學跨國研究發現,當採用先進的AI深度學習演算法,判讀X光片及電腦斷層掃描時,電腦竟能從這些醫學影像分辨出患者是黑人、白人或亞洲人,並影響判斷的準確率。

科學家迄今還不明白,AI如何辦到的。

郭柏志指出,醫界近年大量引進AI,研發醫療機器人、智慧診療、及醫學影像識別技術等,協助醫生更快速、準確地診斷,這本該是造福病患的好事。

但這項研究也揭露當中隱憂,提醒大家要注意醫療倫理問題,並消弭引進AI智慧產生的醫療不平等現象。

方基墨因喉癌無法發聲 AI新創作出最接近的人聲

 

好萊塢巨星湯姆克魯斯的鉅片《捍衛戰士:獨行俠》在美國及台灣都衝出超高票房,令不少觀眾窩心的是,36年前在第一集成為阿湯哥最大對手的方基墨(Val Kilmer),雖因2014年發現罹患喉癌後無法正常說話,卻在AI技術協助下,巧妙在本片中與阿湯哥對話,並演出大和解戲碼。

 

根據倫敦一家新創公司Sonantic技術長暨共同創辦人佛林(John Flynn)去年8月在公司官網的專文,好萊塢2020年找上他們,希望可以為方基墨量身訂做一個AI聲音模型。

 

 

該公司過去製作的電腦語音作品,應用場景從電玩遊戲、好萊塢的電影音效,到語言治療都有(例如對自閉症患者)。

 

「2014年方基墨為了治療喉癌,做了氣切(氣管切開術)手術後,影迷再也無法容易聽出他的聲音了」。

 

「我們從一開始的目標,就是要做出一個方基墨能引以為傲的聲音模型。我們很想把他的聲音找回來,讓他不論之後參與任何演出,都有個可以用到的新工具。」

 

清大、MIT、哈佛、史丹佛、多倫多大學等 四國團隊共同研究

 

然而,任何技術都可能是兩面刃,如今清大的跨國研究經驗再次證實了這點。

 

清大今(9)日說明,這項橫跨四國的跨國研究團隊,還包括史丹佛大學、多倫多大學等,與美國國家衛生院(NIH)合作,分析20萬名位病患的胸部、頸椎、手部X光及胸部電腦斷層掃描,研究成果最近登上了國際頂尖期刊《刺胳針數位健康》(Lancet Digital Health),並引起國際科學媒體的注意

 

美國食品藥物管理局(FDA)已核准醫院採用AI,輔助判讀X光片及電腦斷層掃描等醫學影像,AI的深度學習系統可幫助電腦針對大量資料自我訓練,並發展出辨識模型。

 

▲郭柏志助理教授與學生討論,AI如何從手掌X光派斷出人種。

 

人類無法從X光片判斷患者種族 AI能輕易做到、準確率達九成

 

研究團隊發現,人類放射師無法從X光片判斷出患者的種族,但AI卻能輕易做到,且準確率高達九成。

 

研究團隊中一位哈佛大學教授表示,當團隊成員告訴他AI可從X光片來判斷人種,他簡直不敢置信,認為這真的太瘋狂,一定是哪裡出錯了。

 

當愈來愈多證據浮現後,有團隊成員則直言感覺很「恐怖」。

 

證據逐漸浮現後 有團隊成員直言很「恐怖」

 

郭柏志表示,團隊本來猜想,AI可能是從骨質密度來判斷人種,因黑人的骨質密度高於白人,但後來發現並非如此。

 

他出示一張手掌的X光片,顯示AI判讀人種的重點聚焦在中指與食指的第三指節,「團隊裡也有20、30年經驗的放射科醫師,但我們實在想不出來AI是怎麼判讀出人種的」。

 

 

更令研究團隊憂心的是,AI的種族歧視也影響了醫學影像判讀的準確率

 

郭柏志表示,研究發現白人的醫學影像有問題,卻沒被檢查出來的誤判率,是17%,但黑人的誤判率卻高達28%,相差超過10個百分點。

 

醫學影像的誤判會進一步影響急診、醫療給付等資源分配。

 

「原以為人類才會歧視,電腦應該是最公平」

 

郭柏志指出,原以為人類才會歧視,電腦應該是最公平的,但沒想到電腦也默默地提取了人類沒教它的資訊,包括人種及性別等。

 

「如何去除歧視,讓各族群的醫學影像判讀都有一致的準確率,是我們下一階段要努力的目標。」

 

郭柏志帶領清華大學兩位資工系的大四學生王瑞恩、陳立晴參與了這項跨國研究。王瑞恩表示,參與這麼大規模的跨國研究,對大學部學生來說是很難得的機會,他在團隊中負責AI模型分析,獲益良多。

延伸閱讀

阿湯哥36年「死敵」因癌症失聲 《捍衛戰士2》催淚大和解發聲全靠AI! 為何連郭董都超重視人工智慧?

2022-06-02

清大學子揚名華爾街 從數學、IT跨足財務工程新利基 為台灣人寫下金融圈傳奇

2022-04-19

「120元基本心電圖,就可抓出未來1~3年死亡機率!」 長庚、榮總到台大都擁抱AI 不只急診救命 更能找出心臟危機

2022-01-12

台灣正邁向「生不如死」 如何才能成為AI大國及科技強權? 前Google台灣大當家提出這兩個解方

2021-11-29