在今天看見明天
熱門: 0056 0050 輝達 00878 00940

偽造賴清德聲音宣稱「支持藍白合」!政治假新聞1.4萬來自中國帳號,分工炒作疑美論

偽造賴清德聲音宣稱「支持藍白合」!政治假新聞1.4萬來自中國帳號,分工炒作疑美論
左起台大新聞所助理教授蔡蕙如、政大新聞所教授劉昌德、台大新聞所所長洪貞玲、國防大學政戰學院教授傅文成。

劉芮菁

政治社會

攝影:劉芮菁

2024-04-12 18:22

去年總統大選,台灣首見政治人物的生成式AI假訊息。台大新聞所所長洪貞玲指出,儘管這些AI假訊息目前品質拙劣,容易破解,但已出現聲音、AI主播等各種型態,過去的查證技術逐漸不足以應付。此外,雖然這些AI假訊息對選舉影響不大,但許多炒作「疑美論」的誤導性論述,長期恐影響台灣社會對國家認同、國際地緣政治的公共討論,是需要特別注意之處。

台灣大學新聞所4月12日舉行論壇,由傳播學者分享2024總統大選期間出現的生成式AI假訊息攻擊型態,以及台灣媒體應對假訊息方式。

 

這項調查報告由台大新聞所所長洪貞玲、台大新聞所助理教授蔡蕙如、政大新聞所教授劉昌德、國防大學政戰學院教授傅文成共同完成,透過訪談與資料搜集,初步歸納成三種類型。第一是生成式AI的假訊息,第二是誤導式論述,第三種是協同行為。

 

去年大選台灣首見AI生成的「假音檔」 偽造柯文哲談話

 

在AI假訊息上,洪貞玲指出,台灣在去年8月第一次出現AI的假訊息是一則假錄音檔,偽造柯文哲的聲音批評賴清德。此後也出現過偽造賴清德聲音宣稱「支持藍白合」的假音檔,還有「習近平說三組候選人都是台獨」的假影片。

 

這些AI假影片、假音檔品質拙劣,也不符合台灣民眾對這些政治人物的認知,對選舉結果影響不大。但第二類的「誤導性論述」,恐長期會影響台灣社會對國家認同與全球地緣政治的公共討論。

 

這類誤導性論述包括「選務」、「政府政策」、「疑美論」、「兩岸議題」。研究中共資訊戰的智庫IORG更進一步歸納從中共官媒傳播到台灣的「疑美論」,細分為八種論述,例如「美國棄台論」、「美國是世界亂源」、「美國是假朋友」等。

 

1.4萬多個來自中共的帳號  跟隨台灣時事散步誤導性論述

 

而這些誤導性論述,則是透過協同行為來操作。傅文成說,研究團隊結合人工辨識與深度學習技術,搜羅網路上所有新聞、留言,分析上百萬則貼文的帳號行為、散播內容、Metadata。長期追蹤下,他們發現有超過1萬4千個帳號來自中共,也確定這些帳號來自境外勢力,而且是有組織、有目的地行動。

 

研究團隊也發現,這些協同團體(亦即一起行動的帳號群體)從2023年就開始炒作疑美論,從AIT擴建、藍白合、台美軍購到拜登競選,各種議題都可以操作。

 

傅文成說,從外交、內政、經濟、選舉議題都可以看到這些帳號的身影,他們很了解台灣社會在討論什麼,並能進一步操作。而且這些帳號每個月會有一個主題,分工來操作此論述。其中,有些論述主題一開始會出現在中國官媒,再散佈至台灣的網路世界。

 

傳統媒體跟不上AI假訊息  應對方式形同「用明朝的劍斬清朝的官」

 

面臨來自境外的輿論操作,台灣媒體又如何應對?研究團隊共訪談5家媒體集團,劉昌德坦言,現在台灣媒體集團應對假訊息的方式,形同「用明朝的劍斬清朝的官」。

 

「面對AI生成的假訊息,他們(媒體工作者)碰到非常大的困難,技術上相對是弱的。而且這些假訊息、誤導性論述的量非常大,單一人力無法一一應付。」劉昌德說。

 

在受訪的5家媒體集團中,公共媒體、國營媒體在應對假訊息態度上較為被動與保守,儘管在嚴謹的新聞產製流程下可以杜絕假訊息,或與查核組織合作、報導闢謠後的資訊,但受限於人力、資源與技術,面對網路平台、INE群組上氾濫的假訊息,難以發揮資訊守門人的角色,一一去查證。

 

比起傳統電視頻道   網路新聞問題更大

 

而商業媒體受到高度市場競爭與時間壓力,對傳播廣泛的資訊有不得不報導的壓力,更何況許多假訊息可能來自政治人物、網路KOL的討論,商業媒體有時必須跟進報導。

 

不過仔細觀察,電視台在「電視頻道」與「網站」上受到假訊息影響的程度還是不同。電視頻道受到廣電三法規範,以及新聞產製過程仍有內控機制與專業,其實假訊息問題不如外界想像糟。

 

但網路新聞的問題就非常嚴重。劉昌德說,以TVBS在總統大選期間報導假民調的案例,電視頻道的工作者基於TVBS自家的民調中心,知道「指傳媒」的民調結果非常違背常識,選擇不報導。但網路新聞卻不加查證地報導了這份假民調。

 

跨國平台壟斷下的數位環境   商業媒體面臨過度競爭

 

劉昌德也分享,他現在借調擔任華視總經理,可以理解電視台業者的處境,是傳統電視市場不斷萎縮、所有傳統媒體朝向數位轉型的趨勢下,數位的世界相對於電視,競爭更激烈、平台壟斷的問題也更嚴重。

 

劉昌德說,在整個數位化趨勢下,所有商業媒體不得不配合跨國平台過度競爭的遊戲規則,這不是個別業者可以扭轉的,如果台灣要避免重蹈開放有線電視後業者過度競爭的覆轍,政府應該要求這些跨國平台負起責任、獎勵優質的新聞,才能對抗AI假訊息。

 

劉昌德強調,對抗AI假訊息的工作非常花錢,也需要人力與技術,如果沒有改善數位平台帶來的傳播環境,商營媒體只能繼續隨波逐流下去。

 

學者:因應假訊息   更重要的是要求數位平台負起責任

 

洪貞玲也指出,假訊息背後更大的問題,是整個資訊環境生態的改變,且多數假訊息是透過數位平台散播。「如果我們對這些數位平台完全沒有要求與約束,公民團體只能疲於奔命地處理假訊息最末端的問題。」

 

洪貞玲強調,要對抗假訊息,光要求媒體及平台自律是不夠的,政府不只要做好資訊透明,也應思考類似歐盟《數位服務法》的立法,讓法律讓資訊環境更健全。

延伸閱讀

「五毛黨」錯假新聞再進化!中共複合式威脅結合AI,這4種手法都在製造「台灣內部矛盾」

2023-05-09

假新聞慣犯!匯流新聞網上月才敗訴 再度報導信義房屋不實新聞

2023-05-06

92難民被迫「全裸」渡河越境...希臘土耳其互轟文明之恥、假新聞!歐移民人權問題浮上檯面

2022-10-17

判斷假新聞的妙招:看見數字時, 你該做的 6 件事

2021-12-24

披薩店變戀童癖集團?假新聞害人實錄

2020-10-14