在今天看見明天
熱門: 投資 股票 高股息 金融股 存股

YouTube艾莎門事件—孩子們看的是卡通,還是失控演算法下的黑箱世界?

YouTube艾莎門事件—孩子們看的是卡通,還是失控演算法下的黑箱世界?

2025-06-25 16:46

YouTube原本單純的初衷為「讓每個人都能上傳影片並從中獲利」,但平台在快速成長的過程中,早已超出公司掌握。

從單親爸爸葛瑞格.齊森的爆紅頻道到失控的兒童影片內容,一場名為「艾莎門」的風暴揭露了:公司已無法控制它所創造的巨獸。

葛瑞格.齊森(Greg Chism)迷上了YouTube。剛發現這個平台時,他的境況並不太好。他是住在伊利諾州南部、獨力撫養兩個女兒的單親爸爸,多年都以草坪養護工作維生,直到快40歲時,他接觸到YouTube及一些關於人生轉變的勵志影片,決定去矯正牙齒並開始鍛鍊身體。

他也用破舊的摩托羅拉手機拍攝草坪養護的相關影片,開啟了專談草坪的YouTube頻道,找到同樣熱衷此道的粉絲。他戲稱這些粉絲為「怪胎」。
 

齊森開始上傳家庭影片,是兩個女兒在家裡開箱玩具的片段。他實驗不同的影片標題、標籤與內容,為頻道取名「玩具怪胎」(Toy Freaks)。

他在2015年表示:「我發現其中的規律,有些影片的觀看次數特別高。這種創作真的很有成就感,而且也能帶來金錢回饋。YouTube簡直太神了。」到了2017年,「玩具怪胎」達到極高的成就,頻道衝上YouTube瀏覽量排行榜第68名,還晉升最高等級的廣告分潤,收入相當可觀。


齊森順利搬出拖車公園,住進房屋裡。他不斷依循YouTube的規律,在影片中和女兒們一起叼著奶嘴,拍攝所謂的「壞寶寶」劇情,賺到驚人的流量。他還和孩子們一起吃超大糖果、開玩笑捉弄她們。
 

YouTube送他一面金色播放按鈕獎牌,作為頻道訂閱數突破100萬的獎勵。在此之前,從來沒有人抱怨齊森的影片—直到後來,一夕間所有人都對他的影片怨聲連連。

 

無人掌控的黑箱世界
 

自從YouTube放棄以可口型、營養型等標籤分類兒童影片之後,兒童取向的內容已演化成怪異且超越任何分類的型態。

 

「織夢綺譚」頻道的營運據點在加拿大魁北克市,演員們穿著廉價的萬聖節服裝,在一條灰暗的連棟屋街道上,表演滑稽復古的雜耍動作。他們幾乎不開口就能完成拍攝,內容通常是以艾莎為受難女主角、蜘蛛人英雄救美的愛情劇。

 

由於《冰雪奇緣》和超級英雄系列電影並未在YouTube上架,家長或孩子只要在搜尋列輸入「艾莎」或「蜘蛛人」,就會一次又一次看到「織夢綺譚」頻道那些高人氣影片。

2017年,與該頻道簽約的多頻道聯播網Studio71主管蘭塔在受訪時表示:「有些影片,可能同個小孩就重複看了50遍。這對衝高流量真的很有幫助。」


然「織夢綺譚」頻道古怪到了極點:影片裡的艾莎有時會裝上一雙「雞爪腳」,有時還會裝上「腦袋肚肚」。但身為前單口喜劇演員,蘭塔堅持這個頻道「其實沒什麼大礙」,就像給孩子們看的無聲老電影或角色扮演劇場,情節簡單易懂,角色被關進監獄之類的情節也頗受歡迎。

 

同一年 YouTube的熱門關鍵字裡有個「壞寶寶」的詞條,範圍含括單純的幼童動畫影片,也有噁心的真人情節,顯示小孩暴飲暴食、嘔吐等畫面。

「玩具怪胎」頻道正是後者的代表:齊森讓自己兩個學齡期的女兒裝扮成嬰兒,再惡整她們。即使如此,「玩具怪胎」頻道的排名仍在YouTube上節節攀升。


不久後,幾乎所有觀看到這些怪影片的人都認知到事情在不斷惡化,唯獨YouTube渾然不覺。

 

該如何制定規範?

 

「玩具怪胎」頻道並非唯一的問題。齊森的成功讓更多頻道爭相仿效(公司稱之為「複製式內容」)。有些人還會以「關鍵字堆砌」這種亂槍打鳥的方式,幫影片加上各種不相關的標籤給系統看,導致系統誤判而獲得更高流量—「壞寶寶」就是常被人當作關鍵字與標籤的字詞。

 

其實YouTube早有規範,嚴禁兒童剝削或性癖相關內容。上述影片雖未直接違規,但明顯踩在界線邊緣。

多年前,YouTube就一再告知家長,應該讓孩子使用YouTube Kids,但從YouTube Kids的流量就能看出,大眾並沒有採納這個建議,還是有無數的孩子在無人監督的情況下,直接上YouTube.com看影片。


Google習慣使用高精確率與高召回率的人工智慧模型,如今YouTube要處理兒童取向的怪異內容時,卻發現制定規範並不容易。

 

蜘蛛人和艾莎的角色扮演,跟一般在動漫展上出沒的角色扮演者,又有什麼差別?這些差異連人類都分不清了,更何況是機器?

「玩具怪胎」頻道又該如何分類?難道家庭就不能上傳自家玩樂的影片嗎?

 

英國作家詹姆斯.布萊德(James Bridle)原本專寫無人機與戰爭議題,這次卻將目光轉向兒童領域。他在部落格平台Medium發表大長文,標題下得十分聳動:〈網路上出了問題〉。

他先貼出驚喜蛋開箱、兒歌、粉紅豬小妹仿作等影片的截圖,都是些動輒累積數百億次觀看的分類。接著,他貼出手指家庭類影片的圖片。YouTube上「至少有1,700萬個不同的版本」,許多截圖看起來像是機器生成,但也難以下定論。布萊德寫道:「這,正是演算法發掘時代的內容生產方式—就算你是人,也不得不去模仿機器。」越往下捲動,文章貼出的圖片就益發詭異:一張張色彩繽紛的縮圖,卻有著令人不安的高度雷同。

 

多數人(家中有幼兒的家長,甚至是Google員工)都不知道世上竟有這樣的內容。時常進行網路輿情觀測的YouTube內部,員工們很快就注意到Twitter上圍繞布萊德那篇文章的討論正急速升溫。


媒體記者紛紛順藤摸瓜,找上「玩具怪胎」頻道中的爸爸齊森。倫敦《泰晤士報》刊登廣告商憤而從齊森影片撤資的新聞,標題直呼「YouTube上的兒虐」,副標更指出:「Google靠駭人的影片賺進數百萬」。

 

大規模清掃


《泰晤士報》刊登出報導後,YouTube考慮採取前所未見的做法:立即停用YouTube上所有品牌廣告,直到這些兒童內容的問題徹底解決為止,就算因此損失數十億美元也在所不惜。

 

最終,YouTube高層投票通過另一項同樣激進的方案。過去一向對爭議影片相當寬容,甚至極力捍衛這些影片的YouTube,這次一口氣刪掉數十萬支影片。

 

經營家庭Vlog的艾波(April)與戴維.奧吉爾(Davey Orgill)也在YouTube上開設超級英雄惡搞頻道,與孩子們一同演出換裝秀,訂閱數突破200萬。

結果,他們在8月停止發布這類影片。艾波在影片中告訴觀眾:「這類影片變得越來越詭異了。好噁。」不過他們還是繼續維護著頻道,繼續靠該頻道吸引觀眾與營利。11月23日,YouTube才剛核准他們的兩支影片可投放廣告,隔天整個頻道便被移除了。

 

奧吉爾對記者表示:「YouTube什麼都怪在拍影片的人頭上,可是他們的演算法之前整整一年都在推這些內容。是YouTube自己養出這頭怪獸。」不久後,網友將這場波及超級英雄與艾莎等角色的風波,連同YouTube的大規模刪片行動,冠上一個稱呼—艾莎門(Elsagate)。

 

YouTube公布了好幾項承諾,包括從移除不恰當家庭娛樂影片中的廣告、封鎖針對兒童的猥褻留言、諮詢更多專家,並發布製作「家庭友善內容」的創作者指南,以及「運用科技加快處置問題」等措施。

沃西基在12月的部落格文章中提到,YouTube上的大量影片是如何「啟發」了她的孩子。她寫道:「但我也看見YouTube『開放』背後更令人憂心的一面。

我看到,有些老鼠屎利用我們的開放環境,扭曲誤導、騷擾甚至傷害他人。」她承諾要擴充Google內容審查團隊的規模,讓專門處理此類問題的團隊在隔年突破1萬人—這可是相當醒目的數字。

更多精彩內容請見影音巨獸YouTube

延伸閱讀
延畢2年、靠當沖月入逾30萬,出社會決定不當上班族!少年股神每天寫「航海日誌」做功課
延畢2年、靠當沖月入逾30萬,出社會決定不當上班族!少年股神每天寫「航海日誌」做功課

2023-05-05

30歲少年股神把50萬翻到數千萬,給新手投資3堂課:戒掉「我還沒輸」心態,才不會愈錯愈大
30歲少年股神把50萬翻到數千萬,給新手投資3堂課:戒掉「我還沒輸」心態,才不會愈錯愈大

2023-01-11

他短短1年海賺2億,3個月竟輸光…為何「少年股神」去年死一片?股海老手揭1失敗原因
他短短1年海賺2億,3個月竟輸光…為何「少年股神」去年死一片?股海老手揭1失敗原因

2023-01-06

高中成績吊車尾、大學一度落榜…少年股神靠當沖短線練功6年,50萬滾出千萬獲利!
高中成績吊車尾、大學一度落榜…少年股神靠當沖短線練功6年,50萬滾出千萬獲利!

2023-04-28

他炒股3年把百萬本金翻成2億、一夕輸光負債3千萬,最後去跑熊貓外送的「少年股神啟示錄」
他炒股3年把百萬本金翻成2億、一夕輸光負債3千萬,最後去跑熊貓外送的「少年股神啟示錄」

2023-08-30