YouTube艾莎門事件—孩子們看的是卡通，還是失控演算法下的黑箱世界？

葛瑞格．齊森（Greg Chism）迷上了YouTube。剛發現這個平台時，他的境況並不太好。他是住在伊利諾州南部、獨力撫養兩個女兒的單親爸爸，多年都以草坪養護工作維生，直到快40歲時，他接觸到YouTube及一些關於人生轉變的勵志影片，決定去矯正牙齒並開始鍛鍊身體。

他也用破舊的摩托羅拉手機拍攝草坪養護的相關影片，開啟了專談草坪的YouTube頻道，找到同樣熱衷此道的粉絲。他戲稱這些粉絲為「怪胎」。齊森開始上傳家庭影片，是兩個女兒在家裡開箱玩具的片段。他實驗不同的影片標題、標籤與內容，為頻道取名「玩具怪胎」（Toy Freaks）。

他在2015年表示：「我發現其中的規律，有些影片的觀看次數特別高。這種創作真的很有成就感，而且也能帶來金錢回饋。YouTube簡直太神了。」到了2017年，「玩具怪胎」達到極高的成就，頻道衝上YouTube瀏覽量排行榜第68名，還晉升最高等級的廣告分潤，收入相當可觀。

齊森順利搬出拖車公園，住進房屋裡。他不斷依循YouTube的規律，在影片中和女兒們一起叼著奶嘴，拍攝所謂的「壞寶寶」劇情，賺到驚人的流量。他還和孩子們一起吃超大糖果、開玩笑捉弄她們。
 

YouTube送他一面金色播放按鈕獎牌，作為頻道訂閱數突破100萬的獎勵。在此之前，從來沒有人抱怨齊森的影片—直到後來，一夕間所有人都對他的影片怨聲連連。

無人掌控的黑箱世界
 

自從YouTube放棄以可口型、營養型等標籤分類兒童影片之後，兒童取向的內容已演化成怪異且超越任何分類的型態。

「織夢綺譚」頻道的營運據點在加拿大魁北克市，演員們穿著廉價的萬聖節服裝，在一條灰暗的連棟屋街道上，表演滑稽復古的雜耍動作。他們幾乎不開口就能完成拍攝，內容通常是以艾莎為受難女主角、蜘蛛人英雄救美的愛情劇。

由於《冰雪奇緣》和超級英雄系列電影並未在YouTube上架，家長或孩子只要在搜尋列輸入「艾莎」或「蜘蛛人」，就會一次又一次看到「織夢綺譚」頻道那些高人氣影片。

2017年，與該頻道簽約的多頻道聯播網Studio71主管蘭塔在受訪時表示：「有些影片，可能同個小孩就重複看了50遍。這對衝高流量真的很有幫助。」

然「織夢綺譚」頻道古怪到了極點：影片裡的艾莎有時會裝上一雙「雞爪腳」，有時還會裝上「腦袋肚肚」。但身為前單口喜劇演員，蘭塔堅持這個頻道「其實沒什麼大礙」，就像給孩子們看的無聲老電影或角色扮演劇場，情節簡單易懂，角色被關進監獄之類的情節也頗受歡迎。

同一年 YouTube的熱門關鍵字裡有個「壞寶寶」的詞條，範圍含括單純的幼童動畫影片，也有噁心的真人情節，顯示小孩暴飲暴食、嘔吐等畫面。

「玩具怪胎」頻道正是後者的代表：齊森讓自己兩個學齡期的女兒裝扮成嬰兒，再惡整她們。即使如此，「玩具怪胎」頻道的排名仍在YouTube上節節攀升。

不久後，幾乎所有觀看到這些怪影片的人都認知到事情在不斷惡化，唯獨YouTube渾然不覺。

該如何制定規範？

「玩具怪胎」頻道並非唯一的問題。齊森的成功讓更多頻道爭相仿效（公司稱之為「複製式內容」）。有些人還會以「關鍵字堆砌」這種亂槍打鳥的方式，幫影片加上各種不相關的標籤給系統看，導致系統誤判而獲得更高流量—「壞寶寶」就是常被人當作關鍵字與標籤的字詞。

其實YouTube早有規範，嚴禁兒童剝削或性癖相關內容。上述影片雖未直接違規，但明顯踩在界線邊緣。

多年前，YouTube就一再告知家長，應該讓孩子使用YouTube Kids，但從YouTube Kids的流量就能看出，大眾並沒有採納這個建議，還是有無數的孩子在無人監督的情況下，直接上YouTube.com看影片。

Google習慣使用高精確率與高召回率的人工智慧模型，如今YouTube要處理兒童取向的怪異內容時，卻發現制定規範並不容易。

蜘蛛人和艾莎的角色扮演，跟一般在動漫展上出沒的角色扮演者，又有什麼差別？這些差異連人類都分不清了，更何況是機器？

「玩具怪胎」頻道又該如何分類？難道家庭就不能上傳自家玩樂的影片嗎？

英國作家詹姆斯．布萊德（James Bridle）原本專寫無人機與戰爭議題，這次卻將目光轉向兒童領域。他在部落格平台Medium發表大長文，標題下得十分聳動：〈網路上出了問題〉。

他先貼出驚喜蛋開箱、兒歌、粉紅豬小妹仿作等影片的截圖，都是些動輒累積數百億次觀看的分類。接著，他貼出手指家庭類影片的圖片。YouTube上「至少有1,700萬個不同的版本」，許多截圖看起來像是機器生成，但也難以下定論。布萊德寫道：「這，正是演算法發掘時代的內容生產方式—就算你是人，也不得不去模仿機器。」越往下捲動，文章貼出的圖片就益發詭異：一張張色彩繽紛的縮圖，卻有著令人不安的高度雷同。

多數人（家中有幼兒的家長，甚至是Google員工）都不知道世上竟有這樣的內容。時常進行網路輿情觀測的YouTube內部，員工們很快就注意到Twitter上圍繞布萊德那篇文章的討論正急速升溫。

媒體記者紛紛順藤摸瓜，找上「玩具怪胎」頻道中的爸爸齊森。倫敦《泰晤士報》刊登廣告商憤而從齊森影片撤資的新聞，標題直呼「YouTube上的兒虐」，副標更指出：「Google靠駭人的影片賺進數百萬」。

大規模清掃

《泰晤士報》刊登出報導後，YouTube考慮採取前所未見的做法：立即停用YouTube上所有品牌廣告，直到這些兒童內容的問題徹底解決為止，就算因此損失數十億美元也在所不惜。

最終，YouTube高層投票通過另一項同樣激進的方案。過去一向對爭議影片相當寬容，甚至極力捍衛這些影片的YouTube，這次一口氣刪掉數十萬支影片。

經營家庭Vlog的艾波（April）與戴維．奧吉爾（Davey Orgill）也在YouTube上開設超級英雄惡搞頻道，與孩子們一同演出換裝秀，訂閱數突破200萬。

結果，他們在8月停止發布這類影片。艾波在影片中告訴觀眾：「這類影片變得越來越詭異了。好噁。」不過他們還是繼續維護著頻道，繼續靠該頻道吸引觀眾與營利。11月23日，YouTube才剛核准他們的兩支影片可投放廣告，隔天整個頻道便被移除了。

奧吉爾對記者表示：「YouTube什麼都怪在拍影片的人頭上，可是他們的演算法之前整整一年都在推這些內容。是YouTube自己養出這頭怪獸。」不久後，網友將這場波及超級英雄與艾莎等角色的風波，連同YouTube的大規模刪片行動，冠上一個稱呼—艾莎門（Elsagate）。

YouTube公布了好幾項承諾，包括從移除不恰當家庭娛樂影片中的廣告、封鎖針對兒童的猥褻留言、諮詢更多專家，並發布製作「家庭友善內容」的創作者指南，以及「運用科技加快處置問題」等措施。

沃西基在12月的部落格文章中提到，YouTube上的大量影片是如何「啟發」了她的孩子。她寫道：「但我也看見YouTube『開放』背後更令人憂心的一面。

我看到，有些老鼠屎利用我們的開放環境，扭曲誤導、騷擾甚至傷害他人。」她承諾要擴充Google內容審查團隊的規模，讓專門處理此類問題的團隊在隔年突破1萬人—這可是相當醒目的數字。

📌更多精彩內容請見今周刊官網《影音巨獸YouTube》

📌我想買書