YouTube原本單純的初衷為「讓每個人都能上傳影片並從中獲利」,但平台在快速成長的過程中,早已超出公司掌握。
從單親爸爸葛瑞格.齊森的爆紅頻道到失控的兒童影片內容,一場名為「艾莎門」的風暴揭露了:公司已無法控制它所創造的巨獸。
葛瑞格.齊森(Greg Chism)迷上了YouTube。剛發現這個平台時,他的境況並不太好。他是住在伊利諾州南部、獨力撫養兩個女兒的單親爸爸,多年都以草坪養護工作維生,直到快40歲時,他接觸到YouTube及一些關於人生轉變的勵志影片,決定去矯正牙齒並開始鍛鍊身體。
他也用破舊的摩托羅拉手機拍攝草坪養護的相關影片,開啟了專談草坪的YouTube頻道,找到同樣熱衷此道的粉絲。他戲稱這些粉絲為「怪胎」。
齊森開始上傳家庭影片,是兩個女兒在家裡開箱玩具的片段。他實驗不同的影片標題、標籤與內容,為頻道取名「玩具怪胎」(Toy Freaks)。
他在2015年表示:「我發現其中的規律,有些影片的觀看次數特別高。這種創作真的很有成就感,而且也能帶來金錢回饋。YouTube簡直太神了。」到了2017年,「玩具怪胎」達到極高的成就,頻道衝上YouTube瀏覽量排行榜第68名,還晉升最高等級的廣告分潤,收入相當可觀。
齊森順利搬出拖車公園,住進房屋裡。他不斷依循YouTube的規律,在影片中和女兒們一起叼著奶嘴,拍攝所謂的「壞寶寶」劇情,賺到驚人的流量。他還和孩子們一起吃超大糖果、開玩笑捉弄她們。
YouTube送他一面金色播放按鈕獎牌,作為頻道訂閱數突破100萬的獎勵。在此之前,從來沒有人抱怨齊森的影片—直到後來,一夕間所有人都對他的影片怨聲連連。
無人掌控的黑箱世界
自從YouTube放棄以可口型、營養型等標籤分類兒童影片之後,兒童取向的內容已演化成怪異且超越任何分類的型態。
「織夢綺譚」頻道的營運據點在加拿大魁北克市,演員們穿著廉價的萬聖節服裝,在一條灰暗的連棟屋街道上,表演滑稽復古的雜耍動作。他們幾乎不開口就能完成拍攝,內容通常是以艾莎為受難女主角、蜘蛛人英雄救美的愛情劇。
由於《冰雪奇緣》和超級英雄系列電影並未在YouTube上架,家長或孩子只要在搜尋列輸入「艾莎」或「蜘蛛人」,就會一次又一次看到「織夢綺譚」頻道那些高人氣影片。
2017年,與該頻道簽約的多頻道聯播網Studio71主管蘭塔在受訪時表示:「有些影片,可能同個小孩就重複看了50遍。這對衝高流量真的很有幫助。」
然「織夢綺譚」頻道古怪到了極點:影片裡的艾莎有時會裝上一雙「雞爪腳」,有時還會裝上「腦袋肚肚」。但身為前單口喜劇演員,蘭塔堅持這個頻道「其實沒什麼大礙」,就像給孩子們看的無聲老電影或角色扮演劇場,情節簡單易懂,角色被關進監獄之類的情節也頗受歡迎。
同一年 YouTube的熱門關鍵字裡有個「壞寶寶」的詞條,範圍含括單純的幼童動畫影片,也有噁心的真人情節,顯示小孩暴飲暴食、嘔吐等畫面。
「玩具怪胎」頻道正是後者的代表:齊森讓自己兩個學齡期的女兒裝扮成嬰兒,再惡整她們。即使如此,「玩具怪胎」頻道的排名仍在YouTube上節節攀升。
不久後,幾乎所有觀看到這些怪影片的人都認知到事情在不斷惡化,唯獨YouTube渾然不覺。
該如何制定規範?
「玩具怪胎」頻道並非唯一的問題。齊森的成功讓更多頻道爭相仿效(公司稱之為「複製式內容」)。有些人還會以「關鍵字堆砌」這種亂槍打鳥的方式,幫影片加上各種不相關的標籤給系統看,導致系統誤判而獲得更高流量—「壞寶寶」就是常被人當作關鍵字與標籤的字詞。
其實YouTube早有規範,嚴禁兒童剝削或性癖相關內容。上述影片雖未直接違規,但明顯踩在界線邊緣。
多年前,YouTube就一再告知家長,應該讓孩子使用YouTube Kids,但從YouTube Kids的流量就能看出,大眾並沒有採納這個建議,還是有無數的孩子在無人監督的情況下,直接上YouTube.com看影片。
Google習慣使用高精確率與高召回率的人工智慧模型,如今YouTube要處理兒童取向的怪異內容時,卻發現制定規範並不容易。
蜘蛛人和艾莎的角色扮演,跟一般在動漫展上出沒的角色扮演者,又有什麼差別?這些差異連人類都分不清了,更何況是機器?
「玩具怪胎」頻道又該如何分類?難道家庭就不能上傳自家玩樂的影片嗎?
英國作家詹姆斯.布萊德(James Bridle)原本專寫無人機與戰爭議題,這次卻將目光轉向兒童領域。他在部落格平台Medium發表大長文,標題下得十分聳動:〈網路上出了問題〉。
他先貼出驚喜蛋開箱、兒歌、粉紅豬小妹仿作等影片的截圖,都是些動輒累積數百億次觀看的分類。接著,他貼出手指家庭類影片的圖片。YouTube上「至少有1,700萬個不同的版本」,許多截圖看起來像是機器生成,但也難以下定論。布萊德寫道:「這,正是演算法發掘時代的內容生產方式—就算你是人,也不得不去模仿機器。」越往下捲動,文章貼出的圖片就益發詭異:一張張色彩繽紛的縮圖,卻有著令人不安的高度雷同。
多數人(家中有幼兒的家長,甚至是Google員工)都不知道世上竟有這樣的內容。時常進行網路輿情觀測的YouTube內部,員工們很快就注意到Twitter上圍繞布萊德那篇文章的討論正急速升溫。
媒體記者紛紛順藤摸瓜,找上「玩具怪胎」頻道中的爸爸齊森。倫敦《泰晤士報》刊登廣告商憤而從齊森影片撤資的新聞,標題直呼「YouTube上的兒虐」,副標更指出:「Google靠駭人的影片賺進數百萬」。
大規模清掃
《泰晤士報》刊登出報導後,YouTube考慮採取前所未見的做法:立即停用YouTube上所有品牌廣告,直到這些兒童內容的問題徹底解決為止,就算因此損失數十億美元也在所不惜。
最終,YouTube高層投票通過另一項同樣激進的方案。過去一向對爭議影片相當寬容,甚至極力捍衛這些影片的YouTube,這次一口氣刪掉數十萬支影片。
經營家庭Vlog的艾波(April)與戴維.奧吉爾(Davey Orgill)也在YouTube上開設超級英雄惡搞頻道,與孩子們一同演出換裝秀,訂閱數突破200萬。
結果,他們在8月停止發布這類影片。艾波在影片中告訴觀眾:「這類影片變得越來越詭異了。好噁。」不過他們還是繼續維護著頻道,繼續靠該頻道吸引觀眾與營利。11月23日,YouTube才剛核准他們的兩支影片可投放廣告,隔天整個頻道便被移除了。
奧吉爾對記者表示:「YouTube什麼都怪在拍影片的人頭上,可是他們的演算法之前整整一年都在推這些內容。是YouTube自己養出這頭怪獸。」不久後,網友將這場波及超級英雄與艾莎等角色的風波,連同YouTube的大規模刪片行動,冠上一個稱呼—艾莎門(Elsagate)。
YouTube公布了好幾項承諾,包括從移除不恰當家庭娛樂影片中的廣告、封鎖針對兒童的猥褻留言、諮詢更多專家,並發布製作「家庭友善內容」的創作者指南,以及「運用科技加快處置問題」等措施。
沃西基在12月的部落格文章中提到,YouTube上的大量影片是如何「啟發」了她的孩子。她寫道:「但我也看見YouTube『開放』背後更令人憂心的一面。
我看到,有些老鼠屎利用我們的開放環境,扭曲誤導、騷擾甚至傷害他人。」她承諾要擴充Google內容審查團隊的規模,讓專門處理此類問題的團隊在隔年突破1萬人—這可是相當醒目的數字。
更多精彩內容請見《影音巨獸YouTube》