最近，一批所謂的“邪典兒童視頻”，即肇始于YouTube網(wǎng)站的ElsaGate（艾莎門，又稱“艾莎公主門”）系列視頻，在很多社交網(wǎng)站和自媒體號(hào)上被傳得異常邪乎且煽情，甚至近乎于都市怪談，引發(fā)了很多家長(zhǎng)和網(wǎng)友的恐慌。

和兒童有關(guān)的問題向來容易煽動(dòng)起大家的情緒。畢竟，中國(guó)的家長(zhǎng)們?cè)跉v經(jīng)各種食品安全問題、幼兒園虐童事件后，心態(tài)已經(jīng)非常脆弱和敏感了。因此，沒有必要用一些明顯是陰謀論和夸張、恐嚇、扭曲的信息，給家長(zhǎng)制造不必要的恐慌。國(guó)內(nèi)兒童保護(hù)的現(xiàn)況存在著太多的不足和需要努力改進(jìn)的地方，在很多問題上并不能和國(guó)外的情況相提并論。與其拿著放大鏡在一驚一乍地審核、分析和腦補(bǔ)一些兒童視頻里面所謂的陰謀和洗腦成分，倒不如正視現(xiàn)實(shí)，把力量用在真正有用的地方。

這篇文章將按照時(shí)間順序，講述YouTube從2015年到2017年爆發(fā)ElsaGate的事件始末，這是一個(gè)足以給反烏托邦科幻劇集《黑鏡》提供好幾集素材的故事。如果你是一個(gè)恐慌的家長(zhǎng)，希望你讀完這篇文章后，能夠更為理性地對(duì)待這類事件。更重要的是，希望這篇文章，能幫助你更好地理解當(dāng)下，讓大家用更冷靜的方式和態(tài)度，來真正保護(hù)好孩子。

埋下定時(shí)炸彈的YouTube低齡兒童視頻熱潮

2015年2月，YouTube 宣布推出專門為兒童打造的YouTube Kids APP，根據(jù)最初的宣傳⑴，這款A(yù)pp可以從YouTube主站的海量視頻中，篩選出對(duì)孩子合適的內(nèi)容，讓父母可以放心地休息一會(huì)，不用再擔(dān)心自己的孩子瀏覽YouTube視頻時(shí)亂點(diǎn)而看到不好的內(nèi)容。此外，父母可以根據(jù)自己家孩子的情況，只播放事先選擇好的內(nèi)容，或者自定義移除掉不想被孩子搜索到的選項(xiàng)。YouTube的產(chǎn)品經(jīng)理非常自豪地稱，這是一大創(chuàng)舉。

然而，這款產(chǎn)品推出僅3個(gè)月，美國(guó)聯(lián)邦貿(mào)易委員會(huì)（Federal Trade Commission）就收到了投訴。致力于保護(hù)兒童免受各種商業(yè)活動(dòng)傷害的民間組織“讓童年遠(yuǎn)離商業(yè)”（Campaign for a Commercial-free Childhood）最先發(fā)現(xiàn)了YouTube Kids App上存在大量不適合兒童觀看的內(nèi)容，他們列舉了各種有問題的視頻，分類整理了一份清單，并且一直到今天都還在跟進(jìn)和更新⑵。早在ElsaGate爆發(fā)前兩年，負(fù)責(zé)人Josh Golin就在這份投訴信中指出了關(guān)鍵問題所在：即使YouTube Kids App號(hào)稱是為了保護(hù)兒童、創(chuàng)造更安全的環(huán)境，但幾乎可以預(yù)見，YouTube的算法很可能會(huì)被別有用心的人鉆空子。

2015年6月，在被聯(lián)邦貿(mào)易委員會(huì)找上門的差不多同時(shí)，YouTube上一檔叫做“Webs & Tiaras”（字面意思是“網(wǎng)和皇冠”）的低幼兒童視頻節(jié)目徹底火了。這款節(jié)目后來平均每周都能有超過1億的觀看量，據(jù)統(tǒng)計(jì)，光是2015年5月份，“Webs & Tiaras”就被觀看了5.4億次，一躍成為YouTube主站熱門排行第三名。

這檔專門針對(duì)學(xué)齡前兒童的節(jié)目沒有任何臺(tái)詞和對(duì)話，女性角色扮演《冰雪奇緣》中的艾莎公主，男性角色扮演蜘蛛俠，通過場(chǎng)景和動(dòng)作來表現(xiàn)日常生活故事。該節(jié)目在去年已被YouTube刪除，根據(jù)當(dāng)時(shí)的報(bào)道和討論來看，其中可能有個(gè)別地方遭到過質(zhì)疑，或被認(rèn)為不太適合特別小的孩子，而大部分內(nèi)容是尚可接受的。彼時(shí)誰也沒想到，這款看似無害的節(jié)目，會(huì)成為“艾莎公主門”丑聞的濫觴。

這檔節(jié)目一火，大量模仿者一窩蜂般出現(xiàn)，影響迅速擴(kuò)散。因?yàn)檫@類節(jié)目的制作成本極低，只需要幾套服裝（歐美國(guó)家能買到很便宜的萬圣節(jié)化妝服），手機(jī)即可拍攝編輯，人人都可以上傳；制作也沒有難度，節(jié)目連對(duì)話都沒有，只需要找點(diǎn)背景音樂，也不要求復(fù)雜的情節(jié)構(gòu)思；而且因?yàn)闆]有對(duì)話，也就沒有外語門檻，幾乎所有的學(xué)齡前小朋友都能看，受眾遍布全球。

于是，這些小成本、低難度的“超級(jí)英雄混搭”視頻，很快成為了YouTube上一種特定的視頻節(jié)目類型。由于針對(duì)的受眾極其年幼，制作者選擇的往往是小朋友中人氣最高的卡通角色：除了艾爾莎公主和蜘蛛俠，后來還加入了蝙蝠俠、忍者神龜、迪斯尼長(zhǎng)發(fā)公主、美國(guó)隊(duì)長(zhǎng)和美漫著名的大反派“小丑”等等，進(jìn)行各種混搭和改造。這些元素后來越變?cè)截S富，也越來越魚龍混雜：用黏土動(dòng)畫、玩具模型扮演超級(jí)英雄，在視頻中加入各種特效和罐頭笑聲，改編成情景對(duì)話劇……花樣迭出。

另一款初期和“Webs & Tiaras”高度相似的節(jié)目“Toy Monster”（玩具怪獸）就是用玩具而不是真人扮演超級(jí)英雄。制作人Eric（他拒絕透露全名）在接受采訪時(shí)表示，正好就是在2015年夏天，這類真人扮演超級(jí)英雄的低齡兒童節(jié)目非常火，他和一些朋友看到后覺得非常適合自己，后來就全職做這種節(jié)目了。而“Superhero Reality TV”（超級(jí)英雄真人秀）的制作家庭則買了幾套不同的服裝，三周內(nèi)做好了節(jié)目，發(fā)布才48小時(shí)就獲得了2000萬觀看量，按照父親Davey Orgill的原話，“錢就像水一樣流進(jìn)來。”

還有一些節(jié)目做得粗糙、幼稚，配色和視覺效果堪比中國(guó)的中老年表情包，但并無惡意。然而，當(dāng)視頻制作者的數(shù)量擴(kuò)大到了一定規(guī)模，自然就開始有惡意性質(zhì)的或者包含了少兒不宜內(nèi)容的視頻加入其中，比如尺度越來越大，人物穿得越來越性感，開始有裸露鏡頭，然后成人調(diào)情、親吻的情節(jié)也慢慢加入其中，一切在開始失控和被玩壞。“Webs & Tiaras”的制作人Phil Ranta對(duì)此并不意外，他說，看到有人能靠制作這樣的視頻年入百萬，自然就會(huì)吸引一些不擇手段的人。

大約在2016年前后，這種超級(jí)英雄混搭視頻熱潮里，越來越多地出現(xiàn)一些低級(jí)庸俗的詭異內(nèi)容，比如懷孕的艾莎公主，比如拉屎段子，或者加入了古怪又毛骨悚然的音效。有一個(gè)極其無聊的搞笑視頻，是懷孕的艾莎公主和蜘蛛俠，嘆氣然后放屁，崩出了一堆花花綠綠的大圓球——也許正好迎合了幼童所謂的口腔期對(duì)屎尿屁故事的低級(jí)愛好（如果你相信弗洛伊德理論的話），在YouTube上竟然達(dá)到百萬觀看量。

早在Elsagate這個(gè)詞在2017年夏天被造出來之前，就已經(jīng)有一些網(wǎng)友開始討論和深挖，這些兒童視頻到底是什么鬼。后來被多家媒體引用的YouTube頻道“h3h3Productions”博主就扒皮了其中一些兒童視頻節(jié)目（“Toy Family”和“Dennis Cee”），痛斥制作人的投機(jī)心態(tài)，并展示了視頻中一些大面積裸露和成人調(diào)情的場(chǎng)景，比如正在馬桶上的蜘蛛俠，一把將誤推門進(jìn)來的艾莎公主摁在地上吻下去，博主認(rèn)為這傳遞給了小孩子一種強(qiáng)奸情結(jié)。還有一些類似節(jié)目的視頻截圖，包括蜘蛛俠和躺在床上的艾莎公主撫摸調(diào)情，或者艾莎公主不小心走光被蜘蛛俠看到了裸體，這些橋段顯然超出了低幼兒童節(jié)目的尺度。⑶

不過，這種超級(jí)英雄混搭視頻，也僅僅只是眾多針對(duì)低幼兒童觀眾、依靠流量來盈利的類型視頻之一。幾乎同時(shí)火起來的“玩具開箱視頻”（toy unboxing videos）至今還在YouTube熱門觀看榜上稱霸。這種類型的視頻的常見內(nèi)容是一點(diǎn)點(diǎn)拆開一個(gè)封閉的驚喜禮物的紙盒包裝，或者是一個(gè)球形或蛋形的封閉體（塑料或者巧克力制作的都有可能），展示里面的玩具或驚喜。或許有人會(huì)覺得難以理解，但實(shí)際上這種開箱模式一直都是逗小孩的常見手段，在各種幼兒玩具設(shè)計(jì)中被廣泛運(yùn)用，在某種程度上，手心里藏個(gè)東西突然亮給小孩看，也算是同一種套路。

大多數(shù)人根本想不到，幾歲大的學(xué)齡前兒童是有多么癡迷于觀看這種視頻：一個(gè)視頻從幾分鐘到十幾分鐘不等，內(nèi)容在成年人看來極為冗長(zhǎng)單調(diào)，僅僅只是一層層拆開圣誕節(jié)禮物，從里面拿出玩具玩——這樣的視頻能有幾百萬點(diǎn)擊的驚人流量。幾十個(gè)驚喜彩蛋挨個(gè)敲開，掏出不同的玩具，這樣的視頻能有幾千萬的累積觀看量。

在玩具開箱視頻類型中，有一些特別火的節(jié)目，直接用真人兒童當(dāng)主角。其中最熱門的當(dāng)屬“萊恩的玩具評(píng)論”（Ryan’s Toys Review），這檔節(jié)目主要記錄的是五歲的小男孩萊恩從爸爸媽媽那里收到了什么驚喜，如何開心地尖叫，如何拆開包裝、拿出玩具玩。全世界的低齡小朋友，也包括各種大人，都在津津有味地觀看萊恩的節(jié)目，他有時(shí)候會(huì)睡在自己的夢(mèng)幻玩具城堡里，房間里堆滿了玩具，包括火車、樂高積木、迪斯尼娃娃等，父母經(jīng)常和他有一些簡(jiǎn)單的英文對(duì)話，他有時(shí)候也會(huì)為自己的玩具嗚哇嗚哇配音，告訴鏡頭自己玩耍時(shí)的心得。這款節(jié)目和“Webs & Tiaras”是同一時(shí)間開始做的，短短一年就已經(jīng)有250萬訂閱，40億觀看量，有時(shí)候一周的觀看量就能逼近2億。2016年3月時(shí)，據(jù)統(tǒng)計(jì)它已經(jīng)是YouTube的第二大熱門節(jié)目，后來則躍居全美國(guó)第一；傍靠YouTube走紅的小萊恩可謂是當(dāng)之無愧的超級(jí)明星兒童，不亞于任何一個(gè)影視童星。

在2016年YouTube的熱門視頻排行榜中，光是玩具開箱視頻類型就在前100名中占了足足五分之一。超級(jí)英雄混搭視頻和開箱視頻類型節(jié)目中，高人氣的還有The Superheros Life（超級(jí)英雄生活），Superfriends（超級(jí)朋友們），The Kids Club（兒童俱樂部），Toy and Funny Kids Surprise Eggs（玩具和有趣的兒童驚喜彩蛋），等等。

可以看到，Elsagate丑聞系列視頻混合了非常多這些熱門類型視頻的元素，模仿、試圖翻新或干脆直接抄襲的，不計(jì)其數(shù)。真人兒童的出現(xiàn)則讓問題更加復(fù)雜化，如何判斷其中是否存在有過界或者不適合兒童的情節(jié)，成為了爭(zhēng)議的焦點(diǎn)。例如后期卷入“愛莎公主門”的視頻節(jié)目中有一款高人氣節(jié)目，叫“玩具怪人（Toy Freak）”，是一名父親和他的兩個(gè)女兒出鏡的節(jié)目，最終被認(rèn)定包含了不適宜兒童的內(nèi)容而被YouTube刪除，這位父親還因此遭到警方的調(diào)查。

由于YouTube禁止13歲以下兒童注冊(cè)，所以這類視頻的受眾一般用的都是父母的賬號(hào)，很難明確搞清楚到底是多大的孩子在觀看這種視頻。Phil Ranta推測(cè)他的節(jié)目“Webs & Tiaras”觀眾年齡應(yīng)該在2到8歲之間，而發(fā)明Elsagate這個(gè)詞的Reddit眾網(wǎng)友認(rèn)為大約在2-5歲之間。——總之，觀眾的最低年齡只有2歲，這是目前一個(gè)較為普遍的判斷。

這種專門針對(duì)學(xué)齡前低幼兒童的視頻制作，是一門巨大的生意，這個(gè)產(chǎn)業(yè)正在伴隨著智能手機(jī)和互聯(lián)網(wǎng)的普及和擴(kuò)散而迅速崛起。作為全球最大的視頻網(wǎng)站巨頭，YouTube的流量?jī)?yōu)勢(shì)實(shí)在太明顯，被盯上也毫不奇怪。而YouTube Kids App的宣傳，正好讓很多父母放心地把手機(jī)和平板電腦交給了自己的寶寶們；這些還在學(xué)習(xí)走路和說話的兒童，竟然每周都能夠貢獻(xiàn)幾億的視頻觀看流量，誰都能意識(shí)到這其中蘊(yùn)含的巨大商機(jī)。

YouTube的“黑鏡”時(shí)刻

無數(shù)人討論的一個(gè)問題是：為什么YouTube上這些視頻會(huì)有如此畸高的觀看量？

“Webs & Tiaras”的制作者之一Phil Ranta的解釋是，低幼兒童觀看視頻的傾向有別于成年人，他們喜歡重復(fù)同一個(gè)內(nèi)容。根據(jù)Ranta的觀察，這些低幼觀眾喜歡把一個(gè)視頻翻來覆去看很多遍，他覺得有的視頻可能被同一個(gè)小孩看了50次，所以視頻節(jié)目的觀看量會(huì)看起來像是在“注水”。

雖然年幼的孩子確實(shí)喜歡纏著父母反復(fù)講同一個(gè)故事，但在每周過億的觀看流量數(shù)字面前，Ranta的說法并不足以說服所有人。一直都有網(wǎng)友試圖通過調(diào)查證明這些節(jié)目其實(shí)背后偷偷刷了數(shù)據(jù)，有時(shí)候視頻評(píng)論區(qū)的確也發(fā)現(xiàn)了很多毫無意義的字符，疑似機(jī)器人痕跡，但并沒有人弄清這是怎么做到的，目前而言也沒有足夠的證據(jù)能證明這個(gè)指責(zé)。

“Toy Monster”的制作人則表示，要靠水軍刷出這樣的數(shù)據(jù)是不可能的，YouTube肯定會(huì)發(fā)現(xiàn)。在2017年2月，他首次正面地回應(yīng)了這類質(zhì)疑⑷，他解釋說，大部分的觀看量實(shí)際上并不來自節(jié)目訂閱用戶，而來自YouTube的“推薦”，吸引了小孩子去點(diǎn)擊——至于評(píng)論區(qū)毫無意義的垃圾字符回復(fù)，他認(rèn)為是不識(shí)字的低幼兒童觀眾、亂戳屏幕而無意識(shí)發(fā)送的評(píng)論。這個(gè)推測(cè)遭致了他視頻發(fā)言下面的網(wǎng)友的嘲諷，不少人留言問“所以到底出了多少錢”。

但“Toy Monster”可能確實(shí)說中了一部分原因：YouTube的推薦算法，恐怕難逃其咎——早在2015年，“無讓童年遠(yuǎn)離商業(yè)童年運(yùn)動(dòng)”組織的投訴信中就指出，YouTube的算法很可能會(huì)被利用，并給兒童帶來嚴(yán)重的問題。聯(lián)邦貿(mào)易委員會(huì)也認(rèn)為，YouTube Kids App這款產(chǎn)品集中針對(duì)的是那些還在學(xué)習(xí)走路和說話的低幼兒童，實(shí)際上涉嫌用視頻誘導(dǎo)這些毫無自我保護(hù)能力和分辨力的幼童去點(diǎn)擊廣告從而騙取流量，這個(gè)流量等于收入的模式下毫無疑問存在很大隱患⑸。

那么，YouTube的算法到底是怎么回事呢？

這里簡(jiǎn)單介紹一下，目前視頻網(wǎng)站的推薦算法可以粗略分為兩類，一種是“和這個(gè)視頻類似的，還有這些推薦給您”，即基于視頻內(nèi)容的推薦。比如說，當(dāng)“Webs & Tiaras”火了之后，產(chǎn)生了無數(shù)人物穿著艾莎公主和蜘蛛俠服裝的、高度雷同的視頻，這些都屬于基于相似內(nèi)容的推薦。這意味著，只要是同一類型的視頻，不管質(zhì)量如何，只要數(shù)量夠多、網(wǎng)撒得夠大，得到的推薦機(jī)會(huì)就越多——如果出格一點(diǎn)，能紅的機(jī)會(huì)則更大。所以視頻制作者傾向于用最少的成本，做更多的視頻。

另一種推薦算法則是“喜歡這個(gè)視頻的人，同時(shí)還喜歡這些視頻”，也叫協(xié)同過濾，即基于用戶的行為偏好模式來進(jìn)行推薦。操縱這種算法的最常見手段，叫做“托攻擊”（Shilling Attack）。舉例來說，當(dāng)“Webs & Tiaras”火了，有人做了個(gè)叫“Mars & Lions”的山寨節(jié)目，然后讓機(jī)器人同時(shí)“喜歡”這兩檔節(jié)目，山寨版就可能被推薦給喜歡原版的觀眾。

形象地說，YouTube的產(chǎn)品等于在三歲小孩面前擺上了一條傳送帶，任何人都可以從另一頭把自制的食物放在傳送帶上——天知道哪些能吃。YouTube宣稱自己可以為孩子們篩選出安全的食物，直到有一天家長(zhǎng)發(fā)現(xiàn)，自己的娃塞了一嘴巴爛糊糊，大概還很開心，而YouTube算法根據(jù)吃爛糊糊的偏好或行為，把更多的爛糊糊擺在了你家娃的面前。

這一幕的反諷意味，可比新一季的《黑鏡》牛逼多了。然而當(dāng)往嘴里塞爛糊糊的是你自己的寶寶時(shí)，這一點(diǎn)都不好笑。

隨著在推特和facebook上標(biāo)記這種話題、互相提醒的父母和網(wǎng)友越來越多，兩年多前就埋下的這顆定時(shí)炸彈，終于要爆炸了。除了投訴，更多的家長(zhǎng)們撲在了這條傳送帶上游，開始進(jìn)行大型試吃，并把有問題的內(nèi)容給標(biāo)記和報(bào)告給YouTube。Facebook上還專門成立了一個(gè)群組，叫“YouTube家長(zhǎng)導(dǎo)航”（Parents Navigating YouTube），自愿檢索、標(biāo)記、報(bào)告這些YouTube上的問題視頻。

但是，只要嘗試過就會(huì)發(fā)現(xiàn)，想要在實(shí)踐中準(zhǔn)確定位哪些屬于Elsagate視頻，其實(shí)是非常困難的。由于嬰幼兒視覺、聽力還未發(fā)展完全，所以低幼教育節(jié)目和產(chǎn)品都普遍傾向于使用顏色鮮艷、線條簡(jiǎn)單的卡通風(fēng)格，輔以活潑歡快的配樂。雖然Elsagate的問題視頻的共同特征大約可以總結(jié)為：小成本制作，視覺效果粗劣，以超級(jí)英雄或迪斯尼動(dòng)畫人物為主角居多，背景是歡快的兒童音樂，但是和很多健康無害、中低成本的兒童啟蒙教育視頻節(jié)目比起來，區(qū)分度也并沒有那么大。而且，被稱之為Elsagate的系列視頻，實(shí)際混雜了好幾種完全不同的類型，既沒有l(wèi)ogo之類明確、統(tǒng)一的區(qū)分標(biāo)準(zhǔn)或標(biāo)志，也不是同一個(gè)生產(chǎn)源。

在交流討論這個(gè)問題時(shí)，豆瓣網(wǎng)友NullPointer說了一段很精辟的話：成為Elsagate的這些視頻背后的根源，與其說是YouTube的推薦算法，不如說是過于目標(biāo)導(dǎo)向的流量售賣的商業(yè)模式，這直接扭曲了YouTube的生態(tài)——上傳者中被機(jī)制獎(jiǎng)勵(lì)的是那些不擇手段的人。無利不起早，招來攻擊者的，其實(shí)是基于流量的運(yùn)營(yíng)策略。

要知道，平均每分鐘就能有400小時(shí)時(shí)長(zhǎng)的視頻上傳到Y(jié)ouTube，人們光是一天在YouTube上觀看的視頻總時(shí)長(zhǎng)，就有大約10億個(gè)小時(shí)。這些視頻組成了一個(gè)極為龐大的數(shù)字時(shí)代的怪獸，而人類已經(jīng)無法駕馭它們。“要在這些視頻中找出不適宜內(nèi)容，等于大海撈針”，YouTube兒童和家庭內(nèi)容的全球總負(fù)責(zé)人Malik Ducard如是說。他認(rèn)為這個(gè)問題難以徹底解決，由于機(jī)器學(xué)習(xí)算法有待改進(jìn)，又缺少人工篩選監(jiān)控，最終則只能依靠父母來為孩子把關(guān)。

一名員工在接受Polygon采訪時(shí)透露，其實(shí)YouTube Kids只有千分之五的內(nèi)容會(huì)被認(rèn)定為是不適宜（disturbing）或違反公司政策，同時(shí)，一旦有內(nèi)容遭到舉報(bào)，限于言論自由原則，公司在刪除內(nèi)容或整個(gè)節(jié)目時(shí)，必須非常、非常小心。但他也承認(rèn)，盡管算法一直都在改進(jìn)和提高，他們?nèi)匀粯O其依賴這些父母來充當(dāng)志愿者，報(bào)告哪些視頻和節(jié)目出了問題。

早在2015年受到聯(lián)邦貿(mào)易委員會(huì)指責(zé)時(shí)，YouTube Kids APP的官方團(tuán)隊(duì)就回應(yīng)稱將改進(jìn)產(chǎn)品；此后，一切并沒有發(fā)生什么實(shí)質(zhì)性的改變。YouTube作為世界上最大的視頻平臺(tái)，其Kids App被千萬用戶下載，兩年期間起碼帶來了幾百億的觀看量，坐擁?yè)u錢樹的 YouTube并無動(dòng)力下大力氣做出改動(dòng)，而是坐視丑聞不斷發(fā)酵。

直到2017年上半年，一些大廣告商決定停止在YouTube投放廣告——因?yàn)椴幌胱屪约旱膹V告和有爭(zhēng)議的視頻出現(xiàn)在一起，那時(shí)候，YouTube才真正開始驚慌，并采取行動(dòng)——某種程度上，他們真正在乎的是廣告商，而不是家長(zhǎng)們。2017年8月，YouTube終于宣布更改規(guī)則。特別是廣受爭(zhēng)議的“推薦”功能（ recommended videos），上傳者仍能在YouTube主站繼續(xù)生產(chǎn)這些內(nèi)容，但凡是被認(rèn)定帶有不合適兒童內(nèi)容的視頻、節(jié)目，都將被取消廣告分成。

2017年3月的新聞截圖：廣告商抵制YouTube，可能令Google損失百萬。

但這還遠(yuǎn)遠(yuǎn)不夠。“算法不能代替人工干預(yù)，當(dāng)你想要給孩子更安全的環(huán)境時(shí)，你需要的是人。”2017年年底，兩年前的投訴信署名人、“讓童年遠(yuǎn)離商業(yè)”組織的執(zhí)行總監(jiān)，Josh Golin在接受Polygon采訪時(shí)說道。

不管是多高明的算法和技術(shù)，終究是人造物，它會(huì)被人扭曲，被人濫用和攻擊。即使是算法的訓(xùn)練和改進(jìn)，也仍然需要人。YouTube的CEO，Susan Wojcicki，在2017年12月的官方博客中也承認(rèn)了這一點(diǎn)：“無論是刪除不適宜內(nèi)容，還是訓(xùn)練機(jī)器學(xué)習(xí)，人工審核者的參與都至關(guān)重要，因?yàn)橹挥腥耍拍芙Y(jié)合語境對(duì)內(nèi)容做出恰如其分的判斷。”他們決定在2018年增加更多的職位，加強(qiáng)對(duì)內(nèi)容的人工審核。而Josh Golin的看法要更尖銳和極端：“如果真正擔(dān)心的是孩子的安全問題，那整個(gè)YouTube Kids APP的前提就是錯(cuò)誤的。”在Josh Golin為代表的技術(shù)悲觀論者眼中，只要是以盈利為目的，兒童安全問題的隱患就永遠(yuǎn)存在。

文中注釋：

⑴、YouTube Kids App最早的宣傳：https://youtube.googleblog.com/2015/02/

⑵、“讓童年遠(yuǎn)離商業(yè)“組織的最早的投訴信，已被美國(guó)聯(lián)邦貿(mào)易委員會(huì)存檔，并持續(xù)更新，多家關(guān)于Elsagate的報(bào)道都引用了投訴信內(nèi)容：

http://www.commercialfreechildhood.org/sites/default/files/FTC_youtube_update.pdf

⑶、YouTube頻道“h3h3Productions”扒皮兒童視頻節(jié)目的鏈接：

https://www.youtube.com/watch?v=fBWf6Zvn0jQ

⑷、Toy Monster首次正面解釋為何觀看瀏覽量如此之大：

https://www.youtube.com/watch?v=qIknzuGDU2k

⑸、美國(guó)聯(lián)邦貿(mào)易委員會(huì)對(duì)YouTube Kids App的最早批評(píng)：

https://www.mercurynews.com/2015/04/06/ftc-asked-to-investigate-youtube-kids-for-deceptively-targeting-toddlers-with-ads/

⑹、YouTube CEO于2017年12月發(fā)布的官方博客內(nèi)容：

https://youtube.googleblog.com/2017/12/expanding-our-work-against-abuse-of-our.html