近來，兒童動漫視頻領(lǐng)域一度成為傳播不良信息的重災區(qū)。據(jù)監(jiān)管部門通報，自2017年底開始，一些以唐老鴨、蜘蛛俠等經(jīng)典卡通角色為主角，經(jīng)過“二次創(chuàng)作”的“邪典”動畫片，已通過互聯(lián)網(wǎng)流入國內(nèi)多家視頻網(wǎng)站。
通常，“邪典”動畫片隱藏于“親子”、“早教”等的合法外衣之下，實則傳播暴力、涉黃等諸多兒童不宜的內(nèi)容。
2018年2月6日，全國“掃黃打非”辦公室組織騰訊、快手等16家互聯(lián)網(wǎng)公司，就網(wǎng)絡(luò)有害出版物特征值共享數(shù)據(jù)庫召開年度第一次工作會議。
會議圍繞處置清理兒童“邪典”動畫視頻等方面工作，對各公司落實企業(yè)主體責任，特別是中小學在寒假和春節(jié)期間加強自律清查提出要求，一場監(jiān)管風暴來臨。
文化“洋垃圾”頻頻入境
根據(jù)通報，廣受社會關(guān)注的廣州胤鈞貿(mào)易有限公司制作傳播兒童“邪典”動畫視頻案件，已交由廣州市天河區(qū)公安機關(guān)刑事立案查處。
自此，由境外傳入并經(jīng)“漢化”后大范圍流入中國，毒害中國兒童的“兒童邪典片”呈現(xiàn)階段性打擊成果，彰顯出政法執(zhí)法部門對此類視頻的“零容忍”態(tài)度。
2017年底，西方主流媒體曝光“艾爾莎門”事件（“邪典”視頻中的主角為《冰雪奇緣》女主角艾爾莎公主而得名），迅速引發(fā)西方社會激烈的爭論。
在視頻領(lǐng)域，如何鑒別并審核此種可能騙過機器算法甚至人工審核的視頻，一時成為爭論的焦點。
此類問題并非YouTube獨自面對，中國互聯(lián)網(wǎng)領(lǐng)域面臨更多、更棘手的相關(guān)問題。數(shù)據(jù)顯示，中國正以7.51億網(wǎng)民數(shù)位居世界第一，普及率達55.8%，美國以近3億網(wǎng)民人數(shù)居第二。
更值得重視的是，在硬件（智能手機）和軟件（4G網(wǎng)絡(luò)、WIFI）的發(fā)展及普及下，中國移動互聯(lián)網(wǎng)已進入“井噴式”發(fā)展階段，甚至在農(nóng)村地區(qū)，兒童用手機刷視頻的場景也隨處可見。
在中國視頻網(wǎng)站中，“兒童邪典”視頻事件也掀起層層波瀾。多家媒體曾對此報道稱，這些“洋垃圾”入境后，竟然開始被“本土化”，不僅有國外視頻“搬運”后的漢化，還有各仿制拍攝、制作的視頻生產(chǎn)。隨著互聯(lián)網(wǎng)大數(shù)據(jù)和算法的客觀作用，這些視頻可能會“越看越多”，甚至“永遠看不完”。
全球視頻業(yè)面臨“審核邊界”
截至發(fā)稿時，國內(nèi)相關(guān)視頻發(fā)布平臺均已進行整改下架。盡管搜索關(guān)鍵字仍可看到相關(guān)視頻留下的蛛絲馬跡，絕大部分已經(jīng)無法打開觀看，但留給業(yè)界的是審核難題。
“關(guān)于視頻審核，就我所知，行業(yè)已在積極推進。”一名業(yè)內(nèi)算法工程師坦言，“更困難的是直播審核。”
中國互聯(lián)網(wǎng)協(xié)會相關(guān)人士也指出，“（在直播平臺上）由于主播的直播行為具有即時性的特點，也給平臺方的審核帶來一定難度。”
短視頻內(nèi)容審核已是“全球性難題”。“兒童邪典”事件發(fā)生后，YouTube的 CEO Susan Wojcicki曾表示，2018 年公司將把人類審查員的數(shù)量增至 10,000 名，以遏制不良內(nèi)容。
但形勢依舊不容樂觀。海外知名媒體BuzzFeed NEWS通過采訪發(fā)現(xiàn)，YouTube 系統(tǒng)仍存在不少問題，并存在一些令人難以理解甚至有時自相矛盾的評級準則。
來自業(yè)界、學界及法律界人士并非杞人憂天。當前，騰訊、阿里巴巴、滴滴等成為全球互聯(lián)網(wǎng)標桿企業(yè)的同時，以快手為代表的短視頻平臺正在迅速崛起，不僅吸引到巨大的流量，引起資本界的矚目，其內(nèi)容審核難度更大、技術(shù)要求更高。
在視頻內(nèi)容的審核和管理當中，最基本的要求必須遵循國家相關(guān)的法律法規(guī)，但審核工作中卻存在“模糊地帶”。
據(jù)業(yè)內(nèi)人士舉證說，猴子是不是可以當寵物養(yǎng)、海龜是不是可以隨意捕撈？諸如此類問題都曾觸發(fā)廣泛社會爭議。根據(jù)《中華人民共和國野生動物保護法》的規(guī)定，中國并沒有允許個人飼養(yǎng)寵物猴。這意味著，無論是否是在合法商販處購買，均屬于違法行為。
在公眾輿論看來，此類問題卻是“稀松平常”。只要搜索網(wǎng)絡(luò)，諸如“女子公園遛猴子，個人飼養(yǎng)寵物猴屬于違法行為(圖)”等新聞并不鮮見。
無疑，中國社會各界需要達成廣泛的共識，以在法律、道德、價值觀甚至審美等多個維度上實現(xiàn)最精準的界定和最有效的平衡。
領(lǐng)跑“內(nèi)容管理進化論”
根據(jù)官方介紹，快手是一家日活用戶已過億、人均日使用時長超過一個小時的短視頻平臺，每天有1000多萬條原創(chuàng)短視頻上傳，累計超過40億條原創(chuàng)視頻。
2018年1月28日，快手通過微信公眾號披露違規(guī)用戶及內(nèi)容處罰情況透露，該平臺1月份平均每天清理違規(guī)內(nèi)容超過42萬條，每天處置有效視頻類舉報1.8萬條。
由此，短視頻內(nèi)容管理工作之巨可窺見一斑。
“對執(zhí)法機關(guān)來說，應該建立多部門的聯(lián)合監(jiān)管機制，形成強有力的監(jiān)管，對涉及兒童的影視視頻等應該細化分類管理，實施分級制度。”女童保護基金管委會委員、《中國經(jīng)濟周刊》記者徐毫曾撰文指出，“對網(wǎng)絡(luò)平臺來說，也應該完善自查機制，暢通舉報渠道，強化反應機制，充分利用技術(shù)篩查和人工干預，決不能讓有害的內(nèi)容傳播，更不能為了“流量”而不顧道德法律。”
作為短視頻領(lǐng)域的領(lǐng)頭羊，快手已經(jīng)走在內(nèi)容管理的前列。近日，快手聯(lián)合浙江大學達成協(xié)議，共同探尋視頻領(lǐng)域內(nèi)容管理的規(guī)則這一“世界性課題”。
無疑，快手將借助浙江大學在公序良俗方面的學術(shù)積累，為整個短視頻行業(yè)摸索出一條可行道路，并對內(nèi)容管理提供空前完備的規(guī)則借鑒。
業(yè)內(nèi)普遍認為，就短視頻內(nèi)容管理，短視頻平臺積極聯(lián)手科技界、學界進行深入研究和探索，這確系一次有益的嘗試。
近年來，針對涉及暴力、色情等違法有害內(nèi)容零容忍，快手建有數(shù)以千計的人力和服務(wù)器組成的7×24小時全職內(nèi)容評級團隊。
此外，快手還成立行業(yè)首家“社區(qū)自律委員會”，邀請知名學者、媒體人和普通用戶共同參與對快手的監(jiān)督；在平臺內(nèi)設(shè)置了完善的用戶“一鍵舉報”功能，并在網(wǎng)站首頁進行公示24小時舉報電話及郵箱。
“我們已建立了業(yè)內(nèi)領(lǐng)先的多級處罰手段和標注體系，并已取得初步成效，同時也正在借助外部力量，聯(lián)合社會各界相關(guān)機構(gòu)一起推動短視頻內(nèi)容管理的課題研究。”快手一名負責人透露。
作為一家注冊用戶數(shù)億的平臺，快手的影響力越來越大，正積極擔負平臺管理責任和更多的社會責任，成為短視頻領(lǐng)域規(guī)范發(fā)展的標桿。
