兒童邪典視頻流竄,網(wǎng)易云易盾專(zhuān)家用代碼守護(hù)網(wǎng)絡(luò)環(huán)境

　　內(nèi)容審核對(duì)互聯(lián)網(wǎng)安全環(huán)境的構(gòu)建尤為重要，而最近頗受關(guān)注的“兒童邪典”視頻，把內(nèi)容審核的重要性又推到了一個(gè)新的高度。好消息是，以網(wǎng)易云易盾為代表的內(nèi)容安全團(tuán)隊(duì)，正在借助領(lǐng)先的內(nèi)容安全技術(shù)，智能地捍衛(wèi)互聯(lián)網(wǎng)網(wǎng)絡(luò)環(huán)境的純凈度。

　　據(jù)觀察者網(wǎng)報(bào)道(http://www.guancha.cn/society/2018_01_22_444092.shtml)，國(guó)內(nèi)多家知名視頻網(wǎng)站暗藏大量“兒童邪典”視頻，此類(lèi)視頻以卡通片、兒童劇、木偶劇為包裝，故意充斥大量含有血腥暴力、恐怖、虐待、色情等內(nèi)容，傳遞錯(cuò)誤認(rèn)知，教唆誘導(dǎo)未成年人模仿，危害未成年人身心健康，不留意看，根本發(fā)現(xiàn)不了其危害。由于這些視頻通過(guò)對(duì)少年兒童喜愛(ài)的艾莎公主、米奇老鼠、蜘蛛俠、小豬佩奇等卡通形象的二次加工，所以“兒童邪典”視頻又被稱(chēng)為“艾莎門(mén)”。

　　除了視頻之外，澎湃新聞指出(http://tech.sina.com.cn/roll/2018-01-23/doc-ifyqtycx2506131.shtml)，市場(chǎng)份額頗高的幾家游戲網(wǎng)站也卷入其中，含有相似主題、令人不適的內(nèi)容。

　　由于人的一生最關(guān)鍵的一個(gè)階段是兒童時(shí)期，這個(gè)時(shí)期啟蒙和影響一個(gè)人的未來(lái)——包括思想、價(jià)值觀、世界觀等，所以家長(zhǎng)和社會(huì)各界非常憤怒。全國(guó)“掃黃打非”辦公室特地在微博中嚴(yán)厲表示，他們已經(jīng)展開(kāi)各種部署和清查;與此同時(shí)，北京也啟動(dòng)網(wǎng)絡(luò)游戲?qū)ｍ?xiàng)整治活動(dòng)(http://industry.caijing.com.cn/20180123/4398296.shtml)，對(duì)未經(jīng)內(nèi)容審查備案的予以下線，對(duì)利用網(wǎng)絡(luò)游戲從事違法犯罪活動(dòng)的，移交公安機(jī)關(guān)追究刑事責(zé)任。

　　盡管相關(guān)網(wǎng)站開(kāi)展了自查和清理，但首都師范大學(xué)政法學(xué)院教授李昕則表示(http://www.ctoutiao.com/466979.html)，沒(méi)有盡到監(jiān)管職責(zé)的視頻平臺(tái)也應(yīng)受到處罰。

　　在媒體關(guān)注以及政府專(zhuān)項(xiàng)行動(dòng)下，內(nèi)容審核的頑疾也逐漸走向臺(tái)前——現(xiàn)在的互聯(lián)網(wǎng)內(nèi)容審核工作越來(lái)越難。比如，用戶上傳內(nèi)容尺度難以把握、海量垃圾信息騷擾難清理、垃圾樣本變化多端難過(guò)濾、人力審核成本不堪重負(fù)。盡管他們?cè)诋?dāng)下也引入了機(jī)器審核，但由于視頻平臺(tái)和游戲平臺(tái)在安全方面的經(jīng)驗(yàn)積累較淺，機(jī)器審核的效果并不如意。

　　那是不是真的無(wú)法運(yùn)用技術(shù)來(lái)解決這個(gè)難題?網(wǎng)易云易盾專(zhuān)家在接受采訪時(shí)指出，這種影響兒童身心健康發(fā)展的視頻和游戲內(nèi)容非�？蓯�，基于網(wǎng)易20年專(zhuān)業(yè)的反垃圾經(jīng)驗(yàn)，易盾早就能做到智能鑒黃、暴恐識(shí)別，并且成績(jī)斐然。

　　易盾的視頻反垃圾框架

　　“基于智能識(shí)別、分析技術(shù)及海量樣本庫(kù)、信用庫(kù)，能夠高效識(shí)別暴力、血腥和色情等危害兒童身心健康的內(nèi)容。”這位業(yè)內(nèi)資深的網(wǎng)易云易盾專(zhuān)家解讀，成績(jī)斐然和智能檢測(cè)的背后是源自網(wǎng)易云計(jì)算、人工智能深度學(xué)習(xí)的落地應(yīng)用，與積累了20年網(wǎng)易郵箱、社區(qū)產(chǎn)品反垃圾相得益彰的結(jié)果。

　　視頻審核解決方案

　　據(jù)悉，為了不讓有一條漏網(wǎng)之魚(yú)毒害少年兒童，網(wǎng)易云易盾的反垃圾服務(wù)還有運(yùn)營(yíng)團(tuán)隊(duì)7x24小時(shí)的巡檢，在智能的同時(shí)，也為打造互聯(lián)網(wǎng)純凈內(nèi)容生態(tài)做進(jìn)一步保障。

　　值得指出的是，這項(xiàng)技術(shù)目前非常成熟，包括一直播、小咖秀、唯品會(huì)等公司都與網(wǎng)易云易盾在反垃圾上有緊密的合作。

　　網(wǎng)易云易盾的專(zhuān)家在最后表示，少年兒童是祖國(guó)的未來(lái)，是中華民族的希望，技術(shù)人用代碼守護(hù)互聯(lián)網(wǎng)純凈內(nèi)容生態(tài)是他們應(yīng)盡的職責(zé)。