10億短視頻用戶背后的隱秘「戰(zhàn)事」

　　短視頻正成為人類世界最流行、最普及的精神產(chǎn)品之一。短短兩三年時間，抖音為代表的短視頻平臺成為最能聚焦國民眼球、最具成長性的互聯(lián)網(wǎng)內(nèi)容生產(chǎn)模式。

　　鮮花之后必有荊棘，不少投機(jī)者瞄準(zhǔn)了這塊蛋糕，試圖通過鉆空子、打擦邊球的方式獲取不當(dāng)利益。對抖音等短視頻平臺而言，自創(chuàng)建以來就全力推動的平臺治理再次面臨挑戰(zhàn)——這場反黑灰產(chǎn)戰(zhàn)事已經(jīng)進(jìn)入中場。

　　這是一場前所未有的非虛擬戰(zhàn)爭。原因在于，短視頻平臺要面對的各類黑產(chǎn)與違法違規(guī)內(nèi)容看似是一個個線上賬號，其背后的灰色利益鏈條卻深藏線下，人員覆蓋“莊家”、黑客、“營銷人員”等，且跨平臺化發(fā)展趨勢日益突出。

　　與“影子”的戰(zhàn)爭剛剛開始，或許在很長時間里不會有終點。然而，抖音們必須全力以赴。

　　1、10億短視頻用戶背后的“妖魔鬼怪”

　　隨著短視頻行業(yè)的火爆，抖音、快手以及其他短視頻產(chǎn)品的用戶已經(jīng)超過10億之多，其中僅抖音一家日活就達(dá)到6億，使用時長30分鐘以上用戶占比35%。

　　繁榮的短視頻平臺10億用戶的背后，隱藏著奇形怪狀的各色妖魔鬼怪：各種黑灰產(chǎn)、色情、詐騙等違法違規(guī)內(nèi)容層出不窮。

　　我們常見的，有些主播為了所謂的高人氣和相應(yīng)收益，與非法刷量機(jī)構(gòu)共謀，刷粉、刷直播帶貨量，也有人以冒充名人等方式進(jìn)行詐騙，也有人發(fā)布性暗示內(nèi)容進(jìn)行色情導(dǎo)流。

　　近期網(wǎng)絡(luò)熱傳的“假靳東”故事讓人五味雜陳的故事，正是騙子利用部分女性在人生某個階段出現(xiàn)情感空白、內(nèi)心孤獨感滋生等軟肋，從而蓄意詐騙的典型案例。

　　作為短視頻平臺的領(lǐng)先者，用戶規(guī)模最大的抖音，更成為不法者眼中的豐盛蛋糕。根據(jù)媒體調(diào)查，一個粉絲數(shù)達(dá)137萬的抖音號，售價高達(dá)8萬元;5萬粉絲+5萬個贊+5萬次分享+5000評論+100萬播放量，售價5800元;抖音音樂人認(rèn)證298元，企業(yè)認(rèn)證700元……

　　這些幾元至萬元不等的刷粉、刷贊、賣號生意，其實早已悄悄地布滿了所有網(wǎng)絡(luò)搜索通道。棘手的是，這些妖魔鬼怪隨時都在變形，從最早的電話詐騙，到利用社交網(wǎng)絡(luò)、電商平臺詐騙，可謂“與時俱進(jìn)”。

　　而現(xiàn)在，伴隨短視頻平臺的火爆，它們也將生意做到了這里。由此，短視頻平臺與妖魔鬼怪的對抗成為常態(tài)。

　　為了應(yīng)對時不時冒出來騷擾用戶的“妖魔鬼怪”，平臺也需要從各個角度去做防御。例如，抖音就從用戶側(cè)出發(fā)，針對用戶功能場景建設(shè)防御措施，比如在用戶的搜索場景中，通過搜索干預(yù)，對疑似高危賬號進(jìn)行屏蔽處理，同時對用戶展示提醒文案，提醒用戶注意識別，防止造成損失。

　　每一個問題視頻，事件雙方都處于不同的場景、關(guān)聯(lián)不同的人群、對應(yīng)不同的風(fēng)險點。以未成年人為例，相比成年人用戶，孩子們更加缺乏辨識能力、自我保護(hù)能力乃至舉報能力。對此，抖音在運(yùn)營側(cè)會針對可能對青少年造成誤導(dǎo)的內(nèi)容，提供模型策略，讓其與青少年群體進(jìn)行隔離。

　　10億短視頻用戶，場景不同，圈層不同，相同的是，他們都必須受到平臺的保護(hù)。

　　2、與“影子”的較量

　　對短視頻平臺來說，各色妖魔鬼怪就像影子一樣，看到卻摸不著，如影隨形擺脫不了。

　　一方面，與傳統(tǒng)打黑除惡相比，黑灰產(chǎn)在平臺上似乎可以看到，但實物并不在那里，打擊難度大。比如線下打擊色情場所，表面上是一個頁面上、一個彈窗，但背后發(fā)布引流信息的團(tuán)伙卻在不斷更換賬號，發(fā)布的內(nèi)容也在不斷變動。

　　另一方面，有陽光的地方就有陰影，黑灰產(chǎn)自互聯(lián)網(wǎng)誕生之初就存在，隨著互聯(lián)網(wǎng)的繁榮，黑灰產(chǎn)也遍布各個行業(yè)、各類產(chǎn)品。某互聯(lián)網(wǎng)巨頭的安全業(yè)務(wù)負(fù)責(zé)人曾向媒體表示，金融、電商、社交、直播、出行、游戲等行業(yè)都容易遭遇互聯(lián)網(wǎng)黑灰產(chǎn)。

　　根據(jù)世界經(jīng)濟(jì)論壇發(fā)布的《2020年全球風(fēng)險報告》，數(shù)據(jù)欺詐或被盜、網(wǎng)絡(luò)攻擊是可能發(fā)生的全球前十大風(fēng)險，到2021年，互聯(lián)網(wǎng)黑灰產(chǎn)將給全球造成高達(dá)6萬億美元的損失。

　　反黑灰產(chǎn)以及平臺治理，一直以來都是互聯(lián)網(wǎng)行業(yè)的重點任務(wù)，是一項需要各大巨頭們關(guān)注的、復(fù)雜而長期的系統(tǒng)工程。中外的互聯(lián)網(wǎng)巨頭，很多同時也是互聯(lián)網(wǎng)反黑灰產(chǎn)巨頭，比如微軟、亞馬遜、阿里、騰訊、百度、抖音。

　　由于自身的行業(yè)特性——與文字、圖片等不同，視頻問題的發(fā)現(xiàn)難度大——短視頻行業(yè)的平臺治理更為復(fù)雜。為了用更好的方式打擊“陰影”，抖音摸索出了從發(fā)現(xiàn)問題、處理問題到規(guī)避問題的一整套治理工作鏈條，其中尤其注重前期的發(fā)現(xiàn)問題。

　　為此，抖音成立了安全中心，下設(shè)安全風(fēng)險巡查團(tuán)隊，負(fù)責(zé)每日的站內(nèi)巡查和清理。這支隊伍有些像影視中的網(wǎng)絡(luò)特戰(zhàn)隊，只是他們的武器不是槍炮，而是算法、程序、技術(shù)攔截。

　　這場“虛擬戰(zhàn)爭”同時也是一場“群眾戰(zhàn)爭”，每天數(shù)以千萬級的短視頻審核，僅依靠專業(yè)團(tuán)隊還遠(yuǎn)遠(yuǎn)不夠。因此，用戶充當(dāng)了“斥候”的角色，通過站內(nèi)舉報、郵箱舉報、電話舉報、啄木鳥小程序等舉報與投訴機(jī)制，成為第一時間發(fā)現(xiàn)“陰影”的吹哨者。

　　這是一場對“陰影”的全方位打擊，人之外，技術(shù)也必不可少。底層，抖音以技術(shù)所形成的帳號模型和內(nèi)容模型為基礎(chǔ)，快速篩選及識別，最短時間內(nèi)解決大量疑似問題內(nèi)容的“真?zhèn)悟炞C”。

　　“假靳東”事件后，抖音制定了應(yīng)急方案，短期內(nèi)對靳東相關(guān)賬號進(jìn)行速清，清查了5000+疑似靳東仿冒賬號。截至10月底，完成下架話題143個，并處理了問題存量視頻195萬個。

　　戰(zhàn)斗，每天都在發(fā)生。戰(zhàn)斗之余，抖音會對每次遇到的問題進(jìn)行復(fù)盤，因此，抖音平臺治理的各項細(xì)化功能會經(jīng)常迭代，在發(fā)現(xiàn)、處理問題的基礎(chǔ)上規(guī)避問題。

　　“假靳東”事件之前，抖音安全中心已經(jīng)開始對仿冒名人的問題進(jìn)行研究總結(jié)，在上半年，抖音安全中心上線了針對仿冒明星的識別模型;隨著7、8月監(jiān)測到明星直播下仿冒名人賬號突增，抖音安全中心又搭建了專門的審核機(jī)制、標(biāo)準(zhǔn)和流程，研發(fā)上線了新的風(fēng)控策略模型。

　　對抗中，其上線了大V認(rèn)證，后臺上線了針對仿冒明星客服的模型策略，在私信功能側(cè)上線了黑灰產(chǎn)私信語義模型、私信舉報策略等。

　　最終，它做到了對仿冒明星客服類黑灰產(chǎn)賬號的實時打擊，尤其是在知名明星直播的過程中。有一次，在陳赫直播時監(jiān)測到有黑產(chǎn)團(tuán)伙試圖冒充客服賬號進(jìn)行詐騙，抖音對其進(jìn)行了實時處理，甚至誤殺了陳赫本人的賬號。

　　當(dāng)陰影無處不在，唯一的應(yīng)對方式就是治理無時不在, 無處不在，哪怕是跨平臺——抖音平臺治理團(tuán)隊所遵循的就是這一原則。

　　3、平臺治理的下半場

　　隨著短視頻行業(yè)規(guī)模不斷擴(kuò)大，違法者為了利益最大化，也在不斷武裝自身。在治理過程中，抖音平臺治理團(tuán)隊發(fā)現(xiàn)，越來越多的挑戰(zhàn)撲面而來。

　　一方面是技術(shù)演進(jìn)，比如黑產(chǎn)團(tuán)伙利用群控系統(tǒng)，可以同時進(jìn)行大規(guī)模批量作惡，由于使用的是和正常人一樣的真實設(shè)備，平臺識別難度大大增加。

　　另一方面則是跨平臺特點明顯�？缙脚_的違法違規(guī)行為越來越多，比如色情導(dǎo)流，黑產(chǎn)團(tuán)伙大批量購買短視頻平臺的賬號，然后發(fā)布帶有性暗示的信息視頻、評論，將用戶引流到微信、QQ等第三方平臺，給黃色網(wǎng)站導(dǎo)流，或者販賣色情視頻，或者招嫖。

　　與此同時，黑灰產(chǎn)業(yè)規(guī)模壯大，產(chǎn)業(yè)鏈上下分工更加細(xì)化。在最新的黑灰產(chǎn)業(yè)團(tuán)伙作案現(xiàn)象中，最上游成員負(fù)責(zé)提供黑產(chǎn)情報，比如哪家平臺又發(fā)了新的優(yōu)惠券，哪個平臺又做了拉新活動，哪個平臺的審核規(guī)則變化可以鉆空子。他們情報的來源包括QQ/微信、電報群、羊毛線報論壇、暗網(wǎng)以及一些技術(shù)博客等。

　　黑產(chǎn)團(tuán)隊中的中上游成員，則負(fù)責(zé)提供基礎(chǔ)的資源，比如代理IP、卡池、接碼平臺。其中，代理IP可以用來注冊賬號使用，因為如果一直是同一個IP注冊，平臺就容易封殺;接碼平臺用來手機(jī)注冊時收取驗證碼。

　　此外，中游成員負(fù)責(zé)提供作案工具，比如秒殺的工具、注冊機(jī)、刷粉軟件等;下游成員負(fù)責(zé)變現(xiàn)渠道，進(jìn)行紅包提現(xiàn)、代下單、賬號倒賣、刷粉服務(wù)售賣、黃牛倒賣等。

　　這意味著，包括抖音在內(nèi)的短視頻平臺治理進(jìn)入了更復(fù)雜、更多變的下半場。

　　技術(shù)是典型的雙刃劍，抖音平臺治理團(tuán)隊在不斷推動治理技術(shù)的優(yōu)化與完善，而黑灰產(chǎn)團(tuán)伙也憑借自身的資源，將各類黑客所研發(fā)的“新技術(shù)”快速應(yīng)用，這造成了抖音與黑灰產(chǎn)對抗的升級。

　　新的對抗困難點也隨之出現(xiàn)，比如信息不對稱，在被攻擊之前，平臺不知道黑產(chǎn)會通過何種手段進(jìn)攻。抖音平臺治理團(tuán)隊給出的答案是持續(xù)研發(fā)新技術(shù)，目前其運(yùn)用移動安全、大數(shù)據(jù)分析、人工智能等技術(shù)構(gòu)建了立體的防御體系，幫助平臺進(jìn)行全面、多維度的風(fēng)險識別。

　　被動式防御永遠(yuǎn)不如主動式防御。抖音平臺治理團(tuán)隊在新困難點下展開了更專業(yè)的攻防，比如進(jìn)行安全運(yùn)營與風(fēng)控研究，主動了解灰黑產(chǎn)是如何攻擊的。

　　如同正規(guī)軍隊需要不斷通過演習(xí)來檢驗實戰(zhàn)能力，抖音安全中心內(nèi)部組建了攻防團(tuán)隊，模擬黑產(chǎn)對業(yè)務(wù)進(jìn)行攻擊，并對作惡路徑進(jìn)行復(fù)現(xiàn)研究，用于發(fā)現(xiàn)潛在的攻擊威脅。在這個階段中，抖音安全中心經(jīng)歷了作弊者從機(jī)器到真人的演化，也研究了相關(guān)的防御手段。

　　由此，抖音平臺治理團(tuán)隊每天都在同時進(jìn)行兩場“戰(zhàn)斗”，一場是對外的，應(yīng)對真實的黑灰產(chǎn)團(tuán)伙；一場是對內(nèi)的，是攻防團(tuán)隊的常態(tài)化模擬演練，其激烈程度絲毫不亞于對外攻防。

　　然而，抖音平臺治理團(tuán)隊仍面臨越來越大的壓力，黑灰產(chǎn)等團(tuán)伙的跨平臺作案趨勢日趨明顯，這不僅加劇了抖音單個平臺的治理難度，也給整個互聯(lián)網(wǎng)的安全治理帶來了更大的隱患。

　　抖音平臺治理團(tuán)隊成員的最大感受，是希望未來能持續(xù)強(qiáng)化跨平臺聯(lián)動治理。首先希望企業(yè)與企業(yè)的黑灰產(chǎn)大數(shù)據(jù)聯(lián)動，提升發(fā)現(xiàn)問題的效率和打擊效果，同時可以早一步處理在其他平臺上的詐騙行為。

　　平臺治理的價值核心是技術(shù)，抖音平臺治理團(tuán)隊認(rèn)為，未來能否探索風(fēng)控模型的聯(lián)合建設(shè)是技術(shù)驅(qū)動下進(jìn)行平臺治理的關(guān)鍵：基于黑灰產(chǎn)大數(shù)據(jù)的聯(lián)動，多平臺在風(fēng)控模型的建設(shè)上進(jìn)一步實現(xiàn)聯(lián)合建模，提供給行業(yè)使用，提升處理問題的效率。

　　除了平臺與技術(shù)的協(xié)同，抖音平臺治理團(tuán)隊還希望能強(qiáng)化平臺與公安等執(zhí)法機(jī)關(guān)的聯(lián)動打擊，從而做到“線上溯源、線下查處”，每發(fā)現(xiàn)一起黑灰產(chǎn)案件線索，就能將其團(tuán)伙連鍋端。

　　在抖音平臺治理團(tuán)隊看來，短視頻行業(yè)的任何一個問題都不是單個平臺的問題，而是行業(yè)和社會共同面臨的問題，這就要求舉全行業(yè)、全社會之力來實現(xiàn)資源共享、協(xié)同共治。

　　4、結(jié)語

　　跨平臺治理、企業(yè)與執(zhí)法機(jī)關(guān)常態(tài)化聯(lián)動，這或許是一項難度更大的命題，但抖音平臺治理團(tuán)隊對此充滿信心：“無論是抖音還是其他短視頻平臺，抖音平臺治理所面臨的問題有一部分是老問題，有一部分是新問題，而抖音相信，技術(shù)與人的融合，能夠更加有效地應(yīng)對這一全新課題。”

　　技術(shù)是武器，人是戰(zhàn)士，只有動員起所有能動員的資源轉(zhuǎn)化為武器和戰(zhàn)士，社會才能真正打贏針對線上黑灰產(chǎn)的這一仗。抖音與萬千妖魔鬼怪和“影子”的攻防，不只是一家平臺的戰(zhàn)斗，也是其它平臺以及整個社會戰(zhàn)斗的一環(huán)。唯有協(xié)同發(fā)力，才能推動這場涉及全民、全社會的戰(zhàn)役向縱深挺進(jìn)。