小紅書周達(dá)：社區(qū)安全的本質(zhì)是解決“三方”核心訴求

　　9月11日上午，第六屆CSS互聯(lián)網(wǎng)安全領(lǐng)袖峰會正式開幕。來自中國信通院、IDC、小紅書、騰訊等相關(guān)領(lǐng)域的專家，共同圍繞“產(chǎn)業(yè)上云，安全先行”主題展開探討，分享產(chǎn)業(yè)安全不同領(lǐng)域的最佳實(shí)踐。

　　小紅書安全業(yè)務(wù)負(fù)責(zé)人周達(dá)受邀出席大會并發(fā)表題為《小紅書與安全》的主題演講。他認(rèn)為，社區(qū)安全治理是一個長期不間斷的工作，其安全本質(zhì)就是解決平臺、發(fā)布者、消費(fèi)者三方訴求，終極解決之道就是加持大數(shù)據(jù)、人工智能等技術(shù)創(chuàng)新手段，才能實(shí)現(xiàn)打擊質(zhì)效的進(jìn)一步提升。

　　以“三方”訴求為導(dǎo)向，構(gòu)建“識別+處罰+宣導(dǎo)”社區(qū)安全管理機(jī)制

　　周達(dá)指出，對于社區(qū)平臺而言，用戶發(fā)布的內(nèi)容，需要符合相關(guān)的法律法規(guī)，以及平臺的價(jià)值觀。這要求平臺強(qiáng)化內(nèi)容安全審核時，要以科技創(chuàng)新為基礎(chǔ)，通過“機(jī)器審核+人工審核+高展復(fù)合”機(jī)制提高對內(nèi)容安全的監(jiān)管能力，始終圍繞社區(qū)定位做好內(nèi)容安全管理。

　　周達(dá)舉例說，在機(jī)器審核環(huán)節(jié)中，通過與騰訊的合作，我們引入了騰訊安全天御的AI技術(shù)，完善了機(jī)器審核能力，同時大幅提高了人工審核效率，以及減少了人工審核的數(shù)量，為小紅書的發(fā)布者提供了一個更加優(yōu)質(zhì)的體驗(yàn)。

　　關(guān)于發(fā)布者和消費(fèi)者二者之間的關(guān)系和安全訴求，周達(dá)以一個譬喻來生動形象地說解答說：小紅書像是一座城市，內(nèi)容的發(fā)布者參與到社會的生產(chǎn)活動中，我們認(rèn)定其為“商人”，而用戶付出的是時間機(jī)會成本，在經(jīng)濟(jì)學(xué)中被稱之為“消費(fèi)者”。那么，“商人”更加畏懼刷粉、刷量、刷贊等破壞市場規(guī)則的不正當(dāng)競爭手段，這樣會導(dǎo)致優(yōu)質(zhì)的發(fā)布者無法獲得足夠的流量，最終被淘汰。但消費(fèi)者安全訴求本質(zhì)是信息的不對稱，無論是以什么樣的方式，都是通過信息不對稱的結(jié)果，導(dǎo)致了我們的消費(fèi)者最終上當(dāng)受騙，或者對你們的利益產(chǎn)生了損害。

　　針對以上三方面臨的安全問題，小紅書在實(shí)踐過程中逐漸摸索一套“識別+處罰+宣導(dǎo)”專業(yè)化安全治理體系，并且效果日漸凸顯。據(jù)小紅書2020年第二季度社區(qū)生態(tài)治理報(bào)告數(shù)據(jù)顯示，小紅書當(dāng)季處理涉嫌刷量筆記 66萬篇、實(shí)時攔截和清理黑產(chǎn)行為超過1.3億次、巡回?cái)r截和清理黑灰產(chǎn)行為超過1.3億次，對網(wǎng)絡(luò)黑灰產(chǎn)形成了巨大的威懾力和殺傷力。

　　創(chuàng)新技術(shù)手段加持，“大數(shù)據(jù)服務(wù)+用戶隱私保護(hù)”驅(qū)動社區(qū)安全建設(shè)發(fā)展

　　流量為王時代，針對內(nèi)容安全治理如何破解的問題。周達(dá)則表示，創(chuàng)新技術(shù)是內(nèi)容平臺安全管理的終極解決之道，通過建立安全新思維，體系化機(jī)制來解決安全問題。

　　他以小紅書和騰訊安全聯(lián)合打擊真人眾包合作為例，天御系統(tǒng)會把在站外識別到的黑灰產(chǎn)打上標(biāo)簽，當(dāng)這些黑灰產(chǎn)用戶來到小紅書的時候，我們就已經(jīng)提前一步知曉黑灰產(chǎn)的目的動機(jī)，可以第一時間采取防御措施。

　　除了持續(xù)的迭代策略對抗、加強(qiáng)內(nèi)容模型識別外，小紅書還自主開發(fā)、升級清理不良內(nèi)容、打擊虛假數(shù)據(jù)策略模型和治理策略，對有效提升基于行為特征、內(nèi)容特征等方面的算法模型和策略識別能力在治理中也起到了關(guān)鍵作用。同時，小紅書還將大數(shù)據(jù)分析、人工智能、機(jī)器學(xué)習(xí)等新技術(shù)運(yùn)用于安全體系，對安全事件事前偵知預(yù)警、事中察知阻斷和事后溯源修復(fù)，全流程有效防范和嚴(yán)厲打擊黑灰產(chǎn)。

　　正如騰訊副總裁丁珂在演講中所說：“目前大多數(shù)企業(yè)安全體系的完備程度，相比數(shù)字化的發(fā)展速度，還存在比較大的差距。不能簡單的把安全寄希望于一筆預(yù)算的投入，而是應(yīng)該系統(tǒng)性地重新思考安全的戰(zhàn)略定位，選擇恰當(dāng)?shù)穆窂胶褪侄�，找到解決安全風(fēng)險(xiǎn)的‘最優(yōu)解’。”

　　在大數(shù)據(jù)及人工智能飛速發(fā)展的今天，周達(dá)也對大數(shù)據(jù)服務(wù)和用戶隱私保護(hù)等新技術(shù)趨勢做出預(yù)測。在演講最后他表示，小紅書正逐步將位置保護(hù)技術(shù)、同態(tài)加密技術(shù)、聯(lián)邦計(jì)算技術(shù)、OT傳輸技術(shù)等多方技術(shù)應(yīng)用于用戶數(shù)據(jù)保護(hù)，從根源上確保用戶隱私被盜用、竊取，讓用戶對自己個人數(shù)據(jù)享有絕對的“自主權(quán)”。