還能再漲23%!AI寵兒NVIDIA成大摩明年首選AMD FSR 4.0將與RX 9070 XT顯卡同步登場羅永浩細紅線最新進展,暫別AR,迎來AI Jarvis構(gòu)建堅實數(shù)據(jù)地基,南京打造可信數(shù)據(jù)空間引領(lǐng)數(shù)字城市建設(shè)下單前先比價不花冤枉錢 同款圖書京東價低于抖音6折日媒感慨中國電動汽車/智駕遙遙領(lǐng)先:本田、日產(chǎn)、三菱合并也沒戲消委會吹風(fēng)機品質(zhì)檢測結(jié)果揭曉 徠芬獨占鰲頭 共話新質(zhì)營銷力,2024梅花數(shù)據(jù)峰會圓滿落幕索尼影像專業(yè)服務(wù) PRO Support 升級,成為會員至少需注冊 2 臺 α 全畫幅相機、3 支 G 大師鏡頭消息稱vivo加碼電池軍備競賽:6500mAh 旗艦機+7500mAh中端機寶馬M8雙門轎跑車明年年初將停產(chǎn),后續(xù)無2026款車型比亞迪:2025 款漢家族車型城市領(lǐng)航智駕功能開啟內(nèi)測雷神預(yù)告2025年首次出席CES 將發(fā)布三款不同技術(shù)原理智能眼鏡realme真我全球首發(fā)聯(lián)發(fā)科天璣 8400 耐玩戰(zhàn)神共創(chuàng)計劃iQOO Z9 Turbo長續(xù)航版手機被曝電池加大到6400mAh,搭驍龍 8s Gen 3處理器普及放緩 銷量大跌:曝保時捷將重新評估電動汽車計劃來京東參與榮耀Magic7 RSR 保時捷設(shè)計預(yù)售 享365天只換不修國補期間電視迎來換機潮,最暢銷MiniLED品牌花落誰家?美團旗下微信社群團購業(yè)務(wù)“團買買”宣布年底停運消息稱微軟正與第三方廠商洽談,試圖合作推出Xbox游戲掌機設(shè)備
  • 首頁 > 網(wǎng)絡(luò)安全頻道 > 云安全

    騰訊天御內(nèi)容風(fēng)控全新發(fā)布 為網(wǎng)絡(luò)空間清朗保駕護航

    2022年12月02日 12:56:01   來源:中文科技資訊

      11 月 30 日— 12 月 1 日,2022 騰訊數(shù)字生態(tài)大會在深圳召開,騰訊安全攜八款自研成果及背后的創(chuàng)新技術(shù)亮相,與生態(tài)伙伴共筑數(shù)字化安全新能力,探索以 " 安全共生 " 護航企業(yè) " 行穩(wěn)致遠 "。

      在12月1日下午舉行的騰訊安全先行者·新品發(fā)布會場上,騰訊安全天御內(nèi)容風(fēng)控總監(jiān)蔡飛以《攜手云原生,騰訊天御內(nèi)容安全運營中心全新亮相》為主題分享了內(nèi)容安全領(lǐng)域的風(fēng)險與挑戰(zhàn),以及騰訊天御內(nèi)容安全運營中心的最新應(yīng)對方案。

      內(nèi)容安全面臨的風(fēng)險和挑戰(zhàn)

      隨著移動終端與信息技術(shù)的快速發(fā)展,互聯(lián)網(wǎng)內(nèi)容愈發(fā)多元。從文字到圖片到語音再到視頻、直播,數(shù)字技術(shù)的時代洪流正沖刷出一幅豐富多彩的數(shù)字生活畫卷。同時,更加龐大和復(fù)雜的內(nèi)容安全隱患也伴隨而來。

      對于數(shù)字內(nèi)容平臺和企業(yè)來說,開展網(wǎng)絡(luò)生態(tài)治理刻不容緩,24小時不停歇的互聯(lián)網(wǎng)內(nèi)容安全攻防戰(zhàn)每日都在上演。內(nèi)容安全面臨的問題與挑戰(zhàn)主要分為三個方向:

      1. 違規(guī)內(nèi)容識別

      數(shù)字內(nèi)容類應(yīng)用往往以用戶UGC內(nèi)容為主,用戶資料,圖文消息和音視頻數(shù)據(jù)大部分是由用戶自己上傳,很容易出現(xiàn)色情,低俗,辱罵等不良內(nèi)容。

      2. 內(nèi)容治理成本

      企業(yè)和個人開發(fā)者不太可能具備足夠的安全團隊,建立功能完備的內(nèi)容審核系統(tǒng),組建專門的運營團隊。

      3. 全球性業(yè)務(wù)合規(guī)

      面向海外的業(yè)務(wù)場景,需要滿足不同國家地區(qū)的法規(guī)要求。

      騰訊安全天御內(nèi)容風(fēng)控解決方案,三大特性守護內(nèi)容安全

      騰訊安全天御內(nèi)容風(fēng)控解決方案,以人工智能為核心,通過風(fēng)控策略的靈活調(diào)度,打造覆蓋圖片、文本、音頻、視頻全內(nèi)容形態(tài)的 AI 智能內(nèi)容風(fēng)控服務(wù),為網(wǎng)絡(luò)空間清朗保駕護航。

    圖片1.jpg

      01  更簡單:一鍵開通,自動審核

      在上云的業(yè)務(wù)架構(gòu)里,如電商、游戲或者教育業(yè)務(wù)通常會使用COS搭建數(shù)據(jù)存儲系統(tǒng)、使用VOD實現(xiàn)音頻視頻播放功能、基于TRCT云直播打造豐富多彩的音視頻互動功能。

      以往企業(yè)要對這些云組件類的數(shù)據(jù)進行審核,需要通過各產(chǎn)品的SDK或者API獲取數(shù)據(jù),完成數(shù)據(jù)的送審和處置,這對導(dǎo)致研發(fā)對接成本非常高。

      在騰訊安全天御內(nèi)容風(fēng)控解決方案的新版本中,加強了內(nèi)容安全與其他云基礎(chǔ)產(chǎn)品的聯(lián)動性,在控制臺一鍵開通、自動實現(xiàn)數(shù)據(jù)審核。

      在內(nèi)容安全的產(chǎn)品板塊里,騰訊安全對內(nèi)容識別能力進行了技術(shù)架構(gòu)升級,通過原子能力模型產(chǎn)生更多內(nèi)容維度的特征,并且通過決策引擎實現(xiàn)對內(nèi)容、行為和賬號等多維度特征進行綜合判斷,進一步提升識別效果和運營的靈活性。

      升級了安全運營服務(wù),打造了對安全態(tài)勢的實施感知能力,對突發(fā)的安全事件可以及時上線策略進行布控,并且定期組織紅藍對抗,優(yōu)化識別效果,確保云上的業(yè)務(wù)數(shù)據(jù)持續(xù)健康。

      提供一套統(tǒng)一的運營功能集成到各個云產(chǎn)品,讓云產(chǎn)品的客戶可以更容易地管理審核策略和優(yōu)化審核效果。

      新版本的核心目標是將復(fù)雜的內(nèi)容審核功能和運營流程精簡為一鍵開通、自助運營和數(shù)據(jù)看板三個關(guān)鍵功能給了客戶,以滿足快速接入、靈活調(diào)優(yōu)和對數(shù)據(jù)的可視分析的需求,極大地降低在內(nèi)容審核方面的研發(fā)和運營成本,讓上云企業(yè)能夠在產(chǎn)品研發(fā)和安全運營方面都能夠?qū)崿F(xiàn)降本增效的目的。

      案例一:COS 全自動審核模式

      在COS 全自動審核模式下,業(yè)務(wù)團隊只需針對COS的存儲配置開通送審功能,并且進一步配置對違規(guī)資源的處置規(guī)則,比如上傳的圖片如果包含低俗廣告,違規(guī)內(nèi)容時,就會自動封禁。

      對于數(shù)據(jù)的送審,違規(guī)數(shù)據(jù)的處置功能邏輯完全可以交給COS和天御內(nèi)部系統(tǒng)實現(xiàn),真正實現(xiàn)零研發(fā)接入。并且伴云審核還有一個很獨特的優(yōu)點,由于COS和天域系統(tǒng)可以通過騰訊內(nèi)部網(wǎng)絡(luò)通信,因此客戶不需要承擔(dān)因?qū)徍讼螺d產(chǎn)生的費用。

    圖片2.jpg

      以圖片審核為例,這種審核模式可以為客戶節(jié)省大約20%的整體審核費用。

      在COS存儲場景下,當出現(xiàn)新的審核需求時,可以在控制臺啟動存量掃描能力,實現(xiàn)對歷史數(shù)據(jù)的全量清洗。

      案例二:TRTC 全自動審核,靈活方便,費用更低

      在天御內(nèi)容審核中臺中,內(nèi)置實現(xiàn)TRTC 的專屬審核模塊,全面對接TRTC的事件消息服務(wù)。通過實時監(jiān)聽房間創(chuàng)建,用戶進退房等事件消息,實現(xiàn)對數(shù)據(jù)的自動送審功能。

    圖片3.jpg

      面對網(wǎng)絡(luò)中斷等異常情況,可實現(xiàn)自動恢復(fù),并且對重復(fù)數(shù)據(jù)進行自動去重。

      在拉流審核模式方面,支持對單錄音視頻流進行審核,也支持將多路音視頻數(shù)據(jù)混合成一路進行審核。這種模式的切換可以實現(xiàn)自助配置,靈活調(diào)整,有效的平衡審核成本和業(yè)務(wù)風(fēng)險。

      02  更全面:超500種違規(guī)類型識別

      新版本中第二個大特性,是審核能力的全面升級:

      超過500多種的違規(guī)類型識別,整體提升了40%以上。

      在識別粒度方面也進行更加精細的拆分,通過更細的標簽、靈活調(diào)整,以適應(yīng)不同行業(yè)的審核需求。

      案例一:守護未成年人網(wǎng)絡(luò)內(nèi)容安全

      在未成年人保護相關(guān)能力方面,提供了兒童邪典、未成年人低俗、未成年人不適宜表情包等十幾個標簽。

      支持對未成年人年齡屬性的輸出,讓業(yè)務(wù)可以根據(jù)屬性進一步區(qū)分未成年人群體,從而制定不同的處置規(guī)則。

      案例二:守護內(nèi)容平臺版權(quán)風(fēng)險

      近年來,各行各業(yè)的版權(quán)保護意識越來越強。例如,在有聲小說業(yè)務(wù)場景中,用戶有可能上傳一些缺乏授權(quán)的素材,導(dǎo)致平臺方侵犯作者的權(quán)益,從而引發(fā)版權(quán)訴訟。

      因此,在騰訊安全天御內(nèi)容風(fēng)控解決方案新的內(nèi)容審核產(chǎn)品中,新增了版權(quán)篩查的功能,幫助平臺進一步降低版權(quán)的風(fēng)險。

      案例三:守護音視頻應(yīng)用本地化場景

      對于國內(nèi)主打本地化場景的音視頻應(yīng)用,基于中文普通話構(gòu)建的安全識別能力,其效果會受地方方言影響大打折扣,因此騰訊安全天御內(nèi)容風(fēng)控解決方案在新版本里增加了超過20多種的國內(nèi)方言識別。

    圖片4.jpg

      針對海外地區(qū)的業(yè)務(wù)場景,也新增了英語,日語,韓語和阿拉伯語等主流語言的識別,并且在海外部署了專門的業(yè)務(wù)節(jié)點,進一步解決全球性的業(yè)務(wù)安全合規(guī)問題。

      值得注意的是,經(jīng)過多次的模型迭代,騰訊安全天御內(nèi)容風(fēng)控解決方案在隱晦違規(guī)元素的識別上也取得了較大的突破,例如變體字、行近字等干擾性強的違規(guī)內(nèi)容。對一些情感性、傾向性檢測的場景,即使是在嘈雜音背景下,也能對風(fēng)險內(nèi)容進行及時的應(yīng)對和處理。

      03  更準確:國內(nèi)權(quán)威認證,全五星最高能力標準

      騰訊安全天御內(nèi)容風(fēng)控系統(tǒng)新版本今年六月份通過了中國信托院組織的專業(yè)評測,在文本、圖像、音頻、視頻四大類型的 16 項場景評測中均為滿分,斬獲“全五星”最高評級。

    圖片5.jpg

      目前,騰訊安全天御風(fēng)控已為 1500 多家平臺提供內(nèi)容安全服務(wù),共計審核圖片總量已突破 3000 億條,累計攔截不良內(nèi)容超 5 億條,更多次參與護航重大展會、峰會的內(nèi)容安全。

      文章內(nèi)容僅供閱讀,不構(gòu)成投資建議,請謹慎對待。投資者據(jù)此操作,風(fēng)險自擔(dān)。

    [No. X048]
    分享到微信

    即時

    新聞

    明火炊具市場:三季度健康屬性貫穿全類目

    奧維云網(wǎng)(AVC)推總數(shù)據(jù)顯示,2024年1-9月明火炊具線上零售額94.2億元,同比增加3.1%,其中抖音渠道表現(xiàn)優(yōu)異,同比有14%的漲幅,傳統(tǒng)電商略有下滑,同比降低2.3%。

    企業(yè)IT

    重慶創(chuàng)新公積金應(yīng)用,“區(qū)塊鏈+政務(wù)服務(wù)”顯成效

    “以前都要去窗口辦,一套流程下來都要半個月了,現(xiàn)在方便多了!”打開“重慶公積金”微信小程序,按照提示流程提交相關(guān)材料,僅幾秒鐘,重慶市民曾某的賬戶就打進了21600元。

    3C消費

    華碩ProArt創(chuàng)藝27 Pro PA279CRV顯示器,高能實力,創(chuàng)

    華碩ProArt創(chuàng)藝27 Pro PA279CRV顯示器,憑借其優(yōu)秀的性能配置和精準的色彩呈現(xiàn)能力,為您的創(chuàng)作工作帶來實質(zhì)性的幫助,雙十一期間低至2799元,性價比很高,簡直是創(chuàng)作者們的首選。

    研究

    中國信通院羅松:深度解讀《工業(yè)互聯(lián)網(wǎng)標識解析體系

    9月14日,2024全球工業(yè)互聯(lián)網(wǎng)大會——工業(yè)互聯(lián)網(wǎng)標識解析專題論壇在沈陽成功舉辦。