5G商用后,音視頻內(nèi)容生產(chǎn)得到了極大繁榮,網(wǎng)民們的注意力也被各類短視頻、直播、音視頻社交等平臺吸引,這些UGC平臺顯然已成為了新的流量聚集地。但當(dāng)流量不再是問題,UGC平臺的音視頻內(nèi)容合規(guī)性問題變得日益凸顯。
音視頻內(nèi)容審核的行業(yè)困境
日前,多家互聯(lián)網(wǎng)應(yīng)用的音視頻業(yè)務(wù)被曝出涉黃、涉暴、涉政、違禁等不良內(nèi)容。平臺成了間接作惡工具,面臨約談、整頓、關(guān)停等違規(guī)處理,這給企業(yè)造成了難以估量的損失。而對音視頻平臺來說,針對海量內(nèi)容逐一審核絕非易事,目前主要面臨兩大行業(yè)難題:
首先,審核效率低下。平臺作為網(wǎng)絡(luò)服務(wù)提供者,視頻內(nèi)容大部分來自于用戶上傳,當(dāng)用戶達(dá)到一定基數(shù),每天百萬甚至千萬的視頻內(nèi)容,客觀上給審核帶來了極大困難。
其次,有害信息難以發(fā)現(xiàn)。對于嬌喘呻吟、辱罵語音識別、垃圾廣告,以及涉政、暴恐、特殊LOGO等不良內(nèi)容,不僅量大而且類型不一,從中排查這些危險因素,需要較高的技術(shù)手段才能完成。
為解決行業(yè)痛點(diǎn),幫助客戶從源頭發(fā)現(xiàn)并杜絕這類不良信息,互聯(lián)網(wǎng)通信云廠商融云提供的音視頻審核服務(wù),可高效精準(zhǔn)地自動識別違規(guī)內(nèi)容,保障平臺業(yè)務(wù)的穩(wěn)定運(yùn)營。尤其當(dāng)平臺有對消息及音視頻有雙重審核需求時,融云可幫助企業(yè)一站式審核圖、文、音、視“全”內(nèi)容,有效解決多類型、海量信息難以甄別的問題。同時,也幫客戶節(jié)省了對接第三方審核公司的商務(wù)溝通成本,以及研發(fā)適配所耗用的成本,為開發(fā)者及各互聯(lián)網(wǎng)平臺構(gòu)筑起綠色通信的護(hù)城河。
多維度音視頻審核能力,為不同業(yè)務(wù)場景提供安全保障
目前,融云提供的音視頻審核功能主要應(yīng)用在 1v1、1v多通話場景,會議場景以及直播場景。融云的客戶在使用 CallLib SDK 或 RTCLib SDK 實(shí)現(xiàn)音視頻通話、線上會議或直播等類型應(yīng)用后,可以把每個參與人的音頻、視頻數(shù)據(jù)發(fā)送至審核服務(wù),進(jìn)行內(nèi)容審核。
當(dāng)企業(yè)開通審核功能后,融云支持音視頻流自動審核,審核結(jié)果會通過融云的回調(diào)服務(wù)發(fā)送到開發(fā)者的應(yīng)用服務(wù)器。具體來說,融云媒體服務(wù)器(RTC Server)會把收到的音視頻流轉(zhuǎn)碼成審核服務(wù)需要的格式(RTMP)來送審,不需要開發(fā)者轉(zhuǎn)碼或者截幀再去送審。在啟動審核任務(wù)后,融云會按照一定的周期或在命中攔擊事件時把審核結(jié)果回調(diào)給用戶,幫助用戶方便地解析出審核結(jié)果,開發(fā)者可以根據(jù)審核結(jié)果決策是否需要斷開直播間主播推流,比如可以踢出主播或封禁主播。
圖1:融云音視頻審核服務(wù)架構(gòu)
在音頻審核功能方面,融云提供涉政語音識別、嬌喘語音識別、國歌識別、色情語音識別、辱罵語音識別、垃圾廣告識別六大審核維度;贐i-GRU、Attention模型、NAR模型,構(gòu)建混合深度神經(jīng)網(wǎng)絡(luò)模型等多個先進(jìn)手段,精準(zhǔn)識別各類場景中涉政人物、政治事件、反動分裂、恐怖主義等百余種類型涉政音頻,精準(zhǔn)識別聲音中含有嬌喘、呻吟、耳騷、喊麥等違規(guī)音頻,對于音頻中含有色情、低俗、污穢、語愛等涉黃內(nèi)容也絕不放過。
在視頻審核功能方面,融云提供涉政視頻識別、色情視頻識別、暴恐視頻識別、廣告視頻識別、垃圾廣告識別、LOGO水印識別。尤其可以實(shí)時精準(zhǔn)識別和攔截各類場景的手機(jī)號、微信、QQ、微博、網(wǎng)址、二維碼等各種變體垃圾廣告內(nèi)容,并通過高精度LOGO水印檢測識別技術(shù),支持競品LOGO檢測、涉政LOGO檢測,維護(hù)客戶品牌形象。
融云音視頻審核四大優(yōu)勢:精準(zhǔn)、靈活、全面、穩(wěn)定
根據(jù)開發(fā)者的使用調(diào)查反饋,融云的音視頻審核服務(wù)最大的特點(diǎn)是精準(zhǔn),除了審核能力精準(zhǔn),還能迅速精準(zhǔn)地定位問題源頭,縮短了問題排查的時間;同時,審核模式靈活,支持靈活篩選審核對象,比如對指定房間,甚至指定用戶的送審,可添加個性化的審核維度,最重要的是產(chǎn)品功能性能穩(wěn)定,可用性99.9%,可應(yīng)對高并發(fā)的使用場景。此外,支持長達(dá)半個月的測試時間,讓客戶有充分的時間熟悉、了解相關(guān)功能,讓使用無后顧之憂。
具體來說,融云音視頻審核服務(wù)具備四大技術(shù)優(yōu)勢:第一,從服務(wù)架構(gòu)上看,深度融合CNN、RNN、GAN、TDNN、LSTM等模型,違規(guī)識別準(zhǔn)確率高;第二,違規(guī)態(tài)勢實(shí)時追蹤,可實(shí)時監(jiān)測輿情趨勢,動態(tài)追蹤違規(guī)態(tài)勢,增量模型小時級更新,幫助產(chǎn)品快速迭代升級;第三,全方位識別數(shù)百種涉政暴恐圖片、數(shù)十種色情圖片、各式各樣的變體廣告圖片等違規(guī)內(nèi)容,極大降低平臺監(jiān)管風(fēng)險;第四,超強(qiáng)彈性服務(wù),全球多集群部署,可秒極彈性擴(kuò)容,因此每日可承載數(shù)億級的海量音視頻審核請求。
復(fù)合的審核服務(wù),打造一站式“全”內(nèi)容審核能力
在實(shí)際應(yīng)用中,融云針對圖、文、音、視的“全”內(nèi)容,提供雙重審核服務(wù),將IM即時通訊審核與音視頻審核功能疊加,構(gòu)成“聯(lián)防聯(lián)控”的一站式內(nèi)容審核云服務(wù)產(chǎn)品,結(jié)合融云反垃圾與內(nèi)容安全經(jīng)驗(yàn),構(gòu)筑體系化、專業(yè)化的審核系統(tǒng),全面保障客戶通信云業(yè)務(wù)安全運(yùn)行。
圖2:融云IM 內(nèi)容審核服務(wù)
融云的IM內(nèi)容審核服務(wù)主要包括文本過濾、圖片過濾、音視頻文件過濾三類功能。其中,融云的文本過濾具有多語種識別能力,支持中文(簡繁體)、維語、藏語、英語、日語等。擁有毫秒級的響應(yīng)速度,通過機(jī)器學(xué)習(xí)、智能算法、語義分析等多維度對數(shù)據(jù)解析,識別準(zhǔn)確率可達(dá) 95% 以上。
融云的圖片過濾能力基于融云海量樣本庫,識別準(zhǔn)確率達(dá)90%以上,并且支持水印,傾斜,扭曲,異體等多種變形文字的提取識別,從而提高垃圾圖片過濾的準(zhǔn)確率。同時還可承受單日千萬級圖片數(shù)據(jù)的處理,支持?jǐn)?shù)據(jù)高峰時段彈性擴(kuò)容,檢測結(jié)果毫秒級返回。
融云的音視頻文件過濾能力可承載日均千萬級數(shù)據(jù)處理,檢測結(jié)果秒速返回;并支持場景化定制,多種模型組合訓(xùn)練,供手機(jī)號畫像、IP畫像等多并提維度判定,識別準(zhǔn)確率可達(dá)98%。
綜上,融云能夠精準(zhǔn)過濾文本、圖片、音視頻消息及音視頻流中的不良信息,幫助客戶有效規(guī)避運(yùn)營風(fēng)險,保證內(nèi)容平臺的健康安全,并且該服務(wù)提供機(jī)器審核和人工審核的雙重保障,用戶可根據(jù)自身情況同時使用,也可任選其一。
結(jié)語
由于各行各業(yè)通信云應(yīng)用對綠色通信都存在迫切的需求,融云的音視頻審核專門針對在音視頻通信中,對內(nèi)容有安全過濾和設(shè)防需求的客戶而設(shè)。同時,音視頻審核功能與其圖文審核功能疊加復(fù)核,可全面過濾以及精準(zhǔn)識別所有通信形式中的內(nèi)容,構(gòu)成了一個審核閉環(huán)的防護(hù)體系,在解決企業(yè)對通信內(nèi)容安全痛點(diǎn)的同時,讓業(yè)務(wù)運(yùn)行省心、省力,省成本。
文章內(nèi)容僅供閱讀,不構(gòu)成投資建議,請謹(jǐn)慎對待。投資者據(jù)此操作,風(fēng)險自擔(dān)。
2024年的Adobe MAX 2024發(fā)布會上,Adobe推出了最新版本的Adobe Creative Cloud。
奧維云網(wǎng)(AVC)推總數(shù)據(jù)顯示,2024年1-9月明火炊具線上零售額94.2億元,同比增加3.1%,其中抖音渠道表現(xiàn)優(yōu)異,同比有14%的漲幅,傳統(tǒng)電商略有下滑,同比降低2.3%。
“以前都要去窗口辦,一套流程下來都要半個月了,現(xiàn)在方便多了!”打開“重慶公積金”微信小程序,按照提示流程提交相關(guān)材料,僅幾秒鐘,重慶市民曾某的賬戶就打進(jìn)了21600元。
華碩ProArt創(chuàng)藝27 Pro PA279CRV顯示器,憑借其優(yōu)秀的性能配置和精準(zhǔn)的色彩呈現(xiàn)能力,為您的創(chuàng)作工作帶來實(shí)質(zhì)性的幫助,雙十一期間低至2799元,性價比很高,簡直是創(chuàng)作者們的首選。
9月14日,2024全球工業(yè)互聯(lián)網(wǎng)大會——工業(yè)互聯(lián)網(wǎng)標(biāo)識解析專題論壇在沈陽成功舉辦。