螞蟻數(shù)科發(fā)布反DeepFake產(chǎn)品，還設(shè)百萬(wàn)獎(jiǎng)金池邀請(qǐng)黑客找bug

　　生成式AI人臉造假套路多，怎么辦?

　　現(xiàn)在，專(zhuān)門(mén)用于DeepFake的綜合性產(chǎn)品上新了——

　　ZOLOZ Deeper，螞蟻數(shù)科ZOLOZ出品。我們?nèi)粘５闹Ц秾毸⒛樦Ц�，正是依托于他們技術(shù)支撐。

　　值得注意的是，這可不僅僅是簡(jiǎn)單的AI檢測(cè)算法，而是一套覆蓋全鏈路的技術(shù)產(chǎn)品體系——

　　它能夠有效應(yīng)對(duì)系統(tǒng)、服務(wù)器、應(yīng)用等多環(huán)節(jié)Deepfake安全威脅。

　　而為了不斷精進(jìn)它的能力，內(nèi)部實(shí)驗(yàn)室每個(gè)月都會(huì)對(duì)他進(jìn)行超過(guò)20000次“攻擊”測(cè)試。

　　甚至，ZOLOZ還對(duì)外拿出百萬(wàn)獎(jiǎng)金池，邀請(qǐng)“白帽黑客”參與找Bug。

　　螞蟻數(shù)科DeepFake產(chǎn)品上新

　　AIGC時(shí)代，DeepFake已經(jīng)不再簡(jiǎn)單替換技術(shù)來(lái)生成，還有像活化(Animation)、編輯(Editing)以及合成(Synthesis)等攻擊手段。

　　攻擊形式，DeepFake也從簡(jiǎn)單的呈現(xiàn)式攻擊朝著更為復(fù)雜的注入式攻擊轉(zhuǎn)變。

　　呈現(xiàn)式攻擊，顧名思義，也就是在攝像頭前放一張假臉，來(lái)突破檢測(cè)技術(shù)。注入式攻擊則是從系統(tǒng)層面來(lái)劫持?jǐn)z像頭，注入準(zhǔn)備好的圖片/視頻，替換攝像頭畫(huà)面。

　　這也就給檢測(cè)技術(shù)帶來(lái)了不少的挑戰(zhàn)。

　　ZOLOZ Deeper則是專(zhuān)門(mén)針對(duì)注入式、活化等復(fù)雜攻擊手段的產(chǎn)品。

　　現(xiàn)在，ZOLOZ Deeper主要用于在用戶(hù)刷臉場(chǎng)景中攔截 “AI換臉”風(fēng)險(xiǎn)。

　　從身份安全切入之后，他們還將進(jìn)一步擴(kuò)展到內(nèi)容合規(guī)AIGC防控、金融詐騙場(chǎng)景、社交詐騙場(chǎng)景、輿情AIGC風(fēng)險(xiǎn)等多個(gè)實(shí)踐中去。

　　如何實(shí)現(xiàn)?

　　最直接的思路是，用魔法打敗魔法。

　　據(jù)透露，在技術(shù)實(shí)現(xiàn)上，ZOLOZ主要采取攻和防兩條路線。

　　防這方面，ZOLOZ Deeper 搭建了端云一體的全鏈路技術(shù)體系，能應(yīng)對(duì)系統(tǒng)、服務(wù)器、應(yīng)用等多環(huán)節(jié)的安全威脅。

　　前端通過(guò)精密的傳感器校驗(yàn)與多維特征動(dòng)態(tài)風(fēng)控，對(duì)攝像頭狀態(tài)、設(shè)備及網(wǎng)絡(luò)環(huán)境、輸入圖像等進(jìn)行嚴(yán)格審查，確保軟硬件環(huán)境安全無(wú)風(fēng)險(xiǎn)，采集到的生物特征數(shù)據(jù)真實(shí)無(wú)篡改;

　　在用戶(hù)操作過(guò)程中，運(yùn)用深度學(xué)習(xí)模型對(duì)用戶(hù)面部動(dòng)態(tài)進(jìn)行細(xì)致入微的分析，捕捉微表情、肌肉紋理、眼神流轉(zhuǎn)等細(xì)微特征，精準(zhǔn)判斷其是否為真人實(shí)時(shí)互動(dòng)。

　　攻則是借助天璣實(shí)驗(yàn)室來(lái)進(jìn)行自動(dòng)化攻防測(cè)評(píng)。

　　此前量子位曾探訪過(guò)，這是一個(gè)高自動(dòng)化的生物識(shí)別安全實(shí)驗(yàn)室。

　　天璣實(shí)驗(yàn)室投入大量的科研資源，自主研究生成了當(dāng)下黑產(chǎn)攻擊人臉安全的“道具”，定義了上百種不同級(jí)別的攻擊方法和假體制作工藝。

　　此次，天璣實(shí)驗(yàn)室則是通過(guò)GAN模型生成超30萬(wàn)測(cè)試樣本，來(lái)交給ZOLOZ Deeper 進(jìn)行判別訓(xùn)練。

　　除此之外，每個(gè)月還會(huì)對(duì)它進(jìn)行超過(guò)20000次的攻防測(cè)評(píng)，模擬上百種偽造攻擊情況。

　　誰(shuí)是ZOLOZ?

　　ZOLOZ是由螞蟻數(shù)科孵化出來(lái)的科技品牌，主攻生物識(shí)別技術(shù)。最早在2015年支付寶上線的刷臉和支付，背后技術(shù)正是由他們來(lái)支撐。

　　2019年，他們就啟動(dòng)了DeepFake相關(guān)算法研發(fā)。當(dāng)時(shí)還主要針對(duì)是一些簡(jiǎn)單的人臉攻擊，比如將圖片、視頻、面具等Fake內(nèi)容呈現(xiàn)在攝像頭面前，攻破人臉識(shí)別系統(tǒng)。

　　而隨著攻擊手段逐漸復(fù)雜，ZOLOZ技術(shù)與產(chǎn)品也在不斷升級(jí)迭代之中，ZOLOZ Deeper正是應(yīng)對(duì)當(dāng)下AIGC時(shí)代下的產(chǎn)品。

　　這樣的研發(fā)實(shí)力，得到了市場(chǎng)和權(quán)威組織的認(rèn)證。

　　比如在服務(wù)印尼某頭部銀行時(shí)，其產(chǎn)品上線一個(gè)月時(shí)間內(nèi)實(shí)現(xiàn)了 Deepfake 風(fēng)險(xiǎn)“0漏過(guò)”。

　　除此之外，ZOLOZ在2020年，作為亞太第一家，獲得iBeta國(guó)際生物安全認(rèn)證組織最高等級(jí)Level2認(rèn)證。

　　另外在2023年，ZOLOZ通過(guò)了中國(guó)信通院深度偽造視頻檢測(cè)服務(wù)能力檢驗(yàn)，滿足安全可靠、透明性、數(shù)據(jù)保護(hù)、明確責(zé)任、公平性等方面的可信能力要求。

　　上個(gè)月，有20年風(fēng)險(xiǎn)管理經(jīng)驗(yàn)的趙聞飆擔(dān)任螞蟻數(shù)科 CEO。支付寶和螞蟻集團(tuán)的核心風(fēng)控體系就是他牽頭搞的。

　　ZOLOZ Deeper，也是他上任CEO以來(lái)首推的安全產(chǎn)品。

　　還懸賞百萬(wàn)給新產(chǎn)品找bug

　　最后，ZOLOZ還聯(lián)合螞蟻安全響應(yīng)中設(shè)立了超百萬(wàn)的獎(jiǎng)金池，誠(chéng)邀白帽黑客們來(lái)給產(chǎn)品找bug，可以通過(guò)“螞蟻集團(tuán)安全響應(yīng)中心”官網(wǎng)提報(bào)漏洞。