Meta發(fā)布AI生成視頻水印工具 打擊生成式AI帶來(lái)虛假內(nèi)容

　　隨著生成式人工智能的商業(yè)化，網(wǎng)上虛假內(nèi)容的數(shù)量急劇增加。根據(jù)身份驗(yàn)證平臺(tái)Sumsub的數(shù)據(jù)顯示，從2023年到2024年，全球深度偽造的數(shù)量增長(zhǎng)了四倍。2024年，深度偽造占所有欺詐行為的7%，涉及從冒名頂替、賬戶接管到復(fù)雜的社會(huì)工程活動(dòng)等多種形式。

　　為應(yīng)對(duì)這一問題，Meta發(fā)布了一款新的工具——Meta Video Seal，旨在通過(guò)在AI生成的視頻中加入不可察覺的水印來(lái)打擊深度偽造。這款工具于周四開源發(fā)布，旨在便于集成到現(xiàn)有的軟件中，并與Meta之前推出的其他水印工具Watermark Anything和Audio Seal相輔相成。

　　Meta的人工智能研究科學(xué)家Pierre Fernandez在接受訪時(shí)表示:“我們開發(fā)Video Seal的目的是提供更有效的視頻水印解決方案，特別是用于檢測(cè)人工智能生成的視頻并保護(hù)原創(chuàng)性。”

　　盡管Video Seal并不是首個(gè)提出的視頻水印技術(shù)，DeepMind的SynthID和微軟的水印方法也在市場(chǎng)上已有一定應(yīng)用，但費(fèi)爾南德斯指出，現(xiàn)有的水印工具普遍存在一些不足之處。他表示:“雖然有其他水印工具，但它們?cè)谝曨l壓縮后效果不佳，而視頻壓縮在社交平臺(tái)上傳播內(nèi)容時(shí)非常常見;一些方法的運(yùn)行效率也較低，無(wú)法開放或無(wú)法復(fù)制;此外，許多方法源自圖像水印，但圖像水印并不適用于視頻。”

　　除了水印功能，Video Seal還可以在視頻中嵌入隱藏信息，后續(xù)可以通過(guò)揭開這些信息來(lái)追溯視頻的來(lái)源。Meta宣稱，Video Seal能夠有效抵抗模糊、裁剪等常見編輯手段，以及常用的壓縮算法。

　　然而，F(xiàn)ernandez也承認(rèn)，Video Seal存在一定的局限性，特別是在水印的可察覺程度與抗篡改能力之間的權(quán)衡。他指出，過(guò)度壓縮和大幅編輯可能會(huì)破壞水印或使其無(wú)法恢復(fù)。

　　Meta面臨的更大挑戰(zhàn)是，開發(fā)者和行業(yè)人士缺乏使用Video Seal的動(dòng)機(jī)，特別是那些已經(jīng)在使用其他專有解決方案的用戶。為此，Meta推出了一個(gè)名為Meta Omni Seal Bench的公共排行榜，用于對(duì)比不同水印技術(shù)的性能，并將在今年的主要AI會(huì)議ICLR上舉辦一場(chǎng)關(guān)于水印技術(shù)的研討會(huì)。

　　Fernandez表示:“我們希望越來(lái)越多的AI研究人員和開發(fā)者能夠在他們的工作中融入某種形式的水印技術(shù)，并希望與業(yè)界和學(xué)術(shù)界合作，推動(dòng)該領(lǐng)域的更快發(fā)展。”