AI還沒玩明白，反AI工具已經(jīng)來了

　　本文來自于微信公眾號 頭號AI玩家(ID:AIGCplayer)，作者:阿虎。

　　先賣個關(guān)子，結(jié)尾公布答案。

　　如今，由AI生成的內(nèi)容逐漸充斥我們的生活，隨著AI技術(shù)的迭代，更是讓人感到真假難辨。

　　今年6月，歐盟執(zhí)法機構(gòu)Europol的一份報告顯示，到2026年，互聯(lián)網(wǎng)上約90%的內(nèi)容或由AI產(chǎn)生或者編輯。

　　為了提高內(nèi)容的透明度和可信度，國內(nèi)外各平臺陸續(xù)上線內(nèi)容創(chuàng)作者聲明功能，給AI內(nèi)容打“標(biāo)簽”。

　　9月20日，短視頻平臺TikTok全面啟動平臺AIGC內(nèi)容的監(jiān)管，推出了“標(biāo)記AI生成內(nèi)容”的新功能。如果創(chuàng)作者未標(biāo)記涉及的AI工具，內(nèi)容可能會被刪除。

　　9月13日，B站發(fā)布《關(guān)于“主動添加內(nèi)容標(biāo)識”的公告》稱，將在9月20日上線“創(chuàng)作者聲明”功能，允許UP主為其視頻添加標(biāo)識，比如人工智能生成、虛構(gòu)內(nèi)容等。

　　9月8日，微信發(fā)布關(guān)于規(guī)范“自媒體”創(chuàng)作者內(nèi)容標(biāo)注的公告，要求“自媒體”創(chuàng)作者應(yīng)主動對發(fā)布內(nèi)容進行規(guī)范標(biāo)注。利用深度合成技術(shù)生成內(nèi)容時，要遵守法律法規(guī)及平臺規(guī)則，顯著標(biāo)注內(nèi)容為技術(shù)生成。

　　更早一些，今年5月，抖音、小紅書等平臺均要求創(chuàng)作者在人工智能生成的內(nèi)容上顯著標(biāo)注，根據(jù)實際情況勾選“內(nèi)容由AI生成”。抖音發(fā)布了《關(guān)于人工智能生成內(nèi)容標(biāo)識的水印與元數(shù)據(jù)規(guī)范》通知，幫助用戶區(qū)分虛擬內(nèi)容和真實內(nèi)容。

　　各平臺對于AI生成的內(nèi)容都需要進行明確的聲明，無疑為內(nèi)容添加了一層水印保護。

　　那么，為什么我們需要數(shù)字水印?AI水印該如何添加?AI泛濫的時代，或許最終還是需要科技來提供可行解法。DeepFake造假泛濫，難辨真?zhèn)?/p>

　　深度偽造(DeepFake)指的是一種基于人工智能合成某個人的長相或聲音的技術(shù)，名人和公眾人物通常是此類造假行為的受害者，比如此前的AI孫燕姿以及“時尚教皇”。

　　最近，一系列利用深度偽造技術(shù)制作的虛假視頻在TikTok、YouTube等主流社交媒體平臺上引起關(guān)注。

　　這些虛假視頻往往由大眾熟悉的人物合成，例如全球首富馬斯克在視頻中推薦自己看好的投資機會，讓人難以判斷其真實性。

　　AI不光被用來惡搞名人明星，娛樂大眾，也被拿來捏造國際新聞大事，撼動股價。

　　5月底，一張五角大樓著火的照片在社交平臺上瘋傳，這張圖片一度導(dǎo)致標(biāo)普500指數(shù)明顯走低，由漲轉(zhuǎn)跌。最后，有媒體報道稱該圖片是由人工智能生成的。

　　而在互聯(lián)網(wǎng)時代，幾乎每個人都可能成為AI的受害者。(相關(guān)閱讀《你的自拍照可能被收入“不雅圖素材庫”，AI作惡其實離你很近!》)

　　某知名AI文生圖的網(wǎng)站平臺允許用戶進行高度自定義創(chuàng)作模型，生成多種風(fēng)格的圖像，當(dāng)然也包括生成一些擦邊向的內(nèi)容。

　　這些模型大多數(shù)情況下都未經(jīng)當(dāng)事人的同意，在互聯(lián)網(wǎng)上擅自抓取照片，進行模型訓(xùn)練，生成特定風(fēng)格、甚至軟色情的人物圖片，以博取下載量和關(guān)注。

　　今年7月，德國廣告代理商DDB發(fā)布了一則關(guān)于社交平臺兒童數(shù)據(jù)安全的公益廣告，向人們展示兒童面部數(shù)據(jù)有多大可能會被用于創(chuàng)作成人內(nèi)容，呼吁家長盡量少在網(wǎng)上分享兒童照片。

　　在早期，識別深度偽造技術(shù)并不具有挑戰(zhàn)性，因為它們大多數(shù)都存在著明顯的缺陷，例如不自然的面部表情或眼睛不眨眼。但隨著時間的推移，深度偽造技術(shù)逐漸消除了缺陷，使造假更加接近現(xiàn)實，達到“無中生有”的效果。

　　除了AI生成圖像，讓人分不清真假之外，在音視頻領(lǐng)域的偽造技術(shù)則更為泛濫。

　　比如近日，浙江警方偵破一起造謠牟利案，作案團伙利用AI生成1.8萬余個虛假視頻后發(fā)布，非法獲利4萬余元。

　　此前發(fā)生了一系列的AI詐騙事件，由于詐騙金額過大，速度之快，也引起了不少討論。安徽有受騙者接到“朋友”在開會的視頻，9秒被騙245萬;包頭有人被換臉和擬聲的親友迷惑，10分鐘內(nèi)被騙430萬。

　　可見，DeepFake技術(shù)已經(jīng)深入多模態(tài)的各個方面，而水印的添加可以在“真假”、“虛實”之間構(gòu)筑起一道屏障，以防混淆視聽。

　　AI水印，該怎么加?

　　無論教皇是否真的變裝走在了大街上，還是聽到的歌曲并非孫燕姿演唱，我們都需要知道內(nèi)容是否被AI篡改過或者壓根由AI生成的。

　　7月27日，Open AI團隊悄然下線了自己推出的“AI生成內(nèi)容識別器”，理由是該識別器對AI生成內(nèi)容的檢出成功率僅為26%，AI檢測工具準(zhǔn)確率已經(jīng)無法滿足實際操作中的需求。

　　在這個背景下，數(shù)字水印成為了平臺和工具提供方一致認(rèn)為可行有效的解決方法。

　　它是一種隱藏在數(shù)字內(nèi)容中的特殊標(biāo)識信息，用于標(biāo)識內(nèi)容的來源和真?zhèn)�，類似于隱形的“防偽標(biāo)記”，例如在文章中隱秘添加“由AI生成”的文字樣式。

　　起初，國外創(chuàng)意平臺Shutterstock最先宣布用C2PA協(xié)議(類似區(qū)塊鏈的加密技術(shù))為AI生成內(nèi)容打上標(biāo)簽，用來區(qū)分是否為人類創(chuàng)作。

　　C2PA通過數(shù)據(jù)加密技術(shù)給每個像素進行編碼，以便之后查看創(chuàng)作源頭、歷史修改記錄等等，讓作品可以溯源，降低生成式人工智能導(dǎo)致的“誤傳內(nèi)容”。

　　這便是數(shù)字水印最初的表現(xiàn)形式，微軟、Adobe、索尼等科技企業(yè)都將其集成在了自己旗下的產(chǎn)品中，為AI生成內(nèi)容打上水印標(biāo)記。

　　8月31日，谷歌上線了一個名為Synth ID的新工具，能夠在AI生成內(nèi)容中嵌入肉眼不可見的水印，并且不會影響圖像本身的質(zhì)量和體驗。

　　谷歌DeepMind CEO Demis Hassabis表示，SynthID是為了解決深度偽造潛藏的危機而開發(fā)的，同樣可以應(yīng)用在音頻、視頻、文本等其他形式的AI生成內(nèi)容上。

　　SynthID目前僅為谷歌文生圖工具Imagen生成的圖片添加水印，并且識別圖片是否為該模型生成。

　　改變亮度、顏色、噪點等信息元素，水印依舊存在

　　該工具提供了三個程度級別來解釋水印識別的結(jié)果。如果檢測到數(shù)字水印，則圖像的一部分可能是由谷歌繪圖工具Imagen生成的。和傳統(tǒng)水印不同的是，即使圖像被裁剪、編輯、或者旋轉(zhuǎn)，水印依然可以被檢測到。

　　SynthID不僅能夠為圖片添加防偽標(biāo)記，同樣也能夠識別圖片的真假，一定程度上提升AI產(chǎn)品的安全性。

　　同樣，8月21日，商湯科技推出可信AI基礎(chǔ)設(shè)施SenseTrust，上線數(shù)字水印技術(shù)，并將其服務(wù)于旗下的“商湯秒畫”等產(chǎn)品中。

　　具體應(yīng)用上，用戶可在AIGC相關(guān)產(chǎn)品發(fā)布時加入，并且只有通過特定的解碼器和專屬密鑰才能提取，能夠支持多模態(tài)數(shù)據(jù)。

　　不過除了隱蔽的數(shù)字水印之外，商湯秒畫同樣在AI生成圖片上加入了傳統(tǒng)的顯性水印。

　　除了給圖像內(nèi)容添加標(biāo)記外，有研究團隊正在為AI生成文字工具開發(fā)水印版本。

　　此前，馬里蘭大學(xué)研究人員發(fā)表了一篇《A watermark for Large Language Models》的研究論文，詳細(xì)描述了如何給文本內(nèi)容加上數(shù)字水印。Open AI 系統(tǒng)安全性部門負(fù)責(zé)人Jan Leike在接受采訪時曾表示，Open AI正在探索的水印方法就類似于此種。

　　這個方法的大概意思是，在生成的句子中增加一些特定單詞出現(xiàn)的概率，就可以給句子添加一個“數(shù)字水印”，方便檢測句子是否由AI生成。值得一提的是，這種辦法的“水印”只有從一開始嵌入到大語言模型才有效。

　　比如，研究人員讓ChatGPT生成句子“今天的天氣很好，小明在_____”，為了給它加上水印，需要先隨機選擇一部分單詞，像“公園”、“學(xué)校”、“天氣”作為系統(tǒng)偏好詞表。

　　有水印的版本是“今天的天氣非常好，小明在公園打網(wǎng)球”，而無水印版本可能是“今天的天氣很好，小明準(zhǔn)備去打網(wǎng)球”。

　　生成的句子對于普通人來說看起來沒有區(qū)別，但通過統(tǒng)計句子中出現(xiàn)的偏好詞匯的數(shù)量，就可以檢測出這個句子是否被加上了數(shù)字水印。當(dāng)偏好詞匯的數(shù)值高于一定比例，水印檢測器可以判定文本由AI生成。

　　當(dāng)然，以上的例子只是根據(jù)原理做的簡單模擬，實際論文中的系統(tǒng)生成詞表更為復(fù)雜。

　　在圖像中稍微改變某些像素的顏色來嵌入信息，或是在文字內(nèi)容中改變個別單詞出現(xiàn)的頻率來插入信息，都是數(shù)字水印的添加方式，并且這樣的隱藏水印由AI在輸出時自行添加，用戶難以察覺。

　　除了平臺為AI生成內(nèi)容自動添加水印，來保證生成內(nèi)容的安全性外，內(nèi)容創(chuàng)作者還會利用水印來對抗AI復(fù)制技術(shù)的應(yīng)用。

　　今年4月，上海交通大學(xué)研究團隊上線“Mist”開源工具，通過在圖像上放入看不見的“水印”，使圖像無法識別，防止AI進行學(xué)習(xí)和模仿。

　　它能夠?qū)�圖像進行“噪聲處理”，使得圖像生成工具的算法難以辨認(rèn)原始圖片的特點，從而難以生成與原圖風(fēng)格類似的新圖片。

　　比如，原圖是莫奈的《撐傘的女人》，圖二是給AI喂圖后生成的AI版本。如果我們對原圖加入Mist數(shù)字水印，那么AI處理的圖片效果就會如第四張圖片一般。這樣就能避免創(chuàng)作者作品被拿去隨意生成類似圖像。

　　用戶也可以根據(jù)實際需求對水印進行設(shè)置和調(diào)整。在設(shè)置水印信息時，需要確保信息的唯一性，以確保水印的有效性。

　　社交平臺上有很多創(chuàng)作者表示，“愿意上傳圖片，不代表愿意將作品獻祭給AI”。

　　B站UP主“虛幻的生物”分享了開源軟件Glaze，教網(wǎng)友如何防止AI“白嫖”自己的作品。UP主“-邊火-”投稿了一條“賽博偏方加噪點加水印，是否能躲過AI識別”視頻，評論區(qū)“卷”起了添加AI防偽標(biāo)識的辦法。 打標(biāo)記能防止AI“濫用”嗎

　　在生成式AI帶來的挑戰(zhàn)下，中國、美國、英國等各國政府都積極推出AI管理規(guī)范，不過，目前在以下五個國家或地區(qū)中，僅歐盟和中國對于生成內(nèi)容AI水印等標(biāo)識提出了要求。

　　6月14日，歐盟正式批準(zhǔn)通過《人工智能法案》草案，要求AI生成的內(nèi)容應(yīng)該被標(biāo)注，旨在提高對AI生成內(nèi)容的透明度。目前，該法案尚未正式生效。

　　8月15日，我國落地生效的《生成式人工智能服務(wù)管理暫行辦法》，針對生成內(nèi)容的準(zhǔn)確和可靠性提出了新要求，服務(wù)提供者需要采取相應(yīng)的技術(shù)和管理措施，以確保生成的內(nèi)容符合事實，并且能夠提供透明的信息來源。

　　對于谷歌、Adobe、微軟等科技公司和平臺來說，AI生成內(nèi)容引發(fā)的假消息和假新聞的傳播，相應(yīng)平臺需要承擔(dān)起監(jiān)管不當(dāng)?shù)呢?zé)任。

　　如果一張圖片顯示有數(shù)字水印，那么平臺可以相應(yīng)地打上標(biāo)記“內(nèi)容由AI生成，謹(jǐn)慎甄別”，以便網(wǎng)友能夠更容易地將其識別為虛假內(nèi)容，一定程度上降低其傳播的速度。

　　另外，對于內(nèi)容創(chuàng)作者來說，打上數(shù)字水印，意味著將內(nèi)容版權(quán)聲明為自己所有，防止被AI隨意拿去訓(xùn)練模型。

　　無論是創(chuàng)作者聲明或是隱形水印標(biāo)記，都正在樹立起一道保護知識版權(quán)和內(nèi)容安全的數(shù)字防線。

　　然而，就像Open AI CEO Sam Altman所說，不存在一個完美的AI生成辨別工具。目前，這些標(biāo)記AI生成內(nèi)容的新工具仍處于起步階段，并未完全面向公眾開放。

　　另一方面，并非所有AI生成工具都愿意給自己的內(nèi)容打上AI水印。如何在水印的實施標(biāo)準(zhǔn)上達成共識，對于人工智能領(lǐng)域的企業(yè)來說還是個未知數(shù)。

　　不過，這些水印標(biāo)識至少能夠幫助降低虛假信息誕生的風(fēng)險，實現(xiàn)對內(nèi)容的溯源和確認(rèn)版權(quán)。