E Ink元太科技連三年入選道瓊可持續(xù)雙指數(shù)撬動(dòng)6000億GTV后,抖音計(jì)劃偷襲美團(tuán)大本營AGI Open Network(AON):賦能每個(gè)人創(chuàng)建、部署和貨幣化AI Agent貸款利率史上最低了嗎?東融教你看懂歷年啥水平“客服來電”有詐?抖音客服上線“驗(yàn)證助手”助用戶識(shí)別詐騙OpenAI新模型GPT-5研發(fā)未達(dá)預(yù)期:成本高昂 效果不佳曝天馬打入果鏈:為蘋果HomePod供應(yīng)LCD屏 每塊屏僅10美元曝OPPO或首發(fā)新款天璣次旗艦芯片 兩大子品牌Q2發(fā)力諾基亞攜手阿聯(lián)酋運(yùn)營商e&,展示全球首個(gè)固網(wǎng)游戲端到端網(wǎng)絡(luò)切片方案零下25℃制熱26℃!海爾水暖通黑科技亮相冰雪大世界三星沒放棄曲面屏開發(fā)!最新專利曝光暗示有望回歸三大運(yùn)營商11月成績(jī)單:用戶數(shù)據(jù)增幅放緩打造下一個(gè)英偉達(dá),孫正義的2026芯片計(jì)劃曝光瞭望2025全球6G技術(shù)發(fā)展趨勢(shì)AI時(shí)代云安全新范式,暢捷通智能守護(hù)小微企業(yè)安全上云百川智能發(fā)布全鏈路領(lǐng)域增強(qiáng)金融大模型 Baichuan4-Finance年末家電消費(fèi)觀察:品質(zhì)生活類產(chǎn)品熱賣,將持續(xù)迎來剛需式普及?GPT-5研發(fā)受阻:OpenAI 新一代模型難見突破性進(jìn)展新一代語言模型ModernBERT發(fā)布,RAG等任務(wù)處理速度快四倍、成本低新研究顯示:Anthropic 的 Claude AI 在合作能力上領(lǐng)先于 OpenAI 和谷歌模型
  • 首頁 > 企業(yè)IT頻道 > 人工智能

    AI還沒玩明白,反AI工具已經(jīng)來了

    2023年09月21日 21:45:27   來源:頭號(hào)AI玩家(ID:AIGCplayer)

      本文來自于微信公眾號(hào) 頭號(hào)AI玩家(ID:AIGCplayer),作者:阿虎。

      先賣個(gè)關(guān)子,結(jié)尾公布答案。

      如今,由AI生成的內(nèi)容逐漸充斥我們的生活,隨著AI技術(shù)的迭代,更是讓人感到真假難辨。

      今年6月,歐盟執(zhí)法機(jī)構(gòu)Europol的一份報(bào)告顯示,到2026年,互聯(lián)網(wǎng)上約90%的內(nèi)容或由AI產(chǎn)生或者編輯。

      為了提高內(nèi)容的透明度和可信度,國內(nèi)外各平臺(tái)陸續(xù)上線內(nèi)容創(chuàng)作者聲明功能,給AI內(nèi)容打“標(biāo)簽”。

      9月20日,短視頻平臺(tái)TikTok全面啟動(dòng)平臺(tái)AIGC內(nèi)容的監(jiān)管,推出了“標(biāo)記AI生成內(nèi)容”的新功能。如果創(chuàng)作者未標(biāo)記涉及的AI工具,內(nèi)容可能會(huì)被刪除。

      9月13日,B站發(fā)布《關(guān)于“主動(dòng)添加內(nèi)容標(biāo)識(shí)”的公告》稱,將在9月20日上線“創(chuàng)作者聲明”功能,允許UP主為其視頻添加標(biāo)識(shí),比如人工智能生成、虛構(gòu)內(nèi)容等。

      9月8日,微信發(fā)布關(guān)于規(guī)范“自媒體”創(chuàng)作者內(nèi)容標(biāo)注的公告,要求“自媒體”創(chuàng)作者應(yīng)主動(dòng)對(duì)發(fā)布內(nèi)容進(jìn)行規(guī)范標(biāo)注。利用深度合成技術(shù)生成內(nèi)容時(shí),要遵守法律法規(guī)及平臺(tái)規(guī)則,顯著標(biāo)注內(nèi)容為技術(shù)生成。

      更早一些,今年5月,抖音、小紅書等平臺(tái)均要求創(chuàng)作者在人工智能生成的內(nèi)容上顯著標(biāo)注,根據(jù)實(shí)際情況勾選“內(nèi)容由AI生成”。抖音發(fā)布了《關(guān)于人工智能生成內(nèi)容標(biāo)識(shí)的水印與元數(shù)據(jù)規(guī)范》通知,幫助用戶區(qū)分虛擬內(nèi)容和真實(shí)內(nèi)容。

      各平臺(tái)對(duì)于AI生成的內(nèi)容都需要進(jìn)行明確的聲明,無疑為內(nèi)容添加了一層水印保護(hù)。

      那么,為什么我們需要數(shù)字水印?AI水印該如何添加?AI泛濫的時(shí)代,或許最終還是需要科技來提供可行解法。DeepFake造假泛濫,難辨真?zhèn)?/p>

      深度偽造(DeepFake)指的是一種基于人工智能合成某個(gè)人的長(zhǎng)相或聲音的技術(shù),名人和公眾人物通常是此類造假行為的受害者,比如此前的AI孫燕姿以及“時(shí)尚教皇”。

      最近,一系列利用深度偽造技術(shù)制作的虛假視頻在TikTok、YouTube等主流社交媒體平臺(tái)上引起關(guān)注。

      這些虛假視頻往往由大眾熟悉的人物合成,例如全球首富馬斯克在視頻中推薦自己看好的投資機(jī)會(huì),讓人難以判斷其真實(shí)性。

      AI不光被用來惡搞名人明星,娛樂大眾,也被拿來捏造國際新聞大事,撼動(dòng)股價(jià)。

      5月底,一張五角大樓著火的照片在社交平臺(tái)上瘋傳,這張圖片一度導(dǎo)致標(biāo)普500指數(shù)明顯走低,由漲轉(zhuǎn)跌。最后,有媒體報(bào)道稱該圖片是由人工智能生成的。

      而在互聯(lián)網(wǎng)時(shí)代,幾乎每個(gè)人都可能成為AI的受害者。(相關(guān)閱讀《你的自拍照可能被收入“不雅圖素材庫”,AI作惡其實(shí)離你很近!》)

      某知名AI文生圖的網(wǎng)站平臺(tái)允許用戶進(jìn)行高度自定義創(chuàng)作模型,生成多種風(fēng)格的圖像,當(dāng)然也包括生成一些擦邊向的內(nèi)容。

      這些模型大多數(shù)情況下都未經(jīng)當(dāng)事人的同意,在互聯(lián)網(wǎng)上擅自抓取照片,進(jìn)行模型訓(xùn)練,生成特定風(fēng)格、甚至軟色情的人物圖片,以博取下載量和關(guān)注。

      今年7月,德國廣告代理商DDB發(fā)布了一則關(guān)于社交平臺(tái)兒童數(shù)據(jù)安全的公益廣告,向人們展示兒童面部數(shù)據(jù)有多大可能會(huì)被用于創(chuàng)作成人內(nèi)容,呼吁家長(zhǎng)盡量少在網(wǎng)上分享兒童照片。

      在早期,識(shí)別深度偽造技術(shù)并不具有挑戰(zhàn)性,因?yàn)樗鼈兇蠖鄶?shù)都存在著明顯的缺陷,例如不自然的面部表情或眼睛不眨眼。但隨著時(shí)間的推移,深度偽造技術(shù)逐漸消除了缺陷,使造假更加接近現(xiàn)實(shí),達(dá)到“無中生有”的效果。

      除了AI生成圖像,讓人分不清真假之外,在音視頻領(lǐng)域的偽造技術(shù)則更為泛濫。

      比如近日,浙江警方偵破一起造謠牟利案,作案團(tuán)伙利用AI生成1.8萬余個(gè)虛假視頻后發(fā)布,非法獲利4萬余元。

      此前發(fā)生了一系列的AI詐騙事件,由于詐騙金額過大,速度之快,也引起了不少討論。安徽有受騙者接到“朋友”在開會(huì)的視頻,9秒被騙245萬;包頭有人被換臉和擬聲的親友迷惑,10分鐘內(nèi)被騙430萬。

      可見,DeepFake技術(shù)已經(jīng)深入多模態(tài)的各個(gè)方面,而水印的添加可以在“真假”、“虛實(shí)”之間構(gòu)筑起一道屏障,以防混淆視聽。

      AI水印,該怎么加?

      無論教皇是否真的變裝走在了大街上,還是聽到的歌曲并非孫燕姿演唱,我們都需要知道內(nèi)容是否被AI篡改過或者壓根由AI生成的。

      7月27日,Open AI團(tuán)隊(duì)悄然下線了自己推出的“AI生成內(nèi)容識(shí)別器”,理由是該識(shí)別器對(duì)AI生成內(nèi)容的檢出成功率僅為26%,AI檢測(cè)工具準(zhǔn)確率已經(jīng)無法滿足實(shí)際操作中的需求。

      在這個(gè)背景下,數(shù)字水印成為了平臺(tái)和工具提供方一致認(rèn)為可行有效的解決方法。

      它是一種隱藏在數(shù)字內(nèi)容中的特殊標(biāo)識(shí)信息,用于標(biāo)識(shí)內(nèi)容的來源和真?zhèn),類似于隱形的“防偽標(biāo)記”,例如在文章中隱秘添加“由AI生成”的文字樣式。

      起初,國外創(chuàng)意平臺(tái)Shutterstock最先宣布用C2PA協(xié)議(類似區(qū)塊鏈的加密技術(shù))為AI生成內(nèi)容打上標(biāo)簽,用來區(qū)分是否為人類創(chuàng)作。

      C2PA通過數(shù)據(jù)加密技術(shù)給每個(gè)像素進(jìn)行編碼,以便之后查看創(chuàng)作源頭、歷史修改記錄等等,讓作品可以溯源,降低生成式人工智能導(dǎo)致的“誤傳內(nèi)容”。

      這便是數(shù)字水印最初的表現(xiàn)形式,微軟、Adobe、索尼等科技企業(yè)都將其集成在了自己旗下的產(chǎn)品中,為AI生成內(nèi)容打上水印標(biāo)記。

      8月31日,谷歌上線了一個(gè)名為Synth ID的新工具,能夠在AI生成內(nèi)容中嵌入肉眼不可見的水印,并且不會(huì)影響圖像本身的質(zhì)量和體驗(yàn)。

      谷歌DeepMind CEO Demis Hassabis表示,SynthID是為了解決深度偽造潛藏的危機(jī)而開發(fā)的,同樣可以應(yīng)用在音頻、視頻、文本等其他形式的AI生成內(nèi)容上。

      SynthID目前僅為谷歌文生圖工具Imagen生成的圖片添加水印,并且識(shí)別圖片是否為該模型生成。

      改變亮度、顏色、噪點(diǎn)等信息元素,水印依舊存在

      該工具提供了三個(gè)程度級(jí)別來解釋水印識(shí)別的結(jié)果。如果檢測(cè)到數(shù)字水印,則圖像的一部分可能是由谷歌繪圖工具Imagen生成的。和傳統(tǒng)水印不同的是,即使圖像被裁剪、編輯、或者旋轉(zhuǎn),水印依然可以被檢測(cè)到。

      SynthID不僅能夠?yàn)閳D片添加防偽標(biāo)記,同樣也能夠識(shí)別圖片的真假,一定程度上提升AI產(chǎn)品的安全性。

      同樣,8月21日,商湯科技推出可信AI基礎(chǔ)設(shè)施SenseTrust,上線數(shù)字水印技術(shù),并將其服務(wù)于旗下的“商湯秒畫”等產(chǎn)品中。

      具體應(yīng)用上,用戶可在AIGC相關(guān)產(chǎn)品發(fā)布時(shí)加入,并且只有通過特定的解碼器和專屬密鑰才能提取,能夠支持多模態(tài)數(shù)據(jù)。

      不過除了隱蔽的數(shù)字水印之外,商湯秒畫同樣在AI生成圖片上加入了傳統(tǒng)的顯性水印。

      除了給圖像內(nèi)容添加標(biāo)記外,有研究團(tuán)隊(duì)正在為AI生成文字工具開發(fā)水印版本。

      此前,馬里蘭大學(xué)研究人員發(fā)表了一篇《A watermark for Large Language Models》的研究論文,詳細(xì)描述了如何給文本內(nèi)容加上數(shù)字水印。Open AI 系統(tǒng)安全性部門負(fù)責(zé)人Jan Leike在接受采訪時(shí)曾表示,Open AI正在探索的水印方法就類似于此種。

      這個(gè)方法的大概意思是,在生成的句子中增加一些特定單詞出現(xiàn)的概率,就可以給句子添加一個(gè)“數(shù)字水印”,方便檢測(cè)句子是否由AI生成。值得一提的是,這種辦法的“水印”只有從一開始嵌入到大語言模型才有效。

      比如,研究人員讓ChatGPT生成句子“今天的天氣很好,小明在_____”,為了給它加上水印,需要先隨機(jī)選擇一部分單詞,像“公園”、“學(xué)校”、“天氣”作為系統(tǒng)偏好詞表。

      有水印的版本是“今天的天氣非常好,小明在公園打網(wǎng)球”,而無水印版本可能是“今天的天氣很好,小明準(zhǔn)備去打網(wǎng)球”。

      生成的句子對(duì)于普通人來說看起來沒有區(qū)別,但通過統(tǒng)計(jì)句子中出現(xiàn)的偏好詞匯的數(shù)量,就可以檢測(cè)出這個(gè)句子是否被加上了數(shù)字水印。當(dāng)偏好詞匯的數(shù)值高于一定比例,水印檢測(cè)器可以判定文本由AI生成。

      當(dāng)然,以上的例子只是根據(jù)原理做的簡(jiǎn)單模擬,實(shí)際論文中的系統(tǒng)生成詞表更為復(fù)雜。

      在圖像中稍微改變某些像素的顏色來嵌入信息,或是在文字內(nèi)容中改變個(gè)別單詞出現(xiàn)的頻率來插入信息,都是數(shù)字水印的添加方式,并且這樣的隱藏水印由AI在輸出時(shí)自行添加,用戶難以察覺。

      除了平臺(tái)為AI生成內(nèi)容自動(dòng)添加水印,來保證生成內(nèi)容的安全性外,內(nèi)容創(chuàng)作者還會(huì)利用水印來對(duì)抗AI復(fù)制技術(shù)的應(yīng)用。

      今年4月,上海交通大學(xué)研究團(tuán)隊(duì)上線“Mist”開源工具,通過在圖像上放入看不見的“水印”,使圖像無法識(shí)別,防止AI進(jìn)行學(xué)習(xí)和模仿。

      它能夠?qū)D像進(jìn)行“噪聲處理”,使得圖像生成工具的算法難以辨認(rèn)原始圖片的特點(diǎn),從而難以生成與原圖風(fēng)格類似的新圖片。

      比如,原圖是莫奈的《撐傘的女人》,圖二是給AI喂圖后生成的AI版本。如果我們對(duì)原圖加入Mist數(shù)字水印,那么AI處理的圖片效果就會(huì)如第四張圖片一般。這樣就能避免創(chuàng)作者作品被拿去隨意生成類似圖像。

      用戶也可以根據(jù)實(shí)際需求對(duì)水印進(jìn)行設(shè)置和調(diào)整。在設(shè)置水印信息時(shí),需要確保信息的唯一性,以確保水印的有效性。

      社交平臺(tái)上有很多創(chuàng)作者表示,“愿意上傳圖片,不代表愿意將作品獻(xiàn)祭給AI”。

      B站UP主“虛幻的生物”分享了開源軟件Glaze,教網(wǎng)友如何防止AI“白嫖”自己的作品。UP主“-邊火-”投稿了一條“賽博偏方加噪點(diǎn)加水印,是否能躲過AI識(shí)別”視頻,評(píng)論區(qū)“卷”起了添加AI防偽標(biāo)識(shí)的辦法。 打標(biāo)記能防止AI“濫用”嗎

      在生成式AI帶來的挑戰(zhàn)下,中國、美國、英國等各國政府都積極推出AI管理規(guī)范,不過,目前在以下五個(gè)國家或地區(qū)中,僅歐盟和中國對(duì)于生成內(nèi)容AI水印等標(biāo)識(shí)提出了要求。

      6月14日,歐盟正式批準(zhǔn)通過《人工智能法案》草案,要求AI生成的內(nèi)容應(yīng)該被標(biāo)注,旨在提高對(duì)AI生成內(nèi)容的透明度。目前,該法案尚未正式生效。

      8月15日,我國落地生效的《生成式人工智能服務(wù)管理暫行辦法》,針對(duì)生成內(nèi)容的準(zhǔn)確和可靠性提出了新要求,服務(wù)提供者需要采取相應(yīng)的技術(shù)和管理措施,以確保生成的內(nèi)容符合事實(shí),并且能夠提供透明的信息來源。

      對(duì)于谷歌、Adobe、微軟等科技公司和平臺(tái)來說,AI生成內(nèi)容引發(fā)的假消息和假新聞的傳播,相應(yīng)平臺(tái)需要承擔(dān)起監(jiān)管不當(dāng)?shù)呢?zé)任。

      如果一張圖片顯示有數(shù)字水印,那么平臺(tái)可以相應(yīng)地打上標(biāo)記“內(nèi)容由AI生成,謹(jǐn)慎甄別”,以便網(wǎng)友能夠更容易地將其識(shí)別為虛假內(nèi)容,一定程度上降低其傳播的速度。

      另外,對(duì)于內(nèi)容創(chuàng)作者來說,打上數(shù)字水印,意味著將內(nèi)容版權(quán)聲明為自己所有,防止被AI隨意拿去訓(xùn)練模型。

      無論是創(chuàng)作者聲明或是隱形水印標(biāo)記,都正在樹立起一道保護(hù)知識(shí)版權(quán)和內(nèi)容安全的數(shù)字防線。

      然而,就像Open AI CEO Sam Altman所說,不存在一個(gè)完美的AI生成辨別工具。目前,這些標(biāo)記AI生成內(nèi)容的新工具仍處于起步階段,并未完全面向公眾開放。

      另一方面,并非所有AI生成工具都愿意給自己的內(nèi)容打上AI水印。如何在水印的實(shí)施標(biāo)準(zhǔn)上達(dá)成共識(shí),對(duì)于人工智能領(lǐng)域的企業(yè)來說還是個(gè)未知數(shù)。

      不過,這些水印標(biāo)識(shí)至少能夠幫助降低虛假信息誕生的風(fēng)險(xiǎn),實(shí)現(xiàn)對(duì)內(nèi)容的溯源和確認(rèn)版權(quán)。

      文章內(nèi)容僅供閱讀,不構(gòu)成投資建議,請(qǐng)謹(jǐn)慎對(duì)待。投資者據(jù)此操作,風(fēng)險(xiǎn)自擔(dān)。

    即時(shí)

    新聞

    明火炊具市場(chǎng):三季度健康屬性貫穿全類目

    奧維云網(wǎng)(AVC)推總數(shù)據(jù)顯示,2024年1-9月明火炊具線上零售額94.2億元,同比增加3.1%,其中抖音渠道表現(xiàn)優(yōu)異,同比有14%的漲幅,傳統(tǒng)電商略有下滑,同比降低2.3%。

    企業(yè)IT

    重慶創(chuàng)新公積金應(yīng)用,“區(qū)塊鏈+政務(wù)服務(wù)”顯成效

    “以前都要去窗口辦,一套流程下來都要半個(gè)月了,現(xiàn)在方便多了!”打開“重慶公積金”微信小程序,按照提示流程提交相關(guān)材料,僅幾秒鐘,重慶市民曾某的賬戶就打進(jìn)了21600元。

    3C消費(fèi)

    華碩ProArt創(chuàng)藝27 Pro PA279CRV顯示器,高能實(shí)力,創(chuàng)

    華碩ProArt創(chuàng)藝27 Pro PA279CRV顯示器,憑借其優(yōu)秀的性能配置和精準(zhǔn)的色彩呈現(xiàn)能力,為您的創(chuàng)作工作帶來實(shí)質(zhì)性的幫助,雙十一期間低至2799元,性價(jià)比很高,簡(jiǎn)直是創(chuàng)作者們的首選。

    研究

    中國信通院羅松:深度解讀《工業(yè)互聯(lián)網(wǎng)標(biāo)識(shí)解析體系

    9月14日,2024全球工業(yè)互聯(lián)網(wǎng)大會(huì)——工業(yè)互聯(lián)網(wǎng)標(biāo)識(shí)解析專題論壇在沈陽成功舉辦。