AIGC時(shí)代如何防范圖像篡改風(fēng)險(xiǎn)？合合信息為群眾送上防騙“錦囊”

　　隨著人工智能的發(fā)展，P圖軟件等圖片編輯工具在日常生活中得到了廣泛應(yīng)用，其在便利公眾生活的同時(shí)也給了犯罪分子可趁之機(jī)，基于篡改圖像實(shí)施的詐騙案件頻頻發(fā)生。為了增強(qiáng)全社會(huì)抵制網(wǎng)絡(luò)不良信息的意識(shí)和能力，上海市靜安區(qū)委網(wǎng)信辦在2024年“網(wǎng)絡(luò)舉報(bào)宣傳周”期間舉辦了“靜安區(qū)網(wǎng)絡(luò)舉報(bào)宣傳小課堂”活動(dòng)。在生成式人工智能風(fēng)險(xiǎn)科普課堂上，合合信息技術(shù)專家為社區(qū)居民講解AIGC時(shí)代如何防范圖像篡改欺詐風(fēng)險(xiǎn)，演示智能圖像處理技術(shù)如何助力反詐工作的推進(jìn)。

　　據(jù)專家介紹，人臉圖像偽造和卡證照篡改是當(dāng)前圖像領(lǐng)域面臨的兩大主要風(fēng)險(xiǎn)。受多種偽造方法疊加、新偽造工具涌現(xiàn)、圖像視頻壓縮等因素影響，篡改圖像特征分布復(fù)雜，目前的圖像篡改檢測(cè)技術(shù)面臨泛化性和魯棒性不足的困境。

　　圖說(shuō) AIGC時(shí)代主要欺詐風(fēng)險(xiǎn)

　　以身份證檢測(cè)場(chǎng)景為例，當(dāng)我們拍攝身份證照片上傳電子系統(tǒng)審核時(shí)，受所處環(huán)境光線影響，照片經(jīng)常會(huì)出現(xiàn)反光現(xiàn)象，再加上部分用戶會(huì)給身份證套上一層塑封包裝，加劇了信息的模糊程度。機(jī)器要在排除這些外部因素干擾的基礎(chǔ)上識(shí)別照片是否存在貼圖、復(fù)制移動(dòng)、插入文本等多種篡改形式，增加檢測(cè)難度。

　　針對(duì)上述問(wèn)題，合合信息基于數(shù)據(jù)驅(qū)動(dòng)的神經(jīng)網(wǎng)絡(luò)模型，推出了圖像篡改檢測(cè)方案，能夠智能提取篡改留下的細(xì)微痕跡，可檢測(cè)出多種篡改形式，適用于金融、保險(xiǎn)以及商場(chǎng)小票造假等多個(gè)檢測(cè)場(chǎng)景。該技術(shù)具備了基于大規(guī)模數(shù)據(jù)訓(xùn)練的強(qiáng)大特征學(xué)習(xí)能力，能夠有效提高圖像篡改檢測(cè)技術(shù)的準(zhǔn)確率和泛化能力，幫助群眾精準(zhǔn)識(shí)別偽造圖像。

　　圖說(shuō) 合合信息圖像篡改檢測(cè)技術(shù)對(duì)常見(jiàn)證照篡改痕跡進(jìn)行定位

　　近年來(lái)，生成式人工智能的涌現(xiàn)在創(chuàng)造機(jī)遇的同時(shí)，也帶來(lái)了更多犯罪風(fēng)險(xiǎn)。目前，我國(guó)已經(jīng)相繼出臺(tái)了信息安全技術(shù)相關(guān)法律法規(guī)保護(hù)公民的合法權(quán)益。在圖像內(nèi)容安全領(lǐng)域，由中國(guó)圖象圖形學(xué)學(xué)會(huì)、中國(guó)信息通信研究院、合合信息等公司和多所高校聯(lián)合編制、中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)發(fā)布的《文本圖像篡改檢測(cè)系統(tǒng)技術(shù)要求》團(tuán)體標(biāo)準(zhǔn)于今年9月正式發(fā)布，指導(dǎo)行業(yè)共同應(yīng)對(duì)AI合成圖像造假等一系列新難題，從源頭降低電子文檔圖像詐騙風(fēng)險(xiǎn)。

　　詐騙手段層出不窮，構(gòu)建全民反詐統(tǒng)一陣線刻不容緩。開(kāi)展反詐科普課堂活動(dòng)，有助于提高社會(huì)各群體警惕意識(shí)，保護(hù)財(cái)產(chǎn)安全。合合信息將繼續(xù)深耕文檔圖像反篡改領(lǐng)域，用AI幫助廣大群眾規(guī)避詐騙風(fēng)險(xiǎn)，攜手社會(huì)各界共同打造安全可信的網(wǎng)絡(luò)環(huán)境。