AIGC時代如何防范圖像篡改風險？合合信息為群眾送上防騙“錦囊”

　　隨著人工智能的發(fā)展，P圖軟件等圖片編輯工具在日常生活中得到了廣泛應用，其在便利公眾生活的同時也給了犯罪分子可趁之機，基于篡改圖像實施的詐騙案件頻頻發(fā)生。為了增強全社會抵制網(wǎng)絡不良信息的意識和能力，上海市靜安區(qū)委網(wǎng)信辦在2024年“網(wǎng)絡舉報宣傳周”期間舉辦了“靜安區(qū)網(wǎng)絡舉報宣傳小課堂”活動。在生成式人工智能風險科普課堂上，合合信息技術專家為社區(qū)居民講解AIGC時代如何防范圖像篡改欺詐風險，演示智能圖像處理技術如何助力反詐工作的推進。

　　據(jù)專家介紹，人臉圖像偽造和卡證照篡改是當前圖像領域面臨的兩大主要風險。受多種偽造方法疊加、新偽造工具涌現(xiàn)、圖像視頻壓縮等因素影響，篡改圖像特征分布復雜，目前的圖像篡改檢測技術面臨泛化性和魯棒性不足的困境。

　　圖說 AIGC時代主要欺詐風險

　　以身份證檢測場景為例，當我們拍攝身份證照片上傳電子系統(tǒng)審核時，受所處環(huán)境光線影響，照片經(jīng)常會出現(xiàn)反光現(xiàn)象，再加上部分用戶會給身份證套上一層塑封包裝，加劇了信息的模糊程度。機器要在排除這些外部因素干擾的基礎上識別照片是否存在貼圖、復制移動、插入文本等多種篡改形式，增加檢測難度。

　　針對上述問題，合合信息基于數(shù)據(jù)驅動的神經(jīng)網(wǎng)絡模型，推出了圖像篡改檢測方案，能夠智能提取篡改留下的細微痕跡，可檢測出多種篡改形式，適用于金融、保險以及商場小票造假等多個檢測場景。該技術具備了基于大規(guī)模數(shù)據(jù)訓練的強大特征學習能力，能夠有效提高圖像篡改檢測技術的準確率和泛化能力，幫助群眾精準識別偽造圖像。

　　圖說 合合信息圖像篡改檢測技術對常見證照篡改痕跡進行定位

　　近年來，生成式人工智能的涌現(xiàn)在創(chuàng)造機遇的同時，也帶來了更多犯罪風險。目前，我國已經(jīng)相繼出臺了信息安全技術相關法律法規(guī)保護公民的合法權益。在圖像內容安全領域，由中國圖象圖形學學會、中國信息通信研究院、合合信息等公司和多所高校聯(lián)合編制、中國互聯(lián)網(wǎng)協(xié)會發(fā)布的《文本圖像篡改檢測系統(tǒng)技術要求》團體標準于今年9月正式發(fā)布，指導行業(yè)共同應對AI合成圖像造假等一系列新難題，從源頭降低電子文檔圖像詐騙風險。

　　詐騙手段層出不窮，構建全民反詐統(tǒng)一陣線刻不容緩。開展反詐科普課堂活動，有助于提高社會各群體警惕意識，保護財產安全。合合信息將繼續(xù)深耕文檔圖像反篡改領域，用AI幫助廣大群眾規(guī)避詐騙風險，攜手社會各界共同打造安全可信的網(wǎng)絡環(huán)境。