國內(nèi)首個AI安全大賽圓滿收官 上海交通大學(xué)等高校摘得桂冠

　　9月16日，以“共筑AI安全 安享智能未來”為主題的AISC首屆人工智能安全大賽圓滿落幕。

　　在人工智能安全大賽上，動駕駛安全賽題和人臉識別安全賽題從攻擊視角出發(fā)，通過讓選手攻擊目標(biāo)模型挖掘算法漏洞，旨在發(fā)現(xiàn)更加穩(wěn)定的攻擊算法，以更好的實現(xiàn)準(zhǔn)確評估模型的安全性。深度偽造安全賽題則通過分析偽造音視頻的相似性，來溯源不同偽造內(nèi)容是否來自同一種或同一類生物特征生成軟件。

　　自七月開啟報名以來，大賽共吸引來自全國范圍內(nèi)70多所高等高校、科研院所、企業(yè)機(jī)構(gòu)的超過400支團(tuán)隊，共計600余名選手的踴躍參與。經(jīng)過三個月的激烈角逐，最終，上海交通大學(xué)聯(lián)合戰(zhàn)隊“AreYouFake”與北京交通大學(xué)戰(zhàn)隊“BJTU-ADaM”分別摘得深度偽造安全與自動駕駛安全賽道桂冠，北京理工大學(xué)戰(zhàn)隊“DeepDream”與建信金科戰(zhàn)隊“Tian Quan&LianYi”共同位列人臉識別賽道第一名。

　　開放環(huán)境下的人工智能系統(tǒng)面臨諸多安全挑戰(zhàn)，如何解決通用人工智能算法全周期的安全保障問題成為重中之重。北京航空航天大學(xué)軟件開發(fā)環(huán)境國家重點實驗室副主任劉祥龍表示，目前人工智能算法及系統(tǒng)的安全性缺乏科學(xué)評測手段，難以有效評測完整的人工智能模型和算法能力。他表示，從技術(shù)上來看應(yīng)形成從安全性測試到安全性分析與安全性加固的完整技術(shù)手段，最終形成標(biāo)準(zhǔn)化的測試流程。同時他指出，未來的人工智能安全應(yīng)該圍繞從數(shù)據(jù)、算法到系統(tǒng)各個層次上的全面評測，同時配合一套整體的從硬件到軟件的安全可信計算環(huán)境。