國內首個AI安全大賽圓滿收官 上海交通大學等高校摘得桂冠

　　9月16日，以“共筑AI安全 安享智能未來”為主題的AISC首屆人工智能安全大賽圓滿落幕。

　　在人工智能安全大賽上，動駕駛安全賽題和人臉識別安全賽題從攻擊視角出發(fā)，通過讓選手攻擊目標模型挖掘算法漏洞，旨在發(fā)現(xiàn)更加穩(wěn)定的攻擊算法，以更好的實現(xiàn)準確評估模型的安全性。深度偽造安全賽題則通過分析偽造音視頻的相似性，來溯源不同偽造內容是否來自同一種或同一類生物特征生成軟件。

　　自七月開啟報名以來，大賽共吸引來自全國范圍內70多所高等高校、科研院所、企業(yè)機構的超過400支團隊，共計600余名選手的踴躍參與。經(jīng)過三個月的激烈角逐，最終，上海交通大學聯(lián)合戰(zhàn)隊“AreYouFake”與北京交通大學戰(zhàn)隊“BJTU-ADaM”分別摘得深度偽造安全與自動駕駛安全賽道桂冠，北京理工大學戰(zhàn)隊“DeepDream”與建信金科戰(zhàn)隊“Tian Quan&LianYi”共同位列人臉識別賽道第一名。

　　開放環(huán)境下的人工智能系統(tǒng)面臨諸多安全挑戰(zhàn)，如何解決通用人工智能算法全周期的安全保障問題成為重中之重。北京航空航天大學軟件開發(fā)環(huán)境國家重點實驗室副主任劉祥龍表示，目前人工智能算法及系統(tǒng)的安全性缺乏科學評測手段，難以有效評測完整的人工智能模型和算法能力。他表示，從技術上來看應形成從安全性測試到安全性分析與安全性加固的完整技術手段，最終形成標準化的測試流程。同時他指出，未來的人工智能安全應該圍繞從數(shù)據(jù)、算法到系統(tǒng)各個層次上的全面評測，同時配合一套整體的從硬件到軟件的安全可信計算環(huán)境。