ISC 2017人工智能論壇：從安全角度重新審視AI風(fēng)險

　　近年來，人工智能逐步走進人們的視野，成為人們茶余飯后津津樂道的話題。憑借深度學(xué)習(xí)技術(shù)的“井噴式”發(fā)展，各種硬件產(chǎn)品中開始融入人工智能技術(shù)。人工智能大勢所趨，這已經(jīng)成為很多業(yè)內(nèi)人士的共識。

　　9月13日，在以“萬物皆變，人是安全的尺度”為主題的第五屆中國互聯(lián)網(wǎng)安全大會(ISC2017)人工智能技術(shù)應(yīng)用安全論壇上，美國喬治亞大學(xué)教授、喬治亞安全與隱私學(xué)院院長李康、中科院軟件所研究員蘇璞睿、清華大學(xué)副教授張超、360 Team Serious團隊成員肖奇學(xué)等眾多業(yè)界專家齊聚一堂，從安全的角度重新審視人工智能技術(shù)的發(fā)展、風(fēng)險、并對廣泛的智能攻防安全研究進行了深入探討及交流。

　　安全行業(yè)需要廣義的人工智能

　　美國喬治亞大學(xué)教授、喬治亞安全與隱私學(xué)院院長李康在演講中強調(diào)，安全行業(yè)需要廣義的人工智能，每一個攻擊做到極致就是在創(chuàng)建機器。

　　圖：美國喬治亞大學(xué)教授李康在人工智能論壇上發(fā)表演講

　　“人工智能我不能只局限外部的實現(xiàn)，當(dāng)然取決于具體的應(yīng)但是如果你的輸出是被用戶來控制的，那我覺得必須要回頭來看看。”李康表示，目前黑產(chǎn)都在使用機器學(xué)習(xí)，這對安全是非常大的挑戰(zhàn)。

　　360 Team Serious團隊成員肖奇學(xué)認(rèn)為，深度學(xué)習(xí)技術(shù)雖然能夠使工作學(xué)習(xí)更加便捷高效，甚至推動了新一輪人工智能浪潮，但其在系統(tǒng)實現(xiàn)中的軟件安全問題容易被大眾所忽略。他結(jié)合軟件系統(tǒng)漏洞的自動化發(fā)現(xiàn)和分析相關(guān)經(jīng)驗，詳細(xì)講解了學(xué)習(xí)語音和圖像識別系統(tǒng)的攻擊實例。

　　肖奇學(xué)指出，大部分AI應(yīng)用系統(tǒng)都基于已有的主流AI框架實現(xiàn)。AI系統(tǒng)框架以及AI系統(tǒng)所依賴軟件的安全漏洞，將可能對AI系統(tǒng)導(dǎo)致非常嚴(yán)重的影響。

　　黑客最害怕未知技術(shù)

　　安全行業(yè)的智能其中一個體現(xiàn)是在漏洞挖掘，分析和利用中的自動化。中科院軟件所研究員蘇璞睿認(rèn)為，深度學(xué)習(xí)或者說漏洞挖掘自動化方面，自動化是主線。

　　“人工智能不僅僅可以改進安全，實際上安全也有助于完善人工智能。”蘇璞睿說，機器學(xué)習(xí)只是解決中間的特定的場景和核心的問題，未來機器學(xué)習(xí)在漏洞方面的研究，需要思考怎么樣尋找一些特定的漏洞研究的場景和問題。

　　此前參加了2016年美國DARPA組織的CGC比賽并闖入決賽的清華大學(xué)副教授張超從三個方面分享了人工智能在攻防方向上的最前沿研究：首先是人做攻防遇到的一些問題或者研究領(lǐng)域存在的問題一個簡單分析;其次是如何實現(xiàn)CGC自動化攻防;最后是在這個AI時代怎樣用AI技術(shù)輔助攻防。

　　衛(wèi)達安全CEO張長河認(rèn)為，黑客最害怕的防御技術(shù)，是來源于未知的技術(shù)。他在演講中介紹了一種叫移動目標(biāo)防御的新技術(shù)。這種技術(shù)就是SDN的思想，軟件定義網(wǎng)絡(luò)，軟件定義安全，可以保證動態(tài)變換的時候業(yè)務(wù)不受影響。

　　當(dāng)前，人工智能技術(shù)已經(jīng)逐漸成為人們生活不可或缺的利器，其安全問題及應(yīng)用方向的開拓也就自然成為阻擋在人們面前的一堵高墻，本屆ISC2017人工智能技術(shù)應(yīng)用安全論壇上，各位業(yè)界專家的專業(yè)知識與獨到見解給更多的業(yè)內(nèi)人士以深刻啟示。相信這些經(jīng)驗和觀點分享，將很快落到實處，推動人工智能技術(shù)的正向高速發(fā)展。