MesaTEE亮相美國RSA大會(huì) 百度安全聯(lián)手英特爾守護(hù)AI安全

　　網(wǎng)絡(luò)安全的博弈從來都是場持久戰(zhàn),攻防之間的技術(shù)維度也在日益升級(jí)。而面對(duì)已然到來的AI時(shí)代,潛在的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)已不僅出現(xiàn)在數(shù)據(jù)層面,更凸顯在其背后底層的技術(shù)邏輯。

　　由此,百度安全與英特爾聯(lián)手打造的全球首個(gè)內(nèi)存安全的可信計(jì)算架構(gòu)MesaTEE應(yīng)運(yùn)而生。其將百度安全首創(chuàng)的高級(jí)內(nèi)存安全技術(shù)模型Hybrid Memory Safety(HMS)和英特爾軟件防護(hù)擴(kuò)展Software Guard Extensions(Intel SGX)相結(jié)合,使內(nèi)存安全可信的安全人工智能計(jì)算框架成為可能。

　　美國當(dāng)?shù)貢r(shí)間3月4日,在國際網(wǎng)絡(luò)安全領(lǐng)域已有24年歷史的RSA大會(huì)在舊金山開幕。作為重要的技術(shù)創(chuàng)新,百度安全與英特爾一起展示了MesaTEE在包括公有云、區(qū)塊鏈在內(nèi)的各類復(fù)雜場景中對(duì)隱私數(shù)據(jù)和AI模型的強(qiáng)大保護(hù)能力。

　　在大會(huì)現(xiàn)場,百度安全還首次透露了即將發(fā)布的MesaTEE全新版本的相關(guān)信息——對(duì)云和邊緣計(jì)算設(shè)備全面升級(jí)的AI算法保護(hù)支持,這也將是自2018年9月,百度首席安全科學(xué)家韋韜博士與英特爾副總裁Lorie Wigle共同宣布推出MesaTEE之后的一次重大技術(shù)升級(jí)。

　　韋韜博士與英特爾副總裁Lorie Wigle共同宣布推出MesaTEE

　　眾所周知,AI系統(tǒng)中的機(jī)器學(xué)習(xí)容易受到對(duì)抗樣本的攻擊,對(duì)圖像數(shù)據(jù)疊加部分人類難以通過感官辨識(shí)到的細(xì)微擾動(dòng),就可以“欺騙”機(jī)器學(xué)習(xí)模型做出錯(cuò)誤的判斷,未雨綢繆至關(guān)重要。

　　上圖展示了在RSA大會(huì)上由百度安全展示的實(shí)驗(yàn)案例,通過一個(gè)普通的識(shí)別設(shè)備,AI系統(tǒng)正確的識(shí)別了一只貓的圖像。但是,在其數(shù)據(jù)及AI模型被攻擊者破解并生成一系列對(duì)抗性輸入后,識(shí)別設(shè)備被“欺騙”,這只貓被AI系統(tǒng)錯(cuò)誤地識(shí)別為一只狗。

　　這樣的情況還出現(xiàn)在自動(dòng)駕駛領(lǐng)域,如下圖所示,一方面,通過類似的數(shù)據(jù)篡改或在現(xiàn)實(shí)世界中實(shí)際的物理干擾,攻擊者可讓AI系統(tǒng)喪失對(duì)于道路標(biāo)識(shí)和其他車輛正確的識(shí)別能力,造成嚴(yán)重的安全隱患;另一方面,一旦攻擊者破譯了其背后的AI模型,便可以繞過人臉識(shí)別系統(tǒng)解鎖車輛或直接進(jìn)行遠(yuǎn)程控制,實(shí)現(xiàn)對(duì)車輛的非法接管和對(duì)相關(guān)隱私信息的竊取。

　　要知道,當(dāng)前很多AI系統(tǒng)在圖像識(shí)別層面都存在著或多或少的技術(shù)漏洞,而目前這類方案已開始被應(yīng)用于自動(dòng)駕駛、醫(yī)療保健、金融認(rèn)證、工業(yè)控制、大數(shù)據(jù)計(jì)算等場景之中,數(shù)據(jù)安全和隱私保護(hù)能力的缺位,將直接威脅你我的生命財(cái)產(chǎn)安全和社會(huì)的正常運(yùn)轉(zhuǎn)。提升AI識(shí)別系統(tǒng)的反欺騙能力,也是其在各類公共場景中大范圍應(yīng)用的安全前提之一。

　　事實(shí)上,MesaTEE所試圖解決的正是這一在AI時(shí)代愈發(fā)迫切的問題�；�于Intel SGX提供的硬件可信執(zhí)行環(huán)境,MesaTEE實(shí)現(xiàn)了云上數(shù)據(jù)的完整性和保密性的芯片級(jí)安全保障,且不會(huì)導(dǎo)致性能和功能的顯著降級(jí)。同時(shí),通過允許用戶對(duì)執(zhí)行環(huán)境進(jìn)行遠(yuǎn)程驗(yàn)證,確保遠(yuǎn)程執(zhí)行環(huán)境符合預(yù)期,有效降低隱私數(shù)據(jù)的暴露風(fēng)險(xiǎn)。而借助HMS技術(shù),MesaTEE還兼具了內(nèi)存安全所帶來的不可繞過性,使其能夠抵御絕大多數(shù)的攻擊——在上文所提及的“貓狗實(shí)驗(yàn)”中,在MesaTEE的環(huán)境下操作時(shí),攻擊者便未能獲取相關(guān)信息并進(jìn)行破解。

　　換句話說,MesaTEE為企業(yè)上云提供了更安全的端到端通道,并支持包括卷積神經(jīng)網(wǎng)絡(luò)在內(nèi)的通用人工智能計(jì)算的理解和訓(xùn)練,性能與安全實(shí)現(xiàn)了統(tǒng)一。

　　盡管有著類似歐盟GDPR通用數(shù)據(jù)保護(hù)條例這樣嚴(yán)格的法律規(guī)制,但在過去的一年中,全球范圍內(nèi)仍然發(fā)生了至少6500起、涉及超過50億條含有隱私信息的數(shù)據(jù)泄露事件。保證底層技術(shù)方案的安全,是保證整個(gè)AI生態(tài)安全的重要基礎(chǔ)之一�？梢灶A(yù)見,以MesaTEE為代表的內(nèi)存安全的可信計(jì)算架構(gòu)將大大延展互聯(lián)網(wǎng)信任的技術(shù)邊界,基于此孵化出的下一代區(qū)塊鏈基礎(chǔ)設(shè)施、高速多方的安全計(jì)算,將廣泛應(yīng)用于大數(shù)據(jù)分析和機(jī)器學(xué)習(xí)中。

　　未來,百度和英特爾將進(jìn)一步加強(qiáng)合作,推動(dòng)可信安全計(jì)算應(yīng)用落地。同時(shí),也呼吁更廣泛的社區(qū)生態(tài)合作,用技術(shù)助力AI時(shí)代發(fā)展,守護(hù)AI生態(tài)安全。(一鳴)