用戶隱私與推薦精度兼得，星云Clustar“聯(lián)邦安全矩陣分解”論文被國(guó)際權(quán)威期刊收錄

　　近日，星云Clustar主導(dǎo)的論文“聯(lián)邦安全矩陣分解框架(Secure Federated Matrix Factorization)”正式被《IEEE Intelligent Systems》期刊收錄。在論文中，星云Clustar 算法工程師柴迪、星云Clustar AI科學(xué)家王樂(lè)業(yè)等人基于聯(lián)邦學(xué)習(xí)環(huán)境提出一個(gè)名為FedMF的安全矩陣分解框架，在不犧牲任何準(zhǔn)確度的前提下，保護(hù)用戶的隱私信息。該論文首次從數(shù)學(xué)上驗(yàn)證了矩陣分解在橫向聯(lián)邦學(xué)習(xí)中交換梯度明文信息會(huì)造成隱私泄露，并提出了使用同態(tài)加密對(duì)梯度信息進(jìn)行保護(hù)的解決方案。

　　IEEE(電氣和電子工程師協(xié)會(huì))是世界最大的非營(yíng)利性專業(yè)技術(shù)學(xué)會(huì)，據(jù)IEEE官方2019年統(tǒng)計(jì)數(shù)據(jù)顯示，其會(huì)員人數(shù)超過(guò)40萬(wàn)人，遍布160多個(gè)國(guó)家。IEEE致力于電氣、電子、計(jì)算機(jī)工程和與科學(xué)有關(guān)的領(lǐng)域的開(kāi)發(fā)和研究，在航空航天、信息技術(shù)、電力及消費(fèi)性電子產(chǎn)品等領(lǐng)域擁有近1300余個(gè)正在開(kāi)發(fā)的行業(yè)標(biāo)準(zhǔn)及項(xiàng)目，現(xiàn)已發(fā)展成為具有較大影響力的國(guó)際學(xué)術(shù)組織。IEEE Intelligent Systems 是其出版的極具含金量的學(xué)術(shù)期刊之一，關(guān)注包括自然語(yǔ)言處理、機(jī)器學(xué)習(xí)、數(shù)據(jù)挖掘、自適應(yīng)和智能機(jī)器人技術(shù)、以及與智能系統(tǒng)相關(guān)領(lǐng)域的研究進(jìn)展。

　　大數(shù)據(jù)紅利已經(jīng)滲透到各行各業(yè)，而光鮮的數(shù)據(jù)繁榮背后卻是隱私泄露和安全管理的重重隱患，提升對(duì)數(shù)據(jù)隱私與安全的保護(hù)力度已成為世界性的議題。近年來(lái)，新興的人工智能基礎(chǔ)技術(shù)——聯(lián)邦學(xué)習(xí)(Federated Learning)應(yīng)勢(shì)而生，作為一種加密的機(jī)器學(xué)習(xí)范式，聯(lián)邦學(xué)習(xí)能夠在滿足數(shù)據(jù)隱私、安全以及政府監(jiān)管的前提下，使得各參與方的數(shù)據(jù)得以保留在本地，并在安全可信的數(shù)據(jù)保護(hù)措施下打破數(shù)據(jù)孤島難題，讓企業(yè)數(shù)據(jù)無(wú)論在內(nèi)外部均能安全有序地交互和聚合，實(shí)現(xiàn)共同獲益的“數(shù)據(jù)聯(lián)邦”。

　　目前在隱私保護(hù)機(jī)器學(xué)習(xí)領(lǐng)域，推薦系統(tǒng)是一個(gè)廣受關(guān)注的研究課題，而矩陣分解是常見(jiàn)的技術(shù)手段。星云Clustar團(tuán)隊(duì)在論文中證明，在傳統(tǒng)的矩陣分解推薦系統(tǒng)中，當(dāng)用戶將梯度信息以明文形式發(fā)送到服務(wù)器，仍有泄露用戶的評(píng)分信息、特征向量等信息的可能性，進(jìn)而暴露用戶的年齡、性別、地址等等隱私數(shù)據(jù)，造成難以預(yù)估的嚴(yán)重風(fēng)險(xiǎn)。為此，星云Clustar團(tuán)隊(duì)設(shè)計(jì)了一個(gè)用戶級(jí)的分布式矩陣分解框架FedMF，采用同態(tài)加密來(lái)增強(qiáng)該分布式矩陣分解框架，并用一個(gè)真實(shí)的電影分級(jí)數(shù)據(jù)集對(duì)其進(jìn)行了測(cè)試，結(jié)果驗(yàn)證了FedMF對(duì)于一個(gè)誠(chéng)實(shí)但好奇的服務(wù)器是安全可靠的，并且精度相對(duì)于用戶原始數(shù)據(jù)的矩陣分解并無(wú)二致。

　　FedMF的創(chuàng)新性見(jiàn)解已落地于FATE。FATE(Federated AI Technology Enabler)是微眾銀行推出的全球首個(gè)工業(yè)級(jí)別的開(kāi)源聯(lián)邦學(xué)習(xí)框架，旨在推進(jìn)安全合規(guī)的AI協(xié)作生態(tài)建設(shè)。星云Clustar合作設(shè)計(jì)了基于FATE的聯(lián)邦推薦算法庫(kù)(FedRec)，使得聯(lián)邦學(xué)習(xí)在推薦系統(tǒng)中的應(yīng)用更加明確化。這一算法庫(kù)包含了6種常用的推薦算法，包括5種縱向聯(lián)邦學(xué)習(xí)算法和1種橫向聯(lián)邦學(xué)習(xí)算法，可用于解決聯(lián)邦學(xué)習(xí)場(chǎng)景下的推薦問(wèn)題，如評(píng)分預(yù)測(cè)、物品排序等。FedRec廣泛支持各種推薦場(chǎng)景，對(duì)于開(kāi)放者而言，可以顯著提高產(chǎn)品分發(fā)效率和算法預(yù)測(cè)效果，優(yōu)化用戶體驗(yàn)，還可解決數(shù)據(jù)不足和標(biāo)簽短缺等問(wèn)題。

　　星云Clustar近年來(lái)在聯(lián)邦學(xué)習(xí)領(lǐng)域不斷創(chuàng)新求索，賦能AI數(shù)據(jù)協(xié)作生態(tài)。在技術(shù)普及與規(guī)范上，星云Clustar攜手微眾銀行、創(chuàng)新工場(chǎng)、騰訊云、小米、華為、華大基因等三十余家海內(nèi)外知名企業(yè)與研究機(jī)構(gòu)共同推進(jìn)IEEE聯(lián)邦學(xué)習(xí)國(guó)際標(biāo)準(zhǔn)，其中星云Clustar榮獲IEEE聯(lián)邦學(xué)習(xí)工作組秘書長(zhǎng)單位，負(fù)責(zé)制定聯(lián)邦學(xué)習(xí)的底層系統(tǒng)架構(gòu)標(biāo)準(zhǔn)并積極進(jìn)行聯(lián)邦學(xué)習(xí)生態(tài)推廣。在產(chǎn)品形態(tài)上，星云Clustar提供從硬件到軟件的全生命周期解決方案，實(shí)現(xiàn)同態(tài)加密環(huán)境下的無(wú)損運(yùn)算，能以高效計(jì)算、超低延時(shí)的算力加速聯(lián)邦學(xué)習(xí)場(chǎng)景中海量密態(tài)數(shù)據(jù)處理過(guò)程。

　　近年來(lái)，聯(lián)邦學(xué)習(xí)技術(shù)以破竹之勢(shì)備受行業(yè)矚目，為有效解決數(shù)據(jù)孤島分布現(xiàn)象、以及滿足日益加強(qiáng)的隱私監(jiān)管力度提供了新的技術(shù)思路。作為聯(lián)邦學(xué)習(xí)賽道的積極探索者，星云Clustar未來(lái)將繼續(xù)以高性能網(wǎng)絡(luò)和聯(lián)邦學(xué)習(xí)技術(shù)助力人工智能產(chǎn)業(yè)發(fā)展與技術(shù)突破，深掘聯(lián)邦學(xué)習(xí)落地場(chǎng)景的可能性，推進(jìn)聯(lián)邦學(xué)習(xí)帶來(lái)的技術(shù)紅利落實(shí)于各行各業(yè)，使企業(yè)與機(jī)構(gòu)的多方安全協(xié)作更具可得性。

　　論文作者介紹

　　“聯(lián)邦安全矩陣分解框架(Secure Federated Matrix Factorization)”論文第一作者是星云Clustar算法工程師柴迪，星云Clustar AI科學(xué)家、北京大學(xué)助理教授、博士生導(dǎo)師王樂(lè)業(yè)(按姓名字母排序);第二作者為星云 Clustar創(chuàng)始人、香港科技大學(xué)教授陳凱;第三作者為微眾銀行首席人工智能官、香港科技大學(xué)教授楊強(qiáng)。

　　此前，此論文也發(fā)表在IJCAI 2019 Federated Machine Learning Workshop，IJCAI 國(guó)際人工智能聯(lián)合會(huì)議是全球人工智能領(lǐng)域最權(quán)威的學(xué)術(shù)會(huì)議之一。