用戶隱私與推薦精度兼得，星云Clustar“聯(lián)邦安全矩陣分解”論文被國際權(quán)威期刊收錄

　　近日，星云Clustar主導(dǎo)的論文“聯(lián)邦安全矩陣分解框架(Secure Federated Matrix Factorization)”正式被《IEEE Intelligent Systems》期刊收錄。在論文中，星云Clustar 算法工程師柴迪、星云Clustar AI科學家王樂業(yè)等人基于聯(lián)邦學習環(huán)境提出一個名為FedMF的安全矩陣分解框架，在不犧牲任何準確度的前提下，保護用戶的隱私信息。該論文首次從數(shù)學上驗證了矩陣分解在橫向聯(lián)邦學習中交換梯度明文信息會造成隱私泄露，并提出了使用同態(tài)加密對梯度信息進行保護的解決方案。

　　IEEE(電氣和電子工程師協(xié)會)是世界最大的非營利性專業(yè)技術(shù)學會，據(jù)IEEE官方2019年統(tǒng)計數(shù)據(jù)顯示，其會員人數(shù)超過40萬人，遍布160多個國家。IEEE致力于電氣、電子、計算機工程和與科學有關(guān)的領(lǐng)域的開發(fā)和研究，在航空航天、信息技術(shù)、電力及消費性電子產(chǎn)品等領(lǐng)域擁有近1300余個正在開發(fā)的行業(yè)標準及項目，現(xiàn)已發(fā)展成為具有較大影響力的國際學術(shù)組織。IEEE Intelligent Systems 是其出版的極具含金量的學術(shù)期刊之一，關(guān)注包括自然語言處理、機器學習、數(shù)據(jù)挖掘、自適應(yīng)和智能機器人技術(shù)、以及與智能系統(tǒng)相關(guān)領(lǐng)域的研究進展。

　　大數(shù)據(jù)紅利已經(jīng)滲透到各行各業(yè)，而光鮮的數(shù)據(jù)繁榮背后卻是隱私泄露和安全管理的重重隱患，提升對數(shù)據(jù)隱私與安全的保護力度已成為世界性的議題。近年來，新興的人工智能基礎(chǔ)技術(shù)——聯(lián)邦學習(Federated Learning)應(yīng)勢而生，作為一種加密的機器學習范式，聯(lián)邦學習能夠在滿足數(shù)據(jù)隱私、安全以及政府監(jiān)管的前提下，使得各參與方的數(shù)據(jù)得以保留在本地，并在安全可信的數(shù)據(jù)保護措施下打破數(shù)據(jù)孤島難題，讓企業(yè)數(shù)據(jù)無論在內(nèi)外部均能安全有序地交互和聚合，實現(xiàn)共同獲益的“數(shù)據(jù)聯(lián)邦”。

　　目前在隱私保護機器學習領(lǐng)域，推薦系統(tǒng)是一個廣受關(guān)注的研究課題，而矩陣分解是常見的技術(shù)手段。星云Clustar團隊在論文中證明，在傳統(tǒng)的矩陣分解推薦系統(tǒng)中，當用戶將梯度信息以明文形式發(fā)送到服務(wù)器，仍有泄露用戶的評分信息、特征向量等信息的可能性，進而暴露用戶的年齡、性別、地址等等隱私數(shù)據(jù)，造成難以預(yù)估的嚴重風險。為此，星云Clustar團隊設(shè)計了一個用戶級的分布式矩陣分解框架FedMF，采用同態(tài)加密來增強該分布式矩陣分解框架，并用一個真實的電影分級數(shù)據(jù)集對其進行了測試，結(jié)果驗證了FedMF對于一個誠實但好奇的服務(wù)器是安全可靠的，并且精度相對于用戶原始數(shù)據(jù)的矩陣分解并無二致。

　　FedMF的創(chuàng)新性見解已落地于FATE。FATE(Federated AI Technology Enabler)是微眾銀行推出的全球首個工業(yè)級別的開源聯(lián)邦學習框架，旨在推進安全合規(guī)的AI協(xié)作生態(tài)建設(shè)。星云Clustar合作設(shè)計了基于FATE的聯(lián)邦推薦算法庫(FedRec)，使得聯(lián)邦學習在推薦系統(tǒng)中的應(yīng)用更加明確化。這一算法庫包含了6種常用的推薦算法，包括5種縱向聯(lián)邦學習算法和1種橫向聯(lián)邦學習算法，可用于解決聯(lián)邦學習場景下的推薦問題，如評分預(yù)測、物品排序等。FedRec廣泛支持各種推薦場景，對于開放者而言，可以顯著提高產(chǎn)品分發(fā)效率和算法預(yù)測效果，優(yōu)化用戶體驗，還可解決數(shù)據(jù)不足和標簽短缺等問題。

　　星云Clustar近年來在聯(lián)邦學習領(lǐng)域不斷創(chuàng)新求索，賦能AI數(shù)據(jù)協(xié)作生態(tài)。在技術(shù)普及與規(guī)范上，星云Clustar攜手微眾銀行、創(chuàng)新工場、騰訊云、小米、華為、華大基因等三十余家海內(nèi)外知名企業(yè)與研究機構(gòu)共同推進IEEE聯(lián)邦學習國際標準，其中星云Clustar榮獲IEEE聯(lián)邦學習工作組秘書長單位，負責制定聯(lián)邦學習的底層系統(tǒng)架構(gòu)標準并積極進行聯(lián)邦學習生態(tài)推廣。在產(chǎn)品形態(tài)上，星云Clustar提供從硬件到軟件的全生命周期解決方案，實現(xiàn)同態(tài)加密環(huán)境下的無損運算，能以高效計算、超低延時的算力加速聯(lián)邦學習場景中海量密態(tài)數(shù)據(jù)處理過程。

　　近年來，聯(lián)邦學習技術(shù)以破竹之勢備受行業(yè)矚目，為有效解決數(shù)據(jù)孤島分布現(xiàn)象、以及滿足日益加強的隱私監(jiān)管力度提供了新的技術(shù)思路。作為聯(lián)邦學習賽道的積極探索者，星云Clustar未來將繼續(xù)以高性能網(wǎng)絡(luò)和聯(lián)邦學習技術(shù)助力人工智能產(chǎn)業(yè)發(fā)展與技術(shù)突破，深掘聯(lián)邦學習落地場景的可能性，推進聯(lián)邦學習帶來的技術(shù)紅利落實于各行各業(yè)，使企業(yè)與機構(gòu)的多方安全協(xié)作更具可得性。

　　論文作者介紹

　　“聯(lián)邦安全矩陣分解框架(Secure Federated Matrix Factorization)”論文第一作者是星云Clustar算法工程師柴迪，星云Clustar AI科學家、北京大學助理教授、博士生導(dǎo)師王樂業(yè)(按姓名字母排序);第二作者為星云 Clustar創(chuàng)始人、香港科技大學教授陳凱;第三作者為微眾銀行首席人工智能官、香港科技大學教授楊強。

　　此前，此論文也發(fā)表在IJCAI 2019 Federated Machine Learning Workshop，IJCAI 國際人工智能聯(lián)合會議是全球人工智能領(lǐng)域最權(quán)威的學術(shù)會議之一。