作為一門新興技術(shù),“聯(lián)邦學習”能在保證數(shù)據(jù)隱私安全基礎(chǔ)上,實現(xiàn)共同建模,提升AI模型的效果。
這樣的前景,讓“聯(lián)邦學習”自提出以來就受到各方關(guān)注,在國內(nèi),微眾銀行首席人工智能官,國際人工智能學會理事長楊強教授與微眾銀行AI團隊為了“聯(lián)邦學習”的普及與落地,率先發(fā)布了商用級開源項目 FATE(Federated AI Technology Enabler)。
FATE作為“聯(lián)邦學習”的第一個開源社區(qū),吸引了大量技術(shù)愛好者與高校研究團隊的目光,來自香港科技大學的研究生——敬清賀,就是其中一員。作為首位貢獻者,他提出了對FATE通信框架的優(yōu)化建議,顯著提升了通信效率。
對此我們采訪了敬清賀,分享他與團隊對FATE的研究,以及更多關(guān)于FATE的期望與設(shè)想。
1.國內(nèi)第一個對“聯(lián)邦學習”的良好實現(xiàn)
敬清賀所在的港科大研究小組,主要工作中有一大項即為對機器學習框架進行優(yōu)化,也因此接觸到了“聯(lián)邦學習”這一新興的概念。
“聯(lián)邦學習”在本質(zhì)上,是一種基于多方安全計算的分布式機器學習技術(shù),參與各方可以在不披露底層數(shù)據(jù)和底層數(shù)據(jù)的加密(混淆)形態(tài)的前提下共建模型。作為一種共贏的機器學習方式,它能有效連接“數(shù)據(jù)孤島”,形成一片共贏的AI大陸。行業(yè)應用中能幫助不同機構(gòu)打破隔閡,聯(lián)合建立AI模型,同時各方的數(shù)據(jù)都不出本地,能讓用戶隱私得到最好保護。
而FATE作為“聯(lián)邦學習”的落地實現(xiàn)項目,受到了研究小組的重點關(guān)注。在對FATE進行深入了解并討論后,這一群年輕的技術(shù)愛好者,躍躍欲試地開始嘗試用FATE解決研究中遇到的問題,并由此對FATE開源項目提出優(yōu)化建議。
據(jù)敬清賀講:“接觸FATE一段時日后,我們感到這是國內(nèi)第一個對‘聯(lián)邦學習’的良好實現(xiàn)”。在敬清賀及研究小組看來,F(xiàn)ATE對 “聯(lián)邦學習”概念進行了豐富和拓展,不僅包括了橫向聯(lián)邦學習,還包括縱向聯(lián)邦學習, 更將“聯(lián)邦學習”和“聯(lián)邦學習”相結(jié)合,從而讓不同組織不同模式的數(shù)據(jù)都能實現(xiàn)合作。他們認為,這樣的實現(xiàn)形式,使得FATE能為有特殊需求的機構(gòu),比如對用戶隱私保護有訴求的兩個公司,提供了合作的可能。
圖:敬清賀接受采訪
2.基于“聯(lián)邦遷移學習”的FATE適用場景很廣泛
據(jù)敬清賀設(shè)想,F(xiàn)ATE的適用場景相當廣泛,尤其是在金融、醫(yī)療等,對數(shù)據(jù)更敏感,監(jiān)管也更強的場景下,F(xiàn)ATE能夠協(xié)助實現(xiàn)在保障數(shù)據(jù)隱私基礎(chǔ)上的協(xié)同合作。
敬清賀及研究團隊明白,真正的使用場景中,不可能要求兩個單位訓練模型時,具有相同結(jié)構(gòu)的信息,這幾乎是無法實現(xiàn)的,即使能限制整個用戶都要有相同模型,那應用場景也會相當有限。因而,像FATE這樣結(jié)合了縱向聯(lián)邦學習,聯(lián)邦遷移學習的形式,能進一步拓展適用場景。即使兩個機構(gòu)的模型是不一樣的,它還是可以共享數(shù)據(jù)一起訓練。這也是FATE最讓這群年輕的研究愛好者所欣賞的點。
以微眾銀行為例,在不共享用戶數(shù)據(jù)的前提下,微眾銀行聯(lián)合多家銀行建立的反洗錢模型,經(jīng)過模擬測試,參與銀行越多,模型的性能越高。而在醫(yī)療場景下,比如多家醫(yī)院醫(yī)療影像、病例分散的情況,也可以通過聯(lián)邦學習提升疾病預測準確度,提升整體診療水平。
當然,除了學習和建模能力,面對即將到來的5G時代,網(wǎng)絡(luò)安全特別是數(shù)據(jù)安全問題也是一大要點,人人都在提給數(shù)據(jù)裝上“安全閥”,從歐盟的“數(shù)據(jù)隱私保護法”GDPR(The General Data Protection Regulation),到我國國家互聯(lián)網(wǎng)信息辦公室起草的《數(shù)據(jù)安全管理辦法(征求意見稿)》,數(shù)據(jù)在安全合規(guī)的前提下自由流動,成了大勢所趨。
而在同樣關(guān)注數(shù)據(jù)安全的敬清賀看來,F(xiàn)ATE對加密算法的優(yōu)化,使用同態(tài)加密而非DP等形式,也更有力地保障了數(shù)據(jù)安全,對AI的落地起到了極大的推動作用。
3.年輕研究團隊與技術(shù)愛好者心中的FATE
作為FATE開源項目的首位貢獻者,也是最早使用和接觸FATE的一群年輕技術(shù)愛好者,敬清賀和研究團隊的伙伴也對FATE具有許多構(gòu)想,他們相信FATE框架語言還可以實現(xiàn)更多模型,從而應用在不同的場景中。而在性能上,他們也會繼續(xù)深入研究,探索是否有優(yōu)化的可能。
在采訪的最后,敬清賀表示,F(xiàn)ATE是一個非常好,非常新的東西,給AI的落地提供了更大的幫助,也讓AI能應用到更多的適用場景里,對不同的領(lǐng)域讓機器學習學出的模型更可靠,讓機器學習更好地進入我們的生活。在以后,他也會持續(xù)關(guān)注著FATE,期待著自己和更多的技術(shù)愛好者,能跟隨著整個框架的更新去做一些有意義東西。
4. 開源生態(tài)離不開有志向的年輕技術(shù)愛好者
據(jù)了解,敬清賀來自于香港科技大學網(wǎng)絡(luò)系統(tǒng)實驗室(HKUST SingLab),香港科技大學副教授、SINGLAB主任陳凱帶領(lǐng)學生們共同研究網(wǎng)絡(luò)系統(tǒng)的設(shè)計、分析和落地。實驗室這一研究可以打破人工智能設(shè)施Scale Out的通信瓶頸,提升人工智能基礎(chǔ)設(shè)施的算力,讓聯(lián)邦學習技術(shù)更好、更快的落地。
像敬清賀這樣的貢獻者初現(xiàn)崢嶸,可以預見,在以后會有越來越多高校和年輕技術(shù)愛好者投入FATE開源項目建設(shè)中。楊強教授欣慰地表示:一個有活力的開源生態(tài)離不開有志向的青年人的貢獻。
楊強教授指出,安全和保護隱私的智能計算是軟件業(yè)當前最重要的發(fā)展方向之一。FATE已經(jīng)成為維系大數(shù)據(jù)、人工智能和多方計算架構(gòu)的主力軍。我們歡迎更多像清賀這樣的技術(shù)新秀參與其中,讓這個“機器學習大數(shù)據(jù)的操作系統(tǒng)”生態(tài)變得越來越有活力。
同時,面對許多技術(shù)愛好者及開發(fā)者所關(guān)心的聯(lián)邦學習走向,以及這門技術(shù)的未來發(fā)展等問題,楊強教授講到,“聯(lián)邦學習是一種保護用戶數(shù)據(jù)隱私的有效技術(shù),它的研發(fā)和工業(yè)應用密不可分。所以,在接下來的發(fā)展中,也期待越來越多的企業(yè)和機構(gòu)會采用聯(lián)邦學習技術(shù),發(fā)展2C和2B的人工智能垂直應用。”
社會對隱私和數(shù)據(jù)安全愈加嚴格的要求,將會推動新的加密技術(shù)和多方建模的技術(shù)更加蓬勃的發(fā)展。讓我們一起期待。
FATE開源社區(qū),匯聚了大量人工智能專業(yè)人士,為聯(lián)邦學習的“帝國”添磚加瓦。
來github一起參與項目,貢獻者將加入FATE開源項目名單,更可獲取300-10000元等同價值激勵:https://github.com/webankfintech/fate
了解更多,可訪問FedAI聯(lián)邦學習官網(wǎng):https://www.fedai.org/#/
咨詢及溝通,可添加【FATE開源社區(qū)助手】微信號:FATEZS001。
文章內(nèi)容僅供閱讀,不構(gòu)成投資建議,請謹慎對待。投資者據(jù)此操作,風險自擔。
近日,德國柏林國際電子消費品展覽會(IFA2024)隆重舉辦。憑借在核心技術(shù)、產(chǎn)品設(shè)計及應用方面的創(chuàng)新變革,全球領(lǐng)先的智能終端企業(yè)TCL實業(yè)成功斬獲兩項“IFA全球產(chǎn)品設(shè)計創(chuàng)新大獎”金獎,有力證明了其在全球市場的強大影響力。
近日,中國家電及消費電子博覽會(AWE 2024)隆重開幕。全球領(lǐng)先的智能終端企業(yè)TCL實業(yè)攜多款創(chuàng)新技術(shù)和新品亮相,以敢為精神勇闖技術(shù)無人區(qū),斬獲四項AWE 2024艾普蘭大獎。
“以前都要去窗口辦,一套流程下來都要半個月了,現(xiàn)在方便多了!”打開“重慶公積金”微信小程序,按照提示流程提交相關(guān)材料,僅幾秒鐘,重慶市民曾某的賬戶就打進了21600元。
由世界人工智能大會組委會、上海市經(jīng)信委、徐匯區(qū)政府、臨港新片區(qū)管委會共同指導,由上海市人工智能行業(yè)協(xié)會聯(lián)合上海人工智能實驗室、上海臨港經(jīng)濟發(fā)展(集團)有限公司、開放原子開源基金會主辦的“2024全球開發(fā)者先鋒大會”,將于2024年3月23日至24日舉辦。