密態(tài)計(jì)算，大模型“用數(shù)”的必由之路

　　文|白 鴿

　　編|王一粟

　　今年世界人工智能大會(huì)上，大模型如何走向深度應(yīng)用成為重要議題。

　　但在大模型邁向深度應(yīng)用的過程中，相比于算力的稀缺，“真正的問題是缺數(shù)據(jù)，無論是在通用技術(shù)領(lǐng)域，還是在專業(yè)領(lǐng)域，數(shù)據(jù)才是決定AI能力的上限。”螞蟻集團(tuán)副總裁兼首席技術(shù)安全官、螞蟻密算董事長(zhǎng)韋韜表示。

　　畢竟，想要解決真正的行業(yè)、專業(yè)應(yīng)用問題，都依賴于關(guān)鍵數(shù)據(jù)能不能按需獲得。但想要獲取高質(zhì)量數(shù)據(jù)卻并不是一件容易的事情，尤其是在具體的某個(gè)行業(yè)場(chǎng)景中。

　　就拿金融行業(yè)來說，此前一位智譜AI技術(shù)專家對(duì)光錐智能表示，金融行業(yè)非常注重?cái)?shù)據(jù)的隱私性，智譜AI在服務(wù)銀行客戶時(shí)，數(shù)據(jù)只能在銀行自己內(nèi)部使用，不允許拿到外部進(jìn)行大模型訓(xùn)練。

　　背后原因在于，數(shù)據(jù)價(jià)值越高，風(fēng)險(xiǎn)越大，畢竟數(shù)據(jù)本身復(fù)制成本非常低，明文數(shù)據(jù)很容易造成二次分發(fā)，從而引發(fā)數(shù)據(jù)泄漏問題。

　　因此，高質(zhì)量的行業(yè)數(shù)據(jù)難以流通起來，這也在很大程度上限制了行業(yè)大模型的迭代更新和應(yīng)用落地。那么，有什么方法能夠在保證行業(yè)數(shù)據(jù)安全的情況下，能夠讓數(shù)據(jù)大規(guī)模流通起來?

　　此背景下，行業(yè)開始探索平衡數(shù)據(jù)流通與隱私安全的技術(shù)路徑。

　　韋韜認(rèn)為，密算會(huì)成為數(shù)據(jù)可信流通的新算力，只有讓數(shù)據(jù)以密態(tài)方式流通，才能發(fā)揮正向價(jià)值、控制負(fù)向風(fēng)險(xiǎn)，“無論是對(duì)AI進(jìn)一步發(fā)展的支撐，還是對(duì)整個(gè)數(shù)據(jù)行業(yè)支撐，我們認(rèn)為行業(yè)將會(huì)從通算、智算走向密算。”

　　行業(yè)大模型落地，密算為數(shù)據(jù)流通提供安全通道

　　“我們一定要做大、做強(qiáng)行業(yè)大模型。”中國(guó)電信大模型首席專家、大模型團(tuán)隊(duì)負(fù)責(zé)人劉敬謙在世界人工智能大會(huì)上說，一方面，借助行業(yè)大模型可以拉起我國(guó)整個(gè)大模型技術(shù)的發(fā)展，另一方面，行業(yè)也能夠?yàn)榇竽Ｐ偷膽?yīng)用提供內(nèi)生需求場(chǎng)景。

　　不過，行業(yè)大模型發(fā)展背后的關(guān)鍵，則在于行業(yè)數(shù)據(jù)的供給。

　　但當(dāng)前行業(yè)數(shù)據(jù)的供給方、大模型廠商，以及用戶之間，卻很難建立相互信任的體系。企業(yè)擔(dān)心數(shù)據(jù)對(duì)外泄露，大模型廠商擔(dān)心模型資產(chǎn)安全，用戶擔(dān)心個(gè)人數(shù)據(jù)和隱私泄漏的風(fēng)險(xiǎn)。

　　這也就導(dǎo)致AI大模型在跨系統(tǒng)、跨行業(yè)的應(yīng)用中，遇到了數(shù)據(jù)整合與流通的難題。

　　現(xiàn)階段，在大模型落地方案中，通過自有數(shù)據(jù)開展微調(diào)、RAG或智能體應(yīng)用，并提升自有數(shù)據(jù)檢索和理解能力的大模型還十分初級(jí)，距真正賦能行業(yè)的大模型還相距甚遠(yuǎn)。

　　“密態(tài)計(jì)算，是大模型產(chǎn)業(yè)深入應(yīng)用的必經(jīng)之路。”螞蟻密算CEO王磊說。

　　為什么密態(tài)計(jì)算能夠解決數(shù)據(jù)流轉(zhuǎn)過程中的安全問題?

　　數(shù)據(jù)密態(tài)流通的本質(zhì)是通過密碼學(xué)，把訪問邊界從傳統(tǒng)的物理邊界變成密鑰管控的虛擬數(shù)字空間邊界，即使數(shù)據(jù)離開了數(shù)據(jù)的運(yùn)維域以后，依然能夠進(jìn)行有效管控。

　　此前，王磊曾解釋道，密態(tài)計(jì)算的本質(zhì)邏輯，是機(jī)構(gòu)一將數(shù)據(jù)通過密態(tài)環(huán)境給到機(jī)構(gòu)二，在這個(gè)密態(tài)環(huán)境中，機(jī)構(gòu)二能夠使用這部分?jǐn)?shù)據(jù)，但并不能夠看到這些數(shù)據(jù)。也就是業(yè)界經(jīng)常提的，“數(shù)據(jù)可用，不可見。” 機(jī)構(gòu)二只能夠按照雙方約定方式使用數(shù)據(jù)，且其加工后的數(shù)據(jù)也只能存放到密態(tài)環(huán)境中，只有雙方經(jīng)嚴(yán)格的數(shù)據(jù)確權(quán)后，數(shù)據(jù)衍生產(chǎn)品才能夠以明文的方式析出。

　　這不僅可以確保數(shù)據(jù)在流通過程中不能被窺探和復(fù)制，也能夠確保數(shù)據(jù)在流通過程中的行為可控。也能夠?qū)崿F(xiàn)對(duì)相關(guān)信息進(jìn)行保存并進(jìn)行溯源，防止抵賴。

　　這相較于傳統(tǒng)的數(shù)據(jù)安全技術(shù)，已經(jīng)發(fā)生了根本性的變化，“傳統(tǒng)數(shù)據(jù)安全技術(shù)是保障運(yùn)維域內(nèi)的數(shù)據(jù)安全，而密態(tài)計(jì)算技術(shù)核心保障的是域外數(shù)據(jù)的安全，是外循環(huán)的數(shù)據(jù)安全。”韋韜解釋道。

　　實(shí)際上，密態(tài)計(jì)算是把對(duì)人的信任轉(zhuǎn)移到對(duì)技術(shù)的信任，實(shí)現(xiàn)數(shù)據(jù)跨主體流通過程中跨域管控的問題。通過利用密態(tài)計(jì)算技術(shù)，實(shí)現(xiàn)數(shù)據(jù)密態(tài)流轉(zhuǎn)，做到數(shù)據(jù)“可用不可見，可控可計(jì)量”。

　　現(xiàn)階段，大模型行業(yè)雖然發(fā)展的“熱火朝天”，但在具體應(yīng)用層面，卻很難從可用走向?qū)�業(yè)應(yīng)用，背后的關(guān)鍵，就在于高質(zhì)量行業(yè)數(shù)據(jù)的稀缺。而想要高質(zhì)量的行業(yè)數(shù)據(jù)大規(guī)�？尚帕魍�，密態(tài)計(jì)算是關(guān)鍵。但只有標(biāo)準(zhǔn)化的技術(shù)和產(chǎn)品，才能夠加速行業(yè)應(yīng)用。

　　密算產(chǎn)品化、云化，加速用起來

　　任何新技術(shù)和產(chǎn)品，都需要經(jīng)過小規(guī)模試點(diǎn)后，才能邁向大規(guī)模應(yīng)用階段，密算技術(shù)同樣如此。

　　事實(shí)上，此前業(yè)內(nèi)也有使用密碼技術(shù)進(jìn)行數(shù)據(jù)安全防護(hù)，但單純使用密碼學(xué)技術(shù)成本太高，導(dǎo)致難以大規(guī)模應(yīng)用。同時(shí)，當(dāng)前由數(shù)據(jù)泄漏造成的安全成本增加問題正日益嚴(yán)重。

　　據(jù)IBM《2023年數(shù)據(jù)報(bào)告》顯示，2023年數(shù)據(jù)泄露的全球平均成本上升至445萬美元，達(dá)到歷史新高，比2022年的435萬美元增加了2.3%，比2020年的386萬美元增加了15.3%。

　　因此，如何平衡安全技術(shù)的成本和數(shù)據(jù)價(jià)值，讓密態(tài)技術(shù)能夠更好的為數(shù)據(jù)流通做底層安全保障，則成為推動(dòng)數(shù)據(jù)大規(guī)模流轉(zhuǎn)的關(guān)鍵。

　　韋韜表示，螞蟻通過可信芯片和機(jī)密計(jì)算技術(shù)來協(xié)同保障，從而大幅度降低成本，實(shí)現(xiàn)低成本密態(tài)計(jì)算，形成行業(yè)里規(guī)模化應(yīng)用方案。

　　螞蟻集團(tuán)在WAIC上發(fā)布的“隱語 Cloud” 大模型密算平臺(tái)，就是螞蟻密算科技貫徹這一技術(shù)路線而發(fā)布的首款商業(yè)化產(chǎn)品。該平臺(tái)通過軟硬件結(jié)合的可信隱私計(jì)算技術(shù)，在大模型托管和大模型推理等環(huán)節(jié)實(shí)現(xiàn)數(shù)據(jù)密態(tài)流轉(zhuǎn)，保護(hù)模型資產(chǎn)、數(shù)據(jù)安全和用戶隱私。

　　“隱語Cloud”大模型密算平臺(tái)首批推出兩大服務(wù)，分別為大模型密態(tài)托管和大模型密態(tài)推理。

　　大模型密態(tài)托管，指模型提供方可以將模型加密后托管在平臺(tái)上，一鍵完成云上密態(tài)部署，保護(hù)模型資產(chǎn)不被泄漏和盜用;大模型密態(tài)推理，是指數(shù)據(jù)以密態(tài)形式完成推理，保護(hù)用戶交互時(shí)的數(shù)據(jù)安全、商業(yè)機(jī)密等。

　　“整個(gè)密態(tài)訪問流程非常輕量化，遠(yuǎn)程認(rèn)證，密鑰交換和加密操作都是在瀏覽器中完成，和明文大模型的訪問體感一致。用戶如果擔(dān)心其安全性，也可以自己打開瀏覽器側(cè)的代碼，來確認(rèn)整個(gè)訪問過程的安全性。”王磊說。

　　同時(shí)，該平臺(tái)支持GPU在可信執(zhí)行環(huán)境下進(jìn)行計(jì)算，使得大模型推理在密態(tài)形式下的響應(yīng)時(shí)間和使用效率與明文大模型接近，實(shí)現(xiàn)大規(guī)模商業(yè)可用。

　　在安全保障上，該產(chǎn)品利用內(nèi)存、磁盤加密等方法，實(shí)現(xiàn)用戶訪問的端到端加密和托管模型的跨域訪問控制。

　　技術(shù)產(chǎn)品化可以讓用戶先用起來，使數(shù)據(jù)小規(guī)模流動(dòng)，但想要數(shù)據(jù)真正大規(guī)模流動(dòng)，王磊認(rèn)為：“用‘云’的方式才會(huì)實(shí)現(xiàn)數(shù)據(jù)的規(guī)模化流動(dòng)，并把安全技術(shù)的成本降下來。”

　　現(xiàn)階段有很多機(jī)構(gòu)，數(shù)據(jù)在私域內(nèi)，又希望用大模型，所以把大模型私有化部署到域內(nèi)來。但私有化部署會(huì)帶來的兩個(gè)問題，一個(gè)是大模型更新迭代非�？�，企業(yè)很難快速部署最新升級(jí)的大模型產(chǎn)品，導(dǎo)致模型的效果受到影響。更重要的是，私有化部署的成本很高，很難大規(guī)模普及。

　　王磊認(rèn)為：“隱私計(jì)算是保障用戶數(shù)據(jù)安全和隱私的重要技術(shù)，但是它成本很高，之前只有一些非常有錢的機(jī)構(gòu)才能夠用的起，但通過‘云’的方式是能降成本的。”

　　今年5月，螞蟻集團(tuán)對(duì)外透露，在今年內(nèi)發(fā)布 “隱語Cloud”密態(tài)計(jì)算的相關(guān)產(chǎn)品和服務(wù)，讓企業(yè)像購(gòu)買云服務(wù)一樣購(gòu)買隱私計(jì)算服務(wù)，支持?jǐn)?shù)據(jù)跨云跨端可信流通。此次隱語Cloud大模型密算平臺(tái)，也會(huì)提供公有云和專有云交付方案，支持市面上主流的通用大模型。

　　以公有云為例，提供PaaS層服務(wù)，模型提供者可以一鍵加密上傳自己的大模型，10分鐘即可完成高可用推理服務(wù)的發(fā)布。用戶通過網(wǎng)頁就可以實(shí)現(xiàn)對(duì)模型的加密訪問，無需感知到復(fù)雜的加密過程，即開即得。

　　“我們希望通過密算技術(shù)給用戶非常強(qiáng)的安全保障，解決“不敢、不愿”的問題，再通過密算云服務(wù)解決“不會(huì)”的問題。”韋韜表示，“同時(shí)，還希望推動(dòng)行業(yè)把整個(gè)鏈路走通，讓大家能夠敢而且愿意把高價(jià)值的數(shù)據(jù)流通起來。”

　　當(dāng)前，密算技術(shù)已準(zhǔn)備好，而接下來則是要邁入真正的商業(yè)化落地應(yīng)用，畢竟技術(shù)只有商業(yè)化落地，才能夠可持續(xù)地產(chǎn)生價(jià)值。

　　商業(yè)化的成功，需重塑隱私計(jì)算的市場(chǎng)格局

　　螞蟻密算和傳統(tǒng)隱私計(jì)算的最大區(qū)別，在于重新樹立了隱私計(jì)算的市場(chǎng)格局。

　　從技術(shù)的角度來講，近年來雖然行業(yè)中一直對(duì)隱私計(jì)算進(jìn)行了相關(guān)技術(shù)研發(fā)和應(yīng)用，但在韋韜看來，很多隱私計(jì)算技術(shù)包括現(xiàn)在用的最多的是PSI(隱私計(jì)算求交)，應(yīng)用效果非常好，但非常淺，只是其中一個(gè)環(huán)節(jié)，并沒有實(shí)現(xiàn)數(shù)據(jù)流轉(zhuǎn)全鏈路保障。

　　而數(shù)據(jù)就像自來水，局部流通的價(jià)值遠(yuǎn)遠(yuǎn)小于全域流通。

　　技術(shù)的迭代更新能夠逐步降低應(yīng)用成本，但想要真正實(shí)現(xiàn)大規(guī)模商業(yè)化，本質(zhì)上還需要數(shù)據(jù)產(chǎn)業(yè)鏈條上的各方參與者，從原本的安全成本投入思維，轉(zhuǎn)向利益分潤(rùn)的模式。

　　“行業(yè)數(shù)據(jù)的提供方，是希望能夠通過數(shù)據(jù)進(jìn)行變現(xiàn)，變現(xiàn)的最好模式就是基于行業(yè)大模型能夠持續(xù)的提供產(chǎn)品價(jià)值，來獲得收入;而模型的提供方，也是希望能夠持續(xù)獲得分潤(rùn)，而不是一次性的售賣。”王磊表示。

　　事實(shí)上，在原本隱私計(jì)算的商業(yè)模式中，主要是通過賣軟件技術(shù)，以高成本的項(xiàng)目交付方式進(jìn)行。但因?yàn)榘惭b環(huán)境，使用方法等各種問題，僅僅提供軟件并沒法保證數(shù)據(jù)流通過程的安全性，同時(shí)這種高成本低利潤(rùn)的商業(yè)模式，也導(dǎo)致隱私計(jì)算技術(shù)提供商無法在安全技術(shù)上持續(xù)投入。

　　“但是隱私計(jì)算是要讓數(shù)據(jù)流通起來，并且保證數(shù)據(jù)安全，這是最終目的。”王磊說道，“我們希望的商業(yè)模式，是對(duì)安全結(jié)果負(fù)責(zé)。保證整個(gè)數(shù)據(jù)流通的過程中的安全性，從全鏈路上降低成本和法律風(fēng)險(xiǎn)，并由于數(shù)據(jù)價(jià)值得到了保障，密態(tài)計(jì)算技術(shù)提供商可以從被保障的數(shù)據(jù)價(jià)值中分得利潤(rùn)。”

　　因此，螞蟻密算希望能夠通過多方聯(lián)動(dòng)，在構(gòu)建全產(chǎn)業(yè)鏈數(shù)據(jù)安全防護(hù)的基礎(chǔ)上，能夠讓各方獲得一定的利益，從而更好的推動(dòng)安全技術(shù)的投入和支出。

　　現(xiàn)如今，密態(tài)計(jì)算已經(jīng)進(jìn)入規(guī)�；�商業(yè)應(yīng)用的前夜。

　　“螞蟻密算的使命是通過密算科技推動(dòng)數(shù)據(jù)可信流通。”韋韜說道，“科技是最大普惠，但技術(shù)通過商業(yè)化是最好的服務(wù)社會(huì)的形式，這是我們成立浙江螞蟻密算公司的初衷。”

　　不過，雖然現(xiàn)階段隱私計(jì)算已經(jīng)在部分場(chǎng)景中已經(jīng)有了商業(yè)化落地應(yīng)用，但在行業(yè)大模型應(yīng)用場(chǎng)景中，仍處于PoC階段。

　　對(duì)于密態(tài)計(jì)算的商業(yè)化應(yīng)用，韋韜認(rèn)為，隱私計(jì)算技術(shù)非常像光伏，光伏剛推出來的時(shí)候價(jià)格昂貴，肯定不是讓所有行業(yè)全部用上，但高需求行業(yè)先用起來后，實(shí)現(xiàn)規(guī)模化的降低成本，當(dāng)它降到臨界點(diǎn)的時(shí)候，對(duì)于光伏而言發(fā)電成本跟煤電相當(dāng)?shù)臅r(shí)候，全面大規(guī)模展開應(yīng)用。

　　同理，隱私計(jì)算也一定是從比較高價(jià)值的數(shù)據(jù)，高價(jià)值的場(chǎng)景開始來用，但是它解決的問題不是只有高價(jià)值數(shù)據(jù)才有的需求。“當(dāng)密態(tài)計(jì)算的成本，降低到數(shù)據(jù)流通價(jià)值的5%，就能夠?qū)崿F(xiàn)規(guī)�；�推廣。”韋韜曾向光錐智能提到。

　　與此同時(shí)，市場(chǎng)化的應(yīng)用，還需要交給市場(chǎng)化的手段。在密態(tài)計(jì)算技術(shù)走向市場(chǎng)商業(yè)化的過程中，韋韜認(rèn)為可以引入保險(xiǎn)機(jī)制。

　　保險(xiǎn)公司主要有兩個(gè)作用，一個(gè)是事前，保險(xiǎn)公司做獨(dú)立的第三方，去看所有產(chǎn)品的安全性是不是能達(dá)標(biāo)，并根據(jù)實(shí)際安全風(fēng)險(xiǎn)狀態(tài)收取不同費(fèi)率的保費(fèi)。第二個(gè)，真的出現(xiàn)了黑天鵝事件，事后(保險(xiǎn)公司)做風(fēng)險(xiǎn)兜底。

　　通過這個(gè)方式，才能推動(dòng)整個(gè)產(chǎn)業(yè)良性地運(yùn)作起來。只有商業(yè)的模式健康運(yùn)轉(zhuǎn)起來，技術(shù)的迭代也才能可持續(xù)地健康發(fā)展。

　　隨著大模型的大規(guī)模商業(yè)化落地，數(shù)據(jù)要素的流通市場(chǎng)也勢(shì)必會(huì)不斷擴(kuò)大。但現(xiàn)在現(xiàn)階段，隱私計(jì)算技術(shù)在大模型數(shù)據(jù)可信流通賽道中，尚屬于早期，未來真正的商業(yè)化落地，仍需要驗(yàn)證。

　　但隱私計(jì)算就像數(shù)據(jù)的安全通道，越快打開，大模型的落地效率就會(huì)更高。就像螞蟻集團(tuán)董事長(zhǎng)兼CEO井賢棟此前所比喻的，數(shù)據(jù)價(jià)值就像“自來水”一樣，從原來的數(shù)據(jù)孤島，像自家水井一樣自產(chǎn)自銷，走向“桶裝水”式的點(diǎn)對(duì)點(diǎn)流通。

　　接下來，大規(guī)模數(shù)據(jù)流轉(zhuǎn)會(huì)發(fā)展為猶如“城市自來水網(wǎng)”的行業(yè)、區(qū)域間可信流通，走向未來更廣域的可信流通，形成綜合水利工程。在此基礎(chǔ)上，大模型產(chǎn)業(yè)及各種數(shù)據(jù)要素的應(yīng)用場(chǎng)景，將都能夠充分應(yīng)用數(shù)據(jù)要素價(jià)值，實(shí)現(xiàn)跨行業(yè)、跨地域和跨云可信流轉(zhuǎn)和互聯(lián)互通。