金融業(yè)落地大模型，為什么放慢腳步

　　最有錢、也最肯在科技上花錢的金融業(yè)，怎么落地大模型?

　　文|周享玥

　　ChatGPT問(wèn)世以來(lái)，立刻在金融業(yè)引發(fā)了焦慮感，這個(gè)對(duì)技術(shù)有信仰的行業(yè)唯恐被一個(gè)飛奔中的時(shí)代洪流甩在身后。這種焦灼氛圍，甚至一度卷到清凈的寺廟。一位業(yè)內(nèi)人士告訴數(shù)智前線，她在5月份去到大理出差時(shí)，在寺廟里都能碰到和她談?wù)摯竽Ｐ偷慕鹑谌恕?/p>

　　不過(guò)，這種焦慮正在慢慢歸于尋常，大家的思路也開(kāi)始清晰和理性。軟通動(dòng)力銀行業(yè)務(wù)CTO孫洪軍向數(shù)智前線描述了今年金融業(yè)對(duì)大模型態(tài)度的幾個(gè)階段：二三月，大家都很焦慮，怕落后;四五月，紛紛組建團(tuán)隊(duì)去做;之后幾個(gè)月，大家在找方向、落地上遇到了困難，開(kāi)始變得理性;現(xiàn)在，他們看標(biāo)桿，把驗(yàn)證過(guò)的場(chǎng)景拿來(lái)試用。

　　一個(gè)更新的趨勢(shì)是，不少金融機(jī)構(gòu)都已將大模型從戰(zhàn)略層面重視起來(lái)。據(jù)不完全統(tǒng)計(jì)，A股上市公司中，至少有工商銀行、農(nóng)業(yè)銀行、中國(guó)銀行、交通銀行等11家銀行，都已在最新半年報(bào)中明確提出正在探索大模型的應(yīng)用。從近期動(dòng)作看，他們也正在從戰(zhàn)略層面和頂層設(shè)計(jì)層面有更清晰的思考和路徑規(guī)劃。

　　01

　　從熱情高漲到理性回歸

　　“比起幾個(gè)月前，現(xiàn)在能明顯感覺(jué)金融客戶對(duì)大模型的理解好了很多。”一位大廠金融行業(yè)資深人士告訴數(shù)智前線，年初ChatGPT剛出來(lái)時(shí)，大家的熱情雖高，但對(duì)于大模型究竟是什么、該怎么用，其實(shí)了解得非常有限。

　　這一階段，一方面一些大行率先行動(dòng)，開(kāi)始做各種“蹭熱度”的宣傳。比如早在今年3月，農(nóng)行上線了類ChatGPT的大模型應(yīng)用ChatABC。但業(yè)界評(píng)價(jià)不一。其時(shí)，一度有人認(rèn)為，ChatABC這個(gè)名字強(qiáng)調(diào)了ChatGPT里不那么重要的Chat，反而忽略了GPT這個(gè)真正重要的部分。

　　另一方面，隨著百度等多家廠商陸續(xù)發(fā)布大模型，一些頭部金融機(jī)構(gòu)的科技部門開(kāi)始積極去跟大廠談?wù)摯竽Ｐ徒ㄔO(shè)的事情。上述資深人士透露，這些金融機(jī)構(gòu)的普遍訴求是，要自己去做一個(gè)大模型，希望廠商告訴他數(shù)據(jù)集怎么做，買多少服務(wù)器，怎么去訓(xùn)練。建行旗下的金融科技公司建信金科甚至提出，完成后是不是還能去做一些同業(yè)輸出。

　　5月份以后，情況逐漸變化。受制于算力資源緊缺、成本高昂等大背景，很多金融機(jī)構(gòu)開(kāi)始從單純希望自己建算力、建模型，轉(zhuǎn)變到更加關(guān)心應(yīng)用的價(jià)值。“現(xiàn)在每一家金融機(jī)構(gòu)都在關(guān)心其他人用大模型做了什么，實(shí)現(xiàn)了怎樣的效果。”

　　具體到不同規(guī)模的企業(yè)，也分出了兩條路徑。手握海量金融數(shù)據(jù)和應(yīng)用場(chǎng)景的大型金融機(jī)構(gòu)，可引入業(yè)界領(lǐng)先的基礎(chǔ)大模型，自建企業(yè)大模型，同時(shí)采用微調(diào)形式，形成專業(yè)領(lǐng)域的任務(wù)大模型，快速賦能業(yè)務(wù)，以彌補(bǔ)大模型建設(shè)周期過(guò)長(zhǎng)的缺點(diǎn);而中小金融機(jī)構(gòu)可綜合考慮ROI，按需引入各類大模型的公有云API或私有化部署服務(wù)，直接滿足賦能訴求。

　　不過(guò)，由于金融行業(yè)本身對(duì)數(shù)據(jù)合規(guī)性、安全性、可信性等存在高要求，部分人士認(rèn)為，這一行業(yè)的大模型落地進(jìn)展，實(shí)際略滯后于年初預(yù)期。軟通動(dòng)力孫洪軍介紹，他們最初預(yù)測(cè)金融行業(yè)可能會(huì)最先大規(guī)模使用大模型，但從最終對(duì)接客戶的情況來(lái)看，金融行業(yè)不如法律、招聘等行業(yè)走得快。

　　一些金融機(jī)構(gòu)已經(jīng)開(kāi)始想辦法，解決大模型落地過(guò)程中的各種“桎梏”。

　　比如在算力方面，業(yè)內(nèi)人士觀察，金融業(yè)目前涌現(xiàn)出了幾種解決思路：

　　其一，直接自建算力，成本相對(duì)高昂，但好處是安全性足夠高。適用于實(shí)力雄厚、希望自建行業(yè)或企業(yè)大模型的金融機(jī)構(gòu)，典型如建行、工行等國(guó)有大行。

　　知情人士告訴數(shù)智前線，為了搭建算力，建行在前不久剛下單了一筆H800的算力大單。

　　其二，算力混合部署，即在敏感數(shù)據(jù)不出域的情況下，接受從公有云上調(diào)用大模型服務(wù)接口，同時(shí)通過(guò)私有化部署的方式處理本地的數(shù)據(jù)服務(wù)。這種方式成本相對(duì)較低，只需投入幾十萬(wàn)元買上幾張卡即可滿足需求，適用于資金相對(duì)薄弱，只按需進(jìn)行應(yīng)用的中小型金融機(jī)構(gòu)。

　　不過(guò)，即便如此，很多中小機(jī)構(gòu)仍然會(huì)面臨買不到也買不起大模型所需的GPU卡的難題。針對(duì)這個(gè)問(wèn)題，上述資深人士向數(shù)智前線透露，證監(jiān)會(huì)最近正在進(jìn)行一些課題研究，探索是否能夠以一種折中的方式，牽頭搭建一個(gè)面向證券行業(yè)的大模型基礎(chǔ)設(shè)施，集中算力、通用大模型等資源，讓行業(yè)里的中小金融機(jī)構(gòu)也能用上大模型的服務(wù)，以防止它們“技術(shù)掉隊(duì)”。

　　不僅是算力上，隨著最近半年多大家對(duì)大模型的落地探索，不少金融機(jī)構(gòu)也逐漸加強(qiáng)了對(duì)數(shù)據(jù)的治理。

　　騰訊云副總裁胡利明介紹，目前除了在數(shù)據(jù)治理領(lǐng)域有成熟實(shí)踐的頭部大行，越來(lái)越多的腰部金融機(jī)構(gòu)也在開(kāi)始陸續(xù)去構(gòu)建數(shù)據(jù)中臺(tái)和數(shù)據(jù)治理的體系，像今年上半年的北部灣銀行、湖南農(nóng)信等等，都是腰部機(jī)構(gòu)。胡利明認(rèn)為，構(gòu)建一個(gè)完善的數(shù)據(jù)治理體系和數(shù)據(jù)湖技術(shù)平臺(tái)，將會(huì)是未來(lái)金融機(jī)構(gòu)IT建設(shè)非常重要的主旋律。

　　也有銀行正通過(guò)大模型+MLOps的方式解決數(shù)據(jù)問(wèn)題。比如農(nóng)業(yè)銀行，通過(guò)采用MLOps模式建立大模型數(shù)據(jù)閉環(huán)體系，實(shí)現(xiàn)了整個(gè)流程的自動(dòng)化，以及多源異構(gòu)數(shù)據(jù)的統(tǒng)一管理和高效處理，據(jù)悉目前已構(gòu)建和沉淀2.6TB高質(zhì)量訓(xùn)練數(shù)據(jù)集。

　　02

　　從外圍場(chǎng)景切入

　　過(guò)去半年多，不管是大模型的服務(wù)商們，還是各大金融機(jī)構(gòu)，大家都在瘋狂找場(chǎng)景，智慧辦公、智能開(kāi)發(fā)、智慧營(yíng)銷、智能客服、智慧投研、智能風(fēng)控、需求分析等都被一一探索。

　　正如螞蟻集團(tuán)副總裁、金融大模型負(fù)責(zé)人王曉航在外灘大會(huì)所說(shuō)，“金融業(yè)務(wù)鏈條上每一個(gè)關(guān)鍵職能，都值得用大模型技術(shù)重做一次。”螞蟻前不久剛發(fā)布了金融大模型，并正與螞蟻平臺(tái)合作機(jī)構(gòu)內(nèi)測(cè)共建面向金融產(chǎn)業(yè)的大模型產(chǎn)品支小助，目標(biāo)是要為理財(cái)顧問(wèn)、保險(xiǎn)代理、投研、金融營(yíng)銷、保險(xiǎn)理賠等金融從業(yè)專家打造全鏈條的AI 業(yè)務(wù)助手。

　　每家金融機(jī)構(gòu)，也都對(duì)大模型有著豐富的暢想和構(gòu)思。建行稱內(nèi)部已有20多個(gè)場(chǎng)景投放應(yīng)用，農(nóng)行說(shuō)他們?cè)?0多個(gè)場(chǎng)景中進(jìn)行了試點(diǎn)，廣發(fā)證券則表示，正在探索將大模型和此前推出的虛擬數(shù)字人平臺(tái)打通……

　　但當(dāng)要真正將大模型落地進(jìn)行業(yè)里，大家的一個(gè)共識(shí)是，先內(nèi)部后外部。畢竟，當(dāng)前階段而言，大模型技術(shù)并不成熟，比如幻覺(jué)問(wèn)題，而金融行業(yè)卻是一個(gè)強(qiáng)監(jiān)管、高安全、高可信的行業(yè)。

　　“短期內(nèi)不建議直接對(duì)客使用。”中國(guó)工商銀行首席技術(shù)官呂仲濤認(rèn)為，金融機(jī)構(gòu)應(yīng)優(yōu)先將大模型面向金融文本和金融圖像分析理解創(chuàng)作的智力密集型場(chǎng)景，以助手形式，人機(jī)協(xié)同來(lái)提升業(yè)務(wù)人員工作質(zhì)效。

　　胡利明也告訴數(shù)智前線，很多金融客戶都認(rèn)為代碼助手和客服助手是前期能直接出一些成果的場(chǎng)景。而像投研、投顧等場(chǎng)景，價(jià)值很大，但很難快速出來(lái)效果，對(duì)數(shù)據(jù)的要求也高。

　　目前，代碼助手已在不少金融機(jī)構(gòu)落地。比如工行，構(gòu)建了基于大模型的智能研發(fā)體系，編碼助手生成代碼量占總代碼量的比值達(dá)到40%。又比如在保險(xiǎn)領(lǐng)域，陽(yáng)光保險(xiǎn)研發(fā)了基于大模型的常青藤輔助編程插件，直接嵌入內(nèi)部開(kāi)發(fā)工具。

　　基于此，一部分廠商也在圍繞大模型代碼生成的能力，直接為金融客戶提供開(kāi)箱即用的產(chǎn)品。軟通動(dòng)力孫洪軍介紹，他們的一款產(chǎn)品，就是在大模型本身的代碼補(bǔ)全能力上，補(bǔ)充任務(wù)分解、精準(zhǔn)回答、突破上下文限制等一系列工作，實(shí)現(xiàn)用戶的開(kāi)箱即用。目前，該產(chǎn)品在匯豐銀行已為3000多人所使用，代碼自動(dòng)補(bǔ)全率為50%~90%。

　　智慧辦公領(lǐng)域，也有不少落地案例。負(fù)責(zé)華為盤古金融行業(yè)大模型產(chǎn)品的祝博士介紹，他們基于盤古金融大模型推出的網(wǎng)點(diǎn)問(wèn)答，7月在工行上線后，已經(jīng)陸續(xù)推廣了幾百個(gè)網(wǎng)點(diǎn)，答案采納率超過(guò)85%。目前，文檔問(wèn)答孵化成的標(biāo)準(zhǔn)解決方案，又快速?gòu)?fù)制到交行、農(nóng)行、銀聯(lián)以及上交所等。

　　不過(guò)，業(yè)內(nèi)人士判斷，這些已經(jīng)廣泛落地的場(chǎng)景，實(shí)際都還不是金融機(jī)構(gòu)的核心應(yīng)用，大模型距離深入金融行業(yè)的業(yè)務(wù)層面還有一定距離。

　　“我們自己判斷，在業(yè)務(wù)應(yīng)用場(chǎng)景這塊兒做的難度還是挺大的。”孫洪軍說(shuō)，營(yíng)銷、風(fēng)控、合規(guī)等場(chǎng)景都是大模型可能帶來(lái)變革，同時(shí)也是金融客戶需求點(diǎn)所在的部分，但就目前的情況而言，這些工作，還要取決于底層大模型廠商們的能力提升情況，再去把業(yè)務(wù)場(chǎng)景做起來(lái)。

　　上述大廠大模型資深人士則向數(shù)智前線預(yù)測(cè)，到今年底之前，會(huì)有一批真正在金融機(jī)構(gòu)核心業(yè)務(wù)場(chǎng)景里，用上大模型的項(xiàng)目建設(shè)或招標(biāo)信息出來(lái)。

　　而在此之前，一些頂層設(shè)計(jì)層面的改變正在進(jìn)行。

　　9月初螞蟻集團(tuán)主辦的外灘大會(huì)上，復(fù)旦大學(xué)教授、上海市數(shù)據(jù)科學(xué)重點(diǎn)實(shí)驗(yàn)室主任肖仰華做出這樣一個(gè)判斷：未來(lái)的整個(gè)智能化、數(shù)字化系統(tǒng)，都將重新建立在大模型的基礎(chǔ)之上。這就要求金融行業(yè)在推動(dòng)大模型落地過(guò)程中，要重新架構(gòu)系統(tǒng)。同時(shí)，也不能忽視傳統(tǒng)小模型的價(jià)值，而應(yīng)該讓大模型、小模型協(xié)同起來(lái)。

　　這一趨勢(shì)已在金融行業(yè)得到廣泛體現(xiàn)。“現(xiàn)在金融機(jī)構(gòu)試點(diǎn)做大模型，基本上會(huì)采取分層的模式。”胡利明介紹，不同于過(guò)去一個(gè)場(chǎng)景需要搭建一個(gè)平臺(tái)的煙囪化模式，大模型其實(shí)給了金融機(jī)構(gòu)們一個(gè)從零開(kāi)始，更加科學(xué)地去做整體的系統(tǒng)規(guī)劃的機(jī)會(huì)。

　　可以看到，目前已經(jīng)有多家頭部金融機(jī)構(gòu)，都已經(jīng)基于大模型，搭建了包含基礎(chǔ)設(shè)施層、模型層、大模型服務(wù)層、應(yīng)用層等多個(gè)層級(jí)的分層系統(tǒng)框架，如農(nóng)行、華夏銀行、廣發(fā)證券、陽(yáng)光保險(xiǎn)等。

　　這些框架體系，普遍有兩大突出特點(diǎn)：其一，大模型發(fā)揮中樞能力，將傳統(tǒng)模型作為技能進(jìn)行調(diào)用;其二，大模型層采用多模型策略，內(nèi)部賽馬，選出最優(yōu)效果。

　　實(shí)際上，不止金融機(jī)構(gòu)，在當(dāng)前格局未定的情況下，一些大模型應(yīng)用提供商，也在采用多模型策略，優(yōu)選服務(wù)效果。孫洪軍透露，軟通動(dòng)力的底層模型層也融合了大量大語(yǔ)言模型，他們會(huì)根據(jù)每個(gè)大模型返回的回答，組裝優(yōu)選后給到用戶。

　　03

　　人才缺口依然龐大

　　大模型的應(yīng)用，已經(jīng)開(kāi)始對(duì)金融行業(yè)的人員結(jié)構(gòu)帶來(lái)一些挑戰(zhàn)和變革。

　　此前，上海一家金融科技公司的人士曾告訴數(shù)智前線，隨著ChatGPT的出現(xiàn)，從今年初到5月底，他所在的公司已經(jīng)裁掉了300多位大數(shù)據(jù)分析師。而在幾年前，這還是一個(gè)炙手可熱的職業(yè)。這一度引發(fā)他的焦慮，甚至開(kāi)始提前考慮起自己女兒將來(lái)的擇業(yè)問(wèn)題。

　　來(lái)自工行的金融領(lǐng)域資深人士，也分享了大模型對(duì)人的替代效應(yīng)。工行原來(lái)每天早上都會(huì)有實(shí)習(xí)生將各方面的信息歸納匯總，再給到投研部門的人，但現(xiàn)在實(shí)習(xí)生的這些工作通過(guò)大模型即可完成。

　　不過(guò)，一些銀行其實(shí)并不希望大模型帶來(lái)減員。比如擁有20萬(wàn)網(wǎng)點(diǎn)員工的工行，就明確向華為提出，他們不希望員工被大模型取代，而應(yīng)該是大模型帶來(lái)新的機(jī)會(huì)，提升員工的服務(wù)質(zhì)量和工作效率，同時(shí)也釋放出部分員工，做更多高價(jià)值的事情。

　　這其中不乏人員和結(jié)構(gòu)穩(wěn)定的考量。但另一方面，也是因?yàn)樾袃?nèi)很多崗位還有人才缺口。

　　孫洪軍告訴數(shù)智前線，大行有一堆干不完的活，部分IT需求的工期甚至排到了明年年底，他們的期望是，大模型能助力員工干更多的活，把效率和速度“卷”起來(lái)，而不是帶來(lái)人員的縮減。

　　更重要的是，大模型的火來(lái)得又急又烈，短時(shí)間內(nèi)，稀缺的人才供給難以匹配上激增的需求。這就好比當(dāng)初iPhone手機(jī)剛出來(lái)時(shí)，大家想做應(yīng)用，滿世界找一個(gè)iOS程序員，又貴又難。

　　9月初的一場(chǎng)金融科技大會(huì)上，中國(guó)農(nóng)業(yè)銀行研發(fā)中心副總經(jīng)理趙煥芳總結(jié)了金融行業(yè)目前在將大模型能力用到核心業(yè)務(wù)流程中會(huì)遇到的6大挑戰(zhàn)，其中之一正是人才。趙煥芳稱，他們最近招了一些新員工，同時(shí)也在做校招，一問(wèn)是不是學(xué)AI這個(gè)領(lǐng)域的，占比非常高，再問(wèn)大模型，“寥寥無(wú)幾”。

　　孫洪軍對(duì)此同樣深有體會(huì)，國(guó)慶前一周，他們才剛收到過(guò)一家銀行客戶的人才支援請(qǐng)求。這家銀行因自行搭建的大模型團(tuán)隊(duì)中有一人需暫時(shí)請(qǐng)假，模型訓(xùn)練工作一時(shí)面臨人手不足問(wèn)題，不得不臨時(shí)對(duì)外尋求支持。

　　“現(xiàn)在這方面的人才確實(shí)很少，還需一定時(shí)間來(lái)進(jìn)行培育。”孫洪軍認(rèn)為，直接應(yīng)用大模型的人才需求相對(duì)簡(jiǎn)單，需要的是會(huì)提問(wèn)題的人。但如果自建行業(yè)或企業(yè)大模型，則需要金融機(jī)構(gòu)有一支精干得力的垂直大模型技術(shù)隊(duì)伍。

　　騰訊云副總裁胡利明也坦言，AI大模型這塊兒的人才缺口非常之大，頭部機(jī)構(gòu)目前都在招一些AI專業(yè)相關(guān)人才，如算法博士等。這是因?yàn)�，金融客戶雖然能從大模型廠商處獲得一定的技術(shù)支持，但他們畢竟才是最終的使用方和創(chuàng)新的主導(dǎo)方，需要一定的人才積累，來(lái)支撐它整個(gè)AI大平臺(tái)的構(gòu)建，各項(xiàng)AI應(yīng)用的規(guī)劃，以及在整個(gè)建模、調(diào)優(yōu)和精調(diào)的過(guò)程中，和大模型廠商一起去做場(chǎng)景疊加、模型疊加等相關(guān)優(yōu)化，不斷去拓展AI模型應(yīng)用的面和效果。

　　一些玩家已經(jīng)采取行動(dòng)。華為祝博士介紹，他們專門聯(lián)合工行實(shí)驗(yàn)室的人力資源團(tuán)隊(duì)，梳理了大模型在企業(yè)應(yīng)用的人員轉(zhuǎn)身實(shí)踐，設(shè)計(jì)出系列培訓(xùn)課程，如Prompt調(diào)優(yōu)、微調(diào)、大模型運(yùn)營(yíng)等，并與遠(yuǎn)程銀行、UX設(shè)計(jì)、網(wǎng)點(diǎn)等部門合作，建立聯(lián)合項(xiàng)目組，驅(qū)動(dòng)企業(yè)人員能力提升。

　　“大模型是半生品，離成品還差得很遠(yuǎn)，必須是領(lǐng)域的人一塊努力才能做成成品。”一位業(yè)內(nèi)資深人士總結(jié)稱，大廠的大模型會(huì)對(duì)企業(yè)現(xiàn)有傳統(tǒng)方面的才能帶來(lái)某種提升，但不會(huì)產(chǎn)生范式的改變，范式的改變必須是金融體系內(nèi)部有一支隊(duì)伍要深入融合內(nèi)部需求，做出很大的變量才有可能做出來(lái)。

　　值得一提的是，在這個(gè)過(guò)程中，金融機(jī)構(gòu)的人員結(jié)構(gòu)也會(huì)迎來(lái)一些調(diào)整和變革。“會(huì)用大模型的開(kāi)發(fā)人員，肯定會(huì)比不會(huì)用的人，更容易在這個(gè)環(huán)境中留存下來(lái)。”孫洪軍說(shuō)。