支付寶旗下DeepInsight Copilot：大模型數(shù)據(jù)分析智能助理

　　支付寶(中國)網(wǎng)絡(luò)技術(shù)有限公司

　　支付寶成立于 2004 年，始終致力于數(shù)字支付開放平臺(tái)的建設(shè)和發(fā)展，于 2011 年 5 月獲得中國人民 銀行首批頒發(fā)的《支付業(yè)務(wù)許可證》。支付寶踐行“支付為民服務(wù)實(shí)體”的初心，研發(fā)了快捷支付、 條碼支付、刷臉支付、二維碼支付等創(chuàng)新支付技術(shù)，服務(wù)于商業(yè)經(jīng)營、便民繳費(fèi)、交通出行等不同 場景下的數(shù)字支付需求，為超 10 億用戶、8000 萬商家提供支付服務(wù)保障，助力實(shí)體經(jīng)濟(jì)蓬勃發(fā)展。 成立至今，支付寶致力于以科技推動(dòng)包括金融服務(wù)業(yè)在內(nèi)的全球現(xiàn)代服務(wù)業(yè)的數(shù)字化升級(jí)，深入貫 徹新發(fā)展理念，制定全方位的數(shù)字化發(fā)展戰(zhàn)略，并大力增加科研投入，通過規(guī)范的金融科技應(yīng)用提 高金融服務(wù)效能、增強(qiáng)金融風(fēng)險(xiǎn)科技防范能力，以金融科技創(chuàng)新推動(dòng)我國經(jīng)濟(jì)金融數(shù)字化轉(zhuǎn)型升級(jí)。

　　概 述

　　當(dāng)前，數(shù)據(jù)驅(qū)動(dòng)的智能決策已成為企業(yè)數(shù)字化轉(zhuǎn)型過程中的核心競爭力。伴隨著大模型 技術(shù)的突破和不斷應(yīng)用，已經(jīng)開始影響和改變數(shù)據(jù)分析領(lǐng)域的產(chǎn)品形態(tài)和生產(chǎn)關(guān)系。例 如，以微軟 Power BI 為代表的產(chǎn)品率先發(fā)布了基于自然語言交互的取數(shù)、可視化和分 析能力，極大降低了用戶使用門檻并提升了使用體驗(yàn)。在此背景下，支付寶基于螞蟻集團(tuán)基礎(chǔ)大模型開發(fā)研制了數(shù)據(jù)分析智能助理 DeepInsight Copilot。 通過提供對(duì)話式的交互，DeepInsight Copilot 極大降低了數(shù)據(jù)分析的上手門檻，用戶無 需理解復(fù)雜的產(chǎn)品界面，數(shù)據(jù)分析效率可提升至分鐘級(jí)別。在企業(yè)高管、理財(cái)師、商家 經(jīng)營等場景中，從企業(yè)高管用戶到一線用戶，DeepInsight Copilot 都能夠幫助客戶更高 效、更有效地獲取信息和洞見，輔助客戶做出更好的經(jīng)營決策。

　　需求分析

　　相對(duì)于市場上已有的數(shù)據(jù)分析產(chǎn)品，DeepInsight Copilot 的產(chǎn)品能力關(guān)鍵是結(jié)合基礎(chǔ)大 模型的能力，通過更為的自然的語言對(duì)話交互方式，幫助客戶實(shí)現(xiàn)數(shù)據(jù)指標(biāo)查詢、數(shù)據(jù)計(jì)算口徑確認(rèn)、數(shù) 據(jù)分析建模、目標(biāo)數(shù)據(jù)提取、數(shù)據(jù)報(bào)表分析、數(shù)據(jù)報(bào)表制作、數(shù)據(jù)可視化、數(shù)據(jù)分析代碼自動(dòng)生成、數(shù)據(jù) 分析教學(xué)、數(shù)據(jù)分析方法智能推薦等功能，并可通過釘釘?shù)榷喾N辦公軟件入口提供給客戶使用，在降低客 戶使用數(shù)據(jù)分析產(chǎn)品的使用門檻的同時(shí)，幫助用戶提升找數(shù)、取數(shù)、分析和決策的效能。具體需求如圖 1 所示。

　　圖 1 結(jié)合大模型的數(shù)據(jù)分析智能助理功能需求

　　案例介紹

　　在建設(shè)數(shù)據(jù)分析智能助理 DeepInsight Copilot 的過程中，為了充分發(fā)揮基礎(chǔ)大模型的 能力，給用戶帶去最佳的產(chǎn)品體驗(yàn)，并確保輸出內(nèi)容的安全、可靠、可信等，本項(xiàng)目設(shè) 計(jì)出了一套結(jié)合大模型技術(shù)、知識(shí)圖譜技術(shù)、向量搜索技術(shù)的整體應(yīng)用解決方案。其中， 大模型方面，結(jié)合數(shù)據(jù)分析場景的需求和數(shù)據(jù)對(duì)基礎(chǔ)大模型進(jìn)行了調(diào)優(yōu)，并設(shè)計(jì)實(shí)現(xiàn)了 面向數(shù)據(jù)分析場景的對(duì)話系統(tǒng)，從而取得業(yè)界領(lǐng)先的技術(shù)效果。關(guān)鍵技術(shù)創(chuàng)新點(diǎn)和實(shí)施 效果如下：

　　意圖分類：相比起傳統(tǒng)的提示詞工程(Prompt Engineering、大模型調(diào)優(yōu)等方法， 本項(xiàng)目設(shè)計(jì)出一種多層分類任務(wù) + 規(guī)則的方法，將意圖分類的正確率提升了 20 個(gè)百分 點(diǎn)，達(dá)到了 97.5% 的真實(shí)環(huán)境正確率。

　　使用自然語言對(duì)話生成數(shù)據(jù)分析建模：通使用自然語言對(duì)話生成數(shù)據(jù)分析建模通過對(duì)基礎(chǔ)大模型進(jìn)行調(diào) 優(yōu)，支持用戶通過自然語言生成取數(shù)分析 DSL Domain Specifi c Language)，可簡化用戶特定領(lǐng)域的數(shù)據(jù) 分析問題建模和數(shù)據(jù)分析。目前取數(shù)分析 DSL 的正確率提升到達(dá)到業(yè)界自然語言取數(shù)的領(lǐng)先水平。

　　Prompt 精簡：通過結(jié)合螞蟻向量搜索技術(shù)，本項(xiàng)目將自然語言生成取數(shù)分析 DSL 的提示詞 Token 長度 精簡 90% 以上。既能提升了自然語言生成取數(shù)分析 DSL 的正確率，也同時(shí)減少了需要計(jì)算的 Token 量縮 短了響應(yīng)時(shí)長。

　　對(duì)話系統(tǒng)：本項(xiàng)目在業(yè)界第一次實(shí)現(xiàn)了基于流式的數(shù)據(jù)分析對(duì)話系統(tǒng)，這極大地降低了用戶正確輸入任 務(wù)的門檻。即使用戶輸入了錯(cuò)誤的問題，DeepInsight Copilot 也可以友好地引導(dǎo)用戶提出正確的問題，從 而讓用戶可以更輕松地完成數(shù)據(jù)分析任務(wù)。

　　基于知識(shí)的模糊取數(shù)和分析：基于知識(shí)圖譜技術(shù)，本項(xiàng)目設(shè)計(jì)出一個(gè)數(shù)據(jù)分析領(lǐng)域的知識(shí)增強(qiáng)方案，讓用戶無需完整地描述出指標(biāo)和分析思路，系統(tǒng)就可以推理出用戶所需要查詢的指標(biāo)，或推理出最適合的分 析思路。 支持用戶進(jìn)行取數(shù)、分析、定義度量，幫助用戶取數(shù) & 分析耗時(shí)從小時(shí)級(jí)別降低至分鐘級(jí)別; 支持用戶進(jìn)行報(bào)表生成、圖表生成，幫助用戶制作報(bào)表，耗時(shí)從半天級(jí)別降低至小時(shí)級(jí)別; 支持用戶在移動(dòng)端快捷取數(shù)，幫助用戶隨時(shí)隨地獲取數(shù)據(jù)信息。

　　目前產(chǎn)品已經(jīng)用在支付寶內(nèi)部上線使用，使用效果如下：

　　效益分析

　　DeepInsight Copilot 將提供給螞蟻集團(tuán) & 阿里集團(tuán)共 8W+ 用戶使用，通過滿足更多用 戶更快地完成數(shù)據(jù)分析，提升用戶的決策效率 10 倍，從而提升集團(tuán)整體的決策力，促進(jìn)集團(tuán)業(yè)務(wù)更快地完成創(chuàng)新;

　　Copilot 能滿足更多用戶是因?yàn)閷?duì)話式的交互極大降低了數(shù)據(jù)分析的上手門檻，促進(jìn)全 民皆可分析; 同時(shí)將取數(shù)、分析、度量定義、答疑等操作在對(duì)話中完成，可滿足更高效率; 用戶無需理解復(fù)雜的產(chǎn)品界面，數(shù)據(jù)分析效率可提升至分鐘級(jí)別;

　　DeepInsight Copilot 將結(jié)合著“支付寶商家經(jīng)營助手”等產(chǎn)品面向 B 端客戶使用，幫 助 B 端客戶更好地完成在支付寶體系內(nèi)的經(jīng)營，從而提升其對(duì)支付寶平臺(tái)的活躍度 ， 計(jì)劃未來開放給支付寶 2000 萬商家使用。