RockAI（巖芯數(shù)智）大模型：可控可信的私域知識問答系統(tǒng)

　　RockAI(巖芯數(shù)智)是以認(rèn)知智能為基礎(chǔ)，專注于自然語言理解、人機(jī)交互的科技創(chuàng)新型企業(yè)，是A 股上市公司(002195.SZ)上海巖山科技股份有限公司的控股子公司，公司秉承“新科技改變生活”的理念，致力于構(gòu)建自研基礎(chǔ) AI 大模型 + 行業(yè)垂直模型的技術(shù)結(jié)構(gòu)，實(shí)現(xiàn)“1 個 MaaS 平臺，多種應(yīng)用場景”策略，打造客戶信賴的認(rèn)知智能平臺。

　　概 述

　　私域知識問答系統(tǒng)是一種旨在滿足特定組織或團(tuán)隊(duì)內(nèi)部需求的智能信息獲取工具。其產(chǎn)品形式包括：知識問答、企業(yè)助理、辦公助手、智能客服、數(shù)字員工等。巖芯數(shù)智通過自研構(gòu)建可控可信的通用大模型，緩解了行業(yè)中大模型幻覺問題，提升模型的精準(zhǔn)問答能力，回答準(zhǔn)確率達(dá)到 90%，目前已在多家企業(yè)內(nèi)部部署應(yīng)用。

　　需求分析

　　信息是解決問題的基礎(chǔ)，在企業(yè)和組織內(nèi)部，員工和團(tuán)隊(duì)通常需要訪問特定領(lǐng)域的知識和信息，以解決問題、獲得支持或做出決策。傳統(tǒng)的知識庫和文檔系統(tǒng)可能存在檢索和更新的問題，導(dǎo)致信息不易獲取。

　　在傳統(tǒng)的知識獲取中，用戶將知識庫放入到全文索引庫中，然后用戶利用關(guān)鍵詞獲取全文檢索的結(jié)果，即屬于當(dāng)前傳統(tǒng)搜索引擎的模式，該模式下主要存在以下兩方面的問題：

　　全文檢索的方式需要關(guān)鍵詞精準(zhǔn)命中，對用戶的輸入要求更高。

　　全文檢索命中的是相關(guān)性，只是找到答案附近的文本，無法精準(zhǔn)定位答案。

　　本私域知識問答系統(tǒng)的背景是通過結(jié)合巖芯數(shù)智可控可信的通用大模型，提供一種更智能、互動和高效的方式來訪問和共享知識。

　　案例介紹

　　主要能力：

　　知識管理

　　私域的知識問答系統(tǒng)具有強(qiáng)大的知識管理能力，允許用戶創(chuàng)建、編輯和組織知識文檔、常見問題解答(FAQ)、操作手冊和培訓(xùn)材料等;

　　多輪點(diǎn)的知識問答

　　系統(tǒng)提供高效的問答功能，用戶可以輕松查找所需的信息，以減少時間浪費(fèi)和提高生產(chǎn)率;

　　權(quán)限管理

　　系統(tǒng)提供靈活的權(quán)限管理，確保只有授權(quán)人員可以訪問和編輯特定的知識文檔，以維護(hù)知識的安全性和可維護(hù)性。

　　技術(shù)創(chuàng)新：

　　技術(shù)上為緩解大模型的幻覺問題以及提升模型回答問題的準(zhǔn)確性，巖芯數(shù)智專研模型的可控可信能力。模型結(jié)構(gòu)采用巖芯數(shù)智完全獨(dú)立自研的可線性計(jì)算的自然語言關(guān)聯(lián)特征表示模型，相比基于 Attention 機(jī)制的 Transformer 架構(gòu)大模型，可大幅度的提升模型訓(xùn)練效率和應(yīng)用效果。

　　圖 4 與圖 5 是相近參數(shù)量下，針對同一任務(wù)的訓(xùn)練，標(biāo)準(zhǔn) Transformer 模型與巖芯數(shù)智自研模型的 loss 變化趨勢。

　　圖 4 為基于 Transformer 架構(gòu)的預(yù)訓(xùn)練模型在訓(xùn)練集和驗(yàn)證集上的損失值表現(xiàn)情況，圖 5 為巖芯數(shù)智自研大模型�？梢园l(fā)現(xiàn)在訓(xùn)練 100 個 epoch 下，巖芯數(shù)智自研模型已經(jīng)出現(xiàn)過擬合的現(xiàn)象，其中驗(yàn)證集中的最低損失值在 3.5 左右，而基于 Transformer 架構(gòu)的大模型，在 100 個 epoch 下未完成收斂，且驗(yàn)證集中損失值依然在 4 以上。

　　上述也表明改進(jìn)后的模型具備更快的收斂效率，基本上在第 10 個 epoch 下就達(dá)到了最佳狀態(tài)，因此收斂效率遠(yuǎn)高于 Transformer 架構(gòu)。

　　實(shí)施效果：

　　提高生產(chǎn)力

　　處于私域的人員能夠更快地找到所需的信息，解決問題，減少工作中的困惑，從而提高生產(chǎn)力;

　　知識共享

　　促進(jìn)了內(nèi)部知識共享和協(xié)作，有助于打破信息孤島，使組織更加協(xié)調(diào)一致;

　　風(fēng)險降低

　　通過更好的知識管理，組織可以減少風(fēng)險，提高合規(guī)性。

　　應(yīng)用落地情況：

　　本私域的知識問答系統(tǒng)已經(jīng)在多家企業(yè)內(nèi)部落地，回答準(zhǔn)確率達(dá)到 90% 以上。

　　效益分析：

　　經(jīng)濟(jì)效益

　　私域的知識問答系統(tǒng)有助于提高生產(chǎn)力和效率，減少支持部門的負(fù)擔(dān)，降低了組織的運(yùn)營成本;

　　商業(yè)模式

　　通過許可付費(fèi)、訂閱付費(fèi)以及自定義解決方案三種方式實(shí)現(xiàn)用戶付費(fèi);

　　應(yīng)用推廣前景

　　企業(yè)內(nèi)部應(yīng)用：私域的知識問答系統(tǒng)在企業(yè)內(nèi)部可以用于知識管理、員工培訓(xùn)、問題咨詢以及改善組織內(nèi)部的工作流程;

　　教育領(lǐng)域：學(xué)校、大學(xué)和教育機(jī)構(gòu)可以本系統(tǒng)來改善教育過程，促進(jìn)學(xué)生之間和教師之間的知識共享，提高教育質(zhì)量;

　　醫(yī)療健康領(lǐng)域：可以提高醫(yī)療專業(yè)人員之間的知識共享，改善患者護(hù)理，提高醫(yī)療服務(wù)質(zhì)量;

　　私域的知識問答系統(tǒng)可以在各種領(lǐng)域都有廣泛的應(yīng)用，為組織帶來經(jīng)濟(jì)效益、社會效益，同時提供多樣化的商業(yè)模式選擇。