零樣本NLP平臺：一句話生產(chǎn)一個模型的時代已經(jīng)來臨

　　讓計算機(jī)理解人與人之間的對話，是一件看似簡單，實(shí)際難度很大的事情。在6月9日的循環(huán)智能整體產(chǎn)品發(fā)布會上，CEO陳麒聰舉了一個銀行理財顧問與客戶對話的例子：

　　理財顧問：今年52啊，那您再干個7，8年左右到60歲就可能要面臨退休嘛是不是?

　　客戶：我55歲就退休了。

　　我們的任務(wù)是根據(jù)這段對話，提取客戶的“畫像標(biāo)簽”：判斷客戶是否退休了。

　　人工來判斷的話，需要結(jié)合上下文的內(nèi)容，才能得出結(jié)論：雖然對話的雙方是在講“退休”這個主題，但客戶的狀態(tài)是還沒退休，因此不能打上“客戶已退休”的畫像標(biāo)簽。

　　對機(jī)器而言，很難應(yīng)付這種“不按常理出牌”的人與人對話場景。但偏偏在現(xiàn)實(shí)中，人與人溝通對話的內(nèi)容會大量涉及到類似的場景。究其原因，主要是因為人與人對話有很強(qiáng)的隨意性，不僅同一件事情的表述方式有無數(shù)種，而且經(jīng)常會出現(xiàn)重復(fù)、停頓、省略、虛擬語氣等現(xiàn)象，需要結(jié)合上下文的情境才能正確判斷語義。

　　因此，過去幾年，可以識別上下文語義的AI深度學(xué)習(xí)技術(shù)被廣泛采用——通過人工標(biāo)注數(shù)百或數(shù)千條“正負(fù)例”樣本數(shù)據(jù)，即可生產(chǎn)一個分類器模型——每個分類器模型都可以用來識別一條語義。但是，每個會話語義分析的任務(wù)，通常需要幾十甚至上百個分類器模型才能實(shí)現(xiàn)，標(biāo)注樣本數(shù)據(jù)和手工調(diào)優(yōu)的過程，導(dǎo)致生產(chǎn)周期很長，成本很高。

　　因此，NLP技術(shù)的產(chǎn)業(yè)化、規(guī)�；瘧�(yīng)用，受到了極大的限制。全行業(yè)都亟需一場技術(shù)變革……

　　基于超大規(guī)模預(yù)訓(xùn)練模型的技術(shù)變革

　　2021年4月，循環(huán)智能聯(lián)合華為云發(fā)布了全球首個千億參數(shù)的中文語言預(yù)訓(xùn)練大模型——“盤古”，發(fā)布時盤古大模型打破了權(quán)威評測榜單CLUE的總榜、分類任務(wù)和閱讀理解三項記錄。但“刷榜”從來不是盤古大模型的真正目標(biāo)，經(jīng)過一年多的研發(fā)和進(jìn)化，循環(huán)智能把零樣本技術(shù)推向落地，建成了零樣本NLP平臺。

　　盤古零樣本NLP平臺搭載了，經(jīng)過極致優(yōu)化的15億參數(shù)可落地模型，性能顯著超越原版的千億模型。在金融、地產(chǎn)、汽車等行業(yè)的200多個真實(shí)場景，盤古零樣本平臺的性能得到廣泛驗證。借助強(qiáng)大的工程化支持，盤古零樣本平臺大幅降低了部署成本，提升了應(yīng)用效率：使用一個普通的2080Ti  GPU分析1萬小時的錄音內(nèi)容，平均僅需16分鐘。

　　這是一場蓄勢已久的技術(shù)革命，零樣本學(xué)習(xí)是全新的NLP生產(chǎn)范式，在大部分場景下無需標(biāo)注樣本，只需要人類提供指令(Prompt)即可完成建模，大幅度地降低生產(chǎn)門檻;在少部分場景下，僅需通過少量樣本(通常10-50條數(shù)據(jù))進(jìn)行微調(diào)，即可完成建模。

　　更重要的是，在新的NLP生產(chǎn)范式下，不需要AI專家的深度參與，普通員工經(jīng)過培訓(xùn)后也可以借助對話式的交互界面，快速生產(chǎn)語義模型(如視頻所示)。

　　從模型效果的角度看，通過盤古零樣本平臺生產(chǎn)的NLP模型，跟原來的標(biāo)注幾百條樣本得到的模型，可以做到效果相當(dāng);從生產(chǎn)周期的角度看，大部分NLP模型生產(chǎn)可以從傳統(tǒng)方法的幾天降至幾分鐘，少部分需要微調(diào)的模型也僅需要一兩個小時即可完成生產(chǎn)，生產(chǎn)效率提升10到1000倍。

　　盤古零樣本NLP平臺 vs 傳統(tǒng)分類器技術(shù)

　　零樣本技術(shù)在企業(yè)會話分析場景的應(yīng)用

　　在銀行、保險、證券、汽車、房地產(chǎn)以及B2B企業(yè)軟件等行業(yè)，高附加值產(chǎn)品的營銷推介、銷售、服務(wù)環(huán)節(jié)均離不開企業(yè)員工與客戶溝通互動的過程。無論是線上的電話或微信互動，還是線下的面對面交流，溝通建立了企業(yè)與客戶之間價值傳遞的橋梁。

　　有了盤古零樣本NLP平臺，企業(yè)可以根據(jù)業(yè)務(wù)的需求，快速生產(chǎn)大量的語義模型，將原本“非結(jié)構(gòu)化”的溝通對話內(nèi)容，變成計算機(jī)可以分析處理的“結(jié)構(gòu)化”數(shù)據(jù)，準(zhǔn)確和快速地分析不斷產(chǎn)生的員工與客戶溝通內(nèi)容：

　　■ 全面掌握業(yè)務(wù)策略的真實(shí)執(zhí)行情況和進(jìn)展，精細(xì)化地管理銷售過程;

　　■ 準(zhǔn)確判斷溝通中所講到的話題和流程節(jié)點(diǎn)，提供實(shí)時的AI銷售助手;

　　■ 自動提取客戶在溝通中表達(dá)出的“動態(tài)”畫像標(biāo)簽信息，加深對客戶的了解;

　　■ 自動化提取對話中的關(guān)鍵信息，自動生成工單，減輕員工手動處理的流程負(fù)擔(dān);

　　■ 準(zhǔn)確識別“銷售誤導(dǎo)”等違規(guī)行為，提升業(yè)務(wù)的合規(guī)性……

　　盤古零樣本NLP平臺是循環(huán)智能推出的零門檻AI開發(fā)平臺，支持?jǐn)?shù)據(jù)管理、數(shù)據(jù)標(biāo)注、模型訓(xùn)練、模型部署等一站式NLP模型開發(fā)。