大模型落地，釘釘從高頻場景突破

　　文|徐鑫 游勇

　　編|周路平

　　AI不是玩具，而是生產力工具，這一判斷在當下越來越成為業(yè)界共識。

　　“你不必再為不同的任務使用不同的應用程序。只需要用日常語言告訴你的設備你想要做什么。根據你選擇與它共享的信息量，軟件將能夠給出個性化的回應。不久的將來，任何上網的人都能擁有一個由人工智能驅動的個人助理。”比爾·蓋茨在最新的一篇博客指出，五年內一個全新的AI時代正在到來。AI將徹底改變個體使用計算機的方式，并顛覆軟件行業(yè)。

　　硬幣的另一面是，傳統(tǒng)行業(yè)里的大量企業(yè)要到達智能化彼岸，需要跨越重重阻礙。為了降低大模型在企業(yè)端的應用落地門檻，AI能力平臺和有場景的企業(yè)已經開始共創(chuàng)和探索。高頻應用且存在剛需痛點的領域，如智能知識問答，正成為它們探索大模型落地的先行場景。

　　芯片設計廠商艾為電子和農牧食品公司鐵騎力士等一批數字化先鋒企業(yè)為例，它們與釘釘AI PaaS及Chat AI解決方案團隊共創(chuàng)，著眼應用層，正在打造具有更強的語義識別和判斷推理能力的智能問答應用。在這些共創(chuàng)企業(yè)里，大模型加持的智能產品，正解放一線技術工程師，實現了降本提效。

　　“再復雜的機械系統(tǒng)也是簡單的系統(tǒng)，再簡單的認知系統(tǒng)也是復雜系統(tǒng)。”這些簡單的應用探索，正在為企業(yè)更深入應用AI提供支撐。大模型ToB，已經邁開步伐。

　　01

　　痛點：傳統(tǒng)智能問答為何不智能?

　　“XX產品的XX(指標)是什么要求?”這個問題很常見，在電商體系里，消費者發(fā)起這樣的咨詢時，客服甚至需要15秒內有回應。

　　但如果產品SKU有幾千，涉及的子類別有幾十種，包含不同領域的專業(yè)知識，同時每款產品參數也有幾十個，客服該如何回復得快速、準確又專業(yè)?

　　這就是艾為電子的技術服務團隊在日常工作里經常遇到的問題。作為國內知名芯片設計商，艾為電子的產品分聲、光、電、射、手五大類別，產品廣泛應用于消費電子、物聯網、工業(yè)企業(yè)以及智能設備領域。

　　如果你見過芯片產品說明書，就會知道要熟悉幾千種芯片的細節(jié)多么有挑戰(zhàn)。通常情況下它由英文撰寫，文件長度在幾十上百頁不等。但最大難度還不是體量大，而在于它涉及的知識門檻，里面包含了大量的技術專有名詞、表格、電路圖和各種技術參數。有時候一些表格之間還會互相關聯，同時一些詞匯在芯片產品說明書里的意思與通用的含義還會出現不一致。要準確回答海量的與產品參數相關的問題，非常考驗回答者的行業(yè)知識，一般的客服人員根本無法應對這類問題。

　　艾為電子目前配置了七八十名技術專家，每天在本職技術工作之外，平均要花大量時間從產品說明書中來確認細節(jié)，回答這些復雜的專業(yè)問題。

　　在許多行業(yè)，企業(yè)通常會選擇建一個智能客服系統(tǒng)來解決問題。但傳統(tǒng)的客服方案會預先設置關鍵詞，列好各種問題的答案�？蛻舻膯栴}觸及關鍵詞，系統(tǒng)會彈出提前準備好的答案。

　　這個模式也有弊端。如果沒按預先準備的表述來提問，觸發(fā)不了關鍵詞，系統(tǒng)就識別不了問題。例如問題里提某項參數“不大于”某個值，而FAQ(常見問題解答)是按照“小于”這一關鍵詞預備問題，就無法彈出準備好的答案。

　　一位資深技術人士告訴數智前線，命中關鍵詞的模式下，系統(tǒng)通常還很難完成判別類任務。例如詢問“71001這款產品支持2.7V的環(huán)境嗎?”智能客服大概率會回答出產品所支持的電壓環(huán)境區(qū)間如“0.3V～6V之間”。但這個回答依然不是客戶提問的問題的答案，互動體驗比較差。

　　農牧產業(yè)里的龍頭企業(yè)鐵騎力士也與艾為電子一樣，需要處理來自外部客戶的知識咨詢和企業(yè)內的業(yè)務系統(tǒng)使用的培訓需求。這是一家成立30多年的大型農牧企業(yè)，在全國有150余家分公司，在全國范圍內有上百家合作的養(yǎng)殖戶。

　　養(yǎng)殖戶向他們采購飼料和養(yǎng)殖技術，最后養(yǎng)殖的生豬由他們回收。養(yǎng)殖期間，分散在各地的農戶經常會向鐵騎力士的技術人員咨詢養(yǎng)豬過程中遇到的難題。例如豬拉肚子怎么辦，有異常行為模式要怎么解決。有時候母豬半夜生產，農戶也希望咨詢公司的技術人員遠程指導和幫助。而在企業(yè)內部，由于分公司眾多，員工數量多，考慮到人員流動等多重原因，企業(yè)內此前建設25套業(yè)務系統(tǒng)的使用培訓工作也頗為繁重。

　　之前這些工作要么靠人力、要么靠傳統(tǒng)的問答工具來完成。但靠人力時工作太簡單機械，靠傳統(tǒng)客服問答系統(tǒng)來服務，也會碰到艾為電子遇到的客服智能程度不高的問題。這也是小模型時代AI應用碰到的普遍問題。超出知識庫以外或者遇到新的環(huán)境及場景，模型和算法就無法適應新情境，應用的智能程度普遍顯得不高。

　　大模型時代，事情正在起變化。大語言模型具備的語義理解能力大大增強了問答場景里的互動性，疊加企業(yè)已有的知識庫沉淀，傳統(tǒng)的客服問答場景里“命中”模式帶來的智能程度不高等問題，正逐漸被解決。

　　艾為電子和鐵騎力士等一批傳統(tǒng)行業(yè)里的數字化先鋒應用企業(yè)正嘗試利用大模型技術，來解決企業(yè)固有的痛點。

　　02

　　尋找大模型落地的先行場景

　　但實際上，傳統(tǒng)企業(yè)要把大模型技術在企業(yè)內變成真正的生產力工具，從底層技術支持到行業(yè)場景都需要經過漫長打磨。

　　鐵騎力士CIO熊峰今年年初就嘗試把大模型落地到企業(yè)內場景，此前這家企業(yè)在企業(yè)內知識培訓和問答場景，使用傳統(tǒng)智能客服產品已有2年多。

　　ChatGPT大火后，國內的大模型廠商紛紛推出大模型相關產品和應用，過去大半年來，各行業(yè)里的數字化先鋒也積極探索將新技術應用到業(yè)務場景。今年4月，釘釘開始內測AI魔法棒產品，并發(fā)布了一些場景。經過幾個月打磨，釘釘把與大模型相關的能力沉淀為AI PaaS對外提供服務。同時一些基于具體場景的解決方案如智能問答也雛形初現。有一批早已用釘釘作為數智化底座的企業(yè)，順勢開始在釘釘探索大模型落地。

　　鐵騎力士于兩個月前開始與釘釘的AI PaaS及Chat AI產品合作共創(chuàng)。與鐵騎力士類似，今年大模型熱潮開啟之際，艾為電子就對這項技術產生了濃厚的興趣。5月，釘釘智能應用解決方案相關團隊向艾為電子表達與大客戶共創(chuàng)大模型應用場景的意向時，雙方一拍即合。

　　實際上企業(yè)內圍繞管理及業(yè)務發(fā)展的痛點非常多。過去大半年來，業(yè)界觀察到，經歷場景的篩選和摸索，問答類應用成為不少企業(yè)率先嘗試大模型落地的先行場景之一。

　　這與這類場景的特性有關。艾為電子CIO陸軼分享過，他們選擇智能問答場景原因有三：一是企業(yè)切實存在痛點。二是這個領域里數據相對公開，不涉及到更多的隱私及保密需求。三是經過大模型的升級，可以把以往準備的知識資產更好利用起來。企業(yè)此前有接近幾百個FAQ。大模型的語義理解能力大幅提升后，問題與企業(yè)內對應的FAQ能更好被提取出來，從而節(jié)省人力成本，提升用戶體驗。

　　這種篩選過程也反映了企業(yè)在探索大模型落地場景時的態(tài)度和思路。釘釘的Chat AI解決方案工程師王俊杰告訴數智前線，一方面企業(yè)的態(tài)度比較理性，在場景共創(chuàng)階段，先有比較天馬行空的設想階段，之后很快會框定到能夠帶來切實效果的場景里。“如果是玩具，技術就沒法落地，所以企業(yè)會很重視能帶來生產力提升的場景。”

　　另外，通過POC驗證，企業(yè)也看到原來無法突破的點有了明顯改善。比如電壓范圍，之前產品表格上顯示支持0.3伏~6伏，去問2.7伏支不支持，模型能夠回答。問它7伏支不支持，它就能給出明確的答案是不支持。這些立竿見影的效果，也會激發(fā)企業(yè)對新技術應用的興趣和擁抱大模型的熱情。

　　過程里，釘釘的Chat AI解決方案團隊、AI PaaS層以及應用共創(chuàng)企業(yè)都需要做不少細致的工程工作，才能讓問答類產品回答能更準確。例如，問答類場景里，用文檔的數據喂模型時窗口界面對文檔的大小有限制。通常情況下不能一股腦把整個文檔喂給模型，而是要采取切片的方式，讓模型能一段一段去做閱讀理解。切斷的策略不一樣，可能上下文的連貫程度就會有差異。

　　通過與企業(yè)在場景里的共創(chuàng)，釘釘的技術人員沉淀出了切片的策略經驗。除此之外，釘釘的Chat AI解決方案團隊還與共創(chuàng)的企業(yè)打磨了召回、相鏈等能力，通過相應的策略調整和大量綜合性工程工作，讓問答的結果能更準確，應用更為智能。

　　共創(chuàng)的企業(yè)也需要做細致的行業(yè)知識輸入，來提升問答的準確性。不同于小模型時代針對專業(yè)領域的知識要做大量的標注工作，大模型時代的數據標注工作大幅減少。企業(yè)要做的是針對各類知識庫和文檔的專有名詞的縮寫做專門配置，例如，產品文檔里的英文縮寫指代的意義等需要企業(yè)去完成名詞解釋。“企業(yè)不需要去做完整的提示詞工程，Chat AI解決方案盡量把一些復雜的邏輯和技術應用收掉，降低大模型的應用門檻。”王俊杰告訴數智前線。

　　經過幾個月打磨，艾為電子的智能問答目前已經在官網上線，陸軼介紹，這帶來了7×24小時更加及時準確的響應快的服務，能大幅提升用戶滿意度，同時還能解放一線技術人員的時間。

　　03

　　企業(yè)用AI，釘釘提供更優(yōu)解

　　釘釘總裁葉軍此前曾談到，大模型甚至多模態(tài)的能力，能從一個實驗室進入大眾視野必須要經過一個高頻應用場景。探索高頻應用場景是接下來這個行業(yè)必須面對的一個情況。

　　無獨有偶，比爾蓋茨在最新的博客里也提到了無處不在的個人AI將在科技行業(yè)和社會中掀起一場“沖擊波”。

　　智能客服和問答場景被業(yè)界認為是大模型能率先落地的場景之一。沙利文最新發(fā)布的《2023年中國智能客服市場報告》顯示，2022年中國智能客服市場規(guī)模已達到66.8億元，預計到2027年市場規(guī)模有望增長至181.3億元，預計五年內復合增長率可達到20%以上。

　　目前，艾為電子和鐵騎力士等企業(yè)與釘釘共創(chuàng)探索的數字員工和智能問答等都從業(yè)界認為更能落地的場景切入。釘釘自身的能力建設也抓住了貼近企業(yè)業(yè)務場景和應用等特征，著重從應用層發(fā)力。

　　釘釘的技術團隊向數智前線介紹，目前與艾為電子和鐵騎力士共創(chuàng)的應用場景，正在打磨形成一款名為Chat AI的智能解決方案。它包含了三類應用，一是面向企業(yè)數字資產的解決方案Chat BI，二是面向知識資產的Chat Memo，三是面向軟件資產的Chat Form，支持一句話生成和提交表單。通過相對標準的應用層交付，一些不具備條件的企業(yè)可以不必從頭開始訓模型找場景。

　　“其實我們不喜歡通用模型”，熊峰說，作為一家主業(yè)為農牧業(yè)的大型企業(yè)，前沿的AI技術并非鐵騎力士的強項。如何讓前沿的大模型技術能夠真正被用起來，熊峰和團隊經歷了幾個月的摸索。通用模型在當前很難去解決企業(yè)業(yè)務的需求，鐵騎力士嘗試過智譜科技的開源大模型ChatGLM，按照自己的方式來訓練一個本地部署的模型。

　　但鐵騎力士在模型訓練過程遇到了兩個問題：一是大模型對硬件資源要求高，鐵騎力士專門花了20萬元，買了兩臺GPU服務器做訓練，“效果相對滿意”，但超過10個人同時在線就會很卡，而鐵騎力士整個集團有數千人規(guī)模。熊峰算過一筆賬，如果要完全滿足需求，要投入200萬元建基礎設施。對于他們這種主業(yè)不是做AI的公司而言，風險很大。另外，開源的軟件雖然不花錢，但模型本身還需要進行精調，需要專業(yè)且昂貴的AI人才。

　　另外，鐵騎力士已經全員上釘釘，也給Chat AI的產品有了更好對接的機會。如果去采用第三方的大模型服務，要想將大模型的能力應用到業(yè)務流程中，意味著還需要想方設法與釘釘打通，而現在接入成熟平臺的AI PaaS層能力，與企業(yè)內部的知識庫結合，來提升已有場景痛點的產品體驗是更合適的路徑。

　　企業(yè)也看到，大模型應用初期產品和界面仍有待打磨和完善。例如，釘釘和企業(yè)的共創(chuàng)團隊們就發(fā)現模型主動反問和確認問題，可能有助于提升回答的準確性。

　　智能問答有時效果不夠理想，并非模型能力不行，有可能是用戶描述的問題過于籠統(tǒng)。王俊杰介紹，人腦的工作原理是多步驟，但現在絕大部分大語言模型的交互都是單步驟，“未來這個能力會讓智能水平大幅度提升。”

　　業(yè)界人士也普遍關注企業(yè)內應用場景里大模型如何克服幻覺問題。一位業(yè)內人士告訴數智前線，如果只是C端用戶自娛自樂，準確性的要求往往不會太苛刻。但智能客服是嚴肅場景，給用戶錯誤的信息會帶來很麻煩的后果。艾為電子CIO陸軼透露，雙方的團隊也在持續(xù)迭代，給大模型產品提供更多的專業(yè)知識輸入，讓企業(yè)內的專業(yè)技術人員持續(xù)調試產品，保證智能客服產品回答更準確。另外，智能客服都會有一個托底方案，客戶覺得沒有滿足需求，可以一鍵轉人工客服。

　　熊峰還從業(yè)務閉環(huán)的角度提出了一些暢想。例如，智能問答當前更多停留在問答本身，尚沒有與企業(yè)的業(yè)務流形成閉環(huán)。例如，一些客戶進入問答界面，如果數據能與CRM打通，能夠對用戶身份有辨識，未來才形成對這些人群的針對性運營。在熊峰看來，將這些問答與客戶數據做關聯，與企業(yè)經營形成閉環(huán)，才能真正賦能業(yè)務。

　　04

　　結 語

　　大模型正在企業(yè)應用場景里成為生產力工具。

　　艾為電子CIO陸軼認為，“共創(chuàng)探索的初步成功，為我們進一步用AI技術，在數字化轉型深入階段賦能業(yè)務提供了很好的支撐”。下一步艾為電子希望利用AI進一步挖掘非結構化的數據資產的價值，同時讓企業(yè)內結構化數據的提取變得更簡單。另外，現在行業(yè)已經開始討論AI Agent的應用，艾為電子也在思考未來與釘釘共創(chuàng)場景，利用數字員工去完成更多類任務。

　　而熊峰則看到，這一技術已經產生了一些意想不到的結果，例如發(fā)現企業(yè)內沖突的規(guī)章制度，把企業(yè)內部的一些管理問題暴露出來。

　　企業(yè)應用AI的能力在過程里則逐漸深化。葉軍認為，大模型不只是有趣好玩的東西。“它能夠和業(yè)務進行關聯，能夠在生產、供應、銷售、設計、管理研發(fā)等等過程中把大模型真正應用下去，這樣智能化才會有價值。”