阿里云的這場(chǎng)比賽告訴我，大模型to B應(yīng)用沒(méi)有標(biāo)準(zhǔn)答案

　　作者 | 河馬君

　　如果說(shuō)2023年被稱為“大模型元年”，2024就應(yīng)該是“大模型應(yīng)用元年”。

　　在這個(gè)“諸神戰(zhàn)場(chǎng)”中，共識(shí)已經(jīng)悄然改變，主要參與者紛紛轉(zhuǎn)向優(yōu)先落地而不是繼續(xù)無(wú)休止地研發(fā)迭代。

　　一方面，小型化模型的應(yīng)用正在穩(wěn)步增長(zhǎng)，“低代碼(Low-code)”及“無(wú)代碼(No-code)等開發(fā)理念廣泛傳播，成本概念在持續(xù)強(qiáng)化。

　　另一方面，具體應(yīng)用場(chǎng)景得到了空前的重視，從谷歌生物聲學(xué)基礎(chǔ)模型HeAR，到支小寶，閱文妙筆等，研發(fā)者的注意力轉(zhuǎn)向更具體、更專業(yè)的垂直領(lǐng)域;而B端市場(chǎng)同樣齊頭并進(jìn)，試圖更高效地探索產(chǎn)業(yè)大模型應(yīng)用的實(shí)際落地路徑。

　　一、大模型B端市場(chǎng)如何破局?或許始于一場(chǎng)場(chǎng)“實(shí)戰(zhàn)競(jìng)賽”

　　大模型一個(gè)顯著的新趨勢(shì)，是B端市場(chǎng)得到了更多重視。

　　全球范圍內(nèi)，真正有意愿、有能力為AI付費(fèi)的用戶大多數(shù)集中在B端。根據(jù)IDC在2023年四季度的調(diào)研，對(duì)生成式AI完全沒(méi)有規(guī)劃的企業(yè)只有7%，也就是說(shuō)超過(guò)九成的企業(yè)至少已經(jīng)意識(shí)到了AI與未來(lái)的強(qiáng)關(guān)聯(lián);其中已編列明確預(yù)算的企業(yè)有24%，這才是當(dāng)前AI付費(fèi)的主力市場(chǎng)。

　　“落地”本就是中國(guó)互聯(lián)網(wǎng)企業(yè)最擅長(zhǎng)的部分，阿里、騰訊、百度都在探索基礎(chǔ)的大模型服務(wù)平臺(tái)。

　　巨頭們已經(jīng)意識(shí)到，或許未必需要躬身入局去走完模型商業(yè)落地的最后一公里，在B端建立起合作生態(tài)，由下游企業(yè)自行“煉成”符合需求的模型產(chǎn)品，能夠最大限度地優(yōu)化資源配置，而過(guò)程中積累的高質(zhì)量數(shù)據(jù)，則可以反哺基礎(chǔ)大模型開發(fā)，從而在長(zhǎng)期競(jìng)爭(zhēng)中為國(guó)產(chǎn)大模型贏得優(yōu)勢(shì)。

　　前幾天，我正好在云棲大會(huì)現(xiàn)場(chǎng)體驗(yàn)了一場(chǎng)AI應(yīng)用競(jìng)賽，從中也感受到B端市場(chǎng)大模型落地的一個(gè)關(guān)鍵——需要極度重視具體的業(yè)務(wù)場(chǎng)景。

　　據(jù)介紹，這場(chǎng)阿里云“百煉杯”智能好客服PK賽，是業(yè)界首個(gè)以企業(yè)實(shí)際落地場(chǎng)景效果為目標(biāo)的AI應(yīng)用系列開發(fā)賽，不只關(guān)注算法、結(jié)構(gòu)、創(chuàng)意等技術(shù)性內(nèi)容，將重點(diǎn)放在了真正的“具體場(chǎng)景”之中。

　　正如PK賽的宣傳片所言：“‘創(chuàng)新’這個(gè)詞，好像也不那么創(chuàng)新”，的確，傳統(tǒng)的“創(chuàng)新大賽”往往更重視偏于“務(wù)虛”的問(wèn)題。

　　過(guò)往純粹比拼紙上商業(yè)藍(lán)圖或技術(shù)能力的一些競(jìng)賽方式，或許已經(jīng)不再適應(yīng)AI落地的需要。

　　以這場(chǎng)比賽為例，浩鯨科技、亞信科技、合力億捷、云夢(mèng)智能等8家業(yè)內(nèi)經(jīng)驗(yàn)豐富的企業(yè)基于阿里云“百煉”平臺(tái)定制的智能客服，要在現(xiàn)場(chǎng)評(píng)委和觀眾面前接受顧客咨詢。

　　這些“顧客”同樣是由“百煉”平臺(tái)生成的、具有不同性格特征的虛擬消費(fèi)者，其中有話癆的大媽、愛(ài)美的都市麗人，它們有的關(guān)注鍋蓋的材質(zhì)、有的要求針對(duì)自己的膚質(zhì)推薦推薦護(hù)膚品……

　　這些考驗(yàn)是傳統(tǒng)客服機(jī)器人無(wú)法處理的，甚至有時(shí)候真人客服面對(duì)這些五花八門的信息也大為頭痛。

　　基于大模型技術(shù)打造的AI智能客服在接受考驗(yàn)時(shí)，不能漏掉消費(fèi)者詢問(wèn)中的關(guān)鍵信息，還應(yīng)當(dāng)給出合理的、足夠擬人化的回復(fù)。

　　“基于實(shí)戰(zhàn)”，其實(shí)也給競(jìng)賽帶來(lái)一個(gè)值得關(guān)注的新影響：參賽方案的優(yōu)劣是很難像以往那樣，100%標(biāo)準(zhǔn)化的。

　　或者說(shuō)，參賽方案其實(shí)是在不同維度，去推動(dòng)解決商業(yè)場(chǎng)景的實(shí)際問(wèn)題。

　　各家的Agent智能體有自己的邏輯重點(diǎn)和“性格”，有的在輸出時(shí)強(qiáng)調(diào)了多重索引后的數(shù)據(jù)精準(zhǔn)性;有的看重對(duì)消費(fèi)者情緒的安撫與“人文關(guān)懷”;有企業(yè)利用全流程云上原生應(yīng)用大幅提高了AI客服的響應(yīng)速度……這里可能沒(méi)有“最強(qiáng)”的智能體，而是“最適合”的智能體。

　　而這種真正“最適合”的創(chuàng)新，往往正是誕生于實(shí)戰(zhàn)之中的。

　　二、小切口、大智能——AI應(yīng)用的法門是“大小聯(lián)動(dòng)”嗎?

　　另一個(gè)令人感興趣的市場(chǎng)趨勢(shì)是，從各家企業(yè)一開始反饋的困難，到最后大家解決問(wèn)題的思路，都說(shuō)明在大模型實(shí)用落地的過(guò)程中，“大小聯(lián)動(dòng)”是極具可行性的技術(shù)思路。

　　參賽企業(yè)在Agent介紹中普遍提到的AI客服“煉制”難點(diǎn)，并不限于純技術(shù)層面，而是與專業(yè)場(chǎng)景息息相關(guān)。

　　首先是，消費(fèi)者的提問(wèn)可能不那么標(biāo)準(zhǔn)化，會(huì)有需要結(jié)合上下文語(yǔ)境才能捕獲的意思，有時(shí)還會(huì)出現(xiàn)簡(jiǎn)寫和錯(cuò)別字。這就導(dǎo)致低代碼環(huán)境下AI可能出現(xiàn)誤讀甚至出現(xiàn)“幻覺(jué)”胡言亂語(yǔ)。

　　其次是，AI客服的回答不僅需要智商，還需要有點(diǎn)“情商”，也就是高度擬人化。好的客服既需要給出足夠精準(zhǔn)的信息，還需要安撫顧客的情緒，舉例而言，如果回答中出現(xiàn)長(zhǎng)篇大論的數(shù)據(jù)描述，會(huì)讓一些咨詢者難以識(shí)讀，心情煩躁，AI如何應(yīng)對(duì)就很有趣了。

　　針對(duì)這些問(wèn)題，不止一家企業(yè)的解決方案強(qiáng)調(diào)了大模型與小模型聯(lián)動(dòng)的作用。

　　首先通過(guò)小模型實(shí)現(xiàn)對(duì)提問(wèn)信息的預(yù)處理，識(shí)別商品ID等關(guān)鍵信息，降低“致幻率”，更準(zhǔn)確地識(shí)別客戶意圖。

　　然后分類調(diào)取知識(shí)庫(kù)，通過(guò)API調(diào)用阿里通義高智能的基礎(chǔ)大模型，完成prompt封裝，實(shí)現(xiàn)RAG(一種檢索外部知識(shí)庫(kù)強(qiáng)化LLM生成的技術(shù))信息輸出。

　　“大小聯(lián)動(dòng)”通過(guò)小模型的預(yù)處理，優(yōu)化了大模型的處理效率，實(shí)現(xiàn)了兼顧成本與效能。當(dāng)然，低代碼乃至“無(wú)代碼”開發(fā)，同時(shí)也對(duì)大模型服務(wù)平臺(tái)的易用性提出了考驗(yàn)，這可能是平臺(tái)此前自己都沒(méi)有意識(shí)到的。

　　我在現(xiàn)場(chǎng)看到的一個(gè)有趣小細(xì)節(jié)是，云蝠智能的技術(shù)主管表示，此次參賽的Agent智能體全程由他們的財(cái)務(wù)人員創(chuàng)造完成，現(xiàn)場(chǎng)阿里云“百煉”技術(shù)人員側(cè)目：“我們的易用性這么強(qiáng)嗎?”

　　此次大賽中，冠軍云夢(mèng)科技、亞軍合力億捷的Agent智能體方案，也正都是高代碼與低代碼混合的模式�；�于企業(yè)自身的技術(shù)能力，他們的Agent智能體能夠分辨公斤與市斤，也可以識(shí)讀“黃二白”“混油皮”這樣直男懵圈的護(hù)膚術(shù)語(yǔ)，展現(xiàn)了很強(qiáng)的實(shí)用性。

　　當(dāng)然，參賽企業(yè)在方案選擇上的多元性，本身也體現(xiàn)“百煉”平臺(tái)的基礎(chǔ)大模型服務(wù)很強(qiáng)的工具性和便捷性。

　　三、客服、搜索、生活服務(wù)……大模型對(duì)業(yè)務(wù)的變革初露端倪?

　　大模型B端應(yīng)用的探索，其實(shí)反過(guò)來(lái)，對(duì)巨頭的業(yè)務(wù)側(cè)變革也帶來(lái)全新的啟發(fā)。

　　讓B端客戶可對(duì)應(yīng)用場(chǎng)景擁有更多自主權(quán)，這對(duì)巨頭們的大模型路線也是一個(gè)啟發(fā)，實(shí)際上，在“百煉”的開放式結(jié)構(gòu)中，阿里云也在重構(gòu)自身的伙伴生態(tài)：放開末端權(quán)限，讓中小型企業(yè)用更專業(yè)的數(shù)據(jù)煉制模型，阿里云則更專注地進(jìn)行基礎(chǔ)研發(fā)投入，提供軟硬件服務(wù)，收獲支撐AI開發(fā)的現(xiàn)金流和更專業(yè)精準(zhǔn)的數(shù)據(jù)，最終來(lái)實(shí)現(xiàn)AIGC、智能客服、智能政務(wù)、智能分析等多元業(yè)態(tài)的鏈接。

　　大模型競(jìng)爭(zhēng)中，業(yè)務(wù)基因和技術(shù)基因至少是同等重要的。阿里云之所以能匯集8家各自領(lǐng)域的知名企業(yè)參賽并產(chǎn)出扎實(shí)成果，根源還是其在企業(yè)級(jí)市場(chǎng)的平臺(tái)服務(wù)上更具優(yōu)勢(shì)，阿里的“平臺(tái)基因”起到了關(guān)鍵作用。

　　“百煉”并不是一個(gè)嚴(yán)格意義上從0到1的新物種，而是阿里一直以來(lái)to B優(yōu)勢(shì)基因的延續(xù)，通過(guò)服務(wù)商家來(lái)實(shí)現(xiàn)商業(yè)上確定無(wú)疑的“落地”，這顯然是阿里的舒適區(qū)。

　　“AI+”提供了寬闊的想象空間，但“百煉”模型依然選擇“從客服開始”，這也是個(gè)很有意思的現(xiàn)象。

　　“客服”在傳統(tǒng)上屬于職能或者說(shuō)中臺(tái)業(yè)務(wù)，但大模型時(shí)代，智能客服作為商家最高頻、剛需的使用場(chǎng)景確實(shí)是一個(gè)極好的接入節(jié)點(diǎn)，甚至可能是業(yè)務(wù)變革的一個(gè)支點(diǎn)。

　　首先，需求確實(shí)龐大，不管是叱咤風(fēng)云的頭部主播，還是高大上的航天科技，在變現(xiàn)的最后一公里都需要與客戶溝通細(xì)節(jié)問(wèn)題。

　　將人力從繁冗的重復(fù)勞動(dòng)中解放出來(lái)，本就是AI研發(fā)的初衷，對(duì)企業(yè)來(lái)說(shuō)，人工客服的高成本和情緒上的不確定性，也都是運(yùn)營(yíng)的重負(fù)。

　　當(dāng)前的AI客服被無(wú)數(shù)人吐槽“人工智障”，本質(zhì)上是因?yàn)樗��?ldquo;基礎(chǔ)智能”不夠強(qiáng)，無(wú)法在復(fù)雜的信息環(huán)境中準(zhǔn)確識(shí)別客戶意圖。

　　因此，現(xiàn)有的大部分“智能機(jī)器人”只能算是一種迎賓手段，最終往往都要轉(zhuǎn)到真人客服，它并不真正承擔(dān)“客服”的職能。如果能讓“智能客服”實(shí)用起來(lái)，就有機(jī)會(huì)實(shí)現(xiàn)銷售環(huán)節(jié)“工業(yè)革命”式的技術(shù)躍進(jìn)，當(dāng)然目前這種“革命”才剛剛起步。

　　其次，客服是人與AI直接交流、高頻互動(dòng)的最重要場(chǎng)景之一，有機(jī)會(huì)挖掘出“人工智能”的巨大潛能。

　　比起GPT目前海闊天空的陪聊，AI客服在底層邏輯上是“帶有指向性和功能性的GPT”，它在更具體的工作條件下，反復(fù)面對(duì)人們具體的關(guān)切和需求。

　　真正能處理好這些問(wèn)題的AI，在某種意義上比現(xiàn)在側(cè)重回答知識(shí)性問(wèn)題，高談闊論蘇格拉底和哈耶克的GPT系列要更像一個(gè)人類。

　　平心而論，當(dāng)前的“AI客服”依然是不完善的。“百煉杯”比賽讓AI來(lái)“扮演”客人的想法很酷，不過(guò)AI和人畢竟是不一樣，現(xiàn)實(shí)中難纏的客戶，很可能在AI發(fā)出數(shù)百字產(chǎn)品介紹的時(shí)候就罵人或者轉(zhuǎn)人工了……連查看加粗文字的耐性都不會(huì)有。在幾組對(duì)話中，AI客服也都錯(cuò)過(guò)了一部分關(guān)鍵的信息點(diǎn)。

　　但是——正如參賽企業(yè)無(wú)一例外提到了智能體agent自我完善的問(wèn)題——將AI客服置于復(fù)雜信息環(huán)境下，反復(fù)調(diào)用大模型進(jìn)行多重檢索、RAG輸出和自我學(xué)習(xí)，其工作完成度無(wú)疑會(huì)越來(lái)越高。

　　對(duì)于阿里通義等大模型來(lái)說(shuō)，這些基于具體場(chǎng)景的語(yǔ)料包，也都將是寶貴的財(cái)富，具體應(yīng)用場(chǎng)景更精準(zhǔn)、更有價(jià)值的信息，是真的能幫助大模型完成自我優(yōu)化。

　　當(dāng)大象放慢腳步甚至席地而坐，大模型這場(chǎng)“世紀(jì)之戰(zhàn)”的過(guò)程可能會(huì)十分漫長(zhǎng)。在企業(yè)級(jí)市場(chǎng)擁有更多紅利的巨頭，或許會(huì)幫助國(guó)產(chǎn)大模型在全球競(jìng)爭(zhēng)中走得更遠(yuǎn)。