大模型落地元年，訊飛星火如何率先實(shí)現(xiàn)商業(yè)化落地？

　　市場(chǎng)已經(jīng)達(dá)成了充分共識(shí)，大模型必須深入落地到具體應(yīng)用之中才能發(fā)揮優(yōu)勢(shì)。去年至今，各式各樣的通用及行業(yè)大模型層出不窮——僅在國(guó)內(nèi)備案通過(guò)的大模型就達(dá)117款之多。

　　群雄逐鹿之后，大模型開(kāi)始真正進(jìn)入商業(yè)化落地元年，國(guó)內(nèi)幾家頭部科技公司紛紛開(kāi)始加快大模型落地應(yīng)用布局，在金融、汽車(chē)、運(yùn)營(yíng)商、政務(wù)等多個(gè)領(lǐng)域率先開(kāi)始實(shí)踐。

　　“百模大戰(zhàn)”之后，誰(shuí)將在商業(yè)化落地過(guò)程中脫穎而出?大模型商業(yè)化元年，又該如何加速落地?如何才能完成商業(yè)化與技術(shù)迭代的閉環(huán)?

　　行業(yè)場(chǎng)景復(fù)雜，大模型需要更靈活的落地方式

　　過(guò)去一年多來(lái)，國(guó)內(nèi)科技公司在大模型上的追趕進(jìn)步飛快。模型能力不斷提升，參數(shù)規(guī)模也越來(lái)越大。僅在去年10月，我國(guó)10億參數(shù)規(guī)模以上的大模型產(chǎn)品就已超200家，今年更是不斷有千億乃至萬(wàn)億規(guī)模的大模型問(wèn)世。

　　但在模型能力不斷提升的同時(shí)，大模型的商業(yè)化落地應(yīng)用卻遲遲未能更進(jìn)一步。比如面向C端市場(chǎng)，大模型產(chǎn)品的普遍商業(yè)模式是會(huì)員制訂閱服務(wù)，但僅憑單一的訂閱服務(wù)很難平衡大模型的運(yùn)算成本。此前就有外媒報(bào)道稱(chēng)微軟的 Github Copilot仍處在虧損之中。

　　一些面向B端的大模型產(chǎn)業(yè)則面臨著模型能力和算力成本的雙重困境。一些大模型產(chǎn)品適用性不強(qiáng)，無(wú)法解決特定行業(yè)的復(fù)雜任務(wù)。算力成本也在制約著企業(yè)客戶(hù)轉(zhuǎn)向大模型的決心，部分企業(yè)開(kāi)始嘗試使用開(kāi)源模型，但卻帶來(lái)了隱私和數(shù)據(jù)安全的風(fēng)險(xiǎn)。

　　和過(guò)去面向C端的通用大模型不同，不同行業(yè)、不同場(chǎng)景對(duì)大模型的需求不同，很難以一套固定的準(zhǔn)則來(lái)將大模型簡(jiǎn)單粗暴地嫁接到不同應(yīng)用場(chǎng)景之下。大模型必須需要具備高度的可定制化和較強(qiáng)的適應(yīng)性，才能在各種復(fù)雜場(chǎng)景中落地。

　　但這并不容易。比如大模型能力與成本問(wèn)題。模型參數(shù)越大，精度越高，但與之對(duì)應(yīng)的是算力成本高漲。一些聲音認(rèn)為應(yīng)該盡可能將模型做小，用更低的成本、更快的運(yùn)行效率來(lái)推動(dòng)行業(yè)落地，但模型的適用性和準(zhǔn)確率卻會(huì)大打折扣。

　　科大訊飛旗下的訊飛星火大模型試圖從技術(shù)手段上平衡模型能力與算力成本，在保證模型能力性能不變或者損失很小的情況下，可以將模型盡可能做小。大模型應(yīng)該像一根如意金箍棒一樣，可大可小，這樣才能滿(mǎn)足不同應(yīng)用場(chǎng)景下的需要。

　　以最近大熱的長(zhǎng)文本能力為例。為了解決大模型的應(yīng)用效率和準(zhǔn)確率問(wèn)題，科大訊飛對(duì)訊飛星火V3.5進(jìn)行了重要的模型剪枝和蒸餾，從而推出了業(yè)界性能最優(yōu)的130億參數(shù)的大模型，在效果損失僅3%以?xún)?nèi)的情況下，使得星火在文檔上傳解析處理、知識(shí)問(wèn)答的首響時(shí)間以及文字生成方面都獲得了效率提升。

　　這種靈活性不僅體現(xiàn)在模型大小上。針對(duì)不同落地場(chǎng)景的復(fù)雜需求，科大訊飛在過(guò)去一年的落地實(shí)踐中形成了一套“云邊端”的整體解決方案，以云邊端聯(lián)動(dòng)的方式加速推動(dòng)大模型在各行業(yè)領(lǐng)域的落地。

　　簡(jiǎn)單來(lái)說(shuō)，就是指訊飛星火在云端、邊側(cè)以及端側(cè)等三種不同場(chǎng)景均實(shí)現(xiàn)落地部署，但在具體應(yīng)用中，三個(gè)環(huán)節(jié)同時(shí)還能互相打通，靈活運(yùn)用。

　　云端指的是科大訊飛“1+N”大模型戰(zhàn)略，即1個(gè)訊飛星火通用大模型底座和多個(gè)行業(yè)大模型。訊飛星火V3.5的數(shù)學(xué)、語(yǔ)言理解、語(yǔ)音交互能力已超過(guò)GPT-4 Turbo;長(zhǎng)文本方面，訊飛星火的通用長(zhǎng)文本能力總體已達(dá)到GPT-4 Turbo，且在多個(gè)垂直領(lǐng)域的知識(shí)問(wèn)答任務(wù)上，星火大模型長(zhǎng)文本總體水平已超過(guò)GPT-4 Turbo。

　　面向大模型應(yīng)用開(kāi)發(fā)者，訊飛星火還提供一站式大模型應(yīng)用開(kāi)發(fā)、調(diào)試和效果閉環(huán)優(yōu)化工具平臺(tái)，今年1月以來(lái)，訊飛星火開(kāi)發(fā)者團(tuán)隊(duì)新增超55萬(wàn)，平臺(tái)開(kāi)發(fā)者數(shù)量已達(dá)超647萬(wàn)。

　　邊側(cè)，科大訊飛聯(lián)合華為打造了訊飛星火一體機(jī)，可提供對(duì)話(huà)開(kāi)發(fā)、任務(wù)編排、插件執(zhí)行、知識(shí)接入、提示工程等5種定制優(yōu)化模式，以及超過(guò)10種的即開(kāi)即用的豐富場(chǎng)景包，同時(shí)還提供3種模型尺寸供用戶(hù)選擇，讓企業(yè)用戶(hù)可以更方便自助且安全可控地部署私有化大模型。

　　端側(cè)指的是訊飛星火在各個(gè)硬件產(chǎn)品上的落地，包括科大訊飛的自有硬件產(chǎn)品以及汽車(chē)、家電、運(yùn)營(yíng)商等多個(gè)行業(yè)的落地。在端云協(xié)同的大模型框架下，用戶(hù)可靈活部署大模型能力，一些涉及敏感隱私、本地設(shè)備算力能滿(mǎn)完成的任務(wù)可全部在本地模型處理，但更復(fù)雜的任務(wù)則可以交由云端處理，以滿(mǎn)足不同場(chǎng)景應(yīng)用在用戶(hù)隱私、成本以及交互效率上的要求。

　　商業(yè)化落地元年，云邊端協(xié)同加速落地應(yīng)用

　　靈活的大模型應(yīng)用方案只是基礎(chǔ)，在大模型賦能千行百業(yè)的過(guò)程中，更底層的還是模型本身能力的優(yōu)劣。

　　數(shù)據(jù)、算力、算法是衡量大模型能力的三個(gè)關(guān)鍵要素。以數(shù)據(jù)為例，在特定行業(yè)場(chǎng)景中，訓(xùn)練數(shù)據(jù)集的豐富程度、語(yǔ)料庫(kù)的質(zhì)量高低直接影響大模型對(duì)行業(yè)的理解能力。訊飛星火此前推出多個(gè)行業(yè)大模型時(shí)，就采用與行業(yè)龍頭企業(yè)合作共建形式，在金融、汽車(chē)、運(yùn)營(yíng)商、工業(yè)、住建等領(lǐng)域展開(kāi)深入合作，力求真正理解、解決行業(yè)的需求與痛點(diǎn)。

　　在算力上，科大訊飛聯(lián)合華為推出了首個(gè)全國(guó)產(chǎn)算力的超大規(guī)模算力平臺(tái)“飛星一號(hào)”，訊飛星火V3.5是首個(gè)基于全國(guó)產(chǎn)算力訓(xùn)練的大模型產(chǎn)品。

　　這些因素共同奠定了訊飛星火V3.5國(guó)際領(lǐng)先的模型能力，結(jié)合科大訊飛的云邊端整體解決方案，訊飛星火在B端、C端落地應(yīng)用全面開(kāi)花。

　　比如在通信領(lǐng)域，科大訊飛與運(yùn)營(yíng)商合作研發(fā)了運(yùn)營(yíng)商大模型，為運(yùn)營(yíng)商提供一體化的智能通話(huà)解決方案。在此基礎(chǔ)上，他們還與中國(guó)移動(dòng)聯(lián)合研發(fā)了5G新通話(huà)“商務(wù)速記”產(chǎn)品，幫助商務(wù)人士實(shí)現(xiàn)工作電話(huà)的方便轉(zhuǎn)寫(xiě)和摘要。

　　端云協(xié)同的靈活布局，也讓大模型在汽車(chē)、家電等行業(yè)實(shí)現(xiàn)快速落地應(yīng)用。

　　在家電領(lǐng)域，接入訊飛星火大模型能力的家電行業(yè)也正煥發(fā)出新的活力。如科大訊飛和海爾共同打造的家電領(lǐng)域大模型，在智能控制、食譜定制、智能客服等領(lǐng)域率先落地大模型應(yīng)用場(chǎng)景，讓家電變得真正“更懂人心”。三星的電視語(yǔ)音助手同樣結(jié)合訊飛星火大模型能力，實(shí)現(xiàn)了AI智能問(wèn)答和智能搜索。

　　在智能汽車(chē)領(lǐng)域，科大訊飛推出了全棧自研“訊飛星火+座艙”整體解決方案，目前已在奇瑞、廣汽、長(zhǎng)城等眾多車(chē)企的多個(gè)車(chē)型中落地�？拼笥嶏w在語(yǔ)音、翻譯上的技術(shù)優(yōu)勢(shì)也延續(xù)到汽車(chē)領(lǐng)域，訊飛座艙支持23種不同語(yǔ)言，覆蓋多家車(chē)企的海外車(chē)型項(xiàng)目。中國(guó)汽車(chē)出海十強(qiáng)企業(yè)中，有8家車(chē)企都選擇與科大訊飛合作。

　　奇瑞汽車(chē)最新推出的高端智能SUV星紀(jì)元ET上，就搭載了科大訊飛與奇瑞聯(lián)合打造的 Lion AI 大模型和 Lion Melody 沉浸移動(dòng)音樂(lè)廳。奇瑞控股集團(tuán)黨委書(shū)記、董事長(zhǎng)尹同躍對(duì)媒體表示，“高度智能化是現(xiàn)在中國(guó)汽車(chē)在全球最鮮明的形象標(biāo)簽，也是攻占中國(guó)乃至全球市場(chǎng)的核心‘利器’之一。”

　　科大訊飛的自有硬件產(chǎn)品也在大模型的加持下實(shí)現(xiàn)顯著提升。搭載訊飛星火的訊飛智能辦公本、訊飛聽(tīng)見(jiàn)、訊飛智能錄音筆以及訊飛AI學(xué)習(xí)機(jī)等銷(xiāo)量不斷攀升�？拼笥嶏w發(fā)布的2023年年報(bào)中，消費(fèi)者硬件GMV同比增長(zhǎng)84%，平臺(tái)消費(fèi)者業(yè)務(wù)已經(jīng)成為科大訊飛的第一大業(yè)務(wù)。

　　訊飛星火APP在C端市場(chǎng)同樣廣受歡迎。據(jù)七麥數(shù)據(jù)顯示，截至今年4月，訊飛星火APP在安卓端的下載量已經(jīng)超過(guò)9600萬(wàn)次，在國(guó)內(nèi)工具類(lèi)通用大模型APP中排名第一，用戶(hù)規(guī)模穩(wěn)居行業(yè)第一陣營(yíng)。

　　民生證券發(fā)布的行業(yè)調(diào)研報(bào)告中稱(chēng)，2024年或是AI應(yīng)用的真正元年，AI算力國(guó)產(chǎn)化、AI終端產(chǎn)品等方向?qū)⒃杏�出重要機(jī)遇，人工智能開(kāi)始從供給側(cè)正式進(jìn)入應(yīng)用側(cè)的拐點(diǎn)。

　　作為大模型商業(yè)化的元年，國(guó)產(chǎn)大模型正在以更快速的技術(shù)迭代與更靈活的落地應(yīng)用不斷推動(dòng)生產(chǎn)力的變革。2024年，我們或許將會(huì)看到更多的智能化應(yīng)用出現(xiàn)在工作與生活之中，AI變革的序幕正緩緩拉開(kāi)。