大模型落地元年，訊飛星火如何率先實現(xiàn)商業(yè)化落地？

　　市場已經達成了充分共識，大模型必須深入落地到具體應用之中才能發(fā)揮優(yōu)勢。去年至今，各式各樣的通用及行業(yè)大模型層出不窮——僅在國內備案通過的大模型就達117款之多。

　　群雄逐鹿之后，大模型開始真正進入商業(yè)化落地元年，國內幾家頭部科技公司紛紛開始加快大模型落地應用布局，在金融、汽車、運營商、政務等多個領域率先開始實踐。

　　“百模大戰(zhàn)”之后，誰將在商業(yè)化落地過程中脫穎而出?大模型商業(yè)化元年，又該如何加速落地?如何才能完成商業(yè)化與技術迭代的閉環(huán)?

　　行業(yè)場景復雜，大模型需要更靈活的落地方式

　　過去一年多來，國內科技公司在大模型上的追趕進步飛快。模型能力不斷提升，參數(shù)規(guī)模也越來越大。僅在去年10月，我國10億參數(shù)規(guī)模以上的大模型產品就已超200家，今年更是不斷有千億乃至萬億規(guī)模的大模型問世。

　　但在模型能力不斷提升的同時，大模型的商業(yè)化落地應用卻遲遲未能更進一步。比如面向C端市場，大模型產品的普遍商業(yè)模式是會員制訂閱服務，但僅憑單一的訂閱服務很難平衡大模型的運算成本。此前就有外媒報道稱微軟的 Github Copilot仍處在虧損之中。

　　一些面向B端的大模型產業(yè)則面臨著模型能力和算力成本的雙重困境。一些大模型產品適用性不強，無法解決特定行業(yè)的復雜任務。算力成本也在制約著企業(yè)客戶轉向大模型的決心，部分企業(yè)開始嘗試使用開源模型，但卻帶來了隱私和數(shù)據(jù)安全的風險。

　　和過去面向C端的通用大模型不同，不同行業(yè)、不同場景對大模型的需求不同，很難以一套固定的準則來將大模型簡單粗暴地嫁接到不同應用場景之下。大模型必須需要具備高度的可定制化和較強的適應性，才能在各種復雜場景中落地。

　　但這并不容易。比如大模型能力與成本問題。模型參數(shù)越大，精度越高，但與之對應的是算力成本高漲。一些聲音認為應該盡可能將模型做小，用更低的成本、更快的運行效率來推動行業(yè)落地，但模型的適用性和準確率卻會大打折扣。

　　科大訊飛旗下的訊飛星火大模型試圖從技術手段上平衡模型能力與算力成本，在保證模型能力性能不變或者損失很小的情況下，可以將模型盡可能做小。大模型應該像一根如意金箍棒一樣，可大可小，這樣才能滿足不同應用場景下的需要。

　　以最近大熱的長文本能力為例。為了解決大模型的應用效率和準確率問題，科大訊飛對訊飛星火V3.5進行了重要的模型剪枝和蒸餾，從而推出了業(yè)界性能最優(yōu)的130億參數(shù)的大模型，在效果損失僅3%以內的情況下，使得星火在文檔上傳解析處理、知識問答的首響時間以及文字生成方面都獲得了效率提升。

　　這種靈活性不僅體現(xiàn)在模型大小上。針對不同落地場景的復雜需求，科大訊飛在過去一年的落地實踐中形成了一套“云邊端”的整體解決方案，以云邊端聯(lián)動的方式加速推動大模型在各行業(yè)領域的落地。

　　簡單來說，就是指訊飛星火在云端、邊側以及端側等三種不同場景均實現(xiàn)落地部署，但在具體應用中，三個環(huán)節(jié)同時還能互相打通，靈活運用。

　　云端指的是科大訊飛“1+N”大模型戰(zhàn)略，即1個訊飛星火通用大模型底座和多個行業(yè)大模型。訊飛星火V3.5的數(shù)學、語言理解、語音交互能力已超過GPT-4 Turbo;長文本方面，訊飛星火的通用長文本能力總體已達到GPT-4 Turbo，且在多個垂直領域的知識問答任務上，星火大模型長文本總體水平已超過GPT-4 Turbo。

　　面向大模型應用開發(fā)者，訊飛星火還提供一站式大模型應用開發(fā)、調試和效果閉環(huán)優(yōu)化工具平臺，今年1月以來，訊飛星火開發(fā)者團隊新增超55萬，平臺開發(fā)者數(shù)量已達超647萬。

　　邊側，科大訊飛聯(lián)合華為打造了訊飛星火一體機，可提供對話開發(fā)、任務編排、插件執(zhí)行、知識接入、提示工程等5種定制優(yōu)化模式，以及超過10種的即開即用的豐富場景包，同時還提供3種模型尺寸供用戶選擇，讓企業(yè)用戶可以更方便自助且安全可控地部署私有化大模型。

　　端側指的是訊飛星火在各個硬件產品上的落地，包括科大訊飛的自有硬件產品以及汽車、家電、運營商等多個行業(yè)的落地。在端云協(xié)同的大模型框架下，用戶可靈活部署大模型能力，一些涉及敏感隱私、本地設備算力能滿完成的任務可全部在本地模型處理，但更復雜的任務則可以交由云端處理，以滿足不同場景應用在用戶隱私、成本以及交互效率上的要求。

　　商業(yè)化落地元年，云邊端協(xié)同加速落地應用

　　靈活的大模型應用方案只是基礎，在大模型賦能千行百業(yè)的過程中，更底層的還是模型本身能力的優(yōu)劣。

　　數(shù)據(jù)、算力、算法是衡量大模型能力的三個關鍵要素。以數(shù)據(jù)為例，在特定行業(yè)場景中，訓練數(shù)據(jù)集的豐富程度、語料庫的質量高低直接影響大模型對行業(yè)的理解能力。訊飛星火此前推出多個行業(yè)大模型時，就采用與行業(yè)龍頭企業(yè)合作共建形式，在金融、汽車、運營商、工業(yè)、住建等領域展開深入合作，力求真正理解、解決行業(yè)的需求與痛點。

　　在算力上，科大訊飛聯(lián)合華為推出了首個全國產算力的超大規(guī)模算力平臺“飛星一號”，訊飛星火V3.5是首個基于全國產算力訓練的大模型產品。

　　這些因素共同奠定了訊飛星火V3.5國際領先的模型能力，結合科大訊飛的云邊端整體解決方案，訊飛星火在B端、C端落地應用全面開花。

　　比如在通信領域，科大訊飛與運營商合作研發(fā)了運營商大模型，為運營商提供一體化的智能通話解決方案。在此基礎上，他們還與中國移動聯(lián)合研發(fā)了5G新通話“商務速記”產品，幫助商務人士實現(xiàn)工作電話的方便轉寫和摘要。

　　端云協(xié)同的靈活布局，也讓大模型在汽車、家電等行業(yè)實現(xiàn)快速落地應用。

　　在家電領域，接入訊飛星火大模型能力的家電行業(yè)也正煥發(fā)出新的活力。如科大訊飛和海爾共同打造的家電領域大模型，在智能控制、食譜定制、智能客服等領域率先落地大模型應用場景，讓家電變得真正“更懂人心”。三星的電視語音助手同樣結合訊飛星火大模型能力，實現(xiàn)了AI智能問答和智能搜索。

　　在智能汽車領域，科大訊飛推出了全棧自研“訊飛星火+座艙”整體解決方案，目前已在奇瑞、廣汽、長城等眾多車企的多個車型中落地�？拼笥嶏w在語音、翻譯上的技術優(yōu)勢也延續(xù)到汽車領域，訊飛座艙支持23種不同語言，覆蓋多家車企的海外車型項目。中國汽車出海十強企業(yè)中，有8家車企都選擇與科大訊飛合作。

　　奇瑞汽車最新推出的高端智能SUV星紀元ET上，就搭載了科大訊飛與奇瑞聯(lián)合打造的 Lion AI 大模型和 Lion Melody 沉浸移動音樂廳。奇瑞控股集團黨委書記、董事長尹同躍對媒體表示，“高度智能化是現(xiàn)在中國汽車在全球最鮮明的形象標簽，也是攻占中國乃至全球市場的核心‘利器’之一。”

　　科大訊飛的自有硬件產品也在大模型的加持下實現(xiàn)顯著提升。搭載訊飛星火的訊飛智能辦公本、訊飛聽見、訊飛智能錄音筆以及訊飛AI學習機等銷量不斷攀升。科大訊飛發(fā)布的2023年年報中，消費者硬件GMV同比增長84%，平臺消費者業(yè)務已經成為科大訊飛的第一大業(yè)務。

　　訊飛星火APP在C端市場同樣廣受歡迎。據(jù)七麥數(shù)據(jù)顯示，截至今年4月，訊飛星火APP在安卓端的下載量已經超過9600萬次，在國內工具類通用大模型APP中排名第一，用戶規(guī)模穩(wěn)居行業(yè)第一陣營。

　　民生證券發(fā)布的行業(yè)調研報告中稱，2024年或是AI應用的真正元年，AI算力國產化、AI終端產品等方向將孕育出重要機遇，人工智能開始從供給側正式進入應用側的拐點。

　　作為大模型商業(yè)化的元年，國產大模型正在以更快速的技術迭代與更靈活的落地應用不斷推動生產力的變革。2024年，我們或許將會看到更多的智能化應用出現(xiàn)在工作與生活之中，AI變革的序幕正緩緩拉開。