零下25℃如何取暖?海爾水暖通溫暖驛站亮相冰雪大世界馬太效應(yīng),強(qiáng)者恒強(qiáng)?——《中國企業(yè)科創(chuàng)力研究報告(2024)》美團(tuán)年度報告竟然用上了AI和短劇?這下是真出圈了消息稱上汽大眾正開發(fā)三款新車,技術(shù)分別來自小鵬、智己和榮威鴻蒙智行泊車代駕VPD正式開啟全量推送!升級自動泊車/接駕等多項(xiàng)功能華為官方翻新手機(jī)最高降價4000元曝蘋果研發(fā)帶Face ID的智能家居門鈴:內(nèi)置自研W-Fi芯片李斌回應(yīng)螢火蟲外觀設(shè)計:看過實(shí)車的人都喜歡這個設(shè)計林杰:未來 A 級、A0 級、A00 級車型都將是領(lǐng)克純電的“主場”豐巢存包柜亮相南寧地鐵站,助力城市韌性建設(shè)與智慧出行萬象分區(qū)、絢彩XDR、量子點(diǎn)Pro 2025齊出手,TCL引領(lǐng)觀影體驗(yàn)新變革!QQ音樂年度聽歌報告發(fā)布:誰是你最喜歡的歌手?OpenAI正式發(fā)布o(jì)3 - 通往AGI的路上,已經(jīng)沒有了任何阻礙「送禮物」難撬動社交電商,微信小店缺的是供給微軟Phi-4封神,14B小模型數(shù)學(xué)擊敗GPT-4o,合成數(shù)據(jù)占比40%,36頁技術(shù)報告出爐2024年結(jié)束,哪里是原創(chuàng)動畫的應(yīng)許之地?深扒一個正被游戲行業(yè)「搶占」的流量帝國百思買重新進(jìn)軍跨境電商領(lǐng)域視頻生成大模型賽道,只是看上去擁擠GGII:預(yù)計2024年中國工業(yè)機(jī)器人全年銷量約30萬臺,同比下滑5%左右
  • 首頁 > 云計算頻道 > 大模型

    科技云報道:卷完參數(shù)卷應(yīng)用,大模型落地有眉目了?

    2024年04月07日 18:23:46   來源:科技云報道

      國內(nèi)大模型戰(zhàn)場的比拼正在進(jìn)入新的階段。

      隨著產(chǎn)業(yè)界對模型落地的態(tài)度逐漸回歸理性,企業(yè)客戶的認(rèn)知從原來的“覺得大模型什么都能做”的階段,已經(jīng)收斂到“大模型能夠給自身業(yè)務(wù)帶來什么價值上了”。

      2023 年下半年,不少企業(yè)將目光鎖定在行業(yè)模型上。如何降低大模型使用門檻,讓大模型真正在行業(yè)里用起來,是業(yè)內(nèi)普遍關(guān)注的焦點(diǎn)。

      由此,國內(nèi)廠商在大模型上的認(rèn)知也在逐步統(tǒng)一——百度創(chuàng)始人李彥宏認(rèn)為“卷大模型沒有意義,卷應(yīng)用機(jī)會更大”;騰訊高管湯道生表示“大模型只是開端,行業(yè)應(yīng)用才是未來”;華為云CEO張平安明確大模型“為行業(yè)而生,聚焦B端行業(yè)客戶”,更直言盤古大模型“沒時間作詩、沒時間聊天”。

      這也意味著,更多大模型廠商將開始卷應(yīng)用,這會是今年競爭最為激烈的板塊之一。

      大模型行業(yè)落地渴望 “開箱即用”

      過去半年,大模型To B的落地應(yīng)用摸索已經(jīng)度過嘗鮮期。

      對于企業(yè)而言,他們希望更快使用上大模型,在市場競爭中獲得優(yōu)勢。但大模型的技術(shù)門檻很高,因此企業(yè)并不會從頭開始訓(xùn)練自己的基礎(chǔ)大模型,更多是基于某個成熟的大模型做二次開發(fā)。

      然而,想借用好現(xiàn)有的通用大模型,企業(yè)仍面臨著三大難題:

      首先,各類企業(yè)的場景需求、復(fù)雜程度、智能化程度千差萬別,大模型能力邊界與企業(yè)的場景需求如何快速、準(zhǔn)確匹配;

      其次,從模型到應(yīng)用中間還需要諸多技術(shù)橋梁,諸如SFT、RAG、LangChain、Agent等技術(shù),如何與大模型有機(jī)組合達(dá)成最優(yōu)解;

      第三,企業(yè)過去積累了大量IT設(shè)施、軟件、企業(yè)數(shù)據(jù)、業(yè)務(wù)流程,如何讓大模型與現(xiàn)有設(shè)施結(jié)合的情況下,保障企業(yè)數(shù)據(jù)信息安全。

      換句話說,企業(yè)無論是基于開源或閉源的通用大模型來做行業(yè)化落地,都遠(yuǎn)沒有到達(dá)開箱即用的程度。

      不過這也成為大模型廠商在競爭中突圍的方向,除了要在底層技術(shù)上繼續(xù)夯實(shí)外,補(bǔ)足行業(yè)Know-how和成功經(jīng)驗(yàn)也是重中之重。

      在百度和阿里的發(fā)展經(jīng)驗(yàn)中,似乎可以給大模型行業(yè)一些啟示。

      其中,百度用搭建行業(yè)模型、垂直場景模型和應(yīng)用的方式賦能具體行業(yè)。

      2023年3月,百度智能云推出千帆大模型平臺,從算力、模型、到應(yīng)用層層結(jié)合,為企業(yè)提供一整套大模型開發(fā)工具。

      一年后,基于一線經(jīng)驗(yàn)積累和實(shí)戰(zhàn)反饋,百度智能云抽取出“研、產(chǎn)、供、銷、服”環(huán)節(jié)中的典型場景,于近日推出了5款全新模型和7款應(yīng)用產(chǎn)品,來解決企業(yè)用好大模型的“三大難題”。

      以此次發(fā)布的國內(nèi)首款大模型全面重構(gòu)的智能客服——百度智能云客悅為例,相比傳統(tǒng)客服,客悅可結(jié)合大模型的理解、推理、記憶能力,實(shí)現(xiàn)更友好的對話、更高效的運(yùn)營。

      比如,當(dāng)用戶提問“我的車總有吱吱吱的聲音”,傳統(tǒng)客服無法理解“吱吱吱”這種口語化的表達(dá)。

      而客悅在大模型的加持下,會繼續(xù)追問用戶該問題持續(xù)的時間和頻次,并通過推理反饋用戶,可能是皮帶老化或者張緊輪松動導(dǎo)致,建議到店檢查。

      若用戶反饋沒時間檢查,客悅還會基于自身知識庫,提醒不檢修可能導(dǎo)致車輛失去動力、長期會引起發(fā)動機(jī)故障等問題,引起用戶重視,守護(hù)行車安全。目前,用戶問題自助解決率已超過90%。

      在運(yùn)營效率方面,上一代的傳統(tǒng)智能客服進(jìn)行業(yè)務(wù)辦理、知識咨詢、閑聊等能力,需要花費(fèi)的人效約100人/天,而客悅僅需約15.5人/天,大模型客服運(yùn)營效率提升6倍。

      目前為止,百度智能云已經(jīng)布局了電力、汽車、金融、政務(wù)等十余個行業(yè)大模型,并取得了不錯的效果,客戶中也出現(xiàn)了國家電網(wǎng)、浦發(fā)銀行、泰康、吉利等知名企業(yè)。

      相比之下,阿里采用了另一套邏輯:賦能于內(nèi)部已有應(yīng)用和服務(wù),再技術(shù)外溢至行業(yè)客戶。

      除已經(jīng)發(fā)布“通義千問”大模型外,夸克也發(fā)布了自研大模型,應(yīng)用于通用搜索、醫(yī)療健康等場景;后加之內(nèi)部推行“云釘一體”,作為辦公一體化平臺,釘釘上線AI魔法棒,推出17項(xiàng)與AI相關(guān)服務(wù),也為通義千問大模型助力頗多。

      同時,阿里也提供了不少類似于Anyone fit類型的圖像模型解決方案,其工具十分貼合電商需求場景。

      因在電商、物流層面的深厚積累,讓阿里擁有了對不同領(lǐng)域的行業(yè)特點(diǎn)、業(yè)務(wù)流程和客戶需求有了充分的認(rèn)識。

      基于此,阿里的產(chǎn)品便可以在深度了解用戶需求的基礎(chǔ)上,為客戶提供定制化的解決方案,滿足其業(yè)務(wù)需求,提高其業(yè)務(wù)效率和競爭力。這讓大模型有了其應(yīng)有之意,不至于淪落為“無源之水”。

      頭部大廠領(lǐng)跑大模型行業(yè)落地

      在大模型的 toB 競爭中,本質(zhì)而言,是取決于客戶企業(yè)對商業(yè)價值的認(rèn)知。和其他行業(yè)一樣,在大模型領(lǐng)域,“多快好省” 和 “物美價廉” 難以兩全,匆忙上陣的結(jié)果可能是一地雞毛。

      因此,企業(yè)客戶在大模型的選擇上更為審慎。盡管大模型的應(yīng)用還在初期,但企業(yè)在模型選擇、模型可靠性、應(yīng)用成本、使用門檻等層面,已有各種考量和顧慮。

      百度集團(tuán)副總裁侯震宇曾在采訪中表示:“最終能夠讓大模型服務(wù)推廣開的只有兩個原因:第一個是模型效果,第二個是成本。”

      以百度智能云為例,其大模型的調(diào)用和訓(xùn)練成本一直在下降。文心一言開啟內(nèi)測后,一個月就迭代了四次。

      根據(jù)百度披露的數(shù)據(jù),文心一言的推理成本如今只有發(fā)布之初的十分之一,在發(fā)布的3個月內(nèi)推理效率提升10倍,模型推理性能提升50%,模型算力利用率提升1倍。

      侯震宇透露,隨著技術(shù)迭代帶來的成本下降,不管是在模型使用,還是在模型微調(diào)甚至在模型再訓(xùn)練方面,“價格應(yīng)該不會成為大家使用或者擁抱大模型的瓶頸”。

      與此同時,在SuperCLUE中文大模型7月最新榜單中,百度的大語言模型產(chǎn)品文心一言以62分的總成績一舉超越越GPT-3.5-turbo(59.79)和ChatGLM-130B(59.35)等,穩(wěn)居行業(yè)頭部。

      除了成本和效果,大模型從開發(fā)、應(yīng)用到調(diào)優(yōu)的每一個環(huán)節(jié)如何落地,如何基于數(shù)據(jù)安全合規(guī)進(jìn)行私有化部署等,都是企業(yè)客戶重點(diǎn)關(guān)注的問題。

      例如,很多企業(yè)需要的聊天機(jī)器人,并不是選擇具備強(qiáng)大通用能力的大模型就可以,還要求大模型廠商能夠提供易用性、完備度、安全性、穩(wěn)定性都有保證的工具鏈。

      在關(guān)注大模型技術(shù)棧完備性的同時,企業(yè)還需要選擇適合自身業(yè)務(wù)的大模型廠商——既有充分的產(chǎn)業(yè)應(yīng)用經(jīng)驗(yàn)積累,也能夠?qū)⒓夹g(shù)應(yīng)用到實(shí)際業(yè)務(wù)場景中。

      目前,百度智能云推出的千帆大模型平臺就擁有較為全面的數(shù)據(jù)服務(wù)能力,從生成、標(biāo)注、回流再到模型訓(xùn)練(Post-pretraining、Fine-tuning、Prompt-tuning)、模型評估(主觀評估、客觀評估)和壓縮、自動化 Prompt 工程、到插件應(yīng)用編排,客戶都可以在千帆上一站式完成。

      這意味著企業(yè)客戶可以將基于千帆平臺從0開始訓(xùn)練自己的專屬模型,同時訓(xùn)練好的模型也可以部署和托管在千帆平臺上,獲得極致的性能、企業(yè)級的高可用性和安全環(huán)境。

      由于千帆平臺已經(jīng)制備了開箱即用的使用流程,用可視化產(chǎn)品界面的方式引導(dǎo)用戶使用,極大降低了使用門檻。對于企業(yè)級市場比較擔(dān)心的安全可靠問題,也內(nèi)置了安全機(jī)制,確保模型的輸入和輸出的安全。

      不久前,IDC發(fā)布的《AI大模型技術(shù)能力評估報告,2023》對國內(nèi)主流大模型,包括百度、阿里、騰訊、華為、科大訊飛、360、商湯等14家廠商參進(jìn)行了評估。

      IDC分別對大模型的平臺、創(chuàng)新、通用、算法、服務(wù)、生態(tài)合作、行業(yè)覆蓋和安全可解釋性等諸多方面進(jìn)行了評價,其中百度 7 個滿分,阿里 6 個滿分。百度在算法模型、行業(yè)覆蓋領(lǐng)域拿下行業(yè)唯一滿分。

      可以看到,頭部大廠的大模型產(chǎn)品已經(jīng)有所成效。相較之下,部分初創(chuàng)和腰部公司開始呈現(xiàn)疲態(tài)。

      從光年之外退出競爭、訊飛大幅虧損難以支撐大模型投入便可以得知,一些 “笨鳥先飛” 的企業(yè)已逐漸落后于發(fā)展大勢。

      對于企業(yè)業(yè)務(wù)而言,現(xiàn)階段更加穩(wěn)妥的方式還是在大廠之間做出抉擇。大廠大模型更能保證服務(wù)交付、運(yùn)維和維保,這也是企業(yè)對自身向智能化方向轉(zhuǎn)型更加負(fù)責(zé)任地選擇。

      結(jié)語

      隨著企業(yè)研發(fā)、生產(chǎn)、銷售、人力等各項(xiàng)業(yè)務(wù)場景數(shù)字化深入,如何借助大模型的力量,發(fā)揮出應(yīng)用的最大價值,正成為企業(yè)商業(yè)制勝的關(guān)鍵所在。

      接下來的競爭,對于企業(yè)而言,不再是局限于大模型的追逐,而是如何基于大模型對應(yīng)用產(chǎn)品進(jìn)行自我優(yōu)化和革新。

      對于大模型廠商而言,比拼的不僅是算力、算法和數(shù)據(jù),未來長期的發(fā)展比的更是落地應(yīng)用、生態(tài)渠道、客戶服務(wù)、運(yùn)維等系統(tǒng)性、全面性的支持。

      這需要廠商具備強(qiáng)大的技術(shù)水平,以及不斷迭代升級的能力。要滿足可控和合規(guī)的要求,也需要廠商有較強(qiáng)的綜合能力,能夠長期穩(wěn)定的投入人力物力。

      文章內(nèi)容僅供閱讀,不構(gòu)成投資建議,請謹(jǐn)慎對待。投資者據(jù)此操作,風(fēng)險自擔(dān)。

    即時

    新聞

    明火炊具市場:三季度健康屬性貫穿全類目

    奧維云網(wǎng)(AVC)推總數(shù)據(jù)顯示,2024年1-9月明火炊具線上零售額94.2億元,同比增加3.1%,其中抖音渠道表現(xiàn)優(yōu)異,同比有14%的漲幅,傳統(tǒng)電商略有下滑,同比降低2.3%。

    企業(yè)IT

    重慶創(chuàng)新公積金應(yīng)用,“區(qū)塊鏈+政務(wù)服務(wù)”顯成效

    “以前都要去窗口辦,一套流程下來都要半個月了,現(xiàn)在方便多了!”打開“重慶公積金”微信小程序,按照提示流程提交相關(guān)材料,僅幾秒鐘,重慶市民曾某的賬戶就打進(jìn)了21600元。

    3C消費(fèi)

    華碩ProArt創(chuàng)藝27 Pro PA279CRV顯示器,高能實(shí)力,創(chuàng)

    華碩ProArt創(chuàng)藝27 Pro PA279CRV顯示器,憑借其優(yōu)秀的性能配置和精準(zhǔn)的色彩呈現(xiàn)能力,為您的創(chuàng)作工作帶來實(shí)質(zhì)性的幫助,雙十一期間低至2799元,性價比很高,簡直是創(chuàng)作者們的首選。

    研究

    中國信通院羅松:深度解讀《工業(yè)互聯(lián)網(wǎng)標(biāo)識解析體系

    9月14日,2024全球工業(yè)互聯(lián)網(wǎng)大會——工業(yè)互聯(lián)網(wǎng)標(biāo)識解析專題論壇在沈陽成功舉辦。