行業(yè)唯一!海爾熱聲熱泵技術獲全國顛覆性技術創(chuàng)新大賽最高獎OPPO A5 Pro首創(chuàng)獵手天線架構(gòu):信號能穿十堵墻一加 Ace 5 Pro首發(fā)電競Wi-Fi芯片G1 帶來「穿墻王」和「搶網(wǎng)王」般的網(wǎng)絡體驗電視市場又出黑馬!TCL同檔Mini LED音畫王P12K,萬象分區(qū)打造超強控光!零下25℃如何取暖?海爾水暖通溫暖驛站亮相冰雪大世界馬太效應,強者恒強?——《中國企業(yè)科創(chuàng)力研究報告(2024)》美團年度報告竟然用上了AI和短。窟@下是真出圈了消息稱上汽大眾正開發(fā)三款新車,技術分別來自小鵬、智己和榮威鴻蒙智行泊車代駕VPD正式開啟全量推送!升級自動泊車/接駕等多項功能華為官方翻新手機最高降價4000元曝蘋果研發(fā)帶Face ID的智能家居門鈴:內(nèi)置自研W-Fi芯片李斌回應螢火蟲外觀設計:看過實車的人都喜歡這個設計林杰:未來 A 級、A0 級、A00 級車型都將是領克純電的“主場”豐巢存包柜亮相南寧地鐵站,助力城市韌性建設與智慧出行萬象分區(qū)、絢彩XDR、量子點Pro 2025齊出手,TCL引領觀影體驗新變革!QQ音樂年度聽歌報告發(fā)布:誰是你最喜歡的歌手?OpenAI正式發(fā)布o3 - 通往AGI的路上,已經(jīng)沒有了任何阻礙「送禮物」難撬動社交電商,微信小店缺的是供給微軟Phi-4封神,14B小模型數(shù)學擊敗GPT-4o,合成數(shù)據(jù)占比40%,36頁技術報告出爐2024年結(jié)束,哪里是原創(chuàng)動畫的應許之地?
  • 首頁 > 云計算頻道 > 大模型

    大模型落地潮,卷王如何突圍

    2024年07月09日 14:03:12   來源:數(shù)智前線

      假以時日,一個10億DAU的超級應用一定會出現(xiàn),但更重要的是大模型在各個領域、各個場景的應用。

      文|;

      大模型市場在過去3個月,又發(fā)生了劇烈變化。一位工業(yè)大模型資深人士告訴數(shù)智前線,二季度他們接觸到的企業(yè)需求“至少比一季度增長了10倍”。

      “產(chǎn)業(yè)正迎來一個轉(zhuǎn)折點。”在世界人工智能大會(WAIC)期間舉辦的“大模型助力新質(zhì)生產(chǎn)力發(fā)展論壇”上,百度副總裁謝廣軍告訴與會者,一批之前探索的大模型落地場景已經(jīng)跑出來了,6月,文心大模型日均調(diào)用量已突破5億,季度環(huán)比增長150%;百度智能云千帆大模型平臺服務客戶數(shù)也突破15萬。

      “我們判斷,從下半年開始,大模型產(chǎn)業(yè)落地的時代就要到來了。”謝廣軍說。

      而在世界人工智能大會期間,百度創(chuàng)始人、董事長兼首席執(zhí)行官李彥宏也提出大模型時代與移動互聯(lián)網(wǎng)時代對“超級應用”認知的不同——他認為“不是說一定在等待一個超級應用的出現(xiàn)”。大模型在各個行業(yè)場景的應用,對于提升效率、降低成本,產(chǎn)生的促進作用,可能比從0到1的顛覆性應用更大。他也已經(jīng)看到,越來越多的行業(yè),尤其是To B場景中,被大模型加持之后,已經(jīng)受益。

      業(yè)界也看到,從百度智能云的各項舉措看,它通過“卷降價”、“卷場景”、“卷應用”,期望讓更多人意識到,大模型只有植入業(yè)務場景里,才能產(chǎn)生價值。百度智能云也期望加速大模型與場景的串聯(lián),讓客戶看到效果,從而形成大模型的良性循環(huán)。

      01

      降價、升級,一切為了卷場景

      在這次論壇上,百度智能云公布了三大舉措:基礎模型降價,工具效能升級以及行業(yè)場景解決方案上線。“這與今年初百度開始密集講應用、談價值、發(fā)布端到端應用方案一樣。”有生態(tài)伙伴認為,這些都是為推動大模型進入更大規(guī)模的場景,讓大家用起來。

      其中,在基礎模型降價上,6月百度剛剛推出的文心系列旗艦版大模型——ERNIE 4.0 Turbo,面向企業(yè)客戶開放,相比ERNIE 4.0之前的價格,降幅達70%。

      ERNIE 4.0、ERNIE 3.5兩款旗艦模型,也隨之大幅降價。而在客戶場景中經(jīng)常用到的主力模型ERNIE Speed、ERNIE Lite,則繼續(xù)保持免費。

      這應該是7月開局后,第一個繼續(xù)宣布降價的大模型大廠。在世界人工智能大會期間,李彥宏坦承,這次大模型價格戰(zhàn)確實來得比他想象的更早一點,而且把價格打到幾乎不可思議的地步。“但某種意義上也不是壞事。當你足夠低,甚至免費時,就會有更多人來嘗試,大模型對于各行各業(yè)的滲透速度會更快。”

      除了價格,在工具平臺的效能升級方面,千帆大模型平臺則圍繞在大模型進企業(yè)場景的關鍵點上。

      實際上,每個行業(yè)場景都有自己的“道”。在落地中,客戶要結(jié)合自身場景,通過工具,對模型做精調(diào)(SFT),也就是將行業(yè)數(shù)據(jù)“灌進去”,并進行各種調(diào)教,從而讓模型更加專業(yè),在特定場景下的決策效果更好。

      在過去一個季度,千帆大模型平臺上的ModelBuilder,圍繞企業(yè)專用模型的精調(diào),有非常多的升級點。

      此次一個獨家升級點“混合訓練功能”,提供高質(zhì)量數(shù)據(jù)語料,擴充用戶精調(diào)樣本,助力模型效果顯著提升。用戶可以用百度智能云提供的通用語料和垂域語料,與自身業(yè)務數(shù)據(jù)融合,精調(diào)出更穩(wěn)定、效果更好的專用大模型,解決模型在精調(diào)后,往往會遺忘通用能力,或企業(yè)垂域數(shù)據(jù)不夠多、不夠好的問題。

      而當企業(yè)精調(diào)出模型后,ModelBuilder還幫助企業(yè)構(gòu)建自身的數(shù)據(jù)飛輪,對模型進行持續(xù)的閉環(huán)優(yōu)化,讓模型越用越聰明。

      除了企業(yè)的模型開發(fā),在企業(yè)AI原生應用上,千帆大模型平臺上的AppBuilder這次則主要圍繞企業(yè)級RAG(知識檢索增強)技術升級。

      為什么是RAG?因為它能有效緩解大模型的幻覺問題,因此,幾乎成為今天行業(yè)落地中必不可少的技術。IDC預測,到2027年,中國2/3的企業(yè)將利用大模型和RAG的組合,將決策效率提高55%。

      這次AppBuilder除了新增云存儲服務,讓資源上傳不再受限之外,更重要的是開放了RAG的策略。“今天很多垂類場景采用RAG的效果不達預期,通常與策略相關。”謝廣軍說。此前,RAG是個“黑盒子”,這次百度獨家開放了可調(diào)可配策略。

      同時推出“RAG with 百度搜索”功能,將百度搜索在時效性、客觀性⽅⾯的優(yōu)勢,與RAG在私域知識響應、語⾔靈活性⽅⾯的優(yōu)勢進⾏能⼒互補,⼤幅提升⽤戶知識檢索體驗。不少PC、IoT、車機等端側(cè)設備,已接入新接口。

      在降價、工具升級之外,百度智能云還推出了千帆行業(yè)場景解決方案。目前已上線了包括教育、人事、企業(yè)服務、文娛、醫(yī)療在內(nèi)的5大行業(yè),20多個場景解決方案。

      這些方案主打一個“低門檻”,針對不同方案可提供場景模型、模型精調(diào)樣板間、Prompt模板、應用樣板間等參考“樣例”,有相似業(yè)務訴求的客戶,可直接使用或一鍵復制,就完成了自身大模型應用的開發(fā),讓用戶快速用起來。

      為了應對大規(guī)模產(chǎn)業(yè)落地的需求爆發(fā),工具鏈和平臺已極為重要。百度智能云的這些動作目標明確,好的工具可以事半功倍,如果將行業(yè)共性需求和經(jīng)驗,提煉沉淀為技術組件,與行業(yè)Know-How和最佳實踐一起,不斷落入到千帆大模型平臺上,企業(yè)和生態(tài)伙伴就可以用這些“武器”,突破更大規(guī)模、更大范圍的場景突破,成為可能。

      02

      從零起步,一步步將場景做深

      過去一個季度,大模型與行業(yè)、場景的結(jié)合,已經(jīng)從零起步,不斷走向深入。在這個過程中,百度智能云與業(yè)界,在聚焦解決幾個核心問題。

      在業(yè)界看來,第一個核心問題,是如何推動客戶找到大模型的能力邊界。不像傳統(tǒng)項目,客戶有明確需求,大模型需要與企業(yè)自有數(shù)據(jù)結(jié)合,才能產(chǎn)生效果。這時,通過降價、提供簡單易用的工具,不斷拉低大模型使用門檻,讓“大家的膽子更大,步子也更快”。

      比如,在水務領域,北京污水寶科技有限公司利用大模型的問答能力,通過千帆AppBuilder,快速構(gòu)建了污水寶AI助理,支持人們通過自然語言,獲取項目線索、項目進度等工程信息。這些立竿見影的應用,往往是大模型與行業(yè)和場景結(jié)合的第一步。

      第二個核心問題是大模型的性價比?蛻粼谶x擇模型時,看重效果,也會反復考慮成本。

      李彥宏在WAIC上表示,今天這些閉源模型,無論是ChatGPT還是文心一言,平均水平一定是比開源模型更強大,推理成本一定是比開源模型更低。“閉源模型不是一個模型,它是一系列的模型”,可以根據(jù)使用場景去平衡效果、推理速度和成本。

      杭州全診醫(yī)學創(chuàng)始人兼CEO薛翀,是一位創(chuàng)業(yè)者,也是一位醫(yī)生,他期望用AI技術,將醫(yī)生從病歷書寫等繁瑣的工作中解放出來,騰出時間真正關注病人。在選擇模型上,“我們實際用了很多大模型來訓練,發(fā)現(xiàn)通過文心模型和千帆大模型平臺訓練出來的產(chǎn)品,目前性能最高,各項指標是GPT3.5的1.7倍。”薛翀說,而文心成本的優(yōu)化,“讓我們產(chǎn)品的價格競爭力也上去了”。

      目前,全診醫(yī)學打造的AI醫(yī)生助理,已服務50多家三甲醫(yī)院和1.5萬家小型醫(yī)療機構(gòu),“應該是全球規(guī)模最大的”。薛翀對此感到自豪,AI醫(yī)生助理每日生成門診病歷草稿為15萬份,醫(yī)生的效率提升了,患者服務數(shù)量因此提升了1.5倍。

      第三個核心問題是,隨著大模型與場景的結(jié)合不斷深入,對工程的要求越來越高,也對更低門檻、更高效能的工具平臺提出高訴求。

      比如,在教育領域,中國高科集團旗下英騰教育,在醫(yī)學教育行業(yè)有20年積累,形成了覆蓋1800多個醫(yī)學考試科目、超過10億的醫(yī)學文本tokens備考數(shù)據(jù)。英騰教育聯(lián)合百度智能云,通過千帆大模型平臺,對自有數(shù)據(jù)以及百億級專業(yè)知識數(shù)據(jù),進行高效的處理和學習后,讓“考試寶典”應用,在醫(yī)考培訓這一復雜而專業(yè)的領域,提供“千人千面”的教程,大幅提升備考效率。

      第四個核心問題是,客戶越來越關注和期望使用Agent。對此,李彥宏在最近的談話中表示,智能體正在爆發(fā),只是說現(xiàn)在基數(shù)還比較小。“我首先要考慮,門檻要足夠低,一個小白、大一的學生,也可以很方便地制作一個智能體。”李彥宏稱,只有越來越多的人進來,指不定哪條路跑通了,它就是一個Super APP。

      此外,今年行業(yè)大模型在產(chǎn)業(yè)落地中起到關鍵作用,不過也出現(xiàn)了“偽行業(yè)大模型”。不久前,百度集團執(zhí)行副總裁、百度智能云事業(yè)群總裁沈抖強調(diào),行業(yè)模型不是回到傳統(tǒng)AI,把一個場景加一堆數(shù)據(jù)作為一個專用模型,煙囪式開發(fā)。

      他建議,一個企業(yè)如果需要同時有多個行業(yè)場景解決方案,可以構(gòu)建一個通用底座,結(jié)合如千帆大模型平臺,不斷做行業(yè)增強,逐步將整個能力建設起來。這個開發(fā)范式會避免煙囪式、一遍一遍的重復建設,實現(xiàn)真正的場景驅(qū)動,把應用卷起來。

      03

      迎接Q3落地爆發(fā)潮

      當大模型一步步進入場景后,關于它的應用爆發(fā),包括ToB、ToC,業(yè)界最近討論很多。

      業(yè)界也觀察,實體經(jīng)濟在這輪大模型落地上的積極性和創(chuàng)新力,甚至在某些方面超越了互聯(lián)網(wǎng)大廠。當下第一波吃到紅利最多的是科技企業(yè)、國央企和大型民營企業(yè),兩三年之后,消費端才有可能出現(xiàn)Killer App。李彥宏認為,大模型對于B端的改造作用,比互聯(lián)網(wǎng)對B端的影響更大。

      在產(chǎn)業(yè)界,第一批入場的企業(yè)和服務商已感知到,二季度需求端已經(jīng)爆發(fā),三季度預計將會迎來更大規(guī)模落地潮。“我們無法拿一個技術或項目化的運作方式,去做大規(guī)模的商業(yè)復制。”一位資深人士說。大模型的落地需要開發(fā)、部署、運維、迭代的工具鏈及平臺。“大家都在把打法,轉(zhuǎn)向規(guī);茝V和復制上。”

      業(yè)界也在積極布局生態(tài)。一位人士觀察到,“從平臺側(cè),像百度智能云已經(jīng)專門成立了相關渠道生態(tài)部,這跟以往不一樣。它要賦能更多生態(tài)伙伴,提供很多工具,目的是讓生態(tài)使用它的能力,讓大模型真正在更多場景中發(fā)揮價值。”

      生態(tài)的另一個價值是定制化。在To B行業(yè),定制化是繞不開的話題,尤其是大模型落地,還處于一個多樣性的客戶需求和尚未收斂的技術階段。但業(yè)界也看到,大模型可能會讓定制化變得更簡單,畢竟它能生成代碼,本身具備生態(tài)插件及融合能力。

      為此,工具平臺也將更為豐富、靈活,即便定制化的過程,也是走標準化的組件加上標準化流程。“類似于你定制西服,量完尺寸不是重頭開始,而是在一套標準方法上稍微調(diào)整”,這是百度等前沿企業(yè)的打法。

      一兩個月前,沈抖曾稱:新質(zhì)生產(chǎn)力正在破土而出。如果說國家政策是陽光,中國豐富的工業(yè)體系是土壤,那么科技創(chuàng)新就是新質(zhì)生產(chǎn)力迸發(fā)的內(nèi)生力量,而人工智能和大模型,代表著當下最前沿的科技進展。

      現(xiàn)在百度等業(yè)界正在形成大模型規(guī)模落地的路徑。一旦這套路徑跑通,工具鏈和平臺打磨成熟,生態(tài)逐步壯大,大模型與場景結(jié)合的效率將更高,就會有越來越多的人去串聯(lián)起更多的業(yè)務價值。客戶將會受益,整體購買成本也會下來,大模型將進入良性發(fā)展循環(huán)。

      文章內(nèi)容僅供閱讀,不構(gòu)成投資建議,請謹慎對待。投資者據(jù)此操作,風險自擔。

    即時

    新聞

    明火炊具市場:三季度健康屬性貫穿全類目

    奧維云網(wǎng)(AVC)推總數(shù)據(jù)顯示,2024年1-9月明火炊具線上零售額94.2億元,同比增加3.1%,其中抖音渠道表現(xiàn)優(yōu)異,同比有14%的漲幅,傳統(tǒng)電商略有下滑,同比降低2.3%。

    企業(yè)IT

    重慶創(chuàng)新公積金應用,“區(qū)塊鏈+政務服務”顯成效

    “以前都要去窗口辦,一套流程下來都要半個月了,現(xiàn)在方便多了!”打開“重慶公積金”微信小程序,按照提示流程提交相關材料,僅幾秒鐘,重慶市民曾某的賬戶就打進了21600元。

    3C消費

    華碩ProArt創(chuàng)藝27 Pro PA279CRV顯示器,高能實力,創(chuàng)

    華碩ProArt創(chuàng)藝27 Pro PA279CRV顯示器,憑借其優(yōu)秀的性能配置和精準的色彩呈現(xiàn)能力,為您的創(chuàng)作工作帶來實質(zhì)性的幫助,雙十一期間低至2799元,性價比很高,簡直是創(chuàng)作者們的首選。

    研究

    中國信通院羅松:深度解讀《工業(yè)互聯(lián)網(wǎng)標識解析體系

    9月14日,2024全球工業(yè)互聯(lián)網(wǎng)大會——工業(yè)互聯(lián)網(wǎng)標識解析專題論壇在沈陽成功舉辦。