行業(yè)唯一!海爾熱聲熱泵技術(shù)獲全國顛覆性技術(shù)創(chuàng)新大賽最高獎(jiǎng)OPPO A5 Pro首創(chuàng)獵手天線架構(gòu):信號(hào)能穿十堵墻一加 Ace 5 Pro首發(fā)電競(jìng)Wi-Fi芯片G1 帶來「穿墻王」和「搶網(wǎng)王」般的網(wǎng)絡(luò)體驗(yàn)電視市場(chǎng)又出黑馬!TCL同檔Mini LED音畫王P12K,萬象分區(qū)打造超強(qiáng)控光!零下25℃如何取暖?海爾水暖通溫暖驛站亮相冰雪大世界馬太效應(yīng),強(qiáng)者恒強(qiáng)?——《中國企業(yè)科創(chuàng)力研究報(bào)告(2024)》美團(tuán)年度報(bào)告竟然用上了AI和短劇?這下是真出圈了消息稱上汽大眾正開發(fā)三款新車,技術(shù)分別來自小鵬、智己和榮威鴻蒙智行泊車代駕VPD正式開啟全量推送!升級(jí)自動(dòng)泊車/接駕等多項(xiàng)功能華為官方翻新手機(jī)最高降價(jià)4000元曝蘋果研發(fā)帶Face ID的智能家居門鈴:內(nèi)置自研W-Fi芯片李斌回應(yīng)螢火蟲外觀設(shè)計(jì):看過實(shí)車的人都喜歡這個(gè)設(shè)計(jì)林杰:未來 A 級(jí)、A0 級(jí)、A00 級(jí)車型都將是領(lǐng)克純電的“主場(chǎng)”豐巢存包柜亮相南寧地鐵站,助力城市韌性建設(shè)與智慧出行萬象分區(qū)、絢彩XDR、量子點(diǎn)Pro 2025齊出手,TCL引領(lǐng)觀影體驗(yàn)新變革!QQ音樂年度聽歌報(bào)告發(fā)布:誰是你最喜歡的歌手?OpenAI正式發(fā)布o(jì)3 - 通往AGI的路上,已經(jīng)沒有了任何阻礙「送禮物」難撬動(dòng)社交電商,微信小店缺的是供給微軟Phi-4封神,14B小模型數(shù)學(xué)擊敗GPT-4o,合成數(shù)據(jù)占比40%,36頁技術(shù)報(bào)告出爐2024年結(jié)束,哪里是原創(chuàng)動(dòng)畫的應(yīng)許之地?
  • 首頁 > 企業(yè)IT頻道 > 人工智能

    入口和粘性決定大模型應(yīng)用成敗 小米場(chǎng)景天然,秀技術(shù)參數(shù)沒意義

    2023年12月22日 16:51:49   來源:微信公眾號(hào) 量子位

      本文來自于微信公眾號(hào) 量子位(ID:QbitAI),作者:楊凈。

      小米集團(tuán)技術(shù)委員會(huì)AI實(shí)驗(yàn)室大模型團(tuán)隊(duì)負(fù)責(zé)人欒劍,在MEET2024智能未來大會(huì)上,透露了小米大模型獨(dú)有的方法論。

      作為大模型應(yīng)用的先行者、率先在手機(jī)端跑通大模型的小米,早早將輕量化和本地部署作為自身大模型應(yīng)用突破點(diǎn),F(xiàn)場(chǎng)欒劍表示將大模型搭載到硬件設(shè)備里面去充當(dāng)大腦,是件很酷的事情。

      面對(duì)當(dāng)下大模型發(fā)展趨勢(shì), 他坦言:從技術(shù)參數(shù)上秀肌肉已經(jīng)沒什么意義,接下來應(yīng)該回歸到怎么應(yīng)用。而大模型應(yīng)用成敗的關(guān)鍵,欒劍認(rèn)為主要在兩個(gè)關(guān)鍵點(diǎn):

      一是流量入口,二是用戶粘性。

      為了完整體現(xiàn)欒劍關(guān)于大模型的研發(fā)和應(yīng)用思考,量子位在不改變?cè)獾幕A(chǔ)上,對(duì)他的演講內(nèi)容進(jìn)行了編輯整理。

      關(guān)于MEET智能未來大會(huì):MEET大會(huì)是由量子位主辦的智能科技領(lǐng)域頂級(jí)商業(yè)峰會(huì),致力于探討前沿科技技術(shù)的落地與行業(yè)應(yīng)用。今年共有數(shù)十家主流媒體及直播平臺(tái)報(bào)道直播了MEET2024大會(huì),吸引了超過300萬行業(yè)用戶線上參會(huì),全網(wǎng)總曝光量累積超過2000萬。演講亮點(diǎn)

      小米科技戰(zhàn)略總結(jié)成公式就是(軟件×硬件)AI,這是科技行業(yè)第一家將AI放在指數(shù)位置上的公司。我們認(rèn)為AI是全新的生產(chǎn)力,會(huì)對(duì)未來軟硬件產(chǎn)品發(fā)展和變化帶來深刻影響。

      假設(shè)我們將大模型作為硬件設(shè)備的大腦,搭載到硬件設(shè)備里面去,這將是件很酷的事情。小米要做的,不是通用大模型、垂類大模型,而是場(chǎng)景大模型。

      輕量化和本地部署是小米大模型突破點(diǎn)。

      大模型有三個(gè)要素,分別是大數(shù)據(jù)、大參數(shù)、大訓(xùn)練任務(wù)。

      大模型從技術(shù)參數(shù)上來秀肌肉我覺得沒什么意義了,接下來應(yīng)該回歸到怎么把大模型用好。

      云邊端結(jié)合是將來大模型發(fā)展而一條重要途徑。要實(shí)現(xiàn)云邊端的結(jié)合肯定離不開軟件層面上打通。

      大模型應(yīng)用成敗兩個(gè)關(guān)鍵點(diǎn):一個(gè)在流量入口,另一個(gè)在用戶粘性。

      主動(dòng)智能是小米澎湃OS非常重要的亮點(diǎn)。

      小米全新升級(jí)的「人車家全生態(tài)」戰(zhàn)略,為大模型的應(yīng)用搭好了舞臺(tái)。 首家將AI放在戰(zhàn)略指數(shù)位置的公司

      今天跟大家分享一下小米大模型的研發(fā)思路,以及大模型在小米接下來可能的應(yīng)用場(chǎng)景。

      今年8月份,小米宣布了自己的科技戰(zhàn)略:深耕底層技術(shù),長(zhǎng)期持續(xù)投入,軟硬深度結(jié)合,AI全面賦能?偨Y(jié)成公式就是(軟件×硬件)AI。

      作為科技行業(yè)第一家將AI放在指數(shù)位置上的公司,我們認(rèn)為AI是全新的生產(chǎn)力,會(huì)對(duì)未來軟硬件產(chǎn)品發(fā)展和變化帶來深刻影響,所以一定要重視AI、投入AI,這也是將小米打造成硬核科技公司的必由之路。

      AI既然這么重要,小米AI上的積累有哪些呢?今天就來簡(jiǎn)單回顧一下。

      早在2016年,小米內(nèi)部創(chuàng)建首個(gè)專注AI的視覺團(tuán)隊(duì),主打?yàn)槭謾C(jī)拍照服務(wù)。隨后成立了語音聲學(xué)、人機(jī)對(duì)話、知識(shí)圖譜等一系列AI團(tuán)隊(duì),小米AI實(shí)驗(yàn)室應(yīng)運(yùn)而生。

      經(jīng)過兩年多努力,小米所有產(chǎn)品都用上自研的AI技術(shù),當(dāng)業(yè)務(wù)部門需要支援時(shí),我們也能派出大量專家?guī)椭焖俳M建技術(shù)團(tuán)隊(duì)。發(fā)展到今天,小米各個(gè)部門都散布著我們的AI工程人員。

      從另一個(gè)維度看,小米在技術(shù)上的投入近幾年持續(xù)高速增長(zhǎng),最近幾年復(fù)合增長(zhǎng)率達(dá)到38.4%,今年我們的投入會(huì)達(dá)到200億元,最近5年(2022-2026)會(huì)投入到一千個(gè)億。這是非?捎^的一筆投入,說明我們技術(shù)團(tuán)隊(duì)在持續(xù)成長(zhǎng),也說明我們踐行小米科技戰(zhàn)略的決心。

      今年提到AI一定繞不開大模型,今年4月份小米宣布成立大模型團(tuán)隊(duì),將輕量化和本地部署作為小米大模型突破點(diǎn)。

      不少同行來問背后的原因。

      首先看小米的特色。小米有各種各樣的硬件設(shè)備,今天小米是全球最大消費(fèi)級(jí)IoT平臺(tái)。截至今年三季度,小米IoT平臺(tái)已連接設(shè)備6.99億,5臺(tái)以上的小米設(shè)備用戶達(dá)到1370萬。

      假設(shè)我們將大模型作為硬件設(shè)備的大腦,搭載到硬件設(shè)備里面去,這將是件很酷的事情。

      比如有臺(tái)掃地機(jī)器人,大概率我們不會(huì)跟它聊天,不會(huì)讓它幫寫小作文,但它需要路徑規(guī)劃、躲避障礙物以及判斷什么地面需用什么方法清潔。

      將這種能力總結(jié)一下,可能并不是行業(yè)所說的通用大模型,也不是垂類大模型,而是場(chǎng)景大模型,這也是小米特別關(guān)注的以及所要做的。

      我們認(rèn)為,大模型有三個(gè)要素,分別是大數(shù)據(jù)、大參數(shù)、大訓(xùn)練任務(wù)。哪個(gè)要素才是大模型產(chǎn)生涌現(xiàn)能力、泛化能力的關(guān)鍵?我們做了一些實(shí)驗(yàn)。

      今年8月份發(fā)布的兩個(gè)大模型,參數(shù)量分別在13億和60億,并在中文的兩個(gè)主要榜單上做了測(cè)試。其目的是驗(yàn)證端側(cè)大模型(參數(shù)不那么大)通過定制和優(yōu)化,是否能在目標(biāo)場(chǎng)景中達(dá)到媲美云端大模型效果。

      第二步,是驗(yàn)證端側(cè)大模型是否能在手機(jī)上正常運(yùn)行,達(dá)到用戶真實(shí)使用條件要求。10月,小米在高通驍龍8Gen3芯片上基于NPU在手機(jī)端跑通60億參數(shù)模型,生成速度和功耗完全滿足正常使用的要求。

      到這一步為止,我們把大模型搭載到設(shè)備端的設(shè)想得到全部驗(yàn)證。從技術(shù)參數(shù)上來秀肌肉我覺得沒什么意義了,接下來我們回歸到怎么把大模型用好。

      目前AI大模型技術(shù)應(yīng)用已經(jīng)深入小米全系統(tǒng),包括實(shí)時(shí)字幕、小愛輸入助手、圖像生成與搜索等技術(shù)等。大模型在端側(cè)上的功能探索只是剛剛開始,使用價(jià)值絕對(duì)不僅止于此。 主動(dòng)智能是小米澎湃OS非常重要的亮點(diǎn)

      接下來展望一下大模型在小米會(huì)發(fā)生什么變化。

      前面提到,將大模型作為大腦放到智能設(shè)備里去,就能獨(dú)立完成一些簡(jiǎn)單任務(wù),但在復(fù)雜條件下,可能還需要同場(chǎng)景多設(shè)備協(xié)同。

      這時(shí)候一個(gè)設(shè)備就完成不了了,請(qǐng)求會(huì)上升到邊緣設(shè)備。邊緣設(shè)備就是一個(gè)場(chǎng)景里算力和存儲(chǔ)能力最強(qiáng)的設(shè)備。通過這臺(tái)設(shè)備協(xié)同場(chǎng)景下所有智能設(shè)備幫我們一起完成。當(dāng)請(qǐng)求變得更為復(fù)雜時(shí)候,需要跨場(chǎng)景,這時(shí)候請(qǐng)求就需要上升到云端了。

      這樣做的主要目的是什么?

      大模型服務(wù)成本很高,用戶使用成本也很高。我們做分布式計(jì)算,盡量把計(jì)算放到邊緣側(cè),放到端側(cè),這樣讓用戶使用成本降到最低。

      存儲(chǔ)也是基于同樣的考慮,用戶數(shù)據(jù),也是能放到端側(cè)就放到端側(cè),能放到邊緣側(cè)就放到邊緣側(cè),這樣也是最大程度地從物理上保護(hù)用戶數(shù)據(jù)的隱私安全。

      云邊端結(jié)合是將來發(fā)展的一條重要途徑。要實(shí)現(xiàn)云邊端的結(jié)合肯定離不開軟件層面上打通。

      小米近期發(fā)布的澎湃OS操作系統(tǒng),就是為了萬物互聯(lián)而設(shè)計(jì),我們?cè)谂炫炔僮飨到y(tǒng)里有個(gè)AI子系統(tǒng),它是個(gè)思考中樞。

      如果將智能設(shè)備比喻成小動(dòng)物,這個(gè)智能中樞就可以理解成馴獸師或魔法師。通過智能設(shè)備延伸它的感官,充分采集用戶所在環(huán)境的信息。獲取信息之后,再由Xiaomi HyperMind做思考判斷以及規(guī)劃,再將指令下發(fā)到需要執(zhí)行的智能設(shè)備上,讓它們協(xié)同完成任務(wù)。

      更重要的是,Xiaomi HyperMind是有學(xué)習(xí)能力的,除了被動(dòng)地完成用戶的請(qǐng)求以外,還能在用戶使用一段時(shí)間以后了解到用戶的使用習(xí)慣,產(chǎn)生與用戶的默契。在它發(fā)現(xiàn)當(dāng)前場(chǎng)景和以前某個(gè)場(chǎng)景比較相似的時(shí)候,會(huì)主動(dòng)地做一些用戶建議并提供一些服務(wù)。

      主動(dòng)智能也是小米澎湃OS非常重要的亮點(diǎn)。

      今年我們將小米集團(tuán)戰(zhàn)略從手機(jī)xAIoT升級(jí)到「人車家全生態(tài)」,為大模型的應(yīng)用搭好了舞臺(tái)。

      可以想象一下,每臺(tái)智能設(shè)備上面都有符合它自己能力的大腦,能夠獨(dú)立完成任務(wù)。他們通過小米澎湃OS互聯(lián)互通到一起,然后通過Xiaomi HyperMind控制它們。我們通過云邊端架構(gòu)為用戶提供最經(jīng)濟(jì)安全的服務(wù),這是個(gè)非常了不起的框架,我們希望用3-5年將框架填滿。 大模型應(yīng)用成敗兩個(gè)關(guān)鍵點(diǎn)

      最后聊聊關(guān)于大模型應(yīng)用,大家都在探索一個(gè)問題:大模型應(yīng)用成敗關(guān)鍵是什么?我個(gè)人拋個(gè)磚,我認(rèn)為所有應(yīng)用可能都有兩個(gè)關(guān)鍵點(diǎn):一個(gè)是流量入口,一個(gè)是用戶粘性。

      大模型流量入口在哪里?最開始大家覺得是行業(yè)應(yīng)用,還是需要點(diǎn)開APP用大模型賦能,后來發(fā)現(xiàn)大模型自己可以成為一個(gè)入口,通過調(diào)用API來完成復(fù)雜的任務(wù)。

      剛才說了大模型可以跟操作系統(tǒng)深度融合。歸根到底操作系統(tǒng)需要一個(gè)硬件,大家不可能跟空氣交互,一定要找到硬件,硬件才是入口,而小米絕對(duì)不缺硬件。

      第二個(gè)用戶粘性。打個(gè)比方,當(dāng)一個(gè)城市開通第一條地鐵線時(shí),大家可能會(huì)覺得很新鮮很好奇,但可能不會(huì)特別依賴它;但當(dāng)它形成一個(gè)無處不在的網(wǎng)絡(luò)時(shí),大家對(duì)地鐵的依賴成長(zhǎng)起來了。

      大模型現(xiàn)在就是這樣的情況,F(xiàn)在大模型的主要使用方式還停留在簡(jiǎn)單的文字交互,我們要探索的是讓大模型怎么無處不在地融入大家日常生活。

      小米已經(jīng)搭好了人車家全生態(tài)的平臺(tái),非常歡迎大家一起來共同建設(shè),把大模型的應(yīng)用做好。

      最后回顧一下小米的科技理念。我們要選擇對(duì)人類文明有長(zhǎng)期價(jià)值的技術(shù)領(lǐng)域,并堅(jiān)持長(zhǎng)期持續(xù)投入。

      而以大模型為代表的AI,我認(rèn)為就是對(duì)人類文明有長(zhǎng)期價(jià)值的技術(shù)領(lǐng)域。

      我們要堅(jiān)持投入,無論外界輿論發(fā)生怎樣的變化,無論技術(shù)上出現(xiàn)怎樣的挑戰(zhàn),我們都要保持戰(zhàn)略定力,我們要堅(jiān)韌樂觀,用最前沿的技術(shù)提供最優(yōu)質(zhì)的產(chǎn)品和服務(wù),希望讓更多朋友們能夠通過小米的產(chǎn)品體驗(yàn)到科技帶來的美好生活。

      我今天就講到這里,謝謝大家。

      文章內(nèi)容僅供閱讀,不構(gòu)成投資建議,請(qǐng)謹(jǐn)慎對(duì)待。投資者據(jù)此操作,風(fēng)險(xiǎn)自擔(dān)。

    即時(shí)

    新聞

    明火炊具市場(chǎng):三季度健康屬性貫穿全類目

    奧維云網(wǎng)(AVC)推總數(shù)據(jù)顯示,2024年1-9月明火炊具線上零售額94.2億元,同比增加3.1%,其中抖音渠道表現(xiàn)優(yōu)異,同比有14%的漲幅,傳統(tǒng)電商略有下滑,同比降低2.3%。

    企業(yè)IT

    重慶創(chuàng)新公積金應(yīng)用,“區(qū)塊鏈+政務(wù)服務(wù)”顯成效

    “以前都要去窗口辦,一套流程下來都要半個(gè)月了,現(xiàn)在方便多了!”打開“重慶公積金”微信小程序,按照提示流程提交相關(guān)材料,僅幾秒鐘,重慶市民曾某的賬戶就打進(jìn)了21600元。

    3C消費(fèi)

    華碩ProArt創(chuàng)藝27 Pro PA279CRV顯示器,高能實(shí)力,創(chuàng)

    華碩ProArt創(chuàng)藝27 Pro PA279CRV顯示器,憑借其優(yōu)秀的性能配置和精準(zhǔn)的色彩呈現(xiàn)能力,為您的創(chuàng)作工作帶來實(shí)質(zhì)性的幫助,雙十一期間低至2799元,性價(jià)比很高,簡(jiǎn)直是創(chuàng)作者們的首選。

    研究

    中國信通院羅松:深度解讀《工業(yè)互聯(lián)網(wǎng)標(biāo)識(shí)解析體系

    9月14日,2024全球工業(yè)互聯(lián)網(wǎng)大會(huì)——工業(yè)互聯(lián)網(wǎng)標(biāo)識(shí)解析專題論壇在沈陽成功舉辦。