下單前先比價不花冤枉錢 同款圖書京東價低于抖音6折日媒感慨中國電動汽車/智駕遙遙領(lǐng)先:本田、日產(chǎn)、三菱合并也沒戲消委會吹風(fēng)機(jī)品質(zhì)檢測結(jié)果揭曉 徠芬獨占鰲頭 共話新質(zhì)營銷力,2024梅花數(shù)據(jù)峰會圓滿落幕索尼影像專業(yè)服務(wù) PRO Support 升級,成為會員至少需注冊 2 臺 α 全畫幅相機(jī)、3 支 G 大師鏡頭消息稱vivo加碼電池軍備競賽:6500mAh 旗艦機(jī)+7500mAh中端機(jī)寶馬M8雙門轎跑車明年年初將停產(chǎn),后續(xù)無2026款車型比亞迪:2025 款漢家族車型城市領(lǐng)航智駕功能開啟內(nèi)測雷神預(yù)告2025年首次出席CES 將發(fā)布三款不同技術(shù)原理智能眼鏡realme真我全球首發(fā)聯(lián)發(fā)科天璣 8400 耐玩戰(zhàn)神共創(chuàng)計劃iQOO Z9 Turbo長續(xù)航版手機(jī)被曝電池加大到6400mAh,搭驍龍 8s Gen 3處理器普及放緩 銷量大跌:曝保時捷將重新評估電動汽車計劃來京東參與榮耀Magic7 RSR 保時捷設(shè)計預(yù)售 享365天只換不修國補(bǔ)期間電視迎來換機(jī)潮,最暢銷MiniLED品牌花落誰家?美團(tuán)旗下微信社群團(tuán)購業(yè)務(wù)“團(tuán)買買”宣布年底停運(yùn)消息稱微軟正與第三方廠商洽談,試圖合作推出Xbox游戲掌機(jī)設(shè)備在海外,要再造一個京東物流?消息稱蘋果正為AirPods開發(fā)多項健康功能,包括心率監(jiān)測和溫度感應(yīng)一加 Ace 5系列將搭載全新游戲助手:大幅提升游戲體驗東芝全部業(yè)務(wù)實現(xiàn)盈利,退市裁員重組后終于賺錢
  • 首頁 > 產(chǎn)經(jīng)新聞頻道 > 科技資訊

    天璣9300搭載首款硬件生成式AI引擎,強(qiáng)大AI性能帶來豐富生成式AI體驗

    2023年11月09日 17:08:40   來源:中文科技資訊

      最近,聯(lián)發(fā)科推出了旗艦級新款5G生成式AI移動芯片天璣9300,其頗具創(chuàng)新的全大核架構(gòu)設(shè)計加上新一代AI處理器APU,還有聯(lián)發(fā)科獨具特色的前沿技術(shù),一并為生成式AI應(yīng)用提供了卓越性能,進(jìn)一步展現(xiàn)了產(chǎn)生式AI豐富多彩的應(yīng)用體驗。此外,聯(lián)發(fā)科通過與業(yè)界眾多AI公司的深度合作,在手機(jī)端形成了豐富的AI生態(tài)。

      全新第七代AI處理器APU 790,為生成式AI而生

      隨著用戶對生成式AI應(yīng)用需求日益增長,端側(cè)生成式AI便捷、安全性等優(yōu)勢便凸顯出來。當(dāng)然,部署端側(cè)AI大語言模型需要強(qiáng)大的AI算力支撐。

      天璣9300搭載聯(lián)發(fā)科第七代AI處理器APU 790,為生成式AI而設(shè)計,擁有硬件級的生成式AI引擎,可以實現(xiàn)更加高速且安全的邊緣AI計算,深度適配Transformer模型進(jìn)行算子加速,速度是上一代的8倍。

      同時APU 790的性能和能效得到顯著提升,整數(shù)運(yùn)算和浮點運(yùn)算能力提升至前一代的2倍,蘇黎世ETHZv5.1 AI-Benchmark Mobile Soc跑分2109 分,AI性能成功霸榜,功耗更是降低了45%。在強(qiáng)大的AI性能支持下,1秒以內(nèi)即可生成圖片。天璣9300強(qiáng)悍的AI算力、創(chuàng)新的全大核CPU架構(gòu)和Immortalis-G720 GPU都為端側(cè)運(yùn)行生成式AI打下堅實的性能基礎(chǔ)。

      同時,基于億級參數(shù)大語言模型的特性,聯(lián)發(fā)科開發(fā)了混合精度 INT4 量化技術(shù),結(jié)合聯(lián)發(fā)科特有的內(nèi)存硬件壓縮技術(shù)NeuroPilot Compression,可以更高效地利用內(nèi)存帶寬,大幅減少AI大模型占用終端內(nèi)存,為端側(cè)運(yùn)行AI大語言模型突破手機(jī)內(nèi)存限制,助力更大參數(shù)模型在端側(cè)落地。

      基于以上,天璣9300首次在vivo旗艦手機(jī)端側(cè)落地70億參數(shù)AI大語言模型,處理速度可達(dá)20 Tokens每秒。不僅如此,聯(lián)發(fā)科突破了行業(yè)極限,已經(jīng)與vivo成功在端側(cè)運(yùn)行了130億參數(shù)的大語言模型。甚至,天璣9300已率先實現(xiàn)在移動芯片上成功運(yùn)行330億參數(shù)的AI大語言模型,領(lǐng)跑業(yè)界。

      天璣9300還支持多模態(tài)生成式AI大模型,打造出“文生詩”“文生圖”“文生趣圖”等豐富有趣的端側(cè)體驗。

      可見,天璣9300的AI算力和端側(cè)生成式AI能力已領(lǐng)先行業(yè),足以讓用戶隨時隨地AI創(chuàng)造力全飆。

      生成式AI模型端側(cè)技能擴(kuò)充,帶來全面、豐富的端側(cè)生成式AI體驗

      與云側(cè)生成式AI解決方案不同,由于硬件環(huán)境的差異,部署端側(cè)生成式AI也需要考慮手機(jī)內(nèi)存、存儲容量、負(fù)載上限等因素。為此,聯(lián)發(fā)科率先提出了先進(jìn)的解決方案。

      APU 790 支持生成式AI模型端側(cè)技能擴(kuò)充技術(shù)NeuroPilot Fusion,它可以基于基礎(chǔ)大模型持續(xù)在端側(cè)進(jìn)行低秩自適應(yīng)(LoRA,Low-Rank Adaptation)融合,在混合式AI的賦能下,可以基于1個基礎(chǔ)大模型,通過云端訓(xùn)練,在端側(cè)完成N個功能的融合,賦予基礎(chǔ)大模型更全面、更豐富的生成式AI應(yīng)用能力。

      比如基于AI模型端側(cè)技能擴(kuò)充技術(shù)的“圖生GIF動圖”功能,用戶可以根據(jù)一張照片更換不同的風(fēng)格甚至表情,玩出個人專屬風(fēng)格的表情包,秒變表情包小達(dá)人。

      AI開發(fā)平臺NeuroPilot加速端側(cè)生成式AI生態(tài)布局

      基于強(qiáng)大的AI算力和先進(jìn)的內(nèi)存硬件壓縮技術(shù)、AI模型端側(cè)技能擴(kuò)充等技術(shù),天璣9300的APU 790將端側(cè)生成式AI的速度和廣度提升到了全新的水平。同時,為加速生成式AI在端側(cè)部署和普及,聯(lián)發(fā)科也憑借其AI開發(fā)平臺NeuroPilot構(gòu)建了豐富的AI生態(tài),從底層硬件到工具鏈、模型中心以及開發(fā)生態(tài),助力生態(tài)快速、高效地部署端側(cè)生成式AI應(yīng)用。

      AI開發(fā)平臺NeuroPilot支持Android、Meta LIama 2、百度文心一言大模型、百川智能百川大模型等前沿主流AI大模型。

      更為重要的是,NeuroPilot擁有一套完整且先進(jìn)的工具鏈,除了NeuroPilot Compression低秩自適應(yīng)融合,還有Speculative Decoding推測解碼加速和模型優(yōu)化與轉(zhuǎn)化技術(shù)。

      聯(lián)發(fā)科的天璣開發(fā)者中心還可提供端側(cè)生成式AI落地一站式開發(fā)者資源,分享端側(cè)模型部署案例提升開發(fā)效率。目前已有20多個生成式AI合作伙伴加入生態(tài)共建。

      聯(lián)發(fā)科還攜手業(yè)界合同伙伴打造精彩的生成式AI應(yīng)用體驗。虹軟的生成式AI超級分辨率技術(shù)基于天璣9300 APU 邊緣計算能力,相比前代,性能可提升30%。在25倍放大的拍攝時,利用生成式AI超級分辨率技術(shù),可以拍出細(xì)節(jié)更真實的圖像效果。

      極感科技的生成式AI語意搜索技術(shù)也基于天璣9300 APU邊緣計算能力,對比前代,性能可提升260%。比如在手機(jī)的相冊中搜索照片,描述照片的內(nèi)容即可在毫秒內(nèi)精準(zhǔn)搜到對應(yīng)的照片。而且在斷網(wǎng)狀態(tài)下也能搜索,隱私也不會泄露。

    QQ圖片20231109125729.png

    QQ圖片20231109125729.png

      Morpho的視頻通話實時數(shù)字分身生成技術(shù),同樣基于天璣9300 APU邊緣計算能力,對比前代,性能提升26%。一般的虛擬人像生成器需手動選取容貌樣式花費時間。但基于視頻通話實時數(shù)字分身生成技術(shù),用戶操作容易,僅需打開攝像頭單幀圖片即可瞬間生成數(shù)字分身。

    QQ圖片20231109125729.png

      基于天璣9300 APU邊緣計算能力,慧鯉生成式AI防眩光技術(shù)性能可提升60%。在此技術(shù)加持下,無論是室外還是室內(nèi),在拍攝時如有眩光,只要輕松一暗即可消除眩光干擾。

    QQ圖片20231109125729.png

      可以看到,在AI端云融合的趨勢下,天璣9300在AI算力、生成式AI用戶體驗和生態(tài)方面展現(xiàn)出全面的優(yōu)勢,為新一代旗艦級端側(cè)生成式AI體驗樹立了新的標(biāo)桿,強(qiáng)大生成式AI就要用天璣。

      同時,以聯(lián)發(fā)科為首的一些生成式AI的先驅(qū)者正在通過持續(xù)的技術(shù)創(chuàng)新和生態(tài)布局積極推動混合式AI計算的發(fā)展,為端側(cè)生成式AI部署找到了獨特且高效的道路,全力推動生成式AI在端側(cè)的普及化,讓更多用戶享受到個性化的端側(cè)AI體驗,構(gòu)建全情景智能新體驗,讓科技的好處惠及大眾。

      文章內(nèi)容僅供閱讀,不構(gòu)成投資建議,請謹(jǐn)慎對待。投資者據(jù)此操作,風(fēng)險自擔(dān)。

    [No. S004]
    分享到微信

    即時

    新聞

    明火炊具市場:三季度健康屬性貫穿全類目

    奧維云網(wǎng)(AVC)推總數(shù)據(jù)顯示,2024年1-9月明火炊具線上零售額94.2億元,同比增加3.1%,其中抖音渠道表現(xiàn)優(yōu)異,同比有14%的漲幅,傳統(tǒng)電商略有下滑,同比降低2.3%。

    企業(yè)IT

    重慶創(chuàng)新公積金應(yīng)用,“區(qū)塊鏈+政務(wù)服務(wù)”顯成效

    “以前都要去窗口辦,一套流程下來都要半個月了,現(xiàn)在方便多了!”打開“重慶公積金”微信小程序,按照提示流程提交相關(guān)材料,僅幾秒鐘,重慶市民曾某的賬戶就打進(jìn)了21600元。

    3C消費

    華碩ProArt創(chuàng)藝27 Pro PA279CRV顯示器,高能實力,創(chuàng)

    華碩ProArt創(chuàng)藝27 Pro PA279CRV顯示器,憑借其優(yōu)秀的性能配置和精準(zhǔn)的色彩呈現(xiàn)能力,為您的創(chuàng)作工作帶來實質(zhì)性的幫助,雙十一期間低至2799元,性價比很高,簡直是創(chuàng)作者們的首選。