近日,在2023英特爾網(wǎng)絡(luò)與邊緣產(chǎn)業(yè)高層峰會上,英特爾公司高級副總裁兼網(wǎng)絡(luò)與邊緣事業(yè)部總經(jīng)理Sachin Katti和英特爾中國區(qū)網(wǎng)絡(luò)與邊緣事業(yè)部首席技術(shù)官、英特爾高級首席AI工程師張宇博士接受了通信世界全媒體記者的采訪,分享了英特爾在邊緣計算和大模型方面的戰(zhàn)略和產(chǎn)品,以及如何推動邊緣智能和大模型在行業(yè)中的落地。
“英特爾的邊緣計算策略是提供大量的硬件選擇,比如說CPU、加速器、GPU等,達到一流的性能。同時在軟件方面,英特爾希望在應(yīng)用的時候可以降低復(fù)雜性。”Sachin Katti表示:“我們要幫助客戶,為他們提供一些選擇,同時通過我們的軟件解決方案可以使他們的運營更加簡化、更加精簡,而且我們要跟整個的生態(tài)系統(tǒng)的合作伙伴一起合作。”
隨著大模型在云端訓(xùn)練的成熟,AI就會快速向邊緣進行遷移。Sachin Katti說:“我們看到AI正在快速地遷移到云端,在這當中邊緣也會發(fā)揮更加重要的作用來推動AI的部署。英特爾有很多邊緣設(shè)備都是在行業(yè)落地的。所以我們要做的是通過所提供的選擇,讓用戶可以更好的使用AI,把AI成果運用在日常運營當中。”
英特爾認為大模型是AI未來的關(guān)鍵,它可以幫助解決一些人類面臨的重大挑戰(zhàn),比如醫(yī)療、教育、環(huán)境等。“我們相信大模型可以讓AI更加通用,更加普及,更加有價值。我們也相信大模型需要和行業(yè)結(jié)合起來,要在行業(yè)里去做跟這個行業(yè)相關(guān)的,有針對性的大模型去解決行業(yè)里有針對性的一些問題。”Sachin Katti表示。
為了支持大模型的訓(xùn)練和推理,英特爾提供了一系列的硬件和軟件解決方案。在硬件方面,英特爾發(fā)布了專門面向大模型訓(xùn)練的加速器Gaudi 2,它在第三方公開的運用GPT 3這樣一個大模型的評測當中表現(xiàn)出了非常好的性能。同時,英特爾也提供了通用的CPU處理器以及專用的獨立顯卡等加速器來滿足人工智能模型推理對算力的要求。
在軟件方面,英特爾推出了OpenVINO的軟件工具,可以實現(xiàn)模型在不同平臺上的遷移和部署。在最新的OpenVINO版本里,英特爾增加了對大模型的支持,比如說Stable Diffusion這樣一個文生圖的模型,已經(jīng)開始在一些行業(yè)里進行使用了。
除了硬件和軟件之外,英特爾還提供了開放標準的網(wǎng)絡(luò)連接技術(shù),來把大量的GPU和加速器連接起來,讓大模型的訓(xùn)練更加方便。英特爾還推出了IPU(Infrastructure Processing Unit),它能夠給用戶提供一個可靠、高速、低延遲的數(shù)據(jù)傳輸服務(wù)。
文章內(nèi)容僅供閱讀,不構(gòu)成投資建議,請謹慎對待。投資者據(jù)此操作,風險自擔。
2024年的Adobe MAX 2024發(fā)布會上,Adobe推出了最新版本的Adobe Creative Cloud。
奧維云網(wǎng)(AVC)推總數(shù)據(jù)顯示,2024年1-9月明火炊具線上零售額94.2億元,同比增加3.1%,其中抖音渠道表現(xiàn)優(yōu)異,同比有14%的漲幅,傳統(tǒng)電商略有下滑,同比降低2.3%。
“以前都要去窗口辦,一套流程下來都要半個月了,現(xiàn)在方便多了!”打開“重慶公積金”微信小程序,按照提示流程提交相關(guān)材料,僅幾秒鐘,重慶市民曾某的賬戶就打進了21600元。
華碩ProArt創(chuàng)藝27 Pro PA279CRV顯示器,憑借其優(yōu)秀的性能配置和精準的色彩呈現(xiàn)能力,為您的創(chuàng)作工作帶來實質(zhì)性的幫助,雙十一期間低至2799元,性價比很高,簡直是創(chuàng)作者們的首選。
9月14日,2024全球工業(yè)互聯(lián)網(wǎng)大會——工業(yè)互聯(lián)網(wǎng)標識解析專題論壇在沈陽成功舉辦。