對話七大專家，挖掘"硬"漢英特爾的"軟"實(shí)力，數(shù)據(jù)中心與AI世界需要軟硬融合

　　身為全球半導(dǎo)體知名"硬漢"的英特爾，為什么越來越開放展現(xiàn)自己的"軟實(shí)力"?

　　問芯Voice 日前深入英特爾位于上海的亞太研發(fā)中心，與七位專家對話，一窺硬體大廠英特爾怎么看終端側(cè) AI 的未來商機(jī)，以及流淌在血液中的強(qiáng)大軟件基因。

　　英特爾亞太研發(fā)中心總經(jīng)理盧炬表示，研發(fā)中心的前身是 1993 年在上海成立的英特爾中國架構(gòu)開發(fā)實(shí)驗(yàn)室，現(xiàn)在亞太研發(fā)中心已經(jīng)成長至超過 2000 名員工的規(guī)模，目標(biāo)是"根植中國、放眼世界"。

　　(圖：DeepTech)

　　英特爾目前在全球有超過 1.5 萬名軟件工程師，還有超過 1200 萬名開發(fā)者的生態(tài)系統(tǒng)，這些建構(gòu)起英特爾不為人知的強(qiáng)大"軟實(shí)力"，也是面向未來多元化計(jì)算的戰(zhàn)略武器。

　　英特爾的創(chuàng)辦人之一 Gordon Moore 提出全球半導(dǎo)體業(yè)奉行的"摩爾定律"，從此該行業(yè)圍繞者每兩年晶體管增加一倍的概念運(yùn)行至今，透過各種"續(xù)命"方式，摩爾定律雖放緩，但仍是整個(gè)半導(dǎo)體行業(yè)運(yùn)行的主旋律。

　　不過，英特爾在看到"數(shù)據(jù)"對于未來世界的改變力后，開始將公司的定位從"晶體管"為中心，轉(zhuǎn)變成以"數(shù)據(jù)"為中心，這對于整個(gè)行業(yè)是很重要的訊息，更開啟計(jì)算架構(gòu)更從傳統(tǒng)的 CPU 朝 XPU 擴(kuò)展的路程。

　　從"云"而下，終端側(cè) AI 是未來關(guān)鍵趨勢

　　無疑地，人工智能是當(dāng)年最熱門的議題，從早年的云計(jì)算，逐漸演變成終端側(cè) AI 的商機(jī)爆發(fā)，這是英特爾非常看重的一個(gè)產(chǎn)業(yè)趨勢。

　　英特爾視覺計(jì)算軟件合作部亞洲區(qū)總經(jīng)理高源分析，過去 AI 議題很熱，尤其是 AI 訓(xùn)練都是集中發(fā)生在云端的，隨著 AI 的普及，AI 開始向終端側(cè)滲透，包括電腦、手機(jī)、無人機(jī)、機(jī)器人等設(shè)備。

　　英特爾在終端側(cè) AI 發(fā)展上，分析四大驅(qū)動力：

　　一、低延時(shí)要求：舉例而言，無人機(jī)需要隨時(shí)隨地采集視覺信息，并能非常快速做出反應(yīng)，我們不可能把視覺信息傳到云端，再從云端做 AI 應(yīng)用，這樣太慢了，需要在終端 AI 解決。

　　二、無網(wǎng)絡(luò)環(huán)境下也可以工作：像是機(jī)器人巡檢，不可能路經(jīng)一個(gè)沒有網(wǎng)絡(luò)或是網(wǎng)絡(luò)連接不好的地方時(shí)，就無法對周圍信息做出判斷。

　　三、隱私保護(hù)：比如家庭的私人照片放到云端去后，要如何實(shí)現(xiàn)隱私保護(hù)?這時(shí)就可以交給終端側(cè)做 AI 來執(zhí)行。

　　四、節(jié)省服務(wù)器和帶寬成本：軟件服務(wù)商會希望減少服務(wù)器和帶寬成本，比如視頻應(yīng)用現(xiàn)在都是 1080p、4K，這些東西通過網(wǎng)絡(luò)傳到后端，面臨帶寬和后端存儲的壓力，在后端應(yīng)用又需要很多的服務(wù)器硬件，這個(gè)成本壓力是比較大的。

　　再者，后端的設(shè)備都是由軟件服務(wù)商自己投資，如果前端設(shè)備已經(jīng)比較強(qiáng)了，那為什么不用呢?很多軟件開發(fā)商希望把后端的負(fù)載可以轉(zhuǎn)移到前端去，哪怕節(jié)省 10%、20%，對他們來說都是很大一筆資金。

　　上述的四大驅(qū)動力讓我們看到終端側(cè) AI 在蓬勃發(fā)展，滲透到各種使用場景中，包括是噪音抑制、人臉識別、手勢識別、語法矯正等。

　　再者，高源也進(jìn)一步分析，軟件開發(fā)商在考慮選擇 AI 實(shí)施平臺的考量點(diǎn)，主要有功耗、性能、延時(shí)，以及是否有足夠的設(shè)備安裝量、有無好的軟件工具可以去使用等。

　　(圖：DeepTech)

　　針對這些考量點(diǎn)，英特爾也提供三類不同架構(gòu)給不同的終端側(cè) AI 應(yīng)用，包括 GPU、CPU 以、低功耗 AI 加速器。

　　一，GPU 平臺：

　　特點(diǎn)是高度并行化，因此適合一些很高性能的 AI 計(jì)算，同時(shí) GPU 另外一個(gè)特點(diǎn)是數(shù)據(jù)處理帶寬很大，但是它的延時(shí)比較高，也就是說讓 GPU 跑起來的動作延時(shí)是比較大的，因此適合于計(jì)算密集，大量的視頻分析這類的操作。

　　可能很多人不知道，其實(shí)英特爾是全球最大的 GPU 供應(yīng)商，這就好比一提到顯卡，大家就直接想到獨(dú)立顯卡，但實(shí)際上獨(dú)立顯卡的份額是很低的。

　　調(diào)研機(jī)構(gòu)統(tǒng)計(jì)，Nvidia 的獨(dú)立顯卡在全球份為約 16%，而英特爾在全球集成顯卡市場的份額高達(dá) 67%。

　　再者，集成顯卡和 CPU 是共享系統(tǒng)內(nèi)存的，所以在很多 AI 應(yīng)用當(dāng)中，圖形圖像類的應(yīng)用，是不需要在 CPU、GPU 之間來回拷貝內(nèi)存的。

　　二，CPU 平臺：

　　最大特點(diǎn)是無處不在。站在軟件開發(fā)商的角度而言，如果做一個(gè)終端側(cè)的應(yīng)用只是為獨(dú)立顯卡設(shè)計(jì)，那邊只有 16% 的市場份額，反觀 CPU，幾乎是放在哪兒都可以跑的。

　　CPU 另一個(gè)特點(diǎn)是軟硬件非常統(tǒng)一，無論是英特爾或是 Nvidia 都是 X86 架構(gòu)，OpenVINO 在 X86 上都可以跑。

　　但是 GPU 軟件開發(fā)平臺就比較分散了，因?yàn)?GPU 是三家分治的。

　　Nvidia 開發(fā)需要用 CUDA，英特爾的需要用英特爾的工具，為 AMD 開發(fā)需要 AMD 的軟件工具，因?yàn)?GPU 是三家分治的，這對軟件開發(fā)商來說就會比較頭痛。

　　三，低功耗 AI 加速器：

　　英特爾專門設(shè)計(jì)的低功耗 AI 加速器 GNA 不是一個(gè)獨(dú)立的硬件，它是專門設(shè)計(jì)的電路，集成在 CPU 處理器當(dāng)中，不需要做額外添加硬件。

　　GNA 的特點(diǎn)是功耗小于 100mw，所以可以一直開著不需要關(guān)，這特別適合語音應(yīng)用，比如說語音喚醒，因?yàn)殡娔X需要長期去聽聲音，而 GNA 的功耗特別低，這就非常適合。

　　英特爾雖然有不同的硬件架構(gòu)，不同的硬件平臺，但在軟件編程工具上是統(tǒng)一 OpenVINO 接口，方便在不同架構(gòu)之間做一些嘗試和遷移。

　　在軟件工具上，除了有 MKL，也對接市場上主流的 AI 框架例如 TensorFlow、Caffe 等，以全平臺來幫助業(yè)內(nèi)終端側(cè) AI 的發(fā)展。

　　(圖：DeepTech)

　　以"數(shù)據(jù)"為中心的時(shí)代啟程

　　隨著英特爾不斷深化以數(shù)據(jù)為中心的轉(zhuǎn)型，身為科技界資深硬漢的英特爾，也開始強(qiáng)調(diào)"軟"實(shí)力。

　　其實(shí)，軟件早已經(jīng)是英特爾非常重要的戰(zhàn)略資產(chǎn)，也證明了對于提升硬件架構(gòu)每一個(gè)數(shù)量級的性能，軟件能帶來超過兩倍的性能提升。

　　盧炬表示，隨著人工智能、數(shù)據(jù)中心、物聯(lián)網(wǎng)、下一代網(wǎng)絡(luò)、自動駕駛等工作負(fù)載不斷涌現(xiàn)，開始需要在 CPU 核心能力的基礎(chǔ)上，構(gòu)建 GPU、FPGA、AI 芯片、視覺處理芯片等不同類型的計(jì)算架構(gòu)，來滿足工作負(fù)載的需求和增加。

　　從以 PC 為中心到以數(shù)據(jù)為中心的轉(zhuǎn)型過程中，潛在市場規(guī)模已經(jīng)擴(kuò)大到約 3000 億美元，目標(biāo)的客戶更多，需要解決的問題更多，也代表著需要更強(qiáng)大的朋友圈。

　　朋友圈也意味著"生態(tài)系統(tǒng)"，英特爾在這塊是長期的深度耕耘，因?yàn)檎麄�(gè)計(jì)算架構(gòu)不是原來的單一的 CPU 架構(gòu)，從 CPU 到 XPU，軟件在其中起到很關(guān)鍵的橋梁作用。

　　熱情擁抱開源

　　面對"開源"這個(gè)熱門議題，英特爾也強(qiáng)調(diào)，已經(jīng)擁抱開源軟件有近 20 年的時(shí)間，內(nèi)部更成立一個(gè)團(tuán)隊(duì)叫"開源軟件技術(shù)中心"。

　　英特爾亞太研發(fā)中心開源首席科學(xué)家馮曉焰表示，在 2005 年初時(shí)，英特爾當(dāng)時(shí)的 CEO 做過一個(gè)承諾，就是英特爾推出的所有驅(qū)動軟件，在提供 Windows 解決方案的同時(shí)，也要提供 Linux 解決方案。

　　多年來，英特爾的軟件產(chǎn)品組合更是不斷增加，開源生態(tài)系統(tǒng)項(xiàng)目也越來越廣泛，

　　面對以數(shù)據(jù)為中心的時(shí)代迎面而來，這樣的長期布局與積累是正確的決定。

　　馮曉焰解釋，英特爾在開源方面的貢獻(xiàn)是歷史悠久，同時(shí)也是各類開源社區(qū)的一員，是 Linux Kernel、Chromium OS、OpenStack 等開源社區(qū)項(xiàng)目的重要貢獻(xiàn)者，也是 Linux 基金會、Apache 基金會、Eclipse 基金會、開源軟件推進(jìn)聯(lián)盟的主要支持者。

　　從英特爾開始做開源軟件，Linux 內(nèi)核、Kernel/KVM 是建立各種云服務(wù)最重要的基礎(chǔ)軟件，英特爾在社區(qū)里的代碼貢獻(xiàn)量常年來是高居第一。

　　在開源軟件的投入方面，馮曉焰進(jìn)一步舉例，英特爾推動了 OpenStack 國內(nèi)的社區(qū)的活躍和廣泛應(yīng)用，更有專門做 OpenStack 的團(tuán)隊(duì)，并建立了專門針對云服務(wù)提供商 CSP 提供支持的團(tuán)隊(duì)。

　　英特爾在開源軟件領(lǐng)域如此使力，目的是希望整個(gè)基于開源軟件的解決方案，能夠在英特爾平臺上運(yùn)行得更好，有最好的用戶體驗(yàn)。

　　(圖：DeepTech)

　　"沉默數(shù)據(jù)"需要 AI 來挖掘價(jià)值

　　身為英特爾架構(gòu)、圖形與軟件部(IAGS)資深軟件架構(gòu)師黃晟盛也分享了他的觀察。

　　黃晟盛指出，全球有超過 50% 的數(shù)據(jù)是在過去兩年中產(chǎn)生，但其中只有不到 2% 的數(shù)據(jù)是經(jīng)過分析，這代表著大部分都是屬于"沉默數(shù)據(jù)"。

　　其中原因之一，是人工智能從實(shí)驗(yàn)室到真正生產(chǎn)線的過程當(dāng)中，缺少統(tǒng)一的數(shù)據(jù)分析和人工智能技術(shù)工具。

　　黃晟盛進(jìn)一步分析，現(xiàn)在許多人工智能應(yīng)用面臨的挑戰(zhàn)包括算法的復(fù)雜性、數(shù)據(jù)處理的復(fù)雜性、成本、是否可擴(kuò)展、專有接口、數(shù)據(jù)隱私等。

　　英特爾也舉了基于 Spark 開發(fā)和開源的兩個(gè)項(xiàng)目：BigDL 和 AnlyticsZoo，作為例子。

　　黃晟盛指出，京東在采用英特爾的方案后，目標(biāo)檢測和圖片特征提取方面，相較于原來的方案有 3.83 倍的提升，美的工業(yè)視覺檢測云平臺的預(yù)處理性能提高 4 倍，推理性能提高 16 倍。

　　英特爾更在今年 6 月在中國設(shè)立大數(shù)據(jù)分析和人工智能創(chuàng)新院，目的就是面向開源社區(qū)、學(xué)術(shù)界、合作伙伴、終端用戶等，持續(xù)推進(jìn)大數(shù)據(jù)和人工智能全球生態(tài)圈的共建。

　　英特爾亞太研發(fā)中心機(jī)器學(xué)習(xí)首席工程師林曉東則是笑稱自己是"碼農(nóng)的碼農(nóng)"，很多人用編譯器、調(diào)試器、調(diào)優(yōu)器、編程語言和框架等工具開發(fā)，而他的任務(wù)就是優(yōu)化這些編譯器、框架、各種庫等的效率，而當(dāng)前最重要的是針對 AI、深度學(xué)習(xí)的開發(fā)者。

　　林曉東表示，英特爾做軟件的核心意義在于 enabling 和 optimization，終極目標(biāo)是讓所有硬件的每一個(gè)晶體管都能派上用場且能力盡情釋放。

　　他進(jìn)一步解釋，這個(gè)團(tuán)隊(duì)剛開始是世界的軟件到中國做本地化，現(xiàn)在會根據(jù)中國的具體需求，來創(chuàng)造軟件并服務(wù)全球。

　　他舉了一個(gè)實(shí)際的例子。從 Broadwell 到 Skylake，軟件與硬件結(jié)合提高機(jī)器學(xué)習(xí)的性能 277 倍，再者，從 Skylake 到 Cascade Lake 性能增長 28 倍，其中通過硬件提升了 4 倍左右，其他都是由軟件優(yōu)化帶來的，這當(dāng)中就是包含英特爾與中國客戶在交流的過程中，理解當(dāng)中的工作負(fù)載需求，而做出的一些特殊的優(yōu)化。

　　再者，英特爾也持續(xù)提供簡便且可擴(kuò)展的工具，像是 oneAPI 將簡化并統(tǒng)一了跨 CPU、GPU、FPGA、AI 芯片和其它加速器等不同架構(gòu)之間的編程。

　　還有 OpenVINO 工具包，實(shí)現(xiàn)了高性能計(jì)算機(jī)視覺和深度學(xué)習(xí)視覺應(yīng)用的快速開發(fā)。

　　英特爾也觀察到傳統(tǒng)產(chǎn)業(yè)對于人工智能的需求。

　　林曉東指出，除了服務(wù)大客戶以外，也觀察到很多傳統(tǒng)企業(yè)遇到挑戰(zhàn)，他們有數(shù)據(jù)，也知道人工智能和深度學(xué)習(xí)能幫助解決問題，但卻找不到相應(yīng)人才，這時(shí)候，英特爾的本地團(tuán)隊(duì)就會對這些中國企業(yè)提供支援和幫助。

　　英特爾中國區(qū)云計(jì)算軟件性能優(yōu)化團(tuán)隊(duì)總監(jiān)李宏分享，針對客戶的工作負(fù)載進(jìn)行優(yōu)化的能力，幫助客戶和合作伙伴加速創(chuàng)建應(yīng)用并推向市場，是公司一個(gè)很大的任務(wù)。

　　李宏表示，性能與優(yōu)化，貫穿于計(jì)算機(jī)技術(shù)發(fā)展的各個(gè)歷史時(shí)期。英特爾在合作伙伴和軟件方面的投入是長期，與合作伙伴一同做項(xiàng)目、做工程，也幫助對方培養(yǎng)人才，估計(jì)今年我們和中國區(qū)的合作伙伴已針對約 70 個(gè)不同應(yīng)用程序進(jìn)行了優(yōu)化，年底有望到 80 個(gè)，涵蓋人工智能、搜索引擎、媒體處理、存儲等，其中超過一半的項(xiàng)目和 AI 相關(guān)。

　　英特爾也長期投入高校合作，培養(yǎng)未來的創(chuàng)新人才。亞太研發(fā)中心高校合作經(jīng)理顏歷表示，英特爾對于做教育一直非常有激情，因?yàn)橛⑻貭柕暮诵幕�因就�?quot;創(chuàng)新"，而教育是培養(yǎng)創(chuàng)新人才的利器。