Arm將Kleidi 擴(kuò)展到汽車(chē)市場(chǎng) 加速提升AI應(yīng)用的性能

　　Arm 控股有限公司(納斯達(dá)克股票代碼：ARM，以下簡(jiǎn)稱(chēng) “Arm”)今日宣布將Arm® Kleidi技術(shù)擴(kuò)展到汽車(chē)市場(chǎng)。Arm Kleidi是一項(xiàng)廣泛的軟件及軟件社區(qū)參與計(jì)劃，旨在加速人工智能 (AI) 的發(fā)展。通過(guò) Arm Kleidi，合作伙伴將能夠充分挖掘下一代特定應(yīng)用 AI 模型在汽車(chē)中的優(yōu)勢(shì)，并加快其部署速度。

　　Arm 汽車(chē)事業(yè)部產(chǎn)品和解決方案副總裁 Suraj Gajendra 表示：“在汽車(chē)行業(yè)中，AI 通常被稱(chēng)為自動(dòng)駕駛汽車(chē)的核心——聽(tīng)起來(lái)頗具未來(lái)感，距離其大規(guī)模量產(chǎn)上路還有數(shù)年時(shí)間。然而，實(shí)際的情況是，當(dāng)下新車(chē)型中的很多應(yīng)用和功能，從自適應(yīng)巡航控制、個(gè)性化車(chē)載信息娛樂(lè)系統(tǒng)到駕駛員和乘客監(jiān)控系統(tǒng)，都已經(jīng)在使用 AI 技術(shù)，并且這些特定應(yīng)用的模型和工作負(fù)載已在 Arm 平臺(tái)上高效運(yùn)行。這歸功于 Arm 計(jì)算平臺(tái)卓越的靈活性、性能、能效和可擴(kuò)展性，使其成為整個(gè)汽車(chē)行業(yè)中開(kāi)發(fā)者的首選平臺(tái)。”

　　然而，隨著這些汽車(chē)應(yīng)用與功能日益精進(jìn)，對(duì)更多的 AI 功能與日益復(fù)雜的工作負(fù)載的需求不斷提高，汽車(chē)行業(yè)正面臨著一系列獨(dú)特的挑戰(zhàn)，包括：

　　· 相較于其他行業(yè)，汽車(chē)行業(yè)擁有龐大而復(fù)雜的軟件系統(tǒng)，使得開(kāi)發(fā)環(huán)境極為復(fù)雜。

　　· 需要一個(gè)強(qiáng)大的從云端到車(chē)端的軟件開(kāi)發(fā)和驗(yàn)證基礎(chǔ)設(shè)施，以便將云端開(kāi)發(fā)的應(yīng)用無(wú)縫部署到汽車(chē)中。

　　· 軟件必須符合嚴(yán)格的汽車(chē)功能安全和信息安全方面的行業(yè)標(biāo)準(zhǔn)和法規(guī)。

　　· 汽車(chē)的使用周期較長(zhǎng)，這意味著軟件必須具備升級(jí)能力，以適應(yīng)未來(lái)不斷新增的功能和更新(類(lèi)似于在最新軟件版本發(fā)布時(shí)對(duì)智能手機(jī)進(jìn)行同步更新，但汽車(chē)的產(chǎn)品周期要更長(zhǎng))。

　　Arm 通過(guò)領(lǐng)先的汽車(chē)增強(qiáng)型 (AE) 技術(shù)和在汽車(chē)生態(tài)系統(tǒng)中的合作，應(yīng)對(duì)這些獨(dú)特的挑戰(zhàn)。這些合作涵蓋了虛擬平臺(tái)和基于標(biāo)準(zhǔn)的軟件解決方案，通過(guò)面向嵌入式邊緣側(cè)的可擴(kuò)展開(kāi)放架構(gòu) (SOAFEE) 來(lái)加速汽車(chē)開(kāi)發(fā)周期。所有這些解決方案都為開(kāi)發(fā)人員提供了工具，使他們能夠通過(guò)應(yīng)用廣泛的Arm計(jì)算平臺(tái)無(wú)縫獲取更高的性能，并加快其產(chǎn)品的上市時(shí)間。

　　利用 Arm Kleidi 實(shí)現(xiàn)性能自動(dòng)優(yōu)化

　　Arm Kleidi 于 2024 年推出，旨在為Arm CPU 上運(yùn)行的 AI 推理工作負(fù)載提供軟件性能優(yōu)化，開(kāi)發(fā)者無(wú)需進(jìn)行任何額外的工作，目前該軟件庫(kù)已應(yīng)用于移動(dòng)端、云和數(shù)據(jù)中心等關(guān)鍵領(lǐng)域，包括 Kleidi 已被集成到 ExecuTorch、Llama.cpp、MediaPipe 和 PyTorch 等熱門(mén) AI 框架的最新版本中，開(kāi)發(fā)者只需開(kāi)始構(gòu)建應(yīng)用程序，即可在基于 Arm 架構(gòu)的平臺(tái)上自動(dòng)獲取性能的顯著提升。

　　Kleidi的性能優(yōu)化特性已引入汽車(chē)市場(chǎng)，領(lǐng)先的科技公司已經(jīng)在他們的汽車(chē)軟件中體驗(yàn)到了一系列新應(yīng)用的性能提升。從車(chē)載聊天機(jī)器人、個(gè)性化駕駛員建議，到圖像和運(yùn)動(dòng)增強(qiáng)以輔助用戶(hù)、診斷和解決問(wèn)題，Kleidi庫(kù)與關(guān)鍵的開(kāi)發(fā)者框架的集成正在加速AI應(yīng)用的開(kāi)發(fā)，為用戶(hù)提供更快、更高效的車(chē)載體驗(yàn)。

　　· AWS Automotive將車(chē)載聊天機(jī)器人的響應(yīng)速度提高了 10 倍

　　利用 Arm 與 Corellium 聯(lián)合開(kāi)發(fā)的虛擬平臺(tái)，亞馬遜云科技 (AWS) 為軟件定義汽車(chē) (SDV) 打造了一款全新的概念驗(yàn)證 (proof-of-concept) AI 聊天機(jī)器人，允許駕駛員直接與汽車(chē)進(jìn)行互動(dòng)，提出問(wèn)題或詢(xún)問(wèn)儀表盤(pán)警報(bào)，而無(wú)需翻閱汽車(chē)用戶(hù)手冊(cè)。借助集成了 KleidiAI 的最新版 Llama.cpp 開(kāi)發(fā)聊天機(jī)器人，AWS 實(shí)現(xiàn)了其聊天機(jī)器人性能的顯著提升，響應(yīng)時(shí)間縮短至一到三秒，性能提升達(dá) 10 倍。由于開(kāi)發(fā)者無(wú)需在底層軟件優(yōu)化花費(fèi)心力，KleidiAI 為聊天機(jī)器人的開(kāi)發(fā)節(jié)省了六周時(shí)間。

　　· VicOne 加快了對(duì)汽車(chē)網(wǎng)絡(luò)安全威脅的應(yīng)對(duì)速度

　　VicOne 面向 SDV 的 xCarbon 車(chē)載解決方案能使車(chē)輛學(xué)習(xí)和識(shí)別網(wǎng)絡(luò)安全威脅，減少對(duì)云端技術(shù)的依賴(lài)，進(jìn)而降低成本并更好地保護(hù)數(shù)據(jù)安全。借助 TinyLlama-1 1B 模型，VicOne 解決方案的性能實(shí)現(xiàn)了顯著提升，預(yù)填充提示速度翻倍，詞元生成速度提升了 60% 以上，從而縮短了車(chē)輛檢測(cè)網(wǎng)絡(luò)安全威脅的響應(yīng)時(shí)間。Kleidi 實(shí)現(xiàn)的性能優(yōu)化使 VicOne 能夠在無(wú)需額外開(kāi)發(fā)工作的情況下，為用戶(hù)帶來(lái)更安全、更可靠的駕駛體驗(yàn)。

　　· Sonatus 專(zhuān)為 OEM 打造的AI Technician Builder平臺(tái)，能夠無(wú)縫運(yùn)行于基于 Arm 架構(gòu)的 AWS Graviton CPU

　　Sonatus 的 AI Technician Builder 是一個(gè)從云到邊緣側(cè)的平臺(tái)，可幫助OEM 廠(chǎng)商創(chuàng)建客戶(hù)服務(wù)代理，以迅速響應(yīng)用戶(hù)對(duì)汽車(chē)的問(wèn)詢(xún)，進(jìn)而改善駕駛體驗(yàn)。該平臺(tái)最初運(yùn)行于云端環(huán)境的 GPU，而通過(guò)引入Kleidi 優(yōu)化框架，它現(xiàn)可輕松移植到搭載 Arm 架構(gòu)的 AWS Graviton EC2 云實(shí)例上運(yùn)行。這不僅確保了用戶(hù)所需的性?xún)r(jià)比和響應(yīng)時(shí)間，還為在基于 Arm 架構(gòu)的汽車(chē)計(jì)算平臺(tái)上運(yùn)行邊緣 AI 工作負(fù)載鋪平道路。

　　在 Arm 平臺(tái)上推動(dòng)汽車(chē)及其他領(lǐng)域的 AI 創(chuàng)新

　　如今，全球 94% 的車(chē)廠(chǎng)都在其最新車(chē)型中使用了 Arm 技術(shù)。Arm 計(jì)算平臺(tái)在汽車(chē)領(lǐng)域的廣泛應(yīng)用，表明其在推動(dòng)關(guān)鍵車(chē)載 AI 應(yīng)用實(shí)現(xiàn)顯著性能優(yōu)化方面具備得天獨(dú)厚的優(yōu)勢(shì)，AWS、VicOne 和 Sonatus 的成功實(shí)踐便是很好的例證。將 Kleidi 集成到現(xiàn)有的軟件堆棧中，推動(dòng)了更高效、更先進(jìn)的 AI 應(yīng)用場(chǎng)景的實(shí)現(xiàn)，并為那些分秒必爭(zhēng)的關(guān)鍵汽車(chē)應(yīng)用提供了更快的響應(yīng)速遞。 這賦予了開(kāi)發(fā)者超能力，使他們能夠在 Arm CPU 上優(yōu)化并運(yùn)行新的特定應(yīng)用的 AI 模型和工作負(fù)載，而無(wú)需額外的成本或開(kāi)發(fā)工作量。

　　通過(guò)將 Kleidi 擴(kuò)展到汽車(chē)領(lǐng)域，Arm 持續(xù)兌現(xiàn)其承諾——為包括從云到邊緣側(cè)的各個(gè) Arm 應(yīng)用市場(chǎng)的 AI 開(kāi)發(fā)者提供無(wú)縫的性能加速，助其打造有吸引力的全新用戶(hù)體驗(yàn)，不斷挖掘 AI 變革的潛力。