高通推出AI Hub，方便開發(fā)者在設(shè)備上訪問和下載AI模型

　　2月27日 消息:隨著在個(gè)人設(shè)備上的設(shè)備 AI 變得更加普及。在世界移動(dòng)通信大會(huì)上，高通推出了一款工具AI Hub，簡(jiǎn)化了開發(fā)人員如何將 AI 模型直接下載到測(cè)試設(shè)備上的過程。

　　　新的高通 AI Hub 包含了一個(gè)庫，其中包含超過75個(gè)生成式 AI 模型，開發(fā)人員可以輕松地將這些模型下載到搭載高通芯片的設(shè)備上，同時(shí)隨著時(shí)間的推移不斷添加新的模型。該庫包含了一些行業(yè)中最受歡迎的模型，如 Whisper、OpenAI 的自動(dòng)語音識(shí)別(ASR)系統(tǒng)以及 Stable Diffusion，Stability AI 的文本到圖像模型。高通 AI Hub 會(huì)自動(dòng)對(duì)模型進(jìn)行硬件優(yōu)化，以實(shí)現(xiàn)卓越的設(shè)備 AI 性能。

　　此外，這些模型經(jīng)過優(yōu)化，充分利用了高通 AI 引擎中的所有內(nèi)核，包括 NPU、CPU 和 GPU，從而實(shí)現(xiàn)更好的能效、更低的內(nèi)存利用率，以及高達(dá)四倍的推斷速度，根據(jù)公司周一發(fā)布的消息。放棄與云端的任何摩擦，設(shè)備 AI 的優(yōu)勢(shì)之一是提高了整體應(yīng)用性能的同時(shí)增加了隱私保護(hù)，這在創(chuàng)建使用具有機(jī)密或?qū)Ｓ袛?shù)據(jù)的數(shù)據(jù)庫的模型時(shí)尤為重要。

　　“高通 AI Hub 為開發(fā)人員提供了一個(gè)全面的 AI 模型庫，快速、輕松地將預(yù)優(yōu)化的 AI 模型集成到他們的應(yīng)用程序中，從而實(shí)現(xiàn)更快、更可靠和更私密的用戶體驗(yàn)，” 高通技術(shù)規(guī)劃和邊緣解決方案高級(jí)副總裁 Durga Malladi 表示。

　　高通表示，優(yōu)化的模型已經(jīng)可以在高通 AI Hub、GitHub 和 Hugging Face 上獲得。開發(fā)人員可以從今天開始申請(qǐng)?jiān)L問。