華人初創(chuàng)公司耐能在臺(tái)北電腦展發(fā)布筆記本NPU 新品

　　據(jù)IT之家報(bào)道，人工智能芯片初創(chuàng)公司耐能(Kneron)周三在 2024 臺(tái)北國際電腦展推出了其下一代 AI 產(chǎn)品 —— KNEO 330 服務(wù)器和搭載第三代 NPU 芯片 KL830 的 PC 設(shè)備。

　　該公司由劉峻誠和張懋中創(chuàng)立于 2015 年，是一家提供邊緣運(yùn)算人工智能(edge AI)技術(shù)的公司，其投資者主要包括李嘉誠旗下的維港投資、高通、鴻海集團(tuán)、阿里巴巴創(chuàng)業(yè)者基金、中華開發(fā)資本等知名集團(tuán)。

　　耐能 CEO 劉峻誠在發(fā)布會(huì)上表示，目前使用生成式 AI 功能和應(yīng)用的公司，云業(yè)務(wù)依賴于微軟和亞馬遜等巨頭，并從英偉達(dá)或是 AMD 等公司購買大量芯片。

　　企業(yè)出于數(shù)據(jù)隱私和安全的考慮，可能不愿意將自身數(shù)據(jù)交給外部公司，并通過其 AI 工具進(jìn)行模型訓(xùn)練，因此可借助耐能的技術(shù)來建設(shè)企業(yè)內(nèi)部的服務(wù)器，用來構(gòu)建企業(yè)專屬的 AI 應(yīng)用程序。他希望耐能從企業(yè)的 AI 業(yè)務(wù)中獲利，并成為英偉達(dá)和 AMD 等巨頭的替代方案。

　　此次發(fā)布會(huì)上共發(fā)布了兩款產(chǎn)品 —— KNEO 330 服務(wù)器、搭載第三代 NPU 芯片 KL830 的 PC 設(shè)備，官方還計(jì)劃在 2025 年推出自研第四代 NPU 芯片 KL1140。

　　KNEO 330 服務(wù)器有 48TOPS 的 AI 計(jì)算能力，最多可支持 8 個(gè)并發(fā)連接，支持 LLM 和 Stable Diffusion。在較低的硬件條件下，其 RAG 精度與云端解決方案相當(dāng)，降低了小型企業(yè) 30%~40% 的整體 AI 成本。

　　搭載第三代 NPU 芯片 KL830 的 PC 設(shè)備未透露具體細(xì)節(jié)，發(fā)布會(huì)上使用了一臺(tái)搭載第三代 NPU 芯片 KL830 的惠普設(shè)備進(jìn)行演示。耐能表示，目前正在與幾家最大的 PC OEM 廠商密切合作，這些廠商將成為其最新芯片的首批客戶。

　　KL830 芯片是神經(jīng)處理單元(NPU)，與中央處理器(CPU)和圖形處理器(GPU)協(xié)同工作，來實(shí)現(xiàn)運(yùn)行人工智能(AI)任務(wù)，最高可提供 10eTOPS@8bit 的綜合計(jì)算能力，峰值功耗僅為 2W，支持許多相對(duì)低參數(shù)的大型語言模型。

　　耐能表示，KL830 也可通過 USB AI 加速棒使用，使得任何設(shè)備，無論是寬帶路由器、物聯(lián)網(wǎng)攝像頭還是傳統(tǒng)電腦，都可以成為邊緣 AI 設(shè)備。