Ampere與高通合作推出基于Arm架構的人工智能服務器

　　Ampere 和高通并不是最明顯的合作伙伴。畢竟，它們都提供用于運行數(shù)據(jù)中心服務器的基于 Arm 架構的芯片(盡管高通最大的市場仍然是移動領域)。但正如兩家公司宣布的那樣，它們現(xiàn)在正在聯(lián)手推出一款專注于人工智能的服務器，該服務器使用了 Ampere 的 CPU 和高通的 Cloud AI100Ultra AI 推理芯片來運行模型 —— 而不是進行訓練。

　　與其他芯片制造商一樣，Ampere 也希望從人工智能熱潮中獲利。然而，該公司的重點一直是快速和高效的服務器芯片，因此雖然它可以利用 Arm IP 向其芯片添加一些這些功能，但這并不一定是其核心競爭力。這就是為什么 Ampere 決定與高通合作(以及與 SuperMicro 合作整合這兩個解決方案)，Arm 首席技術官 Jeff Wittich 告訴我。

　　“這里的想法是，雖然我可以向您展示 Ampere CPU 在僅使用 CPU 運行 AI 推理時的出色性能，但如果您想擴展到更大的模型 —— 比如多達數(shù)千億參數(shù)的模型 —— 就像所有其他工作負載一樣，AI 并非一刀切”，Wittich 告訴 TechCrunch。“我們一直在與高通就此解決方案進行合作，將我們的超高效 Ampere CPU 與您正在與推理一起運行的許多通用相結合，然后使用他們真的高效的卡，我們已經(jīng)有了一個服務器級的解決方案。”

　　至于與高通合作，Wittich 表示，Ampere 希望提供最佳解決方案。

　　“我們與高通在這里進行了真正良好的合作”，他說。“這是我們一直在努力的事情之一，我認為我們有很多非常相似的興趣，這就是為什么我認為這真的很具吸引力。他們正在構建市場上許多不同部分的真正高效的解決方案。我們正在構建服務器 CPU 方面真正高效的解決方案。”

　　高通合作是 Ampere 每年路線圖更新的一部分。新路線圖的一部分是新的256核 AmpereOne 芯片，采用現(xiàn)代3納米工藝構建。這些新芯片還沒有完全普及，但 Wittich 表示它們已經(jīng)在工廠準備就緒，今年晚些時候應該會推出。

　　除了額外的核心，這一代新的 AmpereOne 芯片的顯著特點是12通道 DDR5RAM，這使 Ampere 的數(shù)據(jù)中心客戶能夠根據(jù)自己的需求更好地調(diào)整用戶的內(nèi)存訪問。

　　這里的銷售策略不僅僅是性能，而是在數(shù)據(jù)中心中運行這些芯片的功耗和成本。特別是在涉及 AI 推理時，Ampere 喜歡將其性能與 Nvidia 的 A10GPU 進行比較。

　　值得注意的是，Ampere 并沒有在這些新芯片的推出中終止其現(xiàn)有芯片。Wittich 強調(diào)，即使是這些較老的芯片仍然有很多用例。

　　Ampere 今天還宣布了另一項合作伙伴關系。該公司正在與 NETINT 合作，構建一種將 Ampere CPU 與 NETINT 視頻處理芯片配對的聯(lián)合解決方案。這款新服務器能夠同時并行轉碼360個直播視頻頻道，并同時使用 OpenAI 的 Whisper 語轉文字模型為40個流創(chuàng)建字幕。