英偉達(dá) L40S GPU 將于今秋上市：AI 推理性能比 A100 高 1.2 倍

　　英偉達(dá)日前發(fā)布了全新的 NVIDIA L40S GPU，以及搭載該加速卡的 NVIDIA OVX 服務(wù)器系統(tǒng)。

　　據(jù)介紹，這款全新的 GPU 和 OVX 服務(wù)器適用于人工智能大模型訓(xùn)練和推理、三維設(shè)計(jì)和可視化、視頻處理、工業(yè)數(shù)字化等多種用途。它們能夠增強(qiáng)生成式 AI、圖形和視頻處理能力，滿足不斷增長(zhǎng)的算力需求。

　　L40S GPU 是 L40 的升級(jí)版本，配備 48GB GDDR6 ECC 顯存。它基于 Ada Lovelace 架構(gòu)，包含第四代 Tensor Core 和 FP8 轉(zhuǎn)換引擎，運(yùn)算速度是上一代 GPU 的 5 倍。但是需要注意的是，L40S 與上一代一樣不支持 NVLink。

　　據(jù)官方表示，對(duì)于具有數(shù)十億個(gè)參數(shù)和多種數(shù)據(jù)模式(文本、視頻)的復(fù)雜 AI 工作負(fù)載，L40S 的生成式 AI 推理性能比 A100 高 1.2 倍，訓(xùn)練性能高 1.7 倍。

　　每臺(tái)英偉達(dá) OVX 服務(wù)器系統(tǒng)最多可搭載 8 個(gè) L40S 加速卡。其中，CoreWeave 是首批提供 L40S 計(jì)算平臺(tái)的云服務(wù)商之一。此外，英偉達(dá)還提供了多種軟件，用于輔助 AI 模型訓(xùn)練、數(shù)據(jù)分析和生成式人工智能等應(yīng)用。

　　據(jù)官方介紹，英偉達(dá) L40S GPU 將在今年秋季上市。廠商包括華碩、戴爾、技嘉、HPE、聯(lián)想、QCT 和美超微等，將很快推出搭載 L40S GPU 的 OVX 系統(tǒng)。這些服務(wù)器將有助于推動(dòng)人工智能的發(fā)展和應(yīng)用。