英偉達(dá)發(fā)布數(shù)據(jù)中心用L40S GPU，性能強(qiáng)于A100

　　8月9日消息，9日凌晨，英偉達(dá)CEO黃仁勛再次登上了世界頂級(jí)計(jì)算機(jī)圖形學(xué)會(huì)議SIGGRAPH的舞臺(tái)，發(fā)布多款商用端產(chǎn)品，其中包括專為搭建數(shù)據(jù)中心而設(shè)計(jì)的L40S GPU。

　　據(jù)悉，基于Ada Lovelace架構(gòu)的L40S，配備有48GB的GDDR6顯存和846GB/s的帶寬。在第四代Tensor核心和FP8 Transformer引擎的加持下，可以提供超過1.45 PetaFLOPS的張量處理能力。

　　對(duì)于算力要求較高的任務(wù)，L40S的18,176個(gè)CUDA核心可以提供近5倍于A100的單精度浮點(diǎn)(FP32)性能，從而加速復(fù)雜計(jì)算和數(shù)據(jù)密集型分析。

　　此外，為了支持如實(shí)時(shí)渲染、產(chǎn)品設(shè)計(jì)和3D內(nèi)容創(chuàng)建等專業(yè)視覺處理工作，英偉達(dá)還為L(zhǎng)40S 還配備了142個(gè)第三代RT核心，可以提供212 TFLOP的光線追蹤性能。功耗同時(shí)也達(dá)到了350瓦。

　　對(duì)于具有數(shù)十億參數(shù)和多種模態(tài)的生成式AI工作負(fù)載，L40S相較于A100可實(shí)現(xiàn)高達(dá)1.2倍的推理性能提升，以及高達(dá)1.7倍的訓(xùn)練性能提升。

　　在L40S GPU的加持下，英偉達(dá)還針對(duì)數(shù)據(jù)中心市場(chǎng)，推出了最多可搭載8張L40S的OVX服務(wù)器。英偉達(dá)方面宣布，對(duì)于擁有8.6億token的GPT3-40B模型，OVX服務(wù)器只需7個(gè)小時(shí)就能完成微調(diào);對(duì)于Stable Diffusion XL模型，則可實(shí)現(xiàn)每分鐘80張的圖像生成。