Cerebras 推出第三代晶圓級芯片 WSE-3：臺積電 5nm 制程，性能翻倍

　　3 月 14 日消息，晶圓級芯片創(chuàng)新企業(yè) Cerebras 推出了其第三代芯片 WSE-3，宣稱以相同功耗相較上代產(chǎn)品 WSE-2 性能翻倍。

　　IT之家整理 WSE-3 參數(shù)如下：

　　臺積電 5nm 制程;

　　4 萬億個晶體管;

　　900000 個 AI 核心;

　　44GB 片上 SRAM 緩存;

　　可選 1.5TB / 12TB / 1.2PB 三種片外內(nèi)存容量;

　　125 PFLOPS 的峰值 AI 算力。

　　Cerebras 宣稱基于 WSE-3 的 CS-3 系統(tǒng)憑借其至高 1.2PB 的內(nèi)存容量，可訓(xùn)練比 GPT-4 和 Gemini 大 10 倍的下一代前沿模型。其可在單個邏輯內(nèi)存空間中容納 24000T 參數(shù)規(guī)模的模型，大大簡化了開發(fā)人員的工作。

　　CS-3 適合超大規(guī)模 AI 需求，緊湊的四系統(tǒng)集群可以在一天內(nèi)微調(diào) 70B 模型，而在使用最大規(guī)模的 2048 個 CS-3 系統(tǒng)集群時，可以在一天內(nèi)完成 Llama 70B 模型的訓(xùn)練。

　　Cerebras 表示 CS-3 系統(tǒng)具有卓越的易用性，大模型訓(xùn)練中所需代碼相較 GPU 減少 97%，僅需 565 行代碼就可達成 GPT-3 大小模型的標準實現(xiàn)。

　　阿聯(lián)酋 G42 財團已表示將打造基于 Cerebras CS-3 的 Condor Galaxy 3 超算，包含 64 個系統(tǒng)，可提供 8 exaFLOP 的 AI 算力。