谷歌發(fā)布Cloud TPU v5p和AI超級計算機:人工智能處理能力飛躍

　　谷歌在推出其張量處理單元Cloud TPU v5p和具有突破性的超級計算機架構(gòu)AI Hypercomputer時掀起了軒然大波。這些創(chuàng)新的發(fā)布，再加上資源管理工具Dynamic Workload Scheduler，標(biāo)志著在處理組織的人工智能任務(wù)方面邁出了重要的一步。

　　Cloud TPU v5p，繼去年11月發(fā)布的v5e之后，成為谷歌最強大的TPU。與其前身不同，v5p以性能為驅(qū)動設(shè)計，承諾在處理能力方面取得顯著的改進(jìn)。每個pod配備8，960個芯片，芯片之間的互聯(lián)速度達(dá)到4，800Gbps，這一版本在浮點運算每秒(FLOPS)方面提供了兩倍的性能，并在高帶寬內(nèi)存(HBM)方面比前代TPU v4增加了三倍。

　　在性能方面的聚焦取得了顯著的成果，Cloud TPU v5p在訓(xùn)練大型LLM模型時的速度比TPU v4提高了驚人的2.8倍。此外，利用第二代SparseCores，v5p展示了在嵌入式密集模型方面的訓(xùn)練速度，比其前身快了1.9倍。

　　與此同時，AI Hypercomputer**作為超級計算機架構(gòu)的一場革命性變革。它融合了優(yōu)化的性能硬件、開源軟件、主要機器學(xué)習(xí)框架和可調(diào)整的消耗模型。AI Hypercomputer放棄了強化離散組件的傳統(tǒng)方法，而是利用協(xié)同系統(tǒng)設(shè)計，提高了在培訓(xùn)、微調(diào)和服務(wù)領(lǐng)域的人工智能效率和生產(chǎn)力。

　　這一先進(jìn)的架構(gòu)基于超大規(guī)模數(shù)據(jù)中心基礎(chǔ)設(shè)施的精心優(yōu)化的計算、存儲和網(wǎng)絡(luò)設(shè)計。此外，它通過開源軟件為開發(fā)人員提供了對相關(guān)硬件的訪問，支持諸如JAX、TensorFlow和PyTorch等機器學(xué)習(xí)框架。這種集成擴展到Multislice Training和Multihost Inferencing等軟件，同時深度集成了Google Kubernetes Engine(GKE)和Google Compute Engine。

　　AI Hypercomputer的真正獨特之處在于其靈活的消耗模型，專門滿足人工智能任務(wù)的需求。它引入了創(chuàng)新的Dynamic Workload Scheduler和像承諾使用折扣(CUD)、按需和Spot等傳統(tǒng)消耗模型的平臺。這個資源管理和任務(wù)調(diào)度平臺支持Cloud TPU和Nvidia GPU，簡化了調(diào)度所有所需加速器以優(yōu)化用戶支出。

　　在這個模型下，F(xiàn)lex Start選項非常適合模型微調(diào)、實驗、較短的培訓(xùn)會話、離線推理和批處理任務(wù)。它提供了一種經(jīng)濟有效的方式，在執(zhí)行前請求GPU和TPU容量。相反，Calendar模式允許預(yù)訂特定的啟動時間，滿足對培訓(xùn)和實驗任務(wù)需要精確啟動時間和持續(xù)時間的要求，可提前8周購買，持續(xù)7或14天。

　　谷歌發(fā)布Cloud TPU v5p、AI Hypercomputer和Dynamic Workload Scheduler代表了人工智能處理能力的一大飛躍，引領(lǐng)著性能增強、優(yōu)化架構(gòu)和靈活的消耗模型的新時代。這些創(chuàng)新有望重新定義人工智能計算的格局，并為各行各業(yè)的突破性進(jìn)展鋪平道路。