行業(yè)唯一!海爾熱聲熱泵技術(shù)獲全國(guó)顛覆性技術(shù)創(chuàng)新大賽最高獎(jiǎng)OPPO A5 Pro首創(chuàng)獵手天線架構(gòu):信號(hào)能穿十堵墻一加 Ace 5 Pro首發(fā)電競(jìng)Wi-Fi芯片G1 帶來(lái)「穿墻王」和「搶網(wǎng)王」般的網(wǎng)絡(luò)體驗(yàn)電視市場(chǎng)又出黑馬!TCL同檔Mini LED音畫(huà)王P12K,萬(wàn)象分區(qū)打造超強(qiáng)控光!零下25℃如何取暖?海爾水暖通溫暖驛站亮相冰雪大世界馬太效應(yīng),強(qiáng)者恒強(qiáng)?——《中國(guó)企業(yè)科創(chuàng)力研究報(bào)告(2024)》美團(tuán)年度報(bào)告竟然用上了AI和短?這下是真出圈了消息稱上汽大眾正開(kāi)發(fā)三款新車,技術(shù)分別來(lái)自小鵬、智己和榮威鴻蒙智行泊車代駕VPD正式開(kāi)啟全量推送!升級(jí)自動(dòng)泊車/接駕等多項(xiàng)功能華為官方翻新手機(jī)最高降價(jià)4000元曝蘋(píng)果研發(fā)帶Face ID的智能家居門(mén)鈴:內(nèi)置自研W-Fi芯片李斌回應(yīng)螢火蟲(chóng)外觀設(shè)計(jì):看過(guò)實(shí)車的人都喜歡這個(gè)設(shè)計(jì)林杰:未來(lái) A 級(jí)、A0 級(jí)、A00 級(jí)車型都將是領(lǐng)克純電的“主場(chǎng)”豐巢存包柜亮相南寧地鐵站,助力城市韌性建設(shè)與智慧出行萬(wàn)象分區(qū)、絢彩XDR、量子點(diǎn)Pro 2025齊出手,TCL引領(lǐng)觀影體驗(yàn)新變革!QQ音樂(lè)年度聽(tīng)歌報(bào)告發(fā)布:誰(shuí)是你最喜歡的歌手?OpenAI正式發(fā)布o(jì)3 - 通往AGI的路上,已經(jīng)沒(méi)有了任何阻礙「送禮物」難撬動(dòng)社交電商,微信小店缺的是供給微軟Phi-4封神,14B小模型數(shù)學(xué)擊敗GPT-4o,合成數(shù)據(jù)占比40%,36頁(yè)技術(shù)報(bào)告出爐2024年結(jié)束,哪里是原創(chuàng)動(dòng)畫(huà)的應(yīng)許之地?
  • 首頁(yè) > 云計(jì)算頻道 > 大模型

    優(yōu)刻得為智譜AI構(gòu)建超千卡推理集群,讓全球用戶暢享大模型智能生活

    2024年02月28日 09:36:33   來(lái)源:中文科技資訊

      時(shí)光倒回到2021年的那個(gè)夜晚。一位媽媽靈感枯竭,無(wú)法繼續(xù)她的小說(shuō)創(chuàng)作;一旁的爸爸正忙碌于代碼的世界,他想要在工作之余開(kāi)發(fā)一款小游戲,卻困于代碼調(diào)試;而他們的孩子,正眉頭緊鎖地趴在書(shū)桌上,為一道奧數(shù)題苦思冥想。

    image.png

      2024年的今天,AI大模型的出現(xiàn)讓這一切發(fā)生改變。

      在「智譜清言」的助力下,媽媽的小說(shuō)創(chuàng)作煥發(fā)新生,她只需將自己的創(chuàng)意和構(gòu)思輸入給大模型,就可以生成自然生動(dòng)的故事情節(jié)和對(duì)話;爸爸用大模型進(jìn)行代碼編程和調(diào)試,通過(guò)分析代碼邏輯,大大減少了開(kāi)發(fā)的繁瑣流程,減輕了一大半的⼯作量;大模型也成為了小朋友學(xué)習(xí)上的得力助手,不僅能進(jìn)行作業(yè)智能批改,還可以提供詳實(shí)的解題思路,大幅提升了學(xué)習(xí)效率。

    image.png

      大模型+算力,讓全球用戶享智能生活

      智譜AI致力于打造全球領(lǐng)先的認(rèn)知智能大模型,其新一代基座大模型GLM-4性能大幅提升,逼近GPT-4,展現(xiàn)了業(yè)界領(lǐng)先的多模態(tài)大語(yǔ)言模型能力。通過(guò)智譜大模型與優(yōu)刻得算力的強(qiáng)強(qiáng)結(jié)合,大模型推理應(yīng)用穩(wěn)定、高效運(yùn)行于云端,并具備大規(guī)模實(shí)時(shí)推理能力,其推理速度更快,并發(fā)性更高,而成本則顯著降低。這一創(chuàng)新使得智譜大模型能夠深入理解用戶需求,快速作出響應(yīng),讓全球用戶提前享受智能化生活的便利與高效。

      早在2022年起,優(yōu)刻得就開(kāi)始為智譜AI提供強(qiáng)大的底層算力支持。優(yōu)刻得低成本、高附加值的烏蘭察布智算中心,提供定制化高電機(jī)柜和充沛的GPU算力,能夠幫助智譜大模型迅速搭建并擴(kuò)大訓(xùn)練和推理集群的規(guī)模,提升模型研發(fā)效率,支持大模型應(yīng)用快速上線和對(duì)外服務(wù)。目前,優(yōu)刻得智算中心算力管理規(guī)模共計(jì)超過(guò)3000P。

    image.png

      優(yōu)刻得烏蘭察布智算中心

      優(yōu)刻得助力智譜AI構(gòu)建超千卡規(guī)模推理集群

      自「智譜清言」正式上線以來(lái),每日吸引數(shù)百萬(wàn)用戶訪問(wèn),面臨著在文本、圖片、視頻等多場(chǎng)景下的大規(guī)模實(shí)時(shí)推理需求。為了滿足激增的模型計(jì)算需求,需持續(xù)擴(kuò)展計(jì)算卡數(shù)量,構(gòu)建千卡級(jí)別的推理集群,以進(jìn)一步提升算力資源利用率和推理性能。

      優(yōu)刻得推理服務(wù)平臺(tái),提供超大規(guī)模融合算力,支持計(jì)算集群的統(tǒng)一調(diào)度和管理。目前,優(yōu)刻得已成功助力智譜AI構(gòu)建了超千卡規(guī)模的推理集群。同時(shí),在優(yōu)刻得云互通產(chǎn)品的加持下,平臺(tái)還具備強(qiáng)大的“混合組網(wǎng)能力”,讓大模型得以實(shí)現(xiàn)訓(xùn)推一體化;谌芷诘乃懔Y源管理,不僅確保了大模型的高效、穩(wěn)定運(yùn)行,使其能夠應(yīng)對(duì)各類復(fù)雜的推理任務(wù),同時(shí)也為云上服務(wù)的實(shí)時(shí)響應(yīng)提供了堅(jiān)實(shí)的技術(shù)保障。

      匹配全棧算力資源,實(shí)現(xiàn)多樣化的推理場(chǎng)景覆蓋

      智譜大模型廣泛應(yīng)用于智能編程、智能寫(xiě)作等領(lǐng)域,為各行業(yè)的智能化升級(jí)提供強(qiáng)大的技術(shù)支持。無(wú)論是處理文本、圖像還是視頻等多模態(tài)數(shù)據(jù),智譜大模型都能展現(xiàn)出卓越的性能和靈活性。

      優(yōu)刻得推理服務(wù)平臺(tái)匹配全棧算力資源,兼容通用大模型和行業(yè)大模型等多樣化場(chǎng)景,面向文圖生成、代碼生成等各類模型提供彈性穩(wěn)定的推理服務(wù),滿足各算力場(chǎng)景對(duì)大規(guī)模實(shí)時(shí)推理的需求。其中,「CodeGeeX」就是智譜AI在優(yōu)刻得彈性靈活的算力部署方案支撐下,所推出的一款基于大模型的智能編程助手,它可以實(shí)現(xiàn)代碼的生成與補(bǔ)全、自動(dòng)添加注釋、代碼翻譯,以及智能問(wèn)答等功能,每天幫助程序員編寫(xiě)2000萬(wàn)行代碼,顯著提高工作效率。

      除了公有云上的模型推理服務(wù),優(yōu)刻得也支持大模型的私有化部署。優(yōu)刻得與智譜AI正探索以“大模型一體機(jī)”為載體的全新合作方式,聯(lián)合推出的行業(yè)大模型解決方案能夠更好地幫助金融、醫(yī)療、汽車、制造等行業(yè)快速落地大模型業(yè)務(wù)。當(dāng)下,優(yōu)刻得推理服務(wù)平臺(tái)已融合了豐富的行業(yè)模型資源,這些行業(yè)模型能夠針對(duì)不同行業(yè)需求進(jìn)行定制,提供了更加精準(zhǔn)和高效的推理能力。

      大幅降低推理成本,實(shí)現(xiàn)成本效益與服務(wù)質(zhì)量的平衡

      隨著AIGC技術(shù)的持續(xù)演進(jìn),其對(duì)GPU算力的依賴愈發(fā)明顯。大模型企業(yè)在追求卓越計(jì)算性能的同時(shí),對(duì)推理算力的利用效率和成本要求也愈來(lái)愈重視。

      目前,優(yōu)刻得引入了先進(jìn)的GPU資源管理和調(diào)度機(jī)制,為智譜大模型提供靈活可靠的性能支持。通過(guò)智能分配和動(dòng)態(tài)調(diào)整集群任務(wù),有效降低了單個(gè)節(jié)點(diǎn)的負(fù)載壓力,同時(shí)避免算力資源的閑置和過(guò)度消耗。這種精細(xì)化的資源管理方式下,優(yōu)刻得助力智譜大模型的算力利用率顯著提升,帶來(lái)經(jīng)濟(jì)又高效的大模型推理體驗(yàn)。優(yōu)刻得的產(chǎn)品在推理成本方面顯著優(yōu)于同類競(jìng)爭(zhēng)對(duì)手,成功實(shí)現(xiàn)了成本效益與服務(wù)質(zhì)量的平衡。

      同時(shí),智譜AI使用了優(yōu)刻得自主研發(fā)的UPFS并行文件系統(tǒng),來(lái)優(yōu)化模型推理性能。UPFS支持IB/RoCE網(wǎng)絡(luò),提供對(duì)數(shù)據(jù)百微秒級(jí)的訪問(wèn)和最高數(shù)百GB/s的讀寫(xiě)吞吐,進(jìn)一步提高數(shù)據(jù)傳輸和通信的效率。

      未來(lái),優(yōu)刻得將與智譜AI攜手并進(jìn),以更加靈活可靠的智算底座,推動(dòng)大模型技術(shù)的持續(xù)創(chuàng)新與應(yīng)用。相信通過(guò)雙方的緊密合作與不懈努力,大模型將在各個(gè)領(lǐng)域落地生根、全面融入生產(chǎn)和生活,更多用戶、更多家庭都能享受到智能、高效、便捷的人工智能體驗(yàn)。

      文章內(nèi)容僅供閱讀,不構(gòu)成投資建議,請(qǐng)謹(jǐn)慎對(duì)待。投資者據(jù)此操作,風(fēng)險(xiǎn)自擔(dān)。

    [No. X058-2]
    分享到微信

    即時(shí)

    新聞

    明火炊具市場(chǎng):三季度健康屬性貫穿全類目

    奧維云網(wǎng)(AVC)推總數(shù)據(jù)顯示,2024年1-9月明火炊具線上零售額94.2億元,同比增加3.1%,其中抖音渠道表現(xiàn)優(yōu)異,同比有14%的漲幅,傳統(tǒng)電商略有下滑,同比降低2.3%。

    企業(yè)IT

    重慶創(chuàng)新公積金應(yīng)用,“區(qū)塊鏈+政務(wù)服務(wù)”顯成效

    “以前都要去窗口辦,一套流程下來(lái)都要半個(gè)月了,現(xiàn)在方便多了!”打開(kāi)“重慶公積金”微信小程序,按照提示流程提交相關(guān)材料,僅幾秒鐘,重慶市民曾某的賬戶就打進(jìn)了21600元。

    3C消費(fèi)

    華碩ProArt創(chuàng)藝27 Pro PA279CRV顯示器,高能實(shí)力,創(chuàng)

    華碩ProArt創(chuàng)藝27 Pro PA279CRV顯示器,憑借其優(yōu)秀的性能配置和精準(zhǔn)的色彩呈現(xiàn)能力,為您的創(chuàng)作工作帶來(lái)實(shí)質(zhì)性的幫助,雙十一期間低至2799元,性價(jià)比很高,簡(jiǎn)直是創(chuàng)作者們的首選。

    研究

    中國(guó)信通院羅松:深度解讀《工業(yè)互聯(lián)網(wǎng)標(biāo)識(shí)解析體系

    9月14日,2024全球工業(yè)互聯(lián)網(wǎng)大會(huì)——工業(yè)互聯(lián)網(wǎng)標(biāo)識(shí)解析專題論壇在沈陽(yáng)成功舉辦。