【導讀】Meta面臨著一個棘手問題:盡管對AI研究斥巨資,但產(chǎn)品轉化進展緩慢,直到ChatGPT火了之后才開始注重。Meta之前對生成式AI需要的GPU這種更貴的芯片部署不夠,而是靠CPU。當發(fā)現(xiàn)不可行之后,Meta轉而采購數(shù)十億美元的英偉達GPU,但這時候已經(jīng)被微軟和谷歌等巨頭甩開。目前,Meta計劃開發(fā)一款新型芯片,能像GPU一樣訓練AI模型并執(zhí)行推理,計劃在2025年左右完成。此外,相關負責人還表示,Meta在AI開發(fā)的工具和流程方面都明顯需要改進。
Meta的內(nèi)部郵件顯示,2022年夏季末,Meta首席執(zhí)行官馬克·扎克伯格(Mark Zuckerberg)曾召集他的主要助手,對Meta的計算能力進行了5個小時的分析討論,重點是Meta開展先進人工智能(AI)工作的能力。
根據(jù)內(nèi)部郵件、公司公告,以及相關知情人士的透露,Meta面臨著一個棘手的問題:盡管在AI研究方面進行了大規(guī)模投資,但關于如何在主營業(yè)務中引入對AI友好的軟硬件系統(tǒng),Meta進展緩慢。在Meta越來越依賴AI去支撐進一步增長的情況下,這影響了該公司推動全面創(chuàng)新的節(jié)奏。
這封來自Meta新任基礎設施負責人桑托什·賈納爾漢(Santosh Janardhan)的郵件顯示:“在針對AI的開發(fā)方面,我們在工具、工作流和流程方面明顯落后,需要在這方面進行大筆投資。”這封郵件于9月份發(fā)布在Meta的內(nèi)網(wǎng),近期首次被曝光。
郵件中還表示,支撐AI工作需要Meta“從根本上改變硬件基礎設施設計、軟件系統(tǒng),以及提供穩(wěn)定平臺的方法”。
在一年多時間里,Meta正在開展一個龐大的項目,補足其AI基礎設施的短板。盡管Meta公開承認在AI的硬件發(fā)展上有些落后,但這方面的細節(jié),包括算力壓力、管理層更迭和一個被放棄的AI芯片項目,此前從未被報道過。
對于這封郵件和相關的重組舉措,Meta發(fā)言人喬恩·卡維爾(Jon Carvill)表示,“憑借在AI研究和工程開發(fā)方面深厚的專業(yè)知識,Meta在構建和部署最先進的大規(guī);A設施方面已經(jīng)得到了證明”。
他表示:“隨著我們?yōu)閼煤拖M產(chǎn)品提供新的AI體驗,我們很有信心能繼續(xù)拓展基礎設施能力,以滿足短期和長期的需求。”
但對Meta放棄AI芯片項目的消息,他拒絕回應。
根據(jù)Meta披露的信息,此次重組導致該公司的資本支出每季度增加了約40億美元,幾乎比2021年翻一番,并導致4個地點數(shù)據(jù)中心的建設計劃分別暫;蛉∠。
Meta還正面臨財務壓力。自去年11月以來,Meta啟動了自千禧年代互聯(lián)網(wǎng)破滅之后未曾有過的大規(guī)模裁員。
另一方面,微軟支持的OpenAI于去年11月30日發(fā)布了ChatGPT,這一AI聊天機器人迅速成為有史以來用戶數(shù)增長最快的消費級應用,并引發(fā)了科技巨頭之間的AI軍備競賽。大型科技公司紛紛推出自己的生成式AI產(chǎn)品。這種AI除了可以識別數(shù)據(jù)中的模式之外,還能根據(jù)輸入信息以類似人工的方式生成文字和視覺內(nèi)容。
多名消息人士稱,生成式AI消耗了大量算力,導致Meta更加迫切地需要擴大計算基礎設施。
1
曾對燒錢的項目投入不夠
消息人士稱,問題的一大關鍵在于Meta很遲才開始在AI工作中引入GPU芯片。GPU非常適合AI計算,可以并行執(zhí)行大量任務,大幅減少處理海量數(shù)據(jù)的耗時。當然,價格也更貴,市場份額的80%都在英偉達手里。
所以,Meta很大程度上是靠CPU來承擔AI計算任務。CPU是計算機行業(yè)的主力芯片,在過去幾十年中遍布全球的數(shù)據(jù)中心,但不太適合處理AI計算任務。
根據(jù)兩名消息人士的說法,Meta還使用自主設計的訂制芯片來進行AI推理。然而到2021年,事實證明,采用CPU和訂制芯片在AI領域比GPU速度更慢、效率更低。此外,與Meta采用的芯片相比,GPU在運行不同類型的AI模型時也更具靈活性。
Meta拒絕對其AI芯片的性能置評。
消息人士表示,隨著扎克伯格推動Meta轉向元宇宙,算力壓力影響了Meta部署AI以應對競爭威脅的能力,例如社交媒體對手TikTok的崛起,以及蘋果主導的廣告隱私政策調整。
這些挫折也引起了Meta前董事會成員彼得·蒂爾(Peter Thiel)的注意。他于2022年初從Meta董事會辭職,但沒有做出任何解釋。
知情人士稱,在他辭職前的一次董事會會議上,蒂爾對Meta高管們表示,他們對Meta的核心社交媒體業(yè)務太自滿,而且對元宇宙太走火入魔。
2
轉而選擇GPU,但已落后
一名消息人士稱,2022年,在取消了訂制推理芯片的大規(guī)模部署計劃后,Meta高管們轉而開始采購價值數(shù)十億美元的英偉達GPU。到這時,Meta已經(jīng)明顯落后于谷歌等競爭對手。谷歌早在2015年就開始部署訂制版本的GPU,即TPU。
2022年春季,Meta高管還著手重組Meta的AI部門,任命了兩名新的工程負責人,包括9月份郵件的作者賈納爾漢。根據(jù)領英平臺上的資料以及知情人士的說法,在長達數(shù)月的動蕩期內(nèi),十幾名管理者從Meta離職。MetaAI基礎設施的管理團隊幾乎被徹底更換。
接下來,Meta開始重新規(guī)劃數(shù)據(jù)中心基礎設施,以適應即將部署的GPU芯片。相比于CPU,GPU的耗電量和發(fā)熱量都更大,并且需要通過專門設計的網(wǎng)絡連接大量芯片,形成集群。
根據(jù)賈納爾漢的郵件以及消息人士提供的信息,這些設施需要24到32倍的網(wǎng)絡容量,以及新的水冷系統(tǒng)來管理芯片集群的散熱,因此相關設施需要“完全重新設計”。
隨著工作的推進,Meta制定了內(nèi)部計劃,著手開發(fā)一種新的自主芯片。這種芯片可以像GPU一樣訓練AI模型并執(zhí)行推理,目前計劃在2025年左右完成。
Meta發(fā)言人卡維爾表示,一些數(shù)據(jù)中心建設項目目前處于暫停狀態(tài)并將過渡到新設計,這些項目將于今年晚些時候重新啟動。他拒絕就Meta內(nèi)部的芯片項目置評。
3
產(chǎn)品落地進展緩慢
在擴大GPU算力的過程中,Meta目前幾乎沒有任何新的產(chǎn)品技術可以展示。相比較之下,微軟和谷歌等公司正在推動生成式AI產(chǎn)品的公開商用(必應聊天、Bard等)。
今年2月,Meta首席財務官Susan Li承認目前沒有將太多算力投入到生成式AI。她表示,“我們所有的AI能力基本上都給了廣告、信息流和短視頻Reels”。
根據(jù)消息人士的說法,直到去年11月ChatGPT推出后,Meta才開始重視生成式AI產(chǎn)品。他們表示, Facebook的AI實驗室FAIR雖然從2021年末就開始發(fā)布相關技術的原型,但并沒有把研究轉化為產(chǎn)品。
隨著投資者興趣的提升,情況正在改變。2月,扎克伯格宣布成立一支頂級生成式AI團隊,將“大幅推動”公司在該領域的工作。
Meta首席技術官Andrew Bosworth本月也表示,生成式AI是目前他和扎克伯格花時間最多的領域,預計將在今年發(fā)布一款相關產(chǎn)品。
兩名熟悉新團隊的人士表示,該團隊的工作處于早期階段,重點是構建基礎模型作為核心,未來可以針對不同產(chǎn)品需求進行調整。
Meta發(fā)言人卡維爾表示,一年多來,Meta的許多團隊都在開發(fā)生成式AI產(chǎn)品。他證實,在ChatGPT到來后的幾個月里,這方面工作已經(jīng)提速。
文章內(nèi)容僅供閱讀,不構成投資建議,請謹慎對待。投資者據(jù)此操作,風險自擔。
京東11.11采銷直播探廠為消費者揭開答案。近日,京東3C數(shù)碼采銷走進武漢攀升工廠、合肥聯(lián)想工廠和科大訊飛展廳,通過直播帶貨廠商爆款產(chǎn)品,并為消費者帶來超值低價與福利。
奧維云網(wǎng)(AVC)推總數(shù)據(jù)顯示,2024年1-9月明火炊具線上零售額94.2億元,同比增加3.1%,其中抖音渠道表現(xiàn)優(yōu)異,同比有14%的漲幅,傳統(tǒng)電商略有下滑,同比降低2.3%。
“以前都要去窗口辦,一套流程下來都要半個月了,現(xiàn)在方便多了!”打開“重慶公積金”微信小程序,按照提示流程提交相關材料,僅幾秒鐘,重慶市民曾某的賬戶就打進了21600元。
華碩ProArt創(chuàng)藝27 Pro PA279CRV顯示器,憑借其優(yōu)秀的性能配置和精準的色彩呈現(xiàn)能力,為您的創(chuàng)作工作帶來實質性的幫助,雙十一期間低至2799元,性價比很高,簡直是創(chuàng)作者們的首選。
9月14日,2024全球工業(yè)互聯(lián)網(wǎng)大會——工業(yè)互聯(lián)網(wǎng)標識解析專題論壇在沈陽成功舉辦。