英偉達(dá)甜蜜的煩惱

　　英偉達(dá)看著供不應(yīng)求的訂單，有點(diǎn)著急。

　　增加供應(yīng)這句話，每發(fā)一次財(cái)報(bào)，英偉達(dá)都要再?gòu)?qiáng)調(diào)一次。

　　繼英偉達(dá)在第一季度宣布公司“正大幅增加供應(yīng)，以滿足不斷增長(zhǎng)的需求”后，英偉達(dá)CEO黃仁勛在近期又表示，正準(zhǔn)備將其GPU的產(chǎn)量至少增加三倍。

　　具體來說，英偉達(dá)擴(kuò)充的是H100芯片的產(chǎn)量。2023年英偉達(dá)H100預(yù)計(jì)出貨量在50萬顆，但據(jù)英國(guó)《金融時(shí)報(bào)》報(bào)道，英偉達(dá)計(jì)劃明年出貨至少150萬顆H100處理器。

　　H100是英偉達(dá)于2022年推出的一款專為大型語言模型優(yōu)化的GPU，得益于“全民造模”的趨勢(shì)，推出至今長(zhǎng)期賣斷貨，又被稱之為英偉達(dá)的“印鈔機(jī)”。

　　那么，宣稱增加三倍產(chǎn)量的H100，能為英偉達(dá)賺多少錢?

　　01 產(chǎn)量受制于人

　　要想知道H100究竟有多賺錢，只看兩點(diǎn)便可知。

　　一，H100在芯片市場(chǎng)中擁有絕對(duì)統(tǒng)治力。 當(dāng)今世界你第一時(shí)間想起的巨頭企業(yè)，都在搶購(gòu)它。上到特斯拉、蘋果、微軟、谷歌等知名公司，下到研究大語言模型的初創(chuàng)企業(yè)，也有 Azure、GCP 和 AWS 等云服務(wù)供應(yīng)商(CSP)，CoreWeave、Lambda 等大型私有云。

　　二是H100擁有超過90%的毛利率。

　　H100的物料成本主要有三部分：核心邏輯芯片、HBM內(nèi)存芯片、CoWoS封裝。

　　H100的核心邏輯芯片面積為814平方毫米，采用臺(tái)積電4N工藝制造(5nm+)，以一塊報(bào)價(jià)為1.34萬美元的300mm晶圓，結(jié)合良率、損耗來看，大概能切割65顆，平均算下來每顆單價(jià)200美元左右;HBM內(nèi)存芯片來自SK海力士的HBM3內(nèi)存芯片，一共六顆，單顆容量為16GB，每GB為15美元，合計(jì)1500美元;雖CoWoS沒有公布其價(jià)格，但據(jù)分析師RobertCastellano結(jié)合臺(tái)積電財(cái)報(bào)推算，制造一顆H100需要723美元。

　　三大合計(jì)約2500美元(臺(tái)積電拿走約1000美元的情況下)，算上除此以外的成本約3320美元左右。

　　也就是說英偉達(dá)的毛利率超過90%。

　　但英偉達(dá)想賺錢，還得看臺(tái)積電和SK海力士的臉色行事。

　　英偉達(dá)的H100確實(shí)在市場(chǎng)呈壟斷地位，說新一代“印鈔機(jī)”也無可厚非，但H100供不應(yīng)求，在明年第一季度之前都是售罄狀態(tài)。

　　要看臺(tái)積電臉色是因?yàn)�，英偉達(dá)受制于臺(tái)積電先進(jìn)的封裝技術(shù)—2.5D CoWos (Chip on Wafer on Substrate)。

　　CoWoS是一種2.5D/3D封裝技術(shù)，是將多個(gè)有源硅模板集成在無源硅中介片上。然后將中介片和活性硅鏈接到包含I/O的包裝基板上，將其連接到系統(tǒng)PCB上。

　　CoWoS能將不同制程的芯片封裝在一起，可達(dá)到加速運(yùn)算但同時(shí)控制成本的目的。簡(jiǎn)單來說，CoWoS有節(jié)省空間、減少功耗的優(yōu)勢(shì)

　　英偉達(dá)的H100、A100全部由臺(tái)積電代工，并使用臺(tái)積電的CoWoS先進(jìn)封裝技術(shù)，除了英偉達(dá)外，其他廠商也對(duì)臺(tái)積電的CoWoS有需求，為此CoWoS產(chǎn)能供不應(yīng)求。

　　有設(shè)備廠商估算，臺(tái)積電 2023 年 CoWoS 總產(chǎn)能逾 12 萬片，2024 年將沖上 24 萬片，其中，英偉達(dá)將取得 14.4 萬-15 萬片。

　　CoWoS產(chǎn)能不足的背景下，依靠CoWoS封裝的H100，自然被臺(tái)積電扼住了咽喉。

　　HBM(高帶寬存儲(chǔ))是限制英偉達(dá)H100生產(chǎn)的另一個(gè)重要瓶頸。

　　HBM類似數(shù)據(jù)的“中轉(zhuǎn)站”，就是將每一幀、每一幅圖像數(shù)據(jù)保存到幀緩存區(qū)域中，等候GPU調(diào)用。

　　相比傳統(tǒng)內(nèi)存技術(shù)，HBM帶寬更高、功率更低、功耗更低、尺寸更小，能夠使AI服務(wù)器的傳輸速率和數(shù)據(jù)處理量大幅提升，因此HBM也成了AI服務(wù)器的標(biāo)配。

　　正如臺(tái)積電壟斷了先進(jìn)封裝一般，HBM的供應(yīng)也被SK海力士壟斷，市占率超過95%，也是目前唯一量產(chǎn)HBM3E(第三代HBM)的廠商。

　　無論是CoWoS還是HBM3，每年的產(chǎn)能都是固定的，除英偉達(dá)外，各大廠商需求也不少。AMD不僅大量采用HBM，其中MI300搭載的還是HBM3;傳言谷歌在下半年推出的TPU張量處理器，也將搭載HBM。

　　搭載HBM的芯片幾乎都需要像CoWoS這樣的2.5D技術(shù)，所以目前領(lǐng)先的GPU都有臺(tái)積電打包在CoWoS上，也就是說芯片的產(chǎn)能進(jìn)一步SK海力士和臺(tái)積電的制約，英偉達(dá)并非說加芯就能加芯。

　　02臺(tái)積電沒有替代品 ‍

　　為了不被捏住命門，也為了芯片代工的議價(jià)權(quán)，英偉達(dá)開始“削藩”尋找更多代工廠。

　　英偉達(dá)在 CoWoS 封裝等的關(guān)鍵制程已開放給其他供應(yīng)鏈代工廠。目前，英偉達(dá)正積極對(duì)接聯(lián)華電子，近日聯(lián)華電子將擴(kuò)充旗下硅中介層(前段CoW部分)產(chǎn)能，月產(chǎn)能將由目前的 3 千片擴(kuò)增至 1 萬片;封測(cè)廠Amkor、日月光投控旗下矽品則負(fù)責(zé)后段WoS封裝。

　　某種意義上來說，英偉達(dá)構(gòu)建的芯片帝國(guó)和臺(tái)積電打造的頂尖芯片代工廠如出一轍——同樣擁有一騎絕塵的技術(shù)，是無可替代的存在。

　　所以扶持合作伙伴，并非短期有效解決措施，因?yàn)橛�偉達(dá)的核心芯片、產(chǎn)量，還是離不開臺(tái)積電的懷抱，否則英偉達(dá)今年由臺(tái)積電代工的芯片，怎么會(huì)占到臺(tái)積電年出貨量的40%左右?

　　好比遠(yuǎn)水救不了近火，擴(kuò)產(chǎn)能這件事沒有快速捷徑。

　　一方面，建造周期較長(zhǎng)，芯片從制作到包裝都是的整個(gè)生態(tài)系統(tǒng)都是在臺(tái)積電周圍完成，如果另起爐灶，將制造業(yè)轉(zhuǎn)移尤為艱難。

　　另一方面，臺(tái)積電方也不會(huì)機(jī)會(huì)留給對(duì)手，對(duì)英偉達(dá)尋找替代工廠的曖昧態(tài)度，臺(tái)積電以積極擴(kuò)建產(chǎn)能做出了回應(yīng)。

　　從營(yíng)收結(jié)構(gòu)來看，臺(tái)積電也不會(huì)把嘴邊的肥肉放跑。2022的CoWoS封裝已經(jīng)占總收入5%以上，且將以每年近20%的速率增長(zhǎng)。

　　臺(tái)積電也是下了重金擴(kuò)產(chǎn)，斥資900億元新臺(tái)幣在竹科銅鑼園區(qū)設(shè)立先進(jìn)封裝廠，預(yù)計(jì)2026年底建廠完成，2027年第三季開始量產(chǎn)，而位于日本熊本的工廠已建成，九月底預(yù)計(jì)將有600名來自臺(tái)灣的員工移民熊本。

　　值得英偉達(dá)高興的是，至少在HBM上還有可選方案，不用等CoWoS的擴(kuò)建周期。三星表示將投資1萬億韓元擴(kuò)大HBM產(chǎn)能，并于今年推出HBM3產(chǎn)品;美光預(yù)計(jì)其相關(guān)HBM產(chǎn)品“將在2024財(cái)年貢獻(xiàn)有意義的收入，并在2025年貢獻(xiàn)大幅增加的收入”。

　　但把臺(tái)積電，看成英偉達(dá)的鐐銬，倒也不一定完全準(zhǔn)確。

　　在硬幣的另一面，產(chǎn)能短缺也絕非都是壞事，至少英偉達(dá)在全球缺芯的市場(chǎng)中，壟斷了市場(chǎng)，也讓自己的芯片單價(jià)水漲船高，售價(jià)3.6萬美元的H100，此前在Ebay上的平均售價(jià)高達(dá)4.5萬美元。

　　要是沒有這場(chǎng)缺芯潮，芯片的二手市場(chǎng)怎會(huì)有如此高溢價(jià)，英偉達(dá)也沒有底氣開出如此高利潤(rùn)的售價(jià)。

　　03加不了量就加價(jià)‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍

　　在產(chǎn)能制約下，英偉達(dá)損失了高達(dá)百億美元的收入。

　　據(jù)GPU Utils，保守估計(jì)，H100的供給缺口達(dá)到43.2萬張。按每個(gè) GPU 價(jià)格 3.5 萬美元計(jì)算，意味著英偉達(dá)痛失總價(jià)值高達(dá) 150 億美元的訂單，這還不包括為中國(guó)專供的H800。為了達(dá)到預(yù)期，英偉達(dá)采取的措施是推出更高端的芯片，提高收入和利潤(rùn)。在產(chǎn)能有限的空間里、市場(chǎng)普遍對(duì)英偉達(dá)預(yù)期樂觀的背景下，英偉達(dá)利用近乎壟斷的地位，讓廠商為高端芯片買單，進(jìn)而提高收入和利潤(rùn)。

　　比如，英偉達(dá)正準(zhǔn)備推出新一代GH2000 Grace Hopper超級(jí)芯片，將于2024年第二季投產(chǎn)。相比最熱門的H100芯片，該芯片內(nèi)存容量高出3.5倍，帶寬高出3倍。

　　把英偉達(dá)歷代產(chǎn)品對(duì)比來看，就知道英偉達(dá)的利潤(rùn)一直在水漲船高。從配置成本來看，H100的前代產(chǎn)品A100的生產(chǎn)成本至少也要上千美金，售價(jià)1萬美元，而成本3300美元的H100如今售價(jià)高達(dá)3.6萬美元，利潤(rùn)極有可能成倍數(shù)增長(zhǎng)。

　　英偉達(dá)毛利率的提高也是證據(jù)。英偉達(dá)最近一個(gè)季度的毛利率為70.93%，對(duì)比去年的43.48%提升顯著。

　　至于英偉達(dá)的對(duì)手們，正在抓住那43.2萬張H100的缺口。AMD就推出MI300，對(duì)A100和H100發(fā)起挑戰(zhàn)。

　　但AMD的MI300和A100較量還好說，挑戰(zhàn)H100有點(diǎn)難，從搭載配置來看，MI300 搭載了4核1.2GHz處理器、Android5.1系統(tǒng)、1GB的RAM和8GB的RAM，對(duì)比來看H100搭載了4核1.4Ghz處理器、Android8.1系統(tǒng)、2GB 的RAM和16GB的RAM。誰勝誰負(fù)高下立判，更別說H100 T860的GPU。

　　至于英特爾，選擇了英偉達(dá)的弱勢(shì)出擊—在H100無法到達(dá)的地方，與其競(jìng)爭(zhēng)。

　　英特爾在中國(guó)市場(chǎng)推出第二代AI芯片HabanaGaudi2。據(jù)悉，英特爾Gaudi 2國(guó)內(nèi)首批將與百度智能云、浪潮信息、美團(tuán)、紫光新華三等公司合作。

　　促使英偉達(dá)做該項(xiàng)決策的可能是英偉達(dá)在中國(guó)日益減少的收入。2022年，英偉達(dá)中國(guó)地區(qū)的收入從71.11億美元減少13.26億美元到57.85億美元。

　　無論未來芯片市場(chǎng)有何變局，未來如何，至少AI的風(fēng)現(xiàn)在不會(huì)滅，英偉達(dá)也仍在芯片領(lǐng)域中叱咤風(fēng)云。

　　目前英偉達(dá)可能只剩下甜蜜的煩惱：如何造更多的芯片，如何讓股價(jià)滿足分析師預(yù)期。