Nvidia、AMD和Intel罕見聯(lián)手，投資一家光芯片公司

　　近年來(lái)，隨著AI競(jìng)爭(zhēng)愈演愈烈，無(wú)論是傳統(tǒng)還是新興的處理器巨頭都在圍繞CPU、GPU和AI加速器展開了激烈競(jìng)爭(zhēng)。尤其是AMD、Intel和英偉達(dá)三大標(biāo)志性巨頭，由于三者的競(jìng)爭(zhēng)包含后來(lái)者的追趕逆襲、新市場(chǎng)的來(lái)勢(shì)洶洶、老巨頭的不甘人后等情節(jié)，使得這三個(gè)巨頭的任何動(dòng)向尤為關(guān)注。這三家公司圍繞著人工智能和PC展開明爭(zhēng)暗斗也是眾所周知。

　　但近日，這三家公司罕見聯(lián)手，投資了一家名為Ayar Labs的光芯片初創(chuàng)公司。

　　三大芯片巨頭，看上光互連

　　Ayar Labs今天宣布，已獲得由 Advent Global Opportunities 和 Light Street Capital 領(lǐng)投的 1.55 億美元融資，旨在利用其光學(xué) I/O 技術(shù)打破 AI 數(shù)據(jù)移動(dòng)瓶頸。這使該公司的總?cè)谫Y額達(dá)到 3.7 億美元，并將公司估值提高至 10 億美元以上。

　　正如Ayar Labs所說(shuō)，本輪融資的規(guī)模和投資者的素質(zhì)標(biāo)志著 Ayar Labs 的又一個(gè)重要里程碑，該公司正在準(zhǔn)備其光學(xué)解決方案，以戰(zhàn)略性地配合客戶路線圖進(jìn)行大批量生產(chǎn)。該公司表示，參與本輪融資的知名公司就涵括了當(dāng)前最炙手可熱的芯片三大巨頭AMD Ventures、Intel Capital 和 NVIDIA ，其他新戰(zhàn)略和金融投資者包括 3M Ventures 和 Autopilot。值得一提的是，在之前，Ayar Labs也拿了包括Applied Ventures LLC、Axial Partners、Boardman Bay Capital Management、GlobalFoundries、IAG Capital Partners、Lockheed Martin Ventures、Playground Global 和 VentureTech Alliance在內(nèi)的眾多知名企業(yè)和機(jī)構(gòu)的錢。

　　Ayar Labs 首席執(zhí)行官兼聯(lián)合創(chuàng)始人 Mark Wade 表示：“領(lǐng)先的 GPU 提供商 AMD 和 NVIDIA 以及半導(dǎo)體代工廠 GlobalFoundries、Intel Foundry 和 TSMC，再加上 Advent、Light Street 和我們其他投資者的支持，凸顯了我們的光學(xué) I/O 技術(shù)重新定義 AI 基礎(chǔ)設(shè)施未來(lái)的潛力。”“我們非常幸運(yùn)，在這輪融資中，Light Street 在技術(shù)特定投資方面的深厚專業(yè)知識(shí)以及 Advent 強(qiáng)大的私募和成長(zhǎng)股權(quán)背景為我們提供了支持。”

　　據(jù)相關(guān)資料顯示，Ayar Labs成立于 2015 年，公司團(tuán)隊(duì)由來(lái)自英特爾、IBM、美光、Penguin、麻省理工學(xué)院、伯克利和斯坦福的許多頂尖技術(shù)專家組成。

　　在官網(wǎng)的介紹中，Ayar Labs將公司定位為光學(xué)互連解決方案領(lǐng)域的領(lǐng)導(dǎo)者，其提供的產(chǎn)品數(shù)據(jù)傳輸速度與 AI 相當(dāng)。公司表示，在意識(shí)到 AI 模型的復(fù)雜性和規(guī)模正在以傳統(tǒng)互連技術(shù)無(wú)法處理的速度增長(zhǎng)，他們開發(fā)了業(yè)界首個(gè)光學(xué) I/O 解決方案，使客戶能夠最大限度地提高不斷增長(zhǎng)的 AI 基礎(chǔ)設(shè)施的計(jì)算效率和性能，同時(shí)降低成本、延遲和功耗。Ayar Labs指出，公司的光學(xué) I/O 解決方案基于開放標(biāo)準(zhǔn)，并針對(duì) AI 訓(xùn)練和推理進(jìn)行了優(yōu)化，擁有強(qiáng)大的生態(tài)系統(tǒng)，使其能夠順利大規(guī)模集成到 AI 系統(tǒng)中。

　　如上圖所示，Ayar Labs 表示，公司故事的起源可以追溯到公司在2010年的發(fā)布的一篇名為《Open foundry platform for high-performance electronic-photonic integration》的論文。據(jù)介紹，該文章論述采用當(dāng)時(shí)商用電子 45 nm SOI-CMOS 代工工藝制造的具有 3 dB/cm 波導(dǎo)損耗的光子器件。通過(guò)利用現(xiàn)有的前端制造工藝，光子器件與電子器件單片集成在與晶體管相同的物理器件層中，實(shí)現(xiàn) 4 ps 邏輯級(jí)延遲，而不會(huì)降低晶體管性能。

　　在文章中，他們展示了一個(gè) 8 通道光學(xué)微環(huán)諧振器濾波器組和光調(diào)制器，它們均由集成數(shù)字電路控制。通過(guò)開發(fā)一種不需要任何工藝基礎(chǔ)設(shè)施更改的器件設(shè)計(jì)方法，可以實(shí)現(xiàn)廣泛可用的高性能光子電子集成電路平臺(tái)。

　　在文章的論述階段他們強(qiáng)調(diào)，論戰(zhàn)展示的電子-光子平臺(tái)是一種可訪問(wèn)的、低成本的利用現(xiàn)有電子代工廠基礎(chǔ)設(shè)施的方法，可用于制造高性能光子器件和最先進(jìn)的 CMOS 晶體管。使用薄 SOI-CMOS 工藝無(wú)需進(jìn)行代工廠內(nèi)部改動(dòng)，只需進(jìn)行簡(jiǎn)單的后處理即可實(shí)現(xiàn)良好的無(wú)源光子性能，消除了之前工作中存在的波導(dǎo)損耗瓶頸。文章介紹的濾波器組解復(fù)用器和調(diào)制器等設(shè)備，以及目前正在開發(fā)的集成光電探測(cè)器，構(gòu)成了先進(jìn)電子工藝中光子互連平臺(tái)的基礎(chǔ)，該工藝可用于制造當(dāng)今的微處理器。該代工平臺(tái)的通用性質(zhì)使我們可以使用最先進(jìn)的技術(shù)，這將極大地促進(jìn)整個(gè) VLSI 和光子系統(tǒng)及應(yīng)用領(lǐng)域的新型電光片上系統(tǒng)的研究。

　　正是基于這個(gè)研究，Ayar Labs在2015年宣告成立，然后在次年獲得了種子輪投資(GlobalFoundries 參與了種子輪融資)。

　　Ayar Labs，聚焦解決的問(wèn)題

　　在具體介紹Ayar Labs的產(chǎn)品之前，我們先介紹一下他們具體想解決什么問(wèn)題。

　　正如之前很多報(bào)道中所說(shuō)，高性能計(jì)算引擎存在帶寬和信號(hào)問(wèn)題，這已經(jīng)不是什么秘密了。如果你想要以合理的每秒容量快速地將數(shù)據(jù)輸入和輸出，從而讓引擎中的數(shù)十到數(shù)萬(wàn)個(gè)核心保持忙碌，那么如果你要堅(jiān)持使用銅線，就必須盡可能緊密地連接它們，無(wú)論是插入堆疊內(nèi)存的插入器上的走線，還是進(jìn)出 SerDes 的電線，以將計(jì)算引擎連接在一起以并行運(yùn)行。

　　問(wèn)題在于電線的長(zhǎng)度過(guò)長(zhǎng)。每次將帶寬增加一倍時(shí)，由于信號(hào)失真，您都必須將電線長(zhǎng)度減半。這是物理學(xué)和材料科學(xué)的問(wèn)題，每個(gè)人都知道最終銅線將被光纖取代。而且由于人工智能工作負(fù)載對(duì)帶寬的巨大需求，未來(lái)幾年內(nèi)這似乎將真正成為不可避免的趨勢(shì)。

　　Ayar Labs也正是這樣的“光”參與者，致力于打破過(guò)去的數(shù)據(jù)傳輸模式。

　　據(jù)了解，他們的目標(biāo)是將光通信直接置于封裝上，而不是受到 IO 密度問(wèn)題、數(shù)據(jù)速率擴(kuò)展和電子封裝到封裝互連的功率低效性限制。Ayar Labs 的主要觀點(diǎn)是，在 1cm 到 10cm 的傳輸范圍內(nèi)，光學(xué) IO 比當(dāng)前的電子系統(tǒng)更高效。解決數(shù)據(jù)傳輸功率膨脹問(wèn)題的最佳方法是，只要您將數(shù)據(jù)傳輸?shù)酱司嚯x以外，就切換到光學(xué)。

　　知名行業(yè)分析機(jī)構(gòu)semianalysis表示，轉(zhuǎn)向共封裝光學(xué)器件有許多好處。例如數(shù)據(jù)不需要從處理器發(fā)送到網(wǎng)卡，也不需要通過(guò)昂貴的光收發(fā)器。處理器本身也可以節(jié)省大量成本，因?yàn)椴槐貙⑻�多的芯片面積專用于大型高速電氣 SerDes。

　　鑒于 Ayar Labs 已加入開放的 UCIe 標(biāo)準(zhǔn)，Semianalysis認(rèn)為他們的芯片將使用該協(xié)議作為與外部公司芯片接口的基礎(chǔ)層。UCIe 支持英特爾、ASE 和臺(tái)積電的許多封裝選項(xiàng)。在處理器方面，英特爾、AMD、博通、美光、聯(lián)發(fā)科和 GUC 都是該聯(lián)盟的成員。UCIe 極大地降低了將第三方芯片集成到封裝中的進(jìn)入門檻，這反過(guò)來(lái)應(yīng)該會(huì)降低 Ayar Labs 獲得設(shè)計(jì)勝利的進(jìn)入門檻。此外，Ayar Labs 也明確支持高密度扇出、英特爾的 EMIB 和其他硅中介層技術(shù)。

　　目前，Ayar Labs有兩種主要的產(chǎn)品：一是SuperNova 光源——這是封裝外部的遠(yuǎn)程光源，可以將其視為位于 ASIC 封裝外部某處的光電源;另一個(gè)是TeraPHY 光學(xué) I/O 芯片，這種硅片包含約 7000 萬(wàn)個(gè)晶體管和 10,000 多個(gè)光學(xué)器件。據(jù)介紹，他們將硅光子器件集成到 CMOS 工藝中，制成我們作為芯片出售的硅片。該芯片集成到客戶 SOC 封裝中。

　　從官網(wǎng)可以看到，SuperNova遠(yuǎn)程光源是 Ayar Labs 光學(xué) I/O 解決方案的支柱，也是業(yè)界首款符合 CW-WDM MSA 標(biāo)準(zhǔn)的 16 波長(zhǎng)光源，可提供多達(dá) 16 種波長(zhǎng)的光并為多達(dá) 16 個(gè)端口供電。與 Ayar Labs TeraPHY 光學(xué) I/O 芯片組相結(jié)合，與傳統(tǒng)互連(可插拔光學(xué)器件 + 電氣 SerDes)相比，該解決方案可提供 5 至 10 倍的更高帶寬、10 倍的更低延遲和 4 至 8 倍的更高能效。光學(xué) I/O 消除了 I/O 瓶頸，超越了工藝限制，并為下一代 AI 架構(gòu)釋放了創(chuàng)新架構(gòu)。

　　TeraPHY光學(xué) I/O 芯片組則是一種體積小、功耗低、吞吐量高的銅背板和可插拔光學(xué)通信替代方案。TeraPHY 芯片組的模塊化多端口設(shè)計(jì)可承載八個(gè)光通道(相當(dāng)于 x8 PCIe Gen5 鏈路)。這款業(yè)界首創(chuàng)的光學(xué) I/O 芯片組將硅光子學(xué)與標(biāo)準(zhǔn) CMOS 制造工藝相結(jié)合。它適用于現(xiàn)有的系統(tǒng)級(jí)封裝架構(gòu)，不需要 SoC 定制。

　　按照該公司CEO Mark Wade所說(shuō)，Ayar Labs目前的主要商業(yè)模式是銷售實(shí)際產(chǎn)品。他表示，SOC領(lǐng)域已經(jīng)發(fā)生了整個(gè)范式轉(zhuǎn)變，以推動(dòng) chiplet 的采用。如果你打開 ASIC 的蓋子，你會(huì)看到里面有多個(gè)芯片。于是，Ayar Labs將所謂的“KGD”光學(xué)芯片裝入客戶的封裝中銷售。來(lái)到光學(xué) I/O 芯片方面，Ayar Labs將其作為創(chuàng)收產(chǎn)品銷售，客戶只需直接從我們這里購(gòu)買芯片即可。

　　Wade強(qiáng)調(diào)，Ayar Labs的市場(chǎng)策略專注于解決光子學(xué)領(lǐng)域的大批量、高質(zhì)量制造問(wèn)題。我們與 GlobalFoundries、Applied Materials、英特爾和臺(tái)積電等主要公司建立了戰(zhàn)略合作關(guān)系，并與所有一線 CMOS 制造商展開合作。

　　Ayar Labs還與大型 AI 系統(tǒng)領(lǐng)域的領(lǐng)導(dǎo)者 Nvidia 建立了戰(zhàn)略合作伙伴關(guān)系，共同將我們的技術(shù)融入未來(lái)的 AI 系統(tǒng)。公司的直接客戶正在構(gòu)建 SOC 和 SOC 系統(tǒng)，其一流生態(tài)系統(tǒng)包括 Nvidia、AMD、英特爾、博通和高通等公司。

　　“構(gòu)建大規(guī)模 AI 模型的終端客戶(例如 Anthropic 和 OpenAI)至關(guān)重要。數(shù)據(jù)中心在嘗試擴(kuò)展 AI 工作負(fù)載時(shí)出現(xiàn)了許多嚴(yán)重問(wèn)題。我們發(fā)現(xiàn)，這些公司對(duì)未來(lái)的愿景與我們多年來(lái)的預(yù)測(cè)相似，這證實(shí)了這一點(diǎn)。”Ayar Labs CEO Mark Wade強(qiáng)調(diào)。“我們的成功取決于能否進(jìn)入這些領(lǐng)域。我們正在應(yīng)對(duì)光子技術(shù)方面的挑戰(zhàn)，特別是在大批量、高質(zhì)量制造方面。這種方法使我們能夠與行業(yè)主要參與者合作，同時(shí)滿足最終用戶的需求，從而突破人工智能技術(shù)的界限。”Mark Wade接著說(shuō)。

　　Ayar Labs 今年八月曾表示，將發(fā)布其光學(xué) I/O 技術(shù)來(lái)取代芯片內(nèi)的銅線。該公司正在開發(fā)將光學(xué) I/O 放入芯片結(jié)構(gòu)中的技術(shù)，并已研究該技術(shù)十多年。該技術(shù)允許芯片內(nèi)部實(shí)現(xiàn)更快的通信，旨在取代速度較慢的銅線。

　　“借助光學(xué) I/O，你可以突破幾十米甚至幾百米的距離，然后連接更多的 GPU 或加速器，”Wade 說(shuō)。

　　大規(guī)模商用在即?

　　在人們很容易認(rèn)為，Nvidia、AMD 和英特爾的投資預(yù)示著這些公司正在尋求以某種方式在其計(jì)算引擎中部署 TeraPHY 光學(xué)傳輸及其 SuperNova 激光源。我們知道，他們的早期投資者HPE早在 2022 年 2 月就與 Ayar Labs 達(dá)成了一項(xiàng)戰(zhàn)略投資和合作協(xié)議，將硅光子學(xué)添加到其“Rosetta”Slingshot 互連中。

　　但在回答The Next Platform咨詢時(shí)，Ayar Labs 商業(yè)運(yùn)營(yíng)副總裁 Terry Thorn 開玩笑說(shuō)：“他們都是投資者和公司，我們正在與他們一起探索許多有趣的機(jī)會(huì)——其中大部分我們目前還不能談?wù)摗?rdquo;我們可以想象這種情況會(huì)發(fā)生，但還有許多其他方法可以實(shí)現(xiàn)共封裝光學(xué)器件，這三家公司也都有發(fā)明自己產(chǎn)品的習(xí)慣。

　　換而言之，通過(guò)這些投資，這些芯片公司可能只是想更深入了解 Ayar Labs 正在做的事情。但正如Mark Wade在之前的采訪中所說(shuō)，在很多場(chǎng)景中會(huì)需要使用光連接。

　　如他所說(shuō)，當(dāng)Ayar Labs剛開始研究這個(gè)問(wèn)題時(shí)，許多早期見解都來(lái)自高性能計(jì)算社區(qū)——你知道，國(guó)家實(shí)驗(yàn)室正在建造的大型機(jī)器。這些大型系統(tǒng)首先發(fā)現(xiàn)它們存在大量數(shù)據(jù)移動(dòng)問(wèn)題，這些問(wèn)題開始成為整個(gè)系統(tǒng)性能的瓶頸。這就是Ayar Labs稱之為“煤礦中的金絲雀”的 2010 年至 2015 年的時(shí)間段，當(dāng)時(shí)的現(xiàn)狀表明底層計(jì)算技術(shù)存在問(wèn)題。

　　之后，隨著人工智能工作流程開始出現(xiàn)，以及圖像識(shí)別、推薦引擎等早期工作負(fù)載——但后來(lái)，特別是當(dāng)轉(zhuǎn)換器模型上線并開始啟用新的人工智能應(yīng)用程序時(shí)，我們進(jìn)入了生成式人工智能時(shí)代。但關(guān)鍵是要意識(shí)到，構(gòu)成這些人工智能計(jì)算系統(tǒng)骨干的計(jì)算系統(tǒng)看起來(lái)像高性能計(jì)算架構(gòu)。

　　“因此，十年前在高性能計(jì)算中發(fā)生的相同數(shù)據(jù)移動(dòng)挑戰(zhàn)現(xiàn)在開始出現(xiàn)在人工智能系統(tǒng)中，并成為整個(gè)系統(tǒng)性能的瓶頸。”Mark Wade強(qiáng)調(diào)。

　　Mark Wade指出，這是一個(gè)多方面的問(wèn)題。您必須讓人們?cè)诠β适芟薜那闆r下將更多帶寬傳輸?shù)礁�長(zhǎng)的距離。因此，這些系統(tǒng)的功率限制并不是無(wú)限的。每個(gè)級(jí)別都存在熱和功率密度問(wèn)題 - 芯片級(jí)、封裝級(jí)、系統(tǒng)板級(jí)、機(jī)架級(jí)。因此，每個(gè)級(jí)別都存在功率問(wèn)題。延遲是您必須更仔細(xì)檢查的地方。

　　“如今，人們使用銅線和電氣 I/O 以電氣方式傳輸高帶寬的方式，您往往會(huì)做一些事情，例如添加糾錯(cuò)，因?yàn)槟�要嘗試恢復(fù)在以電氣方式傳輸數(shù)據(jù)時(shí)發(fā)生的所有低效率和數(shù)據(jù)損壞。在光學(xué)方面，您可以以一種優(yōu)雅的方式解決這個(gè)問(wèn)題，從而擺脫糾錯(cuò)。因此，您可以獲得更輕量級(jí)的糾錯(cuò)架構(gòu)，但這會(huì)影響延遲。”Mark Wade說(shuō)。

　　為了實(shí)現(xiàn)上述目標(biāo)，Ayar Labs一直在豐富其產(chǎn)品線。

　　如果你看一下路線圖，就會(huì)發(fā)現(xiàn)Ayar Labs每隔幾年就會(huì)將每個(gè)芯片的帶寬翻一番。他們的計(jì)劃從 4 Tbps 增加到 8 Tbps，然后是 16Tbps 和 32 Tbps，這是每個(gè)芯片的帶寬。Ayar Labs還下調(diào)了一些向量——每個(gè)芯片的帶寬、每個(gè)封裝實(shí)例化多個(gè)芯片的能力、擴(kuò)大整個(gè)封裝級(jí)別帶寬以及可以從封裝中釋放的帶寬基數(shù)。Ayar Labs的客戶通常關(guān)注我們可以從他們的封裝中釋放多少帶寬，以及在什么樣的功率密度約束下。特別是隨著人工智能系統(tǒng)的發(fā)展，每個(gè)封裝中更高的帶寬釋放變得越來(lái)越重要，同時(shí)也提高了連接的基數(shù)。

　　目前，Ayar Labs的每個(gè)芯片有 8 個(gè)端口，每個(gè)芯片組有 8 個(gè)端口。假設(shè)每個(gè)封裝有 4 個(gè)芯片組，則您的連接端口為 32 個(gè)，您可以將所有這些端口連接到不同的地方。

　　展望未來(lái)，Wade表示：“我們目前在實(shí)驗(yàn)室中與客戶共同開展的工作，實(shí)際上是為了在兩到三年后實(shí)現(xiàn)首次大規(guī)模市場(chǎng)部署。”

　　寫在最后

　　其實(shí)光學(xué)并不是一項(xiàng)新技術(shù)——光纖真正進(jìn)入技術(shù)領(lǐng)域是在 70 年代。我們開始建造海底電纜和類似的東西，最終連接互聯(lián)網(wǎng)。光學(xué)技術(shù)是眾所周知的。

　　但是將數(shù)據(jù)直接以光學(xué)方式從計(jì)算包中移出的需求實(shí)際上是一個(gè)相當(dāng)新的現(xiàn)象，這與電氣 I/O 問(wèn)題的惡化速度有關(guān)。我們的應(yīng)用程序需要更高的帶寬和更好的能效——這開始打破現(xiàn)有的基于電氣 I/O 的系統(tǒng)。但挑戰(zhàn)在于，你不能只把人們使用的技術(shù)和產(chǎn)品用于人們可能熟悉的更標(biāo)準(zhǔn)化的解決方案，例如使用以太網(wǎng)的可插拔收發(fā)器。如果我在數(shù)據(jù)中心內(nèi)移動(dòng) 100 Gbps、400 Gbps 或 800 Gbps，那么這些已經(jīng)是光學(xué)可插拔收發(fā)器了。問(wèn)題是，如果你打開這些收發(fā)器并查看里面的東西，你會(huì)發(fā)現(xiàn)它們沒有直接擴(kuò)展到計(jì)算結(jié)構(gòu)的特性。

　　因此，要實(shí)現(xiàn)上述目標(biāo)，除了要面對(duì)尺寸、元件數(shù)量、成本結(jié)構(gòu)，以及所有這些組件的組裝方式外。還有功率效率、熱靈敏度等問(wèn)題，還有“我不能直接將收發(fā)器放入計(jì)算機(jī)封裝中”的一系列問(wèn)題。

　　面向這個(gè)市場(chǎng)和機(jī)會(huì)，除了Ayar Labs以外，Lightmatter、Celestial AI 、Eliyan以及國(guó)內(nèi)的曦智和一大堆的處理器、晶圓廠和封裝廠都在努力，為硅光子學(xué)成為計(jì)算引擎和互連之間的橋梁各出奇招。