亞馬遜自研 AWS 芯片在生成式人工智能領域追趕微軟和谷歌

　　在德克薩斯州奧斯汀一個沒有標記的辦公大樓里，兩個小房間中有幾個亞馬遜員工正在設計兩種微芯片，用于訓練和加速生成式人工智能。這些定制芯片——Inferentia 和 Trainium，為 AWS 客戶提供了一種訓練其大型語言模型的替代方案，而這些模型在 GPU 采購上變得越來越困難和昂貴。

　　亞馬遜網絡服務(AWS)首席執(zhí)行官 Adam Selipsky 在六月接受采訪時表示：「全世界都想要更多用于生成式人工智能的芯片，無論是 GPU 還是我們自己設計的亞馬遜芯片。我認為，我們在為客戶提供所需容量方面比任何其他公司都更具優(yōu)勢�！�

　　然而，其他公司已經更加迅速并投入更多資金來抓住生成式人工智能的商機。當 OpenAI 于 11 月發(fā)布 ChatGPT 時，微軟因為托管這個病毒式聊天機器人并投資據報道達 130 億美元而受到廣泛關注。微軟迅速將生成式人工智能模型加入自己的產品中，并在二月份將其納入必應搜索引擎。

　　同月，谷歌推出了自己的大型語言模型 Bard，并投資了 OpenAI 的競爭對手 Anthropic 3 億美元。

　　直到四月，亞馬遜才宣布推出自己的大型語言模型家族 Titan，以及一個名為 Bedrock 的服務，幫助開發(fā)人員利用生成式人工智能增強軟件。

　　「亞馬遜不習慣追逐市場，亞馬遜習慣創(chuàng)建市場。我認為長時間以來，它們首次發(fā)現自己處于被動地位，并努力追趕進度，」咨詢公司 Gartner 的副總裁分析師 Chirag Dekate 表示。

　　Meta 最近也發(fā)布了自己的 LLM——Llama 2。這款開源的 ChatGPT 競爭對手現在可以在微軟的 Azure 公共云上進行測試。

　　芯片作為「真正的差異化」

　　Dekate 說，從長遠來看，亞馬遜的定制芯片可能在生成式人工智能領域給它帶來優(yōu)勢。

　　他說：「我認為真正的差異化是他們所擁有的技術能力。你猜怎么著?微軟沒有 Trainium 或 Inferentia�！�

　　AWS 從 2013 年開始悄悄地生產定制芯片，首先推出了一款名為 Nitro 的專用硬件。如今，這是 AWS 體量最大的芯片。亞馬遜告訴 CNBC，每臺 AWS 服務器至少有一顆 Nitro 芯片，總共使用超過 2000 萬顆。

　　2015 年，亞馬遜收購了以色列芯片初創(chuàng)公司 Annapurna Labs。然后在 2018 年，亞馬遜推出了基于 Arm 架構的服務器芯片 Graviton，這是與 AMD 和英特爾等巨頭的 x86 CPU 相競爭的一款產品。

　　「目前 ARM 芯片可能占總服務器市場總銷售額的個位數甚至 10%，而且其中一大部分會賣給亞馬遜。所以從 CPU 方面來看，他們做得相當不錯，」Bernstein Research 的高級分析師 Stacy Rasgon 說道。

　　2018 年，亞馬遜推出了面向人工智能的芯片。這是谷歌宣布推出第一款 Tensor 處理器單元(TPU)的兩年后。據報道，微軟目前正在與 AMD 合作開發(fā)名為 Athena 的人工智能芯片，但尚未正式宣布。

　　CNBC 參觀了亞馬遜在德克薩斯州奧斯汀的芯片實驗室，那里是 Trainium 和 Inferentia 的開發(fā)和測試地點。產品副總裁 Matt Wood 解釋了這兩款芯片的應用。

　　他說：「機器學習可以分為兩個不同的階段。你首先訓練機器學習模型，然后對這些訓練好的模型進行推理�！埂赶鄬τ� AWS 上訓練機器學習模型的任何其他方式，Trainium 的性價比提高了約 50%。」

　　Trainium 于 2021 年首次上市，此前在 2019 年發(fā)布的 Inferentia 已經進入第二代。Inferentia 使客戶能夠以非常低的成本、高吞吐量、低延遲運行機器學習推理�！府斈爿斎胩崾镜侥愕纳�成式人工智能模型中時，所有的預測都是在那里處理的，」Wood 說。

　　然而，就目前而言，英偉達的 GPU 在訓練模型方面仍然占主導地位。今年 7 月，AWS 推出了由英偉達 H100s 驅動的新型人工智能加速硬件。

　　Rasgon 說：「英偉達芯片擁有一個龐大的軟件生態(tài)系統(tǒng)，已經建立了超過 15 年的時間，其他公司都沒有。對于目前的人工智能來說，最大的贏家是英偉達。」

　　然而，AWS 在云計算領域的主導地位是亞馬遜的一個重要優(yōu)勢。

　　「亞馬遜不需要贏得頭條新聞。亞馬遜已經擁有非常強大的云計算用戶群體。他們只需要找出如何讓現有客戶利用生成式人工智能擴展價值創(chuàng)造活動，」Dekate 說。

　　在選擇用于生成式人工智能的亞馬遜、谷歌和微軟之間，有數百萬的 AWS 客戶可能會被亞馬遜吸引，因為他們對亞馬遜已經很熟悉，正在運行其他應用程序并將數據存儲在那里。

　　AWS 是全球最大的云計算提供商，在 2022 年擁有 40% 的市場份額，根據技術行業(yè)研究機構 Gartner 的數據。盡管近三個季度的運營收入同比下降，但 AWS 在第二季度的運營利潤中仍占據了亞馬遜整體 77 億美元運營利潤的 70%。AWS 的運營利潤率歷史上一直遠遠高于谷歌云。

　　AWS 還擁有日益增長的面向生成式人工智能的開發(fā)者工具組合。

　　讓我們把時間倒回到 ChatGPT 之前。AWS 數據庫、分析和機器學習副總裁 Swami Sivasubramanian 說：「這并不是說在那件事發(fā)生后，我們突然匆忙地想出了一個計劃，因為你不可能在那么短的時間內設計出一個芯片，更不可能在 2 到 3 個月的時間內構建出 Bedrock 服務。」

　　Swami Sivasubramanian 說：「Bedrock 讓 AWS 客戶可以訪問由 Anthropic、Stability AI、AI21 Labs 和亞馬遜自己的 Titan 開發(fā)的大型語言模型。我們不相信一個模型就能統(tǒng)治世界，我們希望我們的客戶能從多個供應商那里獲得最先進的模型，因為他們要為正確的工作選擇正確的工具。」

　　亞馬遜最新的人工智能產品之一是 AWS HeAlthScribe，這是一個在七月推出的服務，利用生成式人工智能幫助醫(yī)生起草患者就診總結。亞馬遜還有一個名為 SageMaker 的機器學習中心，提供算法、模型等。

　　另一個重要工具是編碼輔助工具 CodeWhisperer，亞馬遜表示該工具使開發(fā)人員的任務平均完成時間提高了 57%。去年，微軟也報道了其編碼輔助工具 GitHub Copilot 帶來的提升生產力的情況。

　　六月，AWS 宣布成立了一個價值 1 億美元的生成式人工智能創(chuàng)新「中心」。

　　「我們有很多客戶表示，『我想進行生成式人工智能』，但他們并不清楚這對他們自己的業(yè)務意味著什么。因此，我們將派遣解決方案架構師、工程師、戰(zhàn)略家和數據科學家與他們一對一合作。」AWS 首席執(zhí)行官 Selipsky 說。

　　盡管迄今為止 AWS 主要專注于工具而不是構建與 ChatGPT 競爭的產品，但最近泄露的內部電子郵件顯示，亞馬遜首席執(zhí)行官安迪·賈西 (Andy Jassy)直接監(jiān)督著一個新的中央團隊，正在構建更廣泛的大規(guī)模語言模型。

　　在第二季度的盈利電話會議上，賈西表示，AWS 業(yè)務的「很大一部分」現在由人工智能推動，提供了 20 多個機器學習服務。一些客戶案例包括飛利浦、3M、Old Mutual 和匯豐銀行。

　　人工智能的爆炸性增長伴隨著許多公司擔心員工將專有信息放入用于公共大型語言模型的訓練數據中的一系列安全問題。

　　「我無法告訴你有多少財富 500 強企業(yè)告訴我他們禁止使用 ChatGPT。因此，我們通過我們對生成式人工智能的方法和我們的 Bedrock 服務來保障客戶的需求。通過 Bedrock 使用的任何模型都將位于您獨立的虛擬私有云環(huán)境中，并進行加密，同時具備相同的 AWS 訪問控制�！筍elipsky 說。

　　目前，亞馬遜只是在加速推進生成式人工智能，告訴 CNBC 稱，「超過 100，000」個客戶如今正在使用亞馬遜的機器學習。盡管這只是 AWS 數百萬客戶中的一小部分，但分析師表示這種情況可能會發(fā)生改變。

　　「我們沒有看到企業(yè)說，『哦，等等，微軟在生成式人工智能領域領先，我們就切換基礎設施策略，將一切遷移到微軟上�！弧笵ekate 說�！�如果您已經是亞馬遜的客戶，很有可能會廣泛探索亞馬遜的生態(tài)系統(tǒng)。」