亞馬遜云科技新發(fā)的AIGC工具Amazon Bedrock和Amazon SageMaker有何不同？

　　4月23日消息，就在上周，亞馬遜云科技最新推出了生成式AI(AIGC)工具Amazon Bedrock、Amazon Titan基礎(chǔ)模型，并向個(gè)人開發(fā)者免費(fèi)開放AI編程工具Amazon CodeWhisperer等等。詳見TechWeb此前報(bào)道(亞馬遜的大語言模型產(chǎn)品露面 CEO稱正加大投資生成式AI)

　　從OpenAI推出ChatGPT起，到國內(nèi)百度、阿里等廠商陸續(xù)推出AIGC產(chǎn)品，國內(nèi)外大型語言模型(LLM)概念和產(chǎn)品大熱，大廠間的競爭如火如荼。此番，亞馬遜云科技在生成式AI領(lǐng)域一口氣推出多項(xiàng)新服務(wù)，自然引發(fā)業(yè)內(nèi)人士關(guān)注。

　　亞馬遜云科技新推出的系列 AIGC產(chǎn)品和服務(wù)

　　新推出的生成式AI工具Amazon Bedrock有哪些能力?它和目前市面上的AIGC產(chǎn)品定位有何不同?

　　企業(yè)用戶能如何使用Amazon Bedrock來滿足自身的AIGC服務(wù)需求?

　　和亞馬遜云科技的機(jī)器學(xué)習(xí)神器Amazon SageMaker相比，Amazon Bedrock的服務(wù)側(cè)重點(diǎn)在哪兒，二者能如何協(xié)調(diào)?……

　　帶著這樣一些問題，TechWeb同亞馬遜云科技相關(guān)技術(shù)團(tuán)隊(duì)人員進(jìn)行了交流，以期理清上述問題。

　　1、新推出的生成式AI工具Amazon Bedrock有哪些能力？怎么用？

　　此次亞馬遜云科技推出的Amazon Titan基礎(chǔ)模型包括兩個(gè)全新的大語言模型:

　　第一個(gè)是針對總結(jié)、文本生成(如原創(chuàng)博客)、分類、開放式問答和信息提取等任務(wù)的生成式大語言模型;

　　第二個(gè)是文本嵌入(embeddings)大語言模型，能夠?qū)⑽谋据斎?字詞、短語甚至是大篇幅文章)翻譯成包含語義的數(shù)字表達(dá)(即embeddings 嵌入編碼)。

　　Amazon Bedrock這項(xiàng)新服務(wù)是一項(xiàng)全新的全托管服務(wù)，它允許用戶通過API訪問亞馬遜云科技和第三方基礎(chǔ)模型提供商的預(yù)訓(xùn)練基礎(chǔ)模型(Foundation model)

　　目前，Amazon Bedrock支持API訪問的基礎(chǔ)模型共有5款，分別是來自AI21 Labs、Anthropic、Stability AI這3家第三方合作伙伴的基礎(chǔ)模型，以及亞馬遜新發(fā)布的Amazon Titan的2款基礎(chǔ)模型。

　　提醒一下，Stability AI就是目前在全球非常火爆的AI繪畫工具Stable Diffusion的公司。該公司推出了開源AIGC模型Stable Diffusion。利用這一模型，即便是完全不具備繪畫能力的人，只需要提供一段文字描述，就可以創(chuàng)作出精妙絕倫的繪畫作品。Stable Diffusion自2022年8月推出以來，已經(jīng)被全球超過20萬開發(fā)者下載和授權(quán)，也受到國內(nèi)開發(fā)者的廣泛追捧。

　　亞馬遜云科技大中華區(qū)產(chǎn)品部總經(jīng)理陳曉建表示，Amazon Bedrock是客戶使用基礎(chǔ)模型構(gòu)建和擴(kuò)展生成式AI應(yīng)用程序的最簡單方法，降低了所有開發(fā)者的使用門檻。

　　陳曉建認(rèn)為Amazon Bedrock具備五個(gè)特點(diǎn)：

　　一、全托管的體驗(yàn)：Bedrock通過API提供無服務(wù)器的托管體驗(yàn)，客戶無需擔(dān)心實(shí)例類型、網(wǎng)絡(luò)拓?fù)浜投它c(diǎn)等基礎(chǔ)設(shè)施細(xì)節(jié)。

　　二、輕松定制：客戶只要在Amazon S3中提供少量(低至20個(gè))帶標(biāo)簽的示例，就可以輕松定制Bedrock的基礎(chǔ)模型，用于其特定用例。

　　三、以隱私思維構(gòu)建：用于模型微調(diào)的客戶專有數(shù)據(jù)不會(huì)用于訓(xùn)練基礎(chǔ)模型，確�？蛻舻墓ぷ鞒晒�不會(huì)讓其它客戶(包括競爭對手)受益。

　　四、Amazon Titan基礎(chǔ)模型：Bedrock可以獨(dú)家訪問亞馬遜云科技開發(fā)的最先進(jìn)基礎(chǔ)模型。

　　五、客戶選擇權(quán)：客戶可以在亞馬遜云科技和第三方合作伙伴的多個(gè)不同基礎(chǔ)模型之間進(jìn)行選擇，這些基礎(chǔ)模型都可以進(jìn)一步定制以支持其特定用例。

　　2、Amazon Bedrock vs Amazon SageMaker? 還是 Amazon Bedrock & Amazon SageMaker?

　　事實(shí)上，亞馬遜云科技旗下的人工智能(AI)和機(jī)器學(xué)習(xí)(ML)服務(wù)Amazon SageMaker已經(jīng)為AI開發(fā)人員所熟悉。

　　2017年，在亞馬遜云科技 re:Invent 全球大會(huì)上，Amazon SageMaker首次亮相。Amazon SageMaker推出了全球首個(gè)用于機(jī)器學(xué)習(xí)的集成開發(fā)環(huán)境(IDE)，它使得不論是開發(fā)人員、數(shù)據(jù)科學(xué)家、還是商業(yè)分析師都能夠快速、輕松地準(zhǔn)備數(shù)據(jù)，并在規(guī)模上構(gòu)建、訓(xùn)練和部署高質(zhì)量的機(jī)器學(xué)習(xí)模型，大大降低了機(jī)器學(xué)習(xí)的使用門檻。

　　那么，這次亞馬遜云科技推出的AIGC工具Amazon Bedrock和Amazon SageMaker之間是一種什么關(guān)系呢?

　　對此，亞馬遜云科技大中華區(qū)數(shù)據(jù)技術(shù)專家團(tuán)隊(duì)總監(jiān)王曉野向TechWeb介紹道：

　　Amazon Bedrock和Amazon Sagemaker是兩個(gè)獨(dú)立的服務(wù)。

　　Amazon SageMaker是端到端的機(jī)器學(xué)習(xí)平臺，它的功能包括從數(shù)據(jù)標(biāo)注到數(shù)據(jù)訓(xùn)練、再到部署、上線以后的持續(xù)監(jiān)控以及基于原始數(shù)據(jù)的再迭代等端到端的能力。在生成式AI大模型出現(xiàn)之前，它就已經(jīng)非常成熟的在幫助客戶解決問題了。

　　Amazon Bedrock的定位是要解決以下幾個(gè)核心的問題：

　　一是能幫客戶快速找到行業(yè)領(lǐng)先模型，并通過API的方式盡可能的不用客戶自己去管理底層硬件和運(yùn)維即可訪問。

　　二是，用戶采用Amazon Bedrock做模型調(diào)優(yōu)和訓(xùn)練的時(shí)候，和使用Amazon SageMaker的區(qū)別是，Amazon SageMaker首先是面向數(shù)據(jù)科學(xué)家，需要編寫代碼并提供數(shù)據(jù)以及添加參數(shù)去做模型和調(diào)優(yōu)。從應(yīng)用形式上，在Bedrock里面，客戶只需要提供20個(gè)已經(jīng)標(biāo)注好的數(shù)據(jù)，就可以很快展開，不需要編寫太多的代碼。

　　另外，在部署集成方面，Amazon SageMaker和Bedrock還有一些結(jié)合點(diǎn)。事實(shí)上SageMaker的某些功能可以被復(fù)用到Bedrock訓(xùn)練出來的模型上面。比如客戶通過Bedrock自己定制了一個(gè)模型出來，新的模型在應(yīng)用的時(shí)候，模型管理的流程是可以互通的�？蛻艨梢詫⒒�礎(chǔ)模型與 Amazon SageMaker 機(jī)器學(xué)習(xí)功能集成，使用 Experiments 測試不同模型和使用Pipelines 大規(guī)模管理基礎(chǔ)模型等等。

　　王曉野總結(jié)認(rèn)為，二者基本的區(qū)分如果畫一下用戶畫像的話，SageMaker是針對專業(yè)人員，Bedrock是盡可能降低門檻，讓偏向于行業(yè)的場景用戶能夠更好的用起來。

　　陳曉建補(bǔ)充道，Bedrock作為一個(gè)新的、生成式AI的生產(chǎn)工具，依托于現(xiàn)有的五個(gè)已經(jīng)預(yù)設(shè)的基礎(chǔ)模型，通過API直接調(diào)用，生成更多的內(nèi)容。 Amazon SageMaker是全方位的、全功能化的機(jī)器學(xué)習(xí)工具，包括數(shù)據(jù)標(biāo)注到訓(xùn)練到推理，整個(gè)能力都是具備的，同時(shí)它也有一些預(yù)設(shè)的能力。你可以根據(jù)需要選擇適用的場景。

　　也就是說，Bedrock只是在生成式AI領(lǐng)域，Amazon SageMaker是針對所有機(jī)器學(xué)習(xí)和人工智能領(lǐng)域。生成式AI只是AI的一部分，而Amazon SageMaker是面向整個(gè)AI/ML的。

　　3、亞馬遜云科技如何定位自己的AICG產(chǎn)品和服務(wù)？

　　陳曉建表示，在人工智能、機(jī)器學(xué)習(xí)和堆棧這三個(gè)層級，亞馬遜云科技都擁有非常多的產(chǎn)品組合，我們一直利用人工智能和機(jī)器學(xué)習(xí)技術(shù)賦能千行百業(yè)。

　　這次在生成式AI領(lǐng)域發(fā)布多項(xiàng)新服務(wù)，陳曉建稱，亞馬遜云科技同樣致力于推動(dòng)技術(shù)的普惠化：希望將生成式AI技術(shù)從研究和實(shí)驗(yàn)領(lǐng)域釋放出來，不只讓少數(shù)初創(chuàng)公司和資金雄厚的大型科技公司，而是讓更多公司都能從中受益。我們的使命是讓各種技能水平的開發(fā)人員和各種規(guī)模的組織都有機(jī)會(huì)使用生成式 AI 進(jìn)行創(chuàng)新。

　　談及“普惠”，陳曉建舉例稱，此次除了推出AIGC具體產(chǎn)品和服務(wù)Amazon Bedrock和Amazon Titan基礎(chǔ)模型外，亞馬遜云科技還宣布基于Amazon Trainium芯片的新型Trn1n實(shí)例正式可用，該實(shí)例將網(wǎng)絡(luò)帶寬提高了一倍，為訓(xùn)練生成式AI模型提供了更高的性能。同時(shí)，基于AI的編程助手Amazon CodeWhisperer正式可用，個(gè)人開發(fā)者可以免費(fèi)訪問Amazon CodeWhisperer，且沒有任何使用限制。

　　“我們相信，機(jī)器學(xué)習(xí)的新浪潮才剛開始，未來充滿了無限的可能，亞馬遜云科技也希望能夠在這個(gè)方面為客戶創(chuàng)造更多的價(jià)值。”陳曉建強(qiáng)調(diào)。