AI 應(yīng)用開(kāi)發(fā)者平臺(tái)BentoML獲 DCM 領(lǐng)投 900 萬(wàn)美元種子輪融資，以 Serverless 云平臺(tái)提供開(kāi)箱即用的解決方案

　　AI 應(yīng)用開(kāi)發(fā)者平臺(tái)「BentoML」已于日前完成 900 萬(wàn)美元種子輪融資，本輪融資由 DCM 領(lǐng)投，Bow Capital 參投，融資金額將用于擴(kuò)充產(chǎn)品體系和提升產(chǎn)品水平。

　　「BentoML」是一家專注于 AI 應(yīng)用的開(kāi)發(fā)者平臺(tái)，成立于 2019 年，總部位于舊金山。核心團(tuán)隊(duì)主要由具有硅谷技術(shù)創(chuàng)業(yè)經(jīng)歷的工程師組成。「BentoML」致力于為開(kāi)發(fā)者和企業(yè)客戶提供構(gòu)建、部署和擴(kuò)展 AI 應(yīng)用程序的能力，其開(kāi)源產(chǎn)品已經(jīng)支持全球范圍內(nèi)數(shù)千個(gè)企業(yè)及組織的核心 AI 應(yīng)用，并受到了全球 AI 應(yīng)用開(kāi)發(fā)者的青睞�！窧entoML」于近日發(fā)布其 Serverless 云平臺(tái) BentoCloud，將更好的服務(wù)于全球 AI 開(kāi)發(fā)者，進(jìn)一步滿足縮減開(kāi)發(fā)時(shí)間和成本的剛性需求。

　　" 友好的開(kāi)發(fā)者體驗(yàn)，能讓更多的開(kāi)發(fā)者將 AI 融入到他們的產(chǎn)品中去。"

　　「BentoML」創(chuàng)始人、CEO 楊超予曾是 Databricks 早期員工，他告訴 36 氪，" 未來(lái)一段時(shí)間內(nèi)，縮短開(kāi)發(fā)周期、降低開(kāi)發(fā)門檻，將會(huì)成為開(kāi)發(fā)者和企業(yè)通過(guò) AI 來(lái)獲得競(jìng)爭(zhēng)優(yōu)勢(shì)的重要因素。"

　　值得一提的是，「BentoML」自研的 LLM(大語(yǔ)言模型)開(kāi)放平臺(tái)「OpenLLM」，在全球最大開(kāi)源項(xiàng)目社區(qū) GitHub 上，僅上線一周就成為了 " 趨勢(shì)項(xiàng)目 "。

　　GitHub - Trending

　　從模型部署切入，讓 AI 開(kāi)發(fā) " 開(kāi)箱即用 "

　　通過(guò)把所需的基礎(chǔ)設(shè)施進(jìn)行模塊化處理，和對(duì)于常見(jiàn)機(jī)器學(xué)習(xí)框架及推理引擎的支持，「BentoML」發(fā)布了其自研 Serverless 云平臺(tái)「BentoCloud」，提供了一套簡(jiǎn)單易用的 API 和靈活的架構(gòu)，使得開(kāi)發(fā)者可以更容易地選用若干預(yù)訓(xùn)練好的模型去開(kāi)發(fā)不同類型的 AI 應(yīng)用。目前，「BentoML」主要優(yōu)勢(shì)有三：

　　首先，「BentoML」允許開(kāi)發(fā)者使用一套編程接口部署任何策略，這也是其作為新一代開(kāi)發(fā)者平臺(tái)有別于其他框架的特點(diǎn)之一。從低延時(shí)的 API 接口、針對(duì)長(zhǎng)推理任務(wù)的近線計(jì)算，到分布式的批處理和流處理等，開(kāi)發(fā)者只需要寫一次代碼去描述 AI 應(yīng)用的邏輯。

　　其次，「BentoML」對(duì)主流模型進(jìn)行了開(kāi)箱即用的封裝和優(yōu)化，目前支持包括大語(yǔ)言模型(LLM)、生成式 AI、計(jì)算機(jī)視覺(jué)、自然語(yǔ)言處理(NLP)等在內(nèi)的大部分細(xì)分領(lǐng)域 AI 應(yīng)用開(kāi)發(fā)。

　　第三，基于 BentoML 開(kāi)源框架的多年積累，「BentoCloud」的計(jì)費(fèi)方式是在業(yè)務(wù)高峰期自動(dòng)擴(kuò)容，在高峰過(guò)后縮容為零，確保開(kāi)發(fā)者只為使用的算力付費(fèi)，比起租用 GPU 來(lái)說(shuō)大幅降低了研發(fā)與業(yè)務(wù)成本。

　　圖源：BentoML

　　成立之初，「BentoML」從模型部署切入，主要面向?qū)�業(yè)的 AI 開(kāi)發(fā)者。如今，隨著更多商業(yè)機(jī)會(huì)的出現(xiàn)，「BentoML」也正在向著更廣泛的 AI 應(yīng)用場(chǎng)景進(jìn)發(fā)。

　　比如，生成式 AI 的爆發(fā)，導(dǎo)致從去年開(kāi)始整個(gè) AI 領(lǐng)域涌入了一大批 AI 應(yīng)用開(kāi)發(fā)者，其中很多人的經(jīng)驗(yàn)和技術(shù)背景主要來(lái)自于產(chǎn)品開(kāi)發(fā)、移動(dòng)應(yīng)用開(kāi)發(fā)等。為了調(diào)用 AI 的能力，他們需要在自己不擅長(zhǎng)的領(lǐng)域進(jìn)行大量的學(xué)習(xí)和實(shí)踐。

　　" 這群新用戶是今天市場(chǎng)的發(fā)展讓我們看到的最大的改變。"

　　楊超予坦言，將 AI 開(kāi)發(fā)的門檻降低到普通開(kāi)發(fā)者的手中，" 這個(gè)想法早就有了 "。去年夏天，「BentoML」團(tuán)隊(duì)還在預(yù)言，未來(lái)會(huì)出現(xiàn)一個(gè) AI 應(yīng)用開(kāi)發(fā)工程師的職位。直到今年 2 月，新聞開(kāi)始每天沖擊著整個(gè)科技圈的視野，隨之而來(lái)的是周圍做軟件開(kāi)發(fā)的人開(kāi)始詢問(wèn)：如果我想做一個(gè)怎樣的模型，一個(gè)怎樣的應(yīng)用，我應(yīng)該怎么做?

　　在越來(lái)越多的聲音中，楊超予感受到，變革真的在發(fā)生。

　　對(duì)于市場(chǎng)驅(qū)動(dòng)下的新用戶來(lái)說(shuō)，「BentoML」發(fā)布了專屬的框架幫助用戶自己去探索或組合 AI 開(kāi)發(fā)中的各種解決方案。比如聊天機(jī)器人、OCR、圖像檢索、文本內(nèi)容搜索等常用 AI 場(chǎng)景。

　　簡(jiǎn)化產(chǎn)品路徑，建立 MLOps 標(biāo)準(zhǔn)

　　除了以 AI 為核心體驗(yàn)的產(chǎn)品服務(wù)之外，目前，開(kāi)發(fā)基于 AI 的產(chǎn)品服務(wù)也已經(jīng)成為了企業(yè)創(chuàng)新和提高生產(chǎn)效率的首要任務(wù)。

　　" 企業(yè)對(duì)人工智能應(yīng)用的需求正在到達(dá)一個(gè)拐點(diǎn)。"

　　然而，由于構(gòu)建 AI 應(yīng)用的開(kāi)放標(biāo)準(zhǔn)尚未建立，盡管 AI 的目的是作用于更高效的生產(chǎn)和更好的用戶體驗(yàn)，但復(fù)雜的需求和生產(chǎn)環(huán)境仍然讓如今的 AI 開(kāi)發(fā)變得緩慢、昂貴、且門檻極高：盡管目前開(kāi)源社區(qū)中已經(jīng)存在如 LLaMA、Stable Diffusion、LangChain 等的開(kāi)發(fā)組件和預(yù)訓(xùn)練模型等，但開(kāi)發(fā)者仍然需要花費(fèi)大量的時(shí)間和精力才能達(dá)到生產(chǎn)環(huán)境所需的穩(wěn)定性和可擴(kuò)展性。

　　" 那么多企業(yè)都在收集數(shù)據(jù)，我們都知道 AI 是挖掘數(shù)據(jù)價(jià)值的必經(jīng)之路，目前即使是成熟的科技公司，在內(nèi)部解決方案上也會(huì)面臨巨大的挑戰(zhàn)。"

　　比如，內(nèi)部開(kāi)發(fā)，僅是 AI 服務(wù)開(kāi)發(fā)階段就要平均寫 3000 行代碼和 10 多個(gè)組件�？傮w來(lái)看，「BentoML」能夠?qū)⑿�率提�?15 倍。

　　事實(shí)上，無(wú)論是讓模型作用于數(shù)據(jù)分析，還是面向消費(fèi)市場(chǎng)的 AI 體驗(yàn)，MLOps(Machine Learning Operations，機(jī)器學(xué)習(xí)運(yùn)維)目前需要 " 行業(yè)里最好的工程師 "，而不是每個(gè)公司都能招到頂尖人才去完成復(fù)雜系統(tǒng)的開(kāi)發(fā)。即使具備了以上條件，AI 基礎(chǔ)設(shè)施還是會(huì)成為企業(yè)花時(shí)間和資源最多的地方。

　　可以說(shuō)，以更簡(jiǎn)單的方式進(jìn)行 AI 開(kāi)發(fā)與生產(chǎn)，不僅僅是以開(kāi)箱即用的解決方案匹配當(dāng)下風(fēng)頭正盛的技術(shù)方向，也是為當(dāng)下每一家還在收集數(shù)據(jù)、觀望 AI 的公司提前做出一個(gè)開(kāi)源標(biāo)準(zhǔn)。

　　無(wú)論是去年的低代碼、無(wú)代碼趨勢(shì)，還是時(shí)下熱門的 MLOps、LLMOps，人類技術(shù)發(fā)展的要義就是不斷簡(jiǎn)化和降低新興技術(shù)的門檻。而對(duì)于 AI 和大模型應(yīng)用開(kāi)發(fā)來(lái)說(shuō)，將差異化和競(jìng)爭(zhēng)壁壘依托于數(shù)據(jù)本身，模型訓(xùn)練交給數(shù)據(jù)科學(xué)家，其他的步驟在標(biāo)準(zhǔn)化的工業(yè)級(jí)生產(chǎn)框架下快速完成，才是最高效的。

　　" 今年一月，很多人認(rèn)為企業(yè)要基于自己的數(shù)據(jù)去做大語(yǔ)言模型，訓(xùn)練成本需要上百萬(wàn)美金，很少有公司能負(fù)擔(dān)起。然而我們相信，隨著訓(xùn)練成本下降，更多的企業(yè)將來(lái)一定可以去使用自己的大語(yǔ)言模型。沒(méi)想到的是，僅三個(gè)月后，fine-tune 大模型的成本，可以下降到幾百美元。"

　　更早的投入，意味著每天都在見(jiàn)證嶄新的未來(lái)，也意味著一個(gè)更扎實(shí)的開(kāi)源社區(qū)基石。如今，「BentoML」在社區(qū)內(nèi)擁有上千名開(kāi)發(fā)者用戶，支撐著埃森哲、Riot Games、SoundHound、LINE 等不同領(lǐng)域一線企業(yè)的 AI 應(yīng)用及服務(wù)。市場(chǎng)方面，「BentoML」目前的市場(chǎng)活躍度優(yōu)先分布于北美、東亞、歐洲市場(chǎng)，已經(jīng)得到了來(lái)自企業(yè)和開(kāi)發(fā)者的廣泛響應(yīng)。

　　置身 AIGC 的浪花中，AI 技術(shù)革命所帶來(lái)的創(chuàng)造與體驗(yàn)價(jià)值，已經(jīng)成為了一個(gè)長(zhǎng)期命題。當(dāng)市場(chǎng)回歸理性，AI 應(yīng)用與服務(wù)會(huì)從如今的新奇體驗(yàn)變?yōu)楦餍懈鳂I(yè)不可或缺的副駕駛。屆時(shí)，平靜海面的下方，將會(huì)是一個(gè)豐富而有條不紊的開(kāi)發(fā)生態(tài)系統(tǒng)。

　　而隨著越來(lái)越多的開(kāi)發(fā)者投身 AI，像「BentoML」一樣深耕于 MLOps 基礎(chǔ)設(shè)施的 " 開(kāi)拓者 "，也將進(jìn)一步思考，如何服務(wù)于不同需求、不同場(chǎng)景、不同技術(shù)背景下的開(kāi)發(fā)者，為 AI 開(kāi)發(fā)的成本和效率之戰(zhàn)給出更好的回答。

　　-----------------------

　　"隨著 GPT4 等大型語(yǔ)言模型(LLM)的蓬勃興起，軟件工程師正在以前所未有的速度和規(guī)模借助各類開(kāi)源基礎(chǔ)模型創(chuàng)建 AI 原生應(yīng)用程序。 DCM 對(duì)「BentoML」為幫助 AI/ML 開(kāi)發(fā)者創(chuàng)建和運(yùn)營(yíng) AI 服務(wù)所做的工作感到興奮，"DCM 中國(guó)創(chuàng)始合伙人、董事合伙人林欣禾(Hurst Lin)表示，" 借助全新推出的 BentoCloud 產(chǎn)品，「BentoML」將以最大的可靠性和可擴(kuò)展性交付 AI 產(chǎn)品，成為所有軟件開(kāi)發(fā)者的首選 MLOps/LLMOps 平臺(tái)。"

　　來(lái)源：36氪