針對目前各行業(yè)用戶在落地廣泛業(yè)務(wù)需求分析、處理多重數(shù)據(jù)模態(tài)對接、跟進(jìn)高度定制場景問題解決、運營多源多框架AI模型等方面的問題,星環(huán)自主研發(fā)的一站式智能分析工具平臺Sophon推出了3.2版本。
3.2版本的Sophon通過以數(shù)據(jù)和模型為中心,提供“六易三倉兩中心”的功能服務(wù),讓用戶能夠基于自身需求構(gòu)建緊密貼合其業(yè)務(wù)場景的新一代AI應(yīng)用。
一、六易——實現(xiàn)新一代AI平民化
Sophon 3.2從數(shù)據(jù)接入獲取、模型構(gòu)建訓(xùn)練、模型運維管理、模型發(fā)布迭代等AI應(yīng)用全生命周期的相關(guān)流程出發(fā),考慮用戶可能遇到的問題后,從樣本管理、場景開發(fā)、模型獲得、模型管理、效果迭代及系統(tǒng)運維六大方面降低用戶使用的門檻,實現(xiàn)新一代AI平民化。
圖:Sophon智能分析工具 v3.2架構(gòu)圖
* 樣本“易”管理:提供樣本倉庫,讓數(shù)據(jù)資產(chǎn)易管理
* 場景“易”開發(fā):提供Vlab、Discover、AutoCV多個模塊,通過可視化、編程式、流程式的建模服務(wù),以及內(nèi)置的開源建?蚣、自研的Sophon ZenGraph圖計算框架、Sophon TS 時間序列計算庫及基礎(chǔ)機(jī)器學(xué)習(xí)算法庫,讓建模場景易搭建;
* 模型“易”獲得:提供模型倉庫,支持將NLP、OCR、CV、基礎(chǔ)機(jī)器學(xué)習(xí)等多框架多源模型進(jìn)行統(tǒng)一納管,并在模型上線前提供靜態(tài)評估,讓高性能的模型服務(wù)易被挖掘;
* 模型“易”管理:提供MLOps及XAI模塊,支持將高性能模型進(jìn)行統(tǒng)一可視化部署、統(tǒng)一全方位監(jiān)控、統(tǒng)一多維度評估;提供一鍵部署以及可視化的服務(wù)推理搭建部署的模式,并從模型調(diào)用情況、模型使用資源情況、模型數(shù)據(jù)偏移情況等方面提供全方位監(jiān)控,同時從模型預(yù)測性能、模型可解釋、模型輸入輸出偏移等方面提供多維度的評估,讓模型易管理,全面掌握模型服務(wù)運行狀態(tài);
* 效果“易”迭代:提供MLOps模塊,支持可視化持續(xù)訓(xùn)練pipeline,讓模型迭代時,模型效果易提升;
* 系統(tǒng)“易”運維:支持無需侵入式代碼改造的分布式python機(jī)器學(xué)習(xí)計算框架Ray、基于GPU池化的GPU分組管理服務(wù)、基于Spark on K8s的資源統(tǒng)一調(diào)度等,讓GPU資源易用、分布式能力易用、系統(tǒng)運維易用。
二、三倉——實現(xiàn)多模態(tài)數(shù)據(jù)管理
Sophon 3.2基于“三倉一平臺”的框架,圍繞數(shù)據(jù)開發(fā)全流程,以數(shù)據(jù)流視角分別建設(shè)“樣本倉、模型倉和場景倉”,實現(xiàn)全流程、多模態(tài)數(shù)據(jù)的統(tǒng)一納管。
* 樣本倉庫:新版本Sophon提供的樣本倉功能模塊,可實現(xiàn)對數(shù)據(jù)的精細(xì)化管理,輸出高質(zhì)量多模數(shù)據(jù),驅(qū)動高質(zhì)量模型的迭代。
圖:Sophon樣本倉庫
樣本倉庫支持?jǐn)?shù)據(jù)接入、智能標(biāo)簽和數(shù)據(jù)洞察。樣本倉庫支持文本、視頻、圖像、時間序列等多模態(tài)的數(shù)據(jù)統(tǒng)一接入和管理;智能標(biāo)簽方面,平臺預(yù)置2種前沿風(fēng)格遷移算法、20+多模態(tài)數(shù)據(jù)預(yù)處理算法、10+標(biāo)注類型以及20+靈活的數(shù)據(jù)增強(qiáng)方式,支持?jǐn)?shù)據(jù)準(zhǔn)備、生成、標(biāo)注及擴(kuò)增等一系列過程;在快速完成原始數(shù)據(jù)的實體、關(guān)系、文本類型、圖片設(shè)備狀態(tài)、圖片異物狀況等要素提取的同時,并建立智能化標(biāo)簽及相關(guān)索引,便于精細(xì)化查找對應(yīng)樣本數(shù)據(jù);此外,針對非機(jī)構(gòu)化數(shù)據(jù),結(jié)合預(yù)置分析模型,自動輸出分析報告,幫助用戶更清晰的洞察數(shù)據(jù)質(zhì)量。
* 模型倉庫:新版本Sophon提供的模型倉庫功能模塊,作為模型開發(fā)與模型應(yīng)用的中間環(huán)節(jié),統(tǒng)一納管多源模型,讓模型管理和應(yīng)用人員能快速找到最適合業(yè)務(wù)場景的模型,實現(xiàn)組裝與評估輸出高質(zhì)量模型服務(wù)。
圖:Sophon模型倉庫
模型倉庫支持對模型的納管、組裝和評估。模型納管功能支持NLP、結(jié)構(gòu)化二維表、圖像、OCR等模型以鏡像或文件的鏡像一鍵上架到模型倉庫進(jìn)行統(tǒng)一納管;模型組裝功能支持用戶將兩個或以上的單任務(wù)模型,自由組合形成更貼近需求的多模態(tài)模型方案;模型評估功能支持用戶在模型部署上線前,在模型倉庫種進(jìn)行冒煙測試,并生成模型測試評估報告,并橫向?qū)Ρ榷喾菰u估報告,保證輸出部署上線高質(zhì)量的模型服務(wù)。
* 場景倉庫:內(nèi)置場景涵蓋營銷、風(fēng)控、KBQA、圖譜風(fēng)險探查、圖像檢索、內(nèi)容安全檢測等廣泛需求,并提供覆蓋場景建模分析全流程的平臺和工具,讓用戶通過低代碼方式快速構(gòu)建貼合其業(yè)務(wù)應(yīng)用的建模場景。
圖:Sophon場景倉庫
場景模板內(nèi)置基于模型和業(yè)務(wù)的積累,平臺預(yù)置了面向不同行業(yè)領(lǐng)域的應(yīng)用模板,開箱即用。同時場景模板開放了業(yè)務(wù)規(guī)則的配置能力,實施人員可基于模板在大規(guī)模部署落地時,僅修改配置即可。此外,平臺提供拉拽的交互方式輔助用戶將模型和業(yè)務(wù)邏輯串聯(lián),形成標(biāo)準(zhǔn)場景模板,業(yè)務(wù)流程支持不同模態(tài)的業(yè)務(wù)流組合分析,場景包可以在平臺進(jìn)行積累,版本管理和遷移。
三、兩中心——實現(xiàn)數(shù)據(jù)及模型資產(chǎn)的價值挖掘
Sophon 3.2秉持以數(shù)據(jù)為中心和以模型為中心的理念,幫助用戶將零散的數(shù)據(jù)和模型進(jìn)行有效管理,并通過數(shù)據(jù)資產(chǎn)管理及模型資產(chǎn)管理等手段,實現(xiàn)數(shù)據(jù)和模型資產(chǎn)的價值迸發(fā)。
企業(yè)可以通過確定某一使用場景,來倒推需要使用的模型或模型組,從而確定需要收集和訓(xùn)練的數(shù)據(jù)種類及數(shù)據(jù)集。通過數(shù)據(jù)環(huán)、模型環(huán)和場景環(huán)建設(shè),企業(yè)可以有效降低模型、場景及應(yīng)用的開發(fā)成本,并有效激發(fā)團(tuán)隊協(xié)作潛能,并提升應(yīng)用創(chuàng)新能力。
圖:Sophon 人工智能應(yīng)用建設(shè)方法論
為更好地激發(fā)AI模型資產(chǎn)價值,Sophon 3.2發(fā)布的MLops模型運營模塊,提供大模型的開發(fā)/運維工具鏈,可幫助企業(yè)用戶快速開發(fā)構(gòu)建領(lǐng)域大模型應(yīng)用。同時,使用Sophon MLOps進(jìn)行指令開發(fā)和模型微調(diào)、對齊,我們開發(fā)出了大數(shù)據(jù)分析大模型SoLar求索,讓業(yè)務(wù)人員在不需要學(xué)習(xí)和掌握數(shù)據(jù)庫編程語言的前提下自由地按需查詢數(shù)據(jù)。
圖:LLM平臺階段性演進(jìn)圖
圖:大數(shù)據(jù)分析大模型SoLar求索的NLP2SQL功能
Sophon 3.2通過提供六易三倉兩中心能力,加之MLOps模型運管模塊、AutoCV視覺模型生產(chǎn)應(yīng)用模塊等AI能力支撐,能夠保障企業(yè)數(shù)據(jù)到智能應(yīng)用的落地,實現(xiàn)AI能力平民化、AI價值最大化。
文章內(nèi)容僅供閱讀,不構(gòu)成投資建議,請謹(jǐn)慎對待。投資者據(jù)此操作,風(fēng)險自擔(dān)。
近日,德國柏林國際電子消費品展覽會(IFA2024)隆重舉辦。憑借在核心技術(shù)、產(chǎn)品設(shè)計及應(yīng)用方面的創(chuàng)新變革,全球領(lǐng)先的智能終端企業(yè)TCL實業(yè)成功斬獲兩項“IFA全球產(chǎn)品設(shè)計創(chuàng)新大獎”金獎,有力證明了其在全球市場的強(qiáng)大影響力。
近日,中國家電及消費電子博覽會(AWE 2024)隆重開幕。全球領(lǐng)先的智能終端企業(yè)TCL實業(yè)攜多款創(chuàng)新技術(shù)和新品亮相,以敢為精神勇闖技術(shù)無人區(qū),斬獲四項AWE 2024艾普蘭大獎。
“以前都要去窗口辦,一套流程下來都要半個月了,現(xiàn)在方便多了!”打開“重慶公積金”微信小程序,按照提示流程提交相關(guān)材料,僅幾秒鐘,重慶市民曾某的賬戶就打進(jìn)了21600元。
由世界人工智能大會組委會、上海市經(jīng)信委、徐匯區(qū)政府、臨港新片區(qū)管委會共同指導(dǎo),由上海市人工智能行業(yè)協(xié)會聯(lián)合上海人工智能實驗室、上海臨港經(jīng)濟(jì)發(fā)展(集團(tuán))有限公司、開放原子開源基金會主辦的“2024全球開發(fā)者先鋒大會”,將于2024年3月23日至24日舉辦。