星環(huán)科技Sophon 3.2發(fā)布，通過“六易三倉兩中心”實(shí)現(xiàn)新一代AI平民化

　　針對(duì)目前各行業(yè)用戶在落地廣泛業(yè)務(wù)需求分析、處理多重?cái)?shù)據(jù)模態(tài)對(duì)接、跟進(jìn)高度定制場景問題解決、運(yùn)營多源多框架AI模型等方面的問題，星環(huán)自主研發(fā)的一站式智能分析工具平臺(tái)Sophon推出了3.2版本。

　　3.2版本的Sophon通過以數(shù)據(jù)和模型為中心，提供“六易三倉兩中心”的功能服務(wù)，讓用戶能夠基于自身需求構(gòu)建緊密貼合其業(yè)務(wù)場景的新一代AI應(yīng)用。

　　一、六易——實(shí)現(xiàn)新一代AI平民化

　　Sophon 3.2從數(shù)據(jù)接入獲取、模型構(gòu)建訓(xùn)練、模型運(yùn)維管理、模型發(fā)布迭代等AI應(yīng)用全生命周期的相關(guān)流程出發(fā)，考慮用戶可能遇到的問題后，從樣本管理、場景開發(fā)、模型獲得、模型管理、效果迭代及系統(tǒng)運(yùn)維六大方面降低用戶使用的門檻，實(shí)現(xiàn)新一代AI平民化。

　　圖：Sophon智能分析工具 v3.2架構(gòu)圖

　　* 樣本“易”管理：提供樣本倉庫，讓數(shù)據(jù)資產(chǎn)易管理

　　* 場景“易”開發(fā)：提供Vlab、Discover、AutoCV多個(gè)模塊，通過可視化、編程式、流程式的建模服務(wù)，以及內(nèi)置的開源建模框架、自研的Sophon ZenGraph圖計(jì)算框架、Sophon TS 時(shí)間序列計(jì)算庫及基礎(chǔ)機(jī)器學(xué)習(xí)算法庫，讓建模場景易搭建;

　　* 模型“易”獲得：提供模型倉庫，支持將NLP、OCR、CV、基礎(chǔ)機(jī)器學(xué)習(xí)等多框架多源模型進(jìn)行統(tǒng)一納管，并在模型上線前提供靜態(tài)評(píng)估，讓高性能的模型服務(wù)易被挖掘;

　　* 模型“易”管理：提供MLOps及XAI模塊，支持將高性能模型進(jìn)行統(tǒng)一可視化部署、統(tǒng)一全方位監(jiān)控、統(tǒng)一多維度評(píng)估;提供一鍵部署以及可視化的服務(wù)推理搭建部署的模式，并從模型調(diào)用情況、模型使用資源情況、模型數(shù)據(jù)偏移情況等方面提供全方位監(jiān)控，同時(shí)從模型預(yù)測性能、模型可解釋、模型輸入輸出偏移等方面提供多維度的評(píng)估，讓模型易管理，全面掌握模型服務(wù)運(yùn)行狀態(tài);

　　* 效果“易”迭代：提供MLOps模塊，支持可視化持續(xù)訓(xùn)練pipeline，讓模型迭代時(shí)，模型效果易提升;

　　* 系統(tǒng)“易”運(yùn)維：支持無需侵入式代碼改造的分布式python機(jī)器學(xué)習(xí)計(jì)算框架Ray、基于GPU池化的GPU分組管理服務(wù)、基于Spark on K8s的資源統(tǒng)一調(diào)度等，讓GPU資源易用、分布式能力易用、系統(tǒng)運(yùn)維易用。

　　二、三倉——實(shí)現(xiàn)多模態(tài)數(shù)據(jù)管理

　　Sophon 3.2基于“三倉一平臺(tái)”的框架，圍繞數(shù)據(jù)開發(fā)全流程，以數(shù)據(jù)流視角分別建設(shè)“樣本倉、模型倉和場景倉”，實(shí)現(xiàn)全流程、多模態(tài)數(shù)據(jù)的統(tǒng)一納管。

　　* 樣本倉庫：新版本Sophon提供的樣本倉功能模塊，可實(shí)現(xiàn)對(duì)數(shù)據(jù)的精細(xì)化管理，輸出高質(zhì)量多模數(shù)據(jù)，驅(qū)動(dòng)高質(zhì)量模型的迭代。

　　圖：Sophon樣本倉庫

　　樣本倉庫支持?jǐn)?shù)據(jù)接入、智能標(biāo)簽和數(shù)據(jù)洞察。樣本倉庫支持文本、視頻、圖像、時(shí)間序列等多模態(tài)的數(shù)據(jù)統(tǒng)一接入和管理;智能標(biāo)簽方面，平臺(tái)預(yù)置2種前沿風(fēng)格遷移算法、20+多模態(tài)數(shù)據(jù)預(yù)處理算法、10+標(biāo)注類型以及20+靈活的數(shù)據(jù)增強(qiáng)方式，支持?jǐn)?shù)據(jù)準(zhǔn)備、生成、標(biāo)注及擴(kuò)增等一系列過程;在快速完成原始數(shù)據(jù)的實(shí)體、關(guān)系、文本類型、圖片設(shè)備狀態(tài)、圖片異物狀況等要素提取的同時(shí)，并建立智能化標(biāo)簽及相關(guān)索引，便于精細(xì)化查找對(duì)應(yīng)樣本數(shù)據(jù);此外，針對(duì)非機(jī)構(gòu)化數(shù)據(jù)，結(jié)合預(yù)置分析模型，自動(dòng)輸出分析報(bào)告，幫助用戶更清晰的洞察數(shù)據(jù)質(zhì)量。

　　* 模型倉庫：新版本Sophon提供的模型倉庫功能模塊，作為模型開發(fā)與模型應(yīng)用的中間環(huán)節(jié)，統(tǒng)一納管多源模型，讓模型管理和應(yīng)用人員能快速找到最適合業(yè)務(wù)場景的模型，實(shí)現(xiàn)組裝與評(píng)估輸出高質(zhì)量模型服務(wù)。

　　圖：Sophon模型倉庫

　　模型倉庫支持對(duì)模型的納管、組裝和評(píng)估。模型納管功能支持NLP、結(jié)構(gòu)化二維表、圖像、OCR等模型以鏡像或文件的鏡像一鍵上架到模型倉庫進(jìn)行統(tǒng)一納管;模型組裝功能支持用戶將兩個(gè)或以上的單任務(wù)模型，自由組合形成更貼近需求的多模態(tài)模型方案;模型評(píng)估功能支持用戶在模型部署上線前，在模型倉庫種進(jìn)行冒煙測試，并生成模型測試評(píng)估報(bào)告，并橫向?qū)Ρ榷喾菰u(píng)估報(bào)告，保證輸出部署上線高質(zhì)量的模型服務(wù)。

　　* 場景倉庫：內(nèi)置場景涵蓋營銷、風(fēng)控、KBQA、圖譜風(fēng)險(xiǎn)探查、圖像檢索、內(nèi)容安全檢測等廣泛需求，并提供覆蓋場景建模分析全流程的平臺(tái)和工具，讓用戶通過低代碼方式快速構(gòu)建貼合其業(yè)務(wù)應(yīng)用的建模場景。

　　圖：Sophon場景倉庫

　　場景模板內(nèi)置基于模型和業(yè)務(wù)的積累，平臺(tái)預(yù)置了面向不同行業(yè)領(lǐng)域的應(yīng)用模板，開箱即用。同時(shí)場景模板開放了業(yè)務(wù)規(guī)則的配置能力，實(shí)施人員可基于模板在大規(guī)模部署落地時(shí)，僅修改配置即可。此外，平臺(tái)提供拉拽的交互方式輔助用戶將模型和業(yè)務(wù)邏輯串聯(lián)，形成標(biāo)準(zhǔn)場景模板，業(yè)務(wù)流程支持不同模態(tài)的業(yè)務(wù)流組合分析，場景包可以在平臺(tái)進(jìn)行積累，版本管理和遷移。

　　三、兩中心——實(shí)現(xiàn)數(shù)據(jù)及模型資產(chǎn)的價(jià)值挖掘

　　Sophon 3.2秉持以數(shù)據(jù)為中心和以模型為中心的理念，幫助用戶將零散的數(shù)據(jù)和模型進(jìn)行有效管理，并通過數(shù)據(jù)資產(chǎn)管理及模型資產(chǎn)管理等手段，實(shí)現(xiàn)數(shù)據(jù)和模型資產(chǎn)的價(jià)值迸發(fā)。

　　企業(yè)可以通過確定某一使用場景，來倒推需要使用的模型或模型組，從而確定需要收集和訓(xùn)練的數(shù)據(jù)種類及數(shù)據(jù)集。通過數(shù)據(jù)環(huán)、模型環(huán)和場景環(huán)建設(shè)，企業(yè)可以有效降低模型、場景及應(yīng)用的開發(fā)成本，并有效激發(fā)團(tuán)隊(duì)協(xié)作潛能，并提升應(yīng)用創(chuàng)新能力。

　　圖：Sophon 人工智能應(yīng)用建設(shè)方法論

　　為更好地激發(fā)AI模型資產(chǎn)價(jià)值，Sophon 3.2發(fā)布的MLops模型運(yùn)營模塊，提供大模型的開發(fā)/運(yùn)維工具鏈，可幫助企業(yè)用戶快速開發(fā)構(gòu)建領(lǐng)域大模型應(yīng)用。同時(shí)，使用Sophon MLOps進(jìn)行指令開發(fā)和模型微調(diào)、對(duì)齊，我們開發(fā)出了大數(shù)據(jù)分析大模型SoLar求索，讓業(yè)務(wù)人員在不需要學(xué)習(xí)和掌握數(shù)據(jù)庫編程語言的前提下自由地按需查詢數(shù)據(jù)。

　　圖：LLM平臺(tái)階段性演進(jìn)圖

　　圖：大數(shù)據(jù)分析大模型SoLar求索的NLP2SQL功能

　　Sophon 3.2通過提供六易三倉兩中心能力，加之MLOps模型運(yùn)管模塊、AutoCV視覺模型生產(chǎn)應(yīng)用模塊等AI能力支撐，能夠保障企業(yè)數(shù)據(jù)到智能應(yīng)用的落地，實(shí)現(xiàn)AI能力平民化、AI價(jià)值最大化。