星環(huán)科技連續(xù)兩次入圍Gartner®《中國分析平臺市場指南》代表廠商

　　近日， Gartner發(fā)布了2023年《中國分析平臺市場指南》(Market Guide for Analytics Platforms, China, August 2023)。在這份市場指南中，星環(huán)科技憑借其智能分析工具Sophon Base入選代表廠商。值得一提的是，自Gartner2022年首次發(fā)布《中國分析平臺市場指南》以來，星環(huán)科技已經作為代表廠商，連續(xù)兩年入選該份報告。

　　Gartner在指南中指出，“隨著中國對數(shù)字經濟發(fā)展的重視，中國的分析平臺市場正受到前所未有的關注。”據(jù)Gartner預測，“2023年中國的分析平臺市場增長率高達19%，到2026年將達到23%，總體增長率和增幅在很大程度上超過全球平均水平和其他經濟體。”而分析門戶、增強功能和大型語言模型(LLM)驅動的生成式人工智能等技術，都將為整個市場帶來新的活力。根據(jù)Gartner報告數(shù)據(jù)顯示：“截至2024年，中國的供應商預計將擁有中國79%的市場份額，這相當于從非中國的供應商轉移2200萬美元到中國的供應商。”我們不難推算得出，截至2024年中國分析和BI平臺的整體市場總量將超過2700萬美元。

　　Sophon 3.2 “六易三倉兩中心”架構，實現(xiàn)新一代AI平民化

　　作為連續(xù)入選Gartner中國分析平臺市場指南的代表廠商，星環(huán)科技Sophon針對目前各行業(yè)用戶在落地廣泛業(yè)務需求分析、處理多重數(shù)據(jù)模態(tài)對接、跟進高度定制場景問題解決、運營多源多框架AI模型等方面的問題，發(fā)布了“六易三倉兩中心”架構的3.2版本，從高質量的數(shù)據(jù)資產沉淀和模型持續(xù)運營出發(fā)，貫徹以數(shù)據(jù)和模型為中心，讓用戶能夠基于自身需求構建緊密貼合其業(yè)務場景的新一代AI應用。

　　Sophon v3.2架構圖

　　“六易”：Sophon 3.2從用戶需求出發(fā)，對數(shù)據(jù)接入獲取、模型構建訓練、模型運維管理、模型發(fā)布迭代等AI應用全生命周期的流程做了打通和優(yōu)化，全面降低了AI使用門檻：

　　樣本“易”管理：提供可處理多模態(tài)數(shù)據(jù)的樣本倉庫，支持數(shù)據(jù)標注和審核;

　　場景“易”開發(fā)：支持可視化、編程式、流程式建模服務以及內置的圖計算、時序計算及ML算法庫，讓建模場景易搭建;

　　模型“易”獲得：提供模型倉庫，統(tǒng)一納管多源模型，并進行靜態(tài)評估;

　　模型“易”管理：提供模型運營及可解釋模塊，支持統(tǒng)一部署、監(jiān)控、評估，全面掌握模型運行狀態(tài);

　　效果“易”迭代：提供可視化配置模型迭代Pipeline流程，實現(xiàn)持續(xù)訓練、集成和部署。

　　系統(tǒng)“易”運維：支持X64/ARM等架構，GPU/NPU等加速硬件，多種操作系統(tǒng)和主流分布式機器學習計算框架、計算/存儲資源管理和統(tǒng)一調度，讓系統(tǒng)更加易用。

　　“三倉”：圍繞數(shù)據(jù)開發(fā)全流程，Sophon 3.2以數(shù)據(jù)流視角分別建設“樣本倉庫、模型倉庫和應用倉庫”，實現(xiàn)全流程、多模態(tài)數(shù)據(jù)的統(tǒng)一納管。

　　樣本倉庫：精細化的數(shù)據(jù)管理和高質量的多模態(tài)數(shù)據(jù)輸出，推動高質量模型迭代;

　　模型倉庫：統(tǒng)一管理多源模型，便于模型開發(fā)與應用人員找到最適合業(yè)務場景的模型，組裝輸出高質量模型服務;

　　應用倉庫：內置代碼生成、領域知識問答、營銷、風控、圖譜風險探查、圖像檢索、內容安全檢測等多種場景，以低代碼方式快速構建符合業(yè)務需求的實際應用。

　　Sophon應用倉庫場景模板

　　生成式AI，讓大數(shù)據(jù)分析更智能

　　為更好地激發(fā)AI模型資產價值，Sophon 3.2發(fā)布的Sophon LLMOps大語言模型運營平臺，提供大模型的微調及運維工具鏈，可幫助企業(yè)用戶快速開發(fā)構建領域大模型應用。同時，使用Sophon LLMOps進行指令開發(fā)和模型微調、對齊，星環(huán)科技開發(fā)出了最新的大數(shù)據(jù)分析大模型SoLar求索，可以基于自然語言進行SQL、Python和Cypher的快速轉化，讓業(yè)務人員在不需要學習和掌握數(shù)據(jù)庫編程語言的前提下自由地按需查詢數(shù)據(jù)。

　　Sophon LLMOps架構圖

　　大數(shù)據(jù)分析大模型SoLar求索的NL2SQL功能

　　在智能領域知識問答系統(tǒng)的落地實踐中，Sophon LLMOps結合向量數(shù)據(jù)庫Hippo的解決方案，可以實現(xiàn)專業(yè)領域的智能問答系統(tǒng)構建，解決了傳統(tǒng)問答系統(tǒng)中的行業(yè)屬性、知識分散和更新滯后等問題，并且可以大大降低開發(fā)投入和運維成本，讓企業(yè)獲取知識的過程變得更加簡單高效、獲取的內容變得精簡可追溯、知識的更新變得更加即時。

　　星環(huán)大模型運營平臺Sophon LLMOps應用鏈

　　案例：Sophon為大型金融機構構建模型運營管理平臺

　　某大型金融機構希望將各業(yè)務部門開發(fā)的機器學習/深度學習模型和大模型，都作為企業(yè)的AI資產，進行沉淀和集成管理，并且以天為單位進行模型訓練、更新及迭代，實現(xiàn)模型全生命周期的自動化流程，包括CT/CI/CD。此外，需要官網的智能客服業(yè)務接入大模型應用，以提升企業(yè)的智能化運營能力。

　　針對該金融機構的AI資產沉淀、自動化流程及LLM應用等需求，Sophon結合“三倉”和最新發(fā)布的LLMOps，為其搭建了企業(yè)級的模型統(tǒng)一運營管理平臺，實現(xiàn)了金融機構的AI資產集成管理及對外發(fā)布、細粒度的資源隔離和權限管控、穩(wěn)健快速的模型自動化服務流程及大模型的私有化部署和推理加速。項目成果如下：

　　1、AI資產管理：統(tǒng)一接入多個部門數(shù)十個業(yè)務場景的模型應用，同時對外提供API服務;

　　2、資源隔離和權限管控：通過集群資源劃分及GPU分組等功能，實現(xiàn)了訓練、推理資源的隔離，確保各部門之間的數(shù)據(jù)和計算資源互不干擾。另一方面，通過細粒度的權限控制，確保只有授權人員能夠訪問相關資源;

　　3、減少80%的人工操作：支持使用回流數(shù)據(jù)持續(xù)迭代模型，然后作為新增版本集成至模型倉庫，最終自動部署為模型服務，實現(xiàn)全流程自動更新;大幅縮短模型開發(fā)與迭代的時間，并確保在高頻迭代中模型服務的穩(wěn)定性和性能;

　　4、大模型能力：支持20+開源及非開源的大模型私有化部署，支持多種推理模型(streaming/非streaming)，支持多種推理加速框架(Triton)。

　　在數(shù)字經濟時代，星環(huán)科技將始終致力于大數(shù)據(jù)、人工智能領域的產品研發(fā)和技術創(chuàng)新，通過前沿的大數(shù)據(jù)分析技術助力數(shù)據(jù)要素價值的迸發(fā)，為企業(yè)構建智能化應用和數(shù)字化轉型持續(xù)提供堅實的技術支持。