使用UGC降低99.7%圖片識(shí)別成本 學(xué)霸君AI高考首戰(zhàn)告捷

　　134分!這是學(xué)霸君研發(fā)的高考機(jī)器人Aidam挑戰(zhàn)全國(guó)卷二文科數(shù)學(xué)卷取得 的成績(jī)，用時(shí)僅9分47秒。

　　150元!這是學(xué)霸君使用UCloud研發(fā)的通用計(jì)算服務(wù)(UGC)后，每月用于OCR圖片識(shí)別的計(jì)算資源成本。

　　學(xué)霸君自成立伊始，就一直非常重視深度學(xué)習(xí)技術(shù)等人工智能(AI)領(lǐng)域的研究，高考機(jī)器人就是成果之一。除了高考機(jī)器人，學(xué)霸君還在研究手寫識(shí)別技術(shù)，并應(yīng)用于拍照搜題業(yè)務(wù)，在圖片識(shí)別場(chǎng)景中，學(xué)霸君大量使用UCloud研發(fā)的UGC服務(wù)，不僅輕松解決多個(gè)業(yè)務(wù)痛點(diǎn)，而且將成本降低至原來的千分之三。

　　學(xué)霸君的拓展藍(lán)圖

　　學(xué)霸君是一款面向?qū)W生的解題APP，提供在線免費(fèi)解答作業(yè)題、疑難點(diǎn)等服務(wù)。比如，學(xué)生在寫作業(yè)時(shí)遇到不會(huì)做的題目，只需打開APP，將紙上的難題拍照并上傳，就能立刻獲取答案，同時(shí)還附帶完整的解題思路和步驟，實(shí)現(xiàn)“難題一拍，答案秒出”。

　　目前，宣布完成1億美元C輪融資的學(xué)霸君已經(jīng)練習(xí)了80萬(wàn)套試卷，7000萬(wàn)道題目，100億道學(xué)生搜題數(shù)據(jù)，用戶月活躍量2000萬(wàn)人次。

　　不過，學(xué)霸君的“雄心”不止于此。今年高考期間，學(xué)霸君研發(fā)出的高考機(jī)器人Aidam與高考狀元同臺(tái)PK，目的在于用高考機(jī)器人技術(shù)輔助師生教學(xué)。同時(shí)基于Aidam的技術(shù)，學(xué)霸君將正式推出智慧教育平臺(tái)Ai學(xué)，為學(xué)校的師生提供服務(wù)。

　　考試機(jī)器人是機(jī)器理解技術(shù)的一種典型應(yīng)用，也是AI領(lǐng)域的重要挑戰(zhàn)。學(xué)霸君創(chuàng)始人兼CEO張凱磊認(rèn)為，AI在教育領(lǐng)域擁有豐富的應(yīng)用場(chǎng)景，使機(jī)器判卷、個(gè)性化指導(dǎo)、個(gè)性化作業(yè)變成可能，老師和學(xué)生的學(xué)習(xí)效率都可以大幅度提升。

　　另外，學(xué)霸君還在研究手寫識(shí)別技術(shù)，并應(yīng)用于拍照搜題業(yè)務(wù)，進(jìn)一步加強(qiáng)“讀圖識(shí)題”。

　　圖片識(shí)別場(chǎng)景痛點(diǎn)

　　在學(xué)霸君的解題應(yīng)用中，學(xué)生用戶將題目拍照并上傳到服務(wù)器，APP后臺(tái)程序從圖片文件中讀取文字、公式，再將圖片中的像素信息轉(zhuǎn)化成計(jì)算機(jī)程序能夠識(shí)別的數(shù)據(jù)類型。這一過程中，學(xué)霸君使用了OCR(光學(xué)字符識(shí)別)技術(shù)。

　　作為一款面向?qū)W生群體的產(chǎn)品，學(xué)霸君擁有海量用戶，因此后臺(tái)每天都需要同時(shí)處理大量圖片識(shí)別請(qǐng)求。此時(shí)，如果僅使用傳統(tǒng)的OCR技術(shù)，將不可避免地遇到圖片識(shí)別慢、識(shí)圖率低等問題。這就要求學(xué)霸君團(tuán)隊(duì)將OCR結(jié)合深度學(xué)習(xí)的識(shí)圖技術(shù)整合成服務(wù)端程序，以提高識(shí)別速度與效率。

　　在技術(shù)優(yōu)化之前，學(xué)霸君團(tuán)隊(duì)曾面臨多個(gè)技術(shù)難題和困擾。首先，雖然識(shí)別圖片和搜索答案是學(xué)霸君的核心業(yè)務(wù)，但為了應(yīng)付客戶端的海量請(qǐng)求和服務(wù)端程序性能優(yōu)化問題，無法將全部精力投入到最有價(jià)值的方向上。其次，隨著請(qǐng)求量日益增大，學(xué)霸君團(tuán)隊(duì)需要及時(shí)做好資源預(yù)估，購(gòu)置服務(wù)器資源并擴(kuò)容;架構(gòu)上需要支持平行擴(kuò)展，并且做好負(fù)載均衡與高可用容災(zāi)，這都增加了架構(gòu)優(yōu)化和運(yùn)維壓力。

　　另外，學(xué)霸君研發(fā)團(tuán)隊(duì)在每臺(tái)圖片識(shí)別服務(wù)器啟動(dòng)了與CPU核心數(shù)相同的Worker進(jìn)程數(shù)，為了保證并發(fā)量，每個(gè)識(shí)圖請(qǐng)求只能由一個(gè)CPU核心處理。為了應(yīng)對(duì)逐漸增加的識(shí)圖請(qǐng)求，學(xué)霸君前后共擴(kuò)容了數(shù)十臺(tái)24核物理機(jī)用于部署圖片識(shí)別服務(wù)。然而，在實(shí)際日常運(yùn)行中，很多物理服務(wù)器在每天業(yè)務(wù)低谷時(shí)段處于低負(fù)載狀態(tài)，導(dǎo)致整體資源利用率低下，計(jì)算資源大量浪費(fèi)。

　　UGC“對(duì)癥下藥”

　　為了解決這些技術(shù)痛點(diǎn)，學(xué)霸君選擇使用UCloud的通用計(jì)算服務(wù)(UGC)。通過評(píng)估UGC處理識(shí)圖請(qǐng)求的可行性，學(xué)霸君認(rèn)為UGC的產(chǎn)品特性能完美解決之前遇到的難題。

　　作為UCloud研發(fā)的分布式大規(guī)模并行計(jì)算服務(wù)，UGC(UCloud General Compute)是一款Serverless產(chǎn)品，以用戶算法代碼為中心，無需關(guān)心計(jì)算資源的交付部署，且計(jì)算資源服務(wù)化，用戶通過API使用計(jì)算資源。同時(shí)，UGC提供十萬(wàn)核級(jí)的海量計(jì)算資源，輕松支持高并發(fā)計(jì)算任務(wù)請(qǐng)求，自動(dòng)實(shí)現(xiàn)資源分配和擴(kuò)展，具備高可用和跨可用區(qū)自動(dòng)容災(zāi)能力。更重要的是，UGC實(shí)現(xiàn)按需付費(fèi)(Pay As You Go)，用戶只需要為實(shí)際消耗的計(jì)算資源付費(fèi)。

　　學(xué)霸君研發(fā)團(tuán)隊(duì)將圖片識(shí)別算法代碼打包提交到UGC算法倉(cāng)庫(kù)中，通過調(diào)用UGC的API過程嵌入到自身中控程序代碼中。下一步，UGC平臺(tái)會(huì)立刻調(diào)用運(yùn)行圖片識(shí)別算法，將識(shí)別后的數(shù)據(jù)實(shí)時(shí)返回到學(xué)霸君中控程序。如此一來，學(xué)霸君的算法工程師們不用再為如何實(shí)現(xiàn)優(yōu)化高性能服務(wù)器程序而費(fèi)心，可以集中精力優(yōu)化OCR深度學(xué)習(xí)算法。

　　在學(xué)霸君APP業(yè)務(wù)流量高峰期，UGC能為增長(zhǎng)的識(shí)圖請(qǐng)求自動(dòng)擴(kuò)展分配更多計(jì)算資源，輕松應(yīng)對(duì)高并發(fā)請(qǐng)求。這就徹底解決了學(xué)霸君的資源預(yù)估、服務(wù)器擴(kuò)容、架構(gòu)伸縮平行擴(kuò)展以及容災(zāi)設(shè)計(jì)等架構(gòu)難題。

　　根據(jù)UGC的“Pay As You Go”計(jì)費(fèi)原則，學(xué)霸君只需要為執(zhí)行過圖片識(shí)別算法任務(wù)所消耗的CPU核時(shí)付費(fèi)。在使用UGC之前，學(xué)霸君每月需要花費(fèi)57000元物理機(jī)資源用于OCR圖片識(shí)別;UGC產(chǎn)品上線后，這一費(fèi)用下降至每月150元，成本大幅降低99.7%，UGC為學(xué)霸君每年節(jié)省了近70萬(wàn)元的物理機(jī)維護(hù)開銷。

　　學(xué)霸君圖片識(shí)別場(chǎng)景 使用UGC之前

　　學(xué)霸君圖片識(shí)別場(chǎng)景 使用UGC之后

　　“用戶的需求就是我們下一個(gè)產(chǎn)品”，UCloud始終致力于為用戶提供更好的產(chǎn)品與服務(wù)。通過使用UGC輕松解決用戶的圖片識(shí)別技術(shù)困擾，助力學(xué)霸君圓夢(mèng)。