開(kāi)發(fā)者如何掘金 AI 2.0？零一萬(wàn)物上線(xiàn) Yi 大模型 API 開(kāi)放平臺(tái)

　　2024 年初推出的 Sora 讓 AIGC 與大模型業(yè)界持續(xù)火爆。一方面,基礎(chǔ)大模型 Top 廠(chǎng)商在持續(xù)研發(fā)長(zhǎng)文本、視頻、多模態(tài)等模型核心技術(shù)實(shí)力,在另一面,更多開(kāi)發(fā)者在加入大模型落地與 AI 2.0 應(yīng)用開(kāi)發(fā)賽道。在 2023 年底 CSDN 發(fā)起的 AI 2.0 開(kāi)發(fā)者生態(tài)調(diào)研中,問(wèn)卷結(jié)果顯示開(kāi)發(fā)者群體認(rèn)為“深耕模型技術(shù)”與“挖掘應(yīng)用場(chǎng)景”的機(jī)遇和前景同等重要。

　　AI 2.0黑馬——零一萬(wàn)物Yi大模型

　　長(zhǎng)文本突破200K、多模態(tài)增強(qiáng)場(chǎng)景支持

　　由國(guó)際 AI 專(zhuān)家李開(kāi)復(fù)博士所帶隊(duì)孵化的 AI 2.0 公司零一萬(wàn)物,目標(biāo)是全球大模型第一梯隊(duì),攻堅(jiān)基礎(chǔ)大模型與 AI 2.0 核心技術(shù),發(fā)布了 Yi 系列開(kāi)源大模型。在當(dāng)時(shí)斯坦福、伯克利等全球多項(xiàng)權(quán)威評(píng)測(cè)榜單中,Yi 大模型均表現(xiàn)優(yōu)異,性能直追 GPT-4。目前 Yi 大模型已實(shí)現(xiàn) 200K 上下文(可處理約 30 萬(wàn)中英文字符)的長(zhǎng)文本推理實(shí)力,以及增強(qiáng)支持多種應(yīng)用場(chǎng)景的多模態(tài)模型。

　　大模型的長(zhǎng)文本推理被看作通用人工智能 AGI 非常重要的核心實(shí)力之一。零一萬(wàn)物 Yi 大模型的 200K 上下文推理能力,適合用于多篇文檔內(nèi)容理解、海量數(shù)據(jù)分析挖掘和跨領(lǐng)域知識(shí)融合,為各行業(yè) AI 2.0 應(yīng)用提供極大的便利。例如,金融分析師可以使用 Yi 大模型快速閱讀報(bào)告并預(yù)測(cè)市場(chǎng)趨勢(shì)、律師可用它精準(zhǔn)解讀法律條文、科研人員可用它高效提取論文要點(diǎn)、文學(xué)愛(ài)好者可以用它快速掌握作品精髓等,應(yīng)用場(chǎng)景非常廣泛。

　　另外零一萬(wàn)物的 Yi-34B-Chat-200K 大模型經(jīng)過(guò)優(yōu)化,大海撈針評(píng)測(cè)的性能可提升至 99.8%。“大海撈針”測(cè)試的設(shè)計(jì)是:將一個(gè)目標(biāo)句子(針)放進(jìn)一個(gè)隨機(jī)文檔語(yǔ)料庫(kù)(大海),然后提出一個(gè)只能使用“針”(目標(biāo)句子)中的信息才能回答的問(wèn)題來(lái)測(cè)試模型的回憶能力。在“大海撈針”測(cè)試中,Yi-34B-Chat-200K 的性能提高了 10.5%,從 89.3%提升到 99.8%。

　　星云愛(ài)店是知識(shí)探索服務(wù)先行者,包含2C的“學(xué)術(shù)科研助手”,2B的兒童心理健康診療、青少年科學(xué)素養(yǎng)培養(yǎng)三大領(lǐng)域。

　　星云愛(ài)店CTO大董和團(tuán)隊(duì)參加了零一萬(wàn)物API邀測(cè),他在文獻(xiàn)綜述的實(shí)際應(yīng)用中,采用其他大模型推理生成的被拒率為 40%(下圖),而切換到 Yi 大模型,任務(wù)未發(fā)生拒絕執(zhí)行。

　　星云愛(ài)店測(cè)試demo顯示,使用某大模型時(shí),被拒率 40%

　　采用 Yi 大模型執(zhí)行復(fù)雜任務(wù),拒絕任務(wù)率低、完成度好

　　在另一個(gè) 18 萬(wàn)字報(bào)告集合的閱讀分析中,Yi 大模型未遺漏任務(wù):

　　星云愛(ài)店采用其他模型遺漏未指出,Yi 大模型完成 prompt 任務(wù)

　　零一萬(wàn)物開(kāi)發(fā)的多模態(tài)模型 Yi-VL-Plus,可支持文本、視覺(jué)多模態(tài)輸入,面向?qū)嶋H應(yīng)用場(chǎng)景大幅增強(qiáng):

　　增強(qiáng)Charts, Table, Inforgraphics, Screenshot 識(shí)別能力,支持復(fù)雜圖表理解、信息提取、問(wèn)答以及推理。中文圖表體驗(yàn)超過(guò)GPT4V。

　　在 Yi-VL 基礎(chǔ)上進(jìn)一步提高了圖片分辨率,模型支持 1024*1024 分辨率輸入,顯著提高生產(chǎn)力場(chǎng)景中的文字、數(shù)字 OCR 的準(zhǔn)確性。

　　保持了 LLM 通用語(yǔ)言、知識(shí)、推理、指令跟隨等能力。

　　中文圖表識(shí)別功能評(píng)測(cè):Yi-VL-Plus 可準(zhǔn)確識(shí)別圖表對(duì)應(yīng)數(shù)據(jù),GPT-4V 有 3 處數(shù)據(jù)識(shí)別錯(cuò)誤

　　Yi-VL-Plus 模型在中文圖表理解場(chǎng)景,準(zhǔn)確率高于 GPT-4V

　　優(yōu)化推理速度、兼容OpenAI API

　　Yi大模型API開(kāi)放平臺(tái)正式上線(xiàn)!

　　取得了上述的大模型核心技術(shù)實(shí)力,零一萬(wàn)物也在投入貢獻(xiàn) AI 2.0 生態(tài)。在內(nèi)測(cè),零一萬(wàn)物正式推出了 Yi 大模型 API 開(kāi)放平臺(tái),希望幫助開(kāi)發(fā)者,共同挖掘更多應(yīng)用場(chǎng)景,持續(xù)創(chuàng)新。

　　針對(duì) API 側(cè)的實(shí)際開(kāi)發(fā)需求,零一萬(wàn)物投入了大量?jī)?yōu)化和兼容能力的研發(fā)工作,去提升開(kāi)發(fā)者研發(fā)效率和最終用戶(hù)的產(chǎn)品體驗(yàn)。具體來(lái)說(shuō):

　　優(yōu)化推理速度

　　為了提升 API 性能,零一萬(wàn)物團(tuán)隊(duì)在 API 側(cè)進(jìn)行了推理優(yōu)化,因此 Yi-34B-Chat 系列 API 具備較快的推理速度,這不僅縮短了處理時(shí)間,同時(shí)也保持了出色的模型效果。

　　降低接口延遲

　　優(yōu)化的 API 接口顯著降低模型回復(fù)的延遲,進(jìn)一步提高用戶(hù)體驗(yàn)的流暢性和響應(yīng)速度。

　　兼容OpenAI API,實(shí)現(xiàn)平滑遷移

　　Yi 大模型 API 與 OpenAI API 完全兼容,開(kāi)發(fā)者只需修改少量代碼,可以平滑遷移,即刻享受 Yi 大模型的超凡魅力。

　　目前 API 開(kāi)放平臺(tái)已經(jīng)提供 3 個(gè)零一萬(wàn)物核心重磅的大模型產(chǎn)品,分別是可支持通用聊天、問(wèn)答、對(duì)話(huà)、寫(xiě)作、翻譯等功能的 Yi-34B-Chat-0205,可支持 200K 上下文,多文檔閱讀理解、超長(zhǎng)知識(shí)庫(kù)構(gòu)建小能手的 Yi-34B-Chat-200K,還有多模態(tài)模型 Yi-VL-Plus,支持文本、視覺(jué)多模態(tài)輸入,中文圖表體驗(yàn)超過(guò) GPT-4V。更多零一萬(wàn)物的大模型也將持續(xù)發(fā)布和提供到 API 開(kāi)放平臺(tái)中。

　　從專(zhuān)業(yè)開(kāi)發(fā)者到大模型發(fā)燒友

　　Yi大模型API開(kāi)放平臺(tái)的創(chuàng)新AI 2.0應(yīng)用正在涌現(xiàn)

　　正式發(fā)布前,零一萬(wàn)物已經(jīng)在開(kāi)發(fā)者群體進(jìn)行了 API 邀請(qǐng)內(nèi)測(cè)和開(kāi)發(fā),實(shí)測(cè)性能和效果超出預(yù)期。具體測(cè)試的企業(yè)與個(gè)人 C 端應(yīng)用場(chǎng)景包括使用 Yi Chat 模型構(gòu)建智能對(duì)話(huà)助手(類(lèi)似 ChatGPT);使用 Yi 多模態(tài)模型,識(shí)別圖片中存在的表格,文字,并進(jìn)行深層次的問(wèn)答;將 Yi 系列模型整合到現(xiàn)有產(chǎn)品,實(shí)現(xiàn)類(lèi) Copilot 工具;使用 Yi 超長(zhǎng)上下文模型構(gòu)建知識(shí)庫(kù)問(wèn)答,用于客服、培訓(xùn)等特定知識(shí)的問(wèn)答場(chǎng)景等等。

　　已經(jīng)體驗(yàn) API 的開(kāi)發(fā)者中就有對(duì)長(zhǎng)文本要求非常高的專(zhuān)業(yè)團(tuán)隊(duì)星云愛(ài)店,其產(chǎn)品涉及文獻(xiàn)解讀與科研寫(xiě)作、青少年教育與健康類(lèi)助手等。星云愛(ài)店的開(kāi)發(fā)負(fù)責(zé)人希望大模型產(chǎn)品的長(zhǎng)文本精確摘要,對(duì)話(huà)文案專(zhuān)業(yè)化、精細(xì)化,拒答率低,因?yàn)閷?duì)于教育和心理健康的大模型,更需要兼具“智商”和“情商”,而不是冷冰冰和嚴(yán)肅的工作問(wèn)答工具。

　　例如心理咨詢(xún)場(chǎng)景,在線(xiàn)拒答率、回答文案的溫暖程度極大影響用戶(hù)體驗(yàn)。“某些大模型 API 接入后,動(dòng)不動(dòng)就拒答或者回答文本‘降智偷懶’,Yi 大模型 IQ 在線(xiàn)且 EQ 出色,測(cè)試期間幾乎沒(méi)有拒答,能持續(xù)輸出高質(zhì)量有溫度的文案,我們相當(dāng)滿(mǎn)意。”星云愛(ài)店的技術(shù)負(fù)責(zé)人表示。

　　內(nèi)測(cè)開(kāi)發(fā)者中除了專(zhuān)業(yè)的企業(yè)級(jí)應(yīng)用開(kāi)發(fā)團(tuán)隊(duì),還有不會(huì)代碼編程的大模型發(fā)燒友。一位叫“聞”的網(wǎng)友本身是 HiFi 音樂(lè)發(fā)燒友,并運(yùn)營(yíng)了一個(gè)分享古典音樂(lè)的公眾號(hào)。雖然他自稱(chēng)不懂寫(xiě)代碼,但已經(jīng)可以使用 Lobe-chat 這樣的工具去實(shí)現(xiàn)開(kāi)發(fā)。借助 Yi 大模型 API,他實(shí)現(xiàn)了翻譯英文長(zhǎng)視頻和翻譯古典音樂(lè)介紹兩個(gè) AI 2.0 場(chǎng)景應(yīng)用的功能。正是有了易用的 API,讓他從對(duì)技術(shù)的熱情和對(duì)新事物的好奇,可以更進(jìn)一步去探索開(kāi)發(fā)、并真正落地了具有創(chuàng)意的 AI 2.0 應(yīng)用。

　　網(wǎng)友“聞”優(yōu)化翻譯古典音樂(lè)科普流程后的最終輸出結(jié)果

　　“Yi-34B-Chat-200K 面對(duì)幾萬(wàn)字的超長(zhǎng)提示詞,10 秒鐘就反饋回來(lái)了結(jié)果,極大提高大家工作效率。”,“接入 Yi 大模型 API 代碼修改量極少,幾乎是分分鐘就可以搞定。”。這些都是內(nèi)測(cè)中收到的眾多開(kāi)發(fā)者反饋中的真實(shí)聲音,也讓我們看到基于 API 的 AI 2.0 應(yīng)用開(kāi)發(fā)需求的火熱。

　　對(duì)于 AI 2.0 開(kāi)發(fā)生態(tài)的工作,零一萬(wàn)物表示,近期零一萬(wàn)物將為開(kāi)發(fā)者提供更多更強(qiáng)模型和 AI 開(kāi)發(fā)框架。包括:

　　推出一系列的模型 API,覆蓋更大的參數(shù)量、更強(qiáng)的多模態(tài),更專(zhuān)業(yè)的代碼/數(shù)學(xué)推理模型等;

　　突破更長(zhǎng)的上下文,目標(biāo) 100 萬(wàn) tokens;支持更快的推理速度,顯著降低推理成本;

　　基于超長(zhǎng)上下文能力,構(gòu)建向量數(shù)據(jù)庫(kù)、RAG、Agent 架構(gòu)在內(nèi)的全新開(kāi)發(fā)者 AI 框架。旨在提供更加豐富和靈活的開(kāi)發(fā)工具,以適應(yīng)多樣化的應(yīng)用場(chǎng)景。

　　AI 2.0 正在進(jìn)一步發(fā)展,并深入千行百業(yè)。作為新質(zhì)生產(chǎn)力核心的 AI 2.0 技術(shù),是開(kāi)發(fā)者需要重點(diǎn)關(guān)注的領(lǐng)域。借助優(yōu)質(zhì) AI 2.0 廠(chǎng)商的 API 和開(kāi)發(fā)工具,開(kāi)發(fā)者可以提高研發(fā)效率,加速 AI 2.0 的應(yīng)用落地,正在成為 2024 年全新的 AI 2.0 研發(fā)趨勢(shì)。目前 Yi 大模型 API 開(kāi)放平臺(tái)推出了上新優(yōu)惠活動(dòng),名額限量開(kāi)放中,新用戶(hù)即贈(zèng)送60元。機(jī)會(huì)難得,點(diǎn)擊閱讀原文了解詳情~

　　零一萬(wàn)物API開(kāi)放平臺(tái)鏈接:https://platform.lingyiwanwu.com/

　　零一萬(wàn)物邀請(qǐng)具有創(chuàng)造力的開(kāi)發(fā)者并肩作戰(zhàn),助力加速開(kāi)發(fā) AI 2.0 應(yīng)用生態(tài),一同探索 LLM 的廣闊應(yīng)用場(chǎng)景!