開發(fā)者如何掘金 AI 2.0？零一萬物上線 Yi 大模型 API 開放平臺

　　2024 年初推出的 Sora 讓 AIGC 與大模型業(yè)界持續(xù)火爆。一方面,基礎(chǔ)大模型 Top 廠商在持續(xù)研發(fā)長文本、視頻、多模態(tài)等模型核心技術(shù)實(shí)力,在另一面,更多開發(fā)者在加入大模型落地與 AI 2.0 應(yīng)用開發(fā)賽道。在 2023 年底 CSDN 發(fā)起的 AI 2.0 開發(fā)者生態(tài)調(diào)研中,問卷結(jié)果顯示開發(fā)者群體認(rèn)為“深耕模型技術(shù)”與“挖掘應(yīng)用場景”的機(jī)遇和前景同等重要。

　　AI 2.0黑馬——零一萬物Yi大模型

　　長文本突破200K、多模態(tài)增強(qiáng)場景支持

　　由國際 AI 專家李開復(fù)博士所帶隊孵化的 AI 2.0 公司零一萬物,目標(biāo)是全球大模型第一梯隊,攻堅基礎(chǔ)大模型與 AI 2.0 核心技術(shù),發(fā)布了 Yi 系列開源大模型。在當(dāng)時斯坦福、伯克利等全球多項(xiàng)權(quán)威評測榜單中,Yi 大模型均表現(xiàn)優(yōu)異,性能直追 GPT-4。目前 Yi 大模型已實(shí)現(xiàn) 200K 上下文(可處理約 30 萬中英文字符)的長文本推理實(shí)力,以及增強(qiáng)支持多種應(yīng)用場景的多模態(tài)模型。

　　大模型的長文本推理被看作通用人工智能 AGI 非常重要的核心實(shí)力之一。零一萬物 Yi 大模型的 200K 上下文推理能力,適合用于多篇文檔內(nèi)容理解、海量數(shù)據(jù)分析挖掘和跨領(lǐng)域知識融合,為各行業(yè) AI 2.0 應(yīng)用提供極大的便利。例如,金融分析師可以使用 Yi 大模型快速閱讀報告并預(yù)測市場趨勢、律師可用它精準(zhǔn)解讀法律條文、科研人員可用它高效提取論文要點(diǎn)、文學(xué)愛好者可以用它快速掌握作品精髓等,應(yīng)用場景非常廣泛。

　　另外零一萬物的 Yi-34B-Chat-200K 大模型經(jīng)過優(yōu)化,大海撈針評測的性能可提升至 99.8%。“大海撈針”測試的設(shè)計是:將一個目標(biāo)句子(針)放進(jìn)一個隨機(jī)文檔語料庫(大海),然后提出一個只能使用“針”(目標(biāo)句子)中的信息才能回答的問題來測試模型的回憶能力。在“大海撈針”測試中,Yi-34B-Chat-200K 的性能提高了 10.5%,從 89.3%提升到 99.8%。

　　星云愛店是知識探索服務(wù)先行者,包含2C的“學(xué)術(shù)科研助手”,2B的兒童心理健康診療、青少年科學(xué)素養(yǎng)培養(yǎng)三大領(lǐng)域。

　　星云愛店CTO大董和團(tuán)隊參加了零一萬物API邀測,他在文獻(xiàn)綜述的實(shí)際應(yīng)用中,采用其他大模型推理生成的被拒率為 40%(下圖),而切換到 Yi 大模型,任務(wù)未發(fā)生拒絕執(zhí)行。

　　星云愛店測試demo顯示,使用某大模型時,被拒率 40%

　　采用 Yi 大模型執(zhí)行復(fù)雜任務(wù),拒絕任務(wù)率低、完成度好

　　在另一個 18 萬字報告集合的閱讀分析中,Yi 大模型未遺漏任務(wù):

　　星云愛店采用其他模型遺漏未指出,Yi 大模型完成 prompt 任務(wù)

　　零一萬物開發(fā)的多模態(tài)模型 Yi-VL-Plus,可支持文本、視覺多模態(tài)輸入,面向?qū)嶋H應(yīng)用場景大幅增強(qiáng):

　　增強(qiáng)Charts, Table, Inforgraphics, Screenshot 識別能力,支持復(fù)雜圖表理解、信息提取、問答以及推理。中文圖表體驗(yàn)超過GPT4V。

　　在 Yi-VL 基礎(chǔ)上進(jìn)一步提高了圖片分辨率,模型支持 1024*1024 分辨率輸入,顯著提高生產(chǎn)力場景中的文字、數(shù)字 OCR 的準(zhǔn)確性。

　　保持了 LLM 通用語言、知識、推理、指令跟隨等能力。

　　中文圖表識別功能評測:Yi-VL-Plus 可準(zhǔn)確識別圖表對應(yīng)數(shù)據(jù),GPT-4V 有 3 處數(shù)據(jù)識別錯誤

　　Yi-VL-Plus 模型在中文圖表理解場景,準(zhǔn)確率高于 GPT-4V

　　優(yōu)化推理速度、兼容OpenAI API

　　Yi大模型API開放平臺正式上線!

　　取得了上述的大模型核心技術(shù)實(shí)力,零一萬物也在投入貢獻(xiàn) AI 2.0 生態(tài)。在內(nèi)測,零一萬物正式推出了 Yi 大模型 API 開放平臺,希望幫助開發(fā)者,共同挖掘更多應(yīng)用場景,持續(xù)創(chuàng)新。

　　針對 API 側(cè)的實(shí)際開發(fā)需求,零一萬物投入了大量優(yōu)化和兼容能力的研發(fā)工作,去提升開發(fā)者研發(fā)效率和最終用戶的產(chǎn)品體驗(yàn)。具體來說:

　　優(yōu)化推理速度

　　為了提升 API 性能,零一萬物團(tuán)隊在 API 側(cè)進(jìn)行了推理優(yōu)化,因此 Yi-34B-Chat 系列 API 具備較快的推理速度,這不僅縮短了處理時間,同時也保持了出色的模型效果。

　　降低接口延遲

　　優(yōu)化的 API 接口顯著降低模型回復(fù)的延遲,進(jìn)一步提高用戶體驗(yàn)的流暢性和響應(yīng)速度。

　　兼容OpenAI API,實(shí)現(xiàn)平滑遷移

　　Yi 大模型 API 與 OpenAI API 完全兼容,開發(fā)者只需修改少量代碼,可以平滑遷移,即刻享受 Yi 大模型的超凡魅力。

　　目前 API 開放平臺已經(jīng)提供 3 個零一萬物核心重磅的大模型產(chǎn)品,分別是可支持通用聊天、問答、對話、寫作、翻譯等功能的 Yi-34B-Chat-0205,可支持 200K 上下文,多文檔閱讀理解、超長知識庫構(gòu)建小能手的 Yi-34B-Chat-200K,還有多模態(tài)模型 Yi-VL-Plus,支持文本、視覺多模態(tài)輸入,中文圖表體驗(yàn)超過 GPT-4V。更多零一萬物的大模型也將持續(xù)發(fā)布和提供到 API 開放平臺中。

　　從專業(yè)開發(fā)者到大模型發(fā)燒友

　　Yi大模型API開放平臺的創(chuàng)新AI 2.0應(yīng)用正在涌現(xiàn)

　　正式發(fā)布前,零一萬物已經(jīng)在開發(fā)者群體進(jìn)行了 API 邀請內(nèi)測和開發(fā),實(shí)測性能和效果超出預(yù)期。具體測試的企業(yè)與個人 C 端應(yīng)用場景包括使用 Yi Chat 模型構(gòu)建智能對話助手(類似 ChatGPT);使用 Yi 多模態(tài)模型,識別圖片中存在的表格,文字,并進(jìn)行深層次的問答;將 Yi 系列模型整合到現(xiàn)有產(chǎn)品,實(shí)現(xiàn)類 Copilot 工具;使用 Yi 超長上下文模型構(gòu)建知識庫問答,用于客服、培訓(xùn)等特定知識的問答場景等等。

　　已經(jīng)體驗(yàn) API 的開發(fā)者中就有對長文本要求非常高的專業(yè)團(tuán)隊星云愛店,其產(chǎn)品涉及文獻(xiàn)解讀與科研寫作、青少年教育與健康類助手等。星云愛店的開發(fā)負(fù)責(zé)人希望大模型產(chǎn)品的長文本精確摘要,對話文案專業(yè)化、精細(xì)化,拒答率低,因?yàn)閷τ诮逃�和心理健康的大模�?更需要兼具“智商”和“情商”,而不是冷冰冰和嚴(yán)肅的工作問答工具。

　　例如心理咨詢場景,在線拒答率、回答文案的溫暖程度極大影響用戶體驗(yàn)。“某些大模型 API 接入后,動不動就拒答或者回答文本‘降智偷懶’,Yi 大模型 IQ 在線且 EQ 出色,測試期間幾乎沒有拒答,能持續(xù)輸出高質(zhì)量有溫度的文案,我們相當(dāng)滿意。”星云愛店的技術(shù)負(fù)責(zé)人表示。

　　內(nèi)測開發(fā)者中除了專業(yè)的企業(yè)級應(yīng)用開發(fā)團(tuán)隊,還有不會代碼編程的大模型發(fā)燒友。一位叫“聞”的網(wǎng)友本身是 HiFi 音樂發(fā)燒友,并運(yùn)營了一個分享古典音樂的公眾號。雖然他自稱不懂寫代碼,但已經(jīng)可以使用 Lobe-chat 這樣的工具去實(shí)現(xiàn)開發(fā)。借助 Yi 大模型 API,他實(shí)現(xiàn)了翻譯英文長視頻和翻譯古典音樂介紹兩個 AI 2.0 場景應(yīng)用的功能。正是有了易用的 API,讓他從對技術(shù)的熱情和對新事物的好奇,可以更進(jìn)一步去探索開發(fā)、并真正落地了具有創(chuàng)意的 AI 2.0 應(yīng)用。

　　網(wǎng)友“聞”優(yōu)化翻譯古典音樂科普流程后的最終輸出結(jié)果

　　“Yi-34B-Chat-200K 面對幾萬字的超長提示詞,10 秒鐘就反饋回來了結(jié)果,極大提高大家工作效率。”,“接入 Yi 大模型 API 代碼修改量極少,幾乎是分分鐘就可以搞定。”。這些都是內(nèi)測中收到的眾多開發(fā)者反饋中的真實(shí)聲音,也讓我們看到基于 API 的 AI 2.0 應(yīng)用開發(fā)需求的火熱。

　　對于 AI 2.0 開發(fā)生態(tài)的工作,零一萬物表示,近期零一萬物將為開發(fā)者提供更多更強(qiáng)模型和 AI 開發(fā)框架。包括:

　　推出一系列的模型 API,覆蓋更大的參數(shù)量、更強(qiáng)的多模態(tài),更專業(yè)的代碼/數(shù)學(xué)推理模型等;

　　突破更長的上下文,目標(biāo) 100 萬 tokens;支持更快的推理速度,顯著降低推理成本;

　　基于超長上下文能力,構(gòu)建向量數(shù)據(jù)庫、RAG、Agent 架構(gòu)在內(nèi)的全新開發(fā)者 AI 框架。旨在提供更加豐富和靈活的開發(fā)工具,以適應(yīng)多樣化的應(yīng)用場景。

　　AI 2.0 正在進(jìn)一步發(fā)展,并深入千行百業(yè)。作為新質(zhì)生產(chǎn)力核心的 AI 2.0 技術(shù),是開發(fā)者需要重點(diǎn)關(guān)注的領(lǐng)域。借助優(yōu)質(zhì) AI 2.0 廠商的 API 和開發(fā)工具,開發(fā)者可以提高研發(fā)效率,加速 AI 2.0 的應(yīng)用落地,正在成為 2024 年全新的 AI 2.0 研發(fā)趨勢。目前 Yi 大模型 API 開放平臺推出了上新優(yōu)惠活動,名額限量開放中,新用戶即贈送60元。機(jī)會難得,點(diǎn)擊閱讀原文了解詳情~

　　零一萬物API開放平臺鏈接:https://platform.lingyiwanwu.com/

　　零一萬物邀請具有創(chuàng)造力的開發(fā)者并肩作戰(zhàn),助力加速開發(fā) AI 2.0 應(yīng)用生態(tài),一同探索 LLM 的廣闊應(yīng)用場景!