網(wǎng)易有道知識庫問答引擎 QAnything 宣布開源

　　網(wǎng)易有道今日宣布自研的知識庫問答引擎 QAnything 正式開源，除了可以調用云端大模型服務，還支持純本地部署，目前可免費在開源社區(qū) Github 內進行下載。

　　據(jù)介紹，QAnything 一鍵部署即可使用，系統(tǒng)支持 Word、PPT、Excel、PDF、圖片等多種文檔格式，直接導入進去即可像“ChatGPT”一樣問答。官方推薦 RTX 3090 及以上配置電腦本地部署。

　　QAnything 的主要原理是基于檢索增強的生成(Retrieval Augmented Generation，簡稱 RAG)。RAG 是目前很火的一種技術框架，它能夠利用檢索外部內容的方式增強大語言模型的準確度、專業(yè)能力和個性化等各方面的性能。

　　網(wǎng)易有道表示，通用大模型能力很強，但無法使用用戶的私有數(shù)據(jù)，且存在胡亂編造的幻覺問題。而 QAnything 號稱結合了用戶私有數(shù)據(jù)和大模型的優(yōu)勢 —— 用戶的任何內容，以任意的形式存在，比如各種格式的文檔，音頻，數(shù)據(jù)庫等，都可以在 QAnything 的支持下，變成可以針對其內容進行問答的使用方式，通過這個技術框架用戶可以很方便地搭建自己的智能知識助手。正如它的名字一樣，Q 是 question，A 是 answer，QAnything 的目標就是萬物皆可問。

　　值得一提的是，本次網(wǎng)易有道開源的 QAnything 是一套完整的 RAG 系統(tǒng)，包括專門優(yōu)化的自研的 embedding 和 rerank 模型、微調后的 LLM(大型語言模型)、優(yōu)化后的推理代碼、向量數(shù)據(jù)庫，以及一個立即上手可用的前端。所有的算法模型(包括 7B 大模型 + embedding / rerank+OCR)占用顯存不超過 16GB。

　　網(wǎng)易有道官方表示，QAnything 已在網(wǎng)易有道的多個產品中應用，包括有道翻譯文檔問答、有道速讀及有道內部業(yè)務的客服系統(tǒng)等。