500行代碼打造AI搜索引擎！登頂GitHub熱榜

　　只用500 行代碼搭出來的AI 搜索引擎，登頂 GitHub 趨勢榜。

　　作者：賈揚(yáng)清的 LeptonAI 團(tuán)隊(duì)。

　　Lepton Search 耗時(shí)一個(gè)周末打造，僅作為 Demo 演示而不是正式產(chǎn)品，只為向開發(fā)者展示" 天下沒有難構(gòu)建的 AI 應(yīng)用 "。

　　△能理解中文但用英文回答

　　賈揚(yáng)清事后感慨到：

　　這件事并沒有那么復(fù)雜——我們剛開始時(shí)確實(shí)以為會更難。

　　另外，圍繞這個(gè) Demo 還發(fā)生了一些爭議。

　　AI 搜索引擎Perplexity創(chuàng)始人認(rèn)為其參考了自己產(chǎn)品的 UI 界面，轉(zhuǎn)發(fā)評論了一番。

　　賈揚(yáng)清也做出回應(yīng)，稱無意進(jìn)入這個(gè)市場，更多的是 Demo 展示以及宣傳自家 LeptonAI 云服務(wù)，并且一開始就準(zhǔn)備開源。

　　總之，兩位大佬 " 友好 " 地一番交鋒之后，Lepton Search 修好 bug 后立即開源并且迅速獲得社區(qū)認(rèn)可。

　　目前，已有偏學(xué)術(shù)的開源 AI 搜索引擎 SciPhi 使用賈揚(yáng)清的代碼完成升級。

　　要注意，AI 搜索引擎整體上依然是一個(gè)復(fù)雜的項(xiàng)目。

　　Lepton Search 之所以 500 行代碼就能實(shí)現(xiàn)，正如賈揚(yáng)清想要展示的，是因?yàn)榻裉斓?strong>應(yīng)用開發(fā)已經(jīng)高度模塊化：

　　大模型，調(diào)用了在自家云上部署的開源 Mixtral-8x7b 模型。

　　搜索引擎，目前用了必應(yīng)搜索的 API。

　　數(shù)據(jù)存儲，用自家 Lepton KV 作為無服務(wù)器存儲。

　　這 500 行代碼其實(shí)只做到以下幾點(diǎn)，就完成一個(gè)產(chǎn)品的雛形了：

　　對大模型和搜索引擎的接口支持

　　前端 UI 界面

　　可緩存和可分享的搜索結(jié)果

　　除此之外，賈揚(yáng)清還分享了開發(fā)過程中學(xué)到的一些經(jīng)驗(yàn)：

　　搜索質(zhì)量確實(shí)非常重要，好的結(jié)果片段才能產(chǎn)生好的摘要。

　　一點(diǎn) AI 幻覺其實(shí)有助于填補(bǔ)片段中未涉及的 " 常識 "。

　　開源模型在文本摘要任務(wù)上已經(jīng)做的非常好。

　　在后續(xù)與網(wǎng)友討論過程中，賈揚(yáng)清還認(rèn)為"AI 對話式搜索不會取代傳統(tǒng)搜索 "，還需要依賴傳統(tǒng)搜索引擎的結(jié)果。

　　事實(shí)上，AI 搜索目前正是行業(yè)的一個(gè)大熱門方向。

　　代表公司正是前面提到的Perplexity，剛剛拿到 7360 萬美元的 A 輪融資，估值超過 5 億美元。

　　投資者中有英偉達(dá)、亞馬遜，甚至谷歌 AI 大佬 Jeff Dean 和前 YouTube CEO 也不避嫌，以個(gè)人名義參與投資。

　　并且 Perplexity 已和部分瀏覽器廠商如 Arc 展開合作，成為默認(rèn)搜索引擎的選項(xiàng)之一。

　　△Perplexity 網(wǎng)頁版

　　更小一些的創(chuàng)業(yè)項(xiàng)目方面，比如面向程序員的devv_，面向?qū)W術(shù)的Consensus也各自受到垂直用戶群體的認(rèn)可。

　　國內(nèi)大廠也是 AI 搜索的積極參與者，百度除了以文心一言插件的形式集成了 AI 搜索之外，還推出了獨(dú)立的簡單搜索App 試水。

　　360 也推出360AI 搜索獨(dú)立 APP 版，安卓版剛剛上線還是熱乎的，連評分?jǐn)?shù)量都還沒夠展示門檻。

　　昆侖萬維的天工 AI 搜索則已推出了將近半年，其首頁推薦問題通常緊追最新熱點(diǎn)，很方便吃瓜。

　　AI 搜索類產(chǎn)品在設(shè)計(jì)上大致分為三大類。

　　谷歌和百度在傳統(tǒng)搜索的頁面頂部，以卡片形式展示 AI 生成結(jié)果。

　　必應(yīng)、百度文心一言更偏重對話，搜索結(jié)果由 AI 總結(jié)提煉后呈現(xiàn)在多輪對話中。

　　其他產(chǎn)品大多遵循 Perplexity 為代表的新范式：

　　搜索結(jié)果頁面分為" 參考鏈接 -AI 回答 - 相關(guān)追問 "幾個(gè)模塊，并可多輪提問。

　　搜索結(jié)果有歷史記錄，且可以對外分享。

　　Copilot 增強(qiáng)模式，AI 理解問題后反向提問，引導(dǎo)用戶補(bǔ)充搜索條件。

　　個(gè)性化提示詞，用于調(diào)整 AI 回答的風(fēng)格以及格式。

　　正如 Perplexity 的 CEO 所說，他們的產(chǎn)品大獲成功后，其模式已成為事實(shí)上的行業(yè)標(biāo)準(zhǔn)。

　　除了宏觀的界面、功能之外，更細(xì)節(jié)之處如 " 付費(fèi)功能的免費(fèi)使用次數(shù) " 都被一些后來者學(xué)走。