JetBrains 推出新 AI 編碼助手，結(jié)合多個大型語言模型以實(shí)現(xiàn)供應(yīng)商中立

　　JetBrains 于當(dāng)?shù)貢r間周三發(fā)布了一款新的 AI 編碼助手，這款助手能夠從開發(fā)者的集成開發(fā)環(huán)境(IDE)獲取信息，并將其反饋給 AI 軟件，以提供編碼建議、代碼重構(gòu)和文檔支持。這家開發(fā)工具公司聲稱，其 AI 助手是第一個供應(yīng)商中立的此類產(chǎn)品，因?yàn)樗�使用了多個大型語言模型，而不是依賴單一的 AI 平臺。

　　JetBrains 的數(shù)據(jù)科學(xué)開發(fā)者倡導(dǎo)者 Jodie Burchell 表示：「我們之所以稱自己為中立，是因?yàn)槟悴粫�被鎖定在一個大型語言模型中。這也意味著你不會被鎖定在一個可能會過時，可能無法跟上最新發(fā)展的模型中�！�

　　該平臺的基礎(chǔ)包括 OpenAI 和谷歌的 LLMs，以及 JetBrains 創(chuàng)建的一些較小的 LLM 模型。不同的模型用于不同的任務(wù)。例如，代碼生成可能很直接，因此可以比諸如「為什么這個 bug 會發(fā)生?」這樣的問題更容易解決。 Burchell 說，這需要更大模型所提供的更細(xì)膩的語言理解。JetBrains 的 AI 服務(wù)自動處理哪個模型獲得哪個查詢。通過使用 AI 服務(wù)架構(gòu)，JetBrains 可以連接新模型，而無需用戶更換 AI 提供商。

　　Burchell 表示：「如果你有一個更簡單的任務(wù)，你可以使用一個較小的 [模型]，也許是我們內(nèi)部的一個大型語言模型。如果你需要做一些非常復(fù)雜的事情，你將不得不使用 GPT。」

　　第三方 LLM 公司不會存儲數(shù)據(jù)，盡管信息會被共享以創(chuàng)建底層大型語言模型的提示，她說。

　　Burchell 說：「我們與供應(yīng)商的協(xié)議是，他們不能存儲數(shù)據(jù)。他們不能將其用于生成模型輸出和審查之外的任何事情——所以基本上是安全檢查�！顾�還說：「我們永遠(yuǎn)不會與那些有此類協(xié)議的第三方供應(yīng)商合作，他們可以將數(shù)據(jù)用于除此之外的任何事情�！�

　　開發(fā)者對于將所有編碼工作交給 AI 助手并不特別熱衷——JetBrains 最近的一項(xiàng)調(diào)查發(fā)現(xiàn)，只有 17% 的受訪者表示他們愿意將代碼創(chuàng)作委托給 AI 助手。但是，當(dāng)涉及到幫助時，56% 的受訪者表示，如果有機(jī)會，他們會讓 AI 助手編寫代碼注釋和文檔。

　　到目前為止，這項(xiàng)服務(wù)僅對付費(fèi)客戶開放，因?yàn)樵诘讓邮褂么笮驼Z言模型的成本較高，Burchell 說。該計(jì)劃是將其推廣到其他產(chǎn)品中，但目前，AI 助手作為訂閱附加產(chǎn)品可用于大多數(shù) IDE，包括 IntelliJ IDEA、PyCharm、PhpStorm 和 ReSharper。社區(qū)授權(quán)的 IDE 和擁有教育、初創(chuàng)或開源許可的用戶是例外。

　　JetBrains 和其他 AI 助手目前無法實(shí)現(xiàn)的一種可能性是，作為本地版本提供這樣的解決方案，依賴于內(nèi)部模型，在公司的本地服務(wù)器上運(yùn)行。一些公司對這種方法感興趣，因?yàn)樗�具有安全�?yōu)勢。

　　Burchell 說：「顯然，這將是你在安全方面能夠獲得的最好效果，但使用潛力不如我們正在合作的第三方供應(yīng)商那么強(qiáng)大的模型顯然會有一些權(quán)衡�！顾�說：「這是一個權(quán)衡，但這將是一種我們正在積極探討的可能性。」

　　提供本地模型之所以困難，簡單來說，是因?yàn)?AI 運(yùn)行在非常大的神經(jīng)網(wǎng)絡(luò)上。

　　她解釋說：「這意味著，構(gòu)建模型顯然是一回事——[它] 需要很長時間——但實(shí)際運(yùn)行模型并實(shí)時獲得答案是一個重大的工程問題�！�

　　模型必須接受大量的上下文，例如通過模型運(yùn)行的一段代碼，以預(yù)測接下來的內(nèi)容，她解釋說。然后，它運(yùn)行新的預(yù)測以及之前的信息通過模型，以預(yù)測序列的下一部分。它不斷這樣做，實(shí)時進(jìn)行，同時進(jìn)行所有網(wǎng)絡(luò)和安全檢查。

　　「在后臺，從工程角度需要發(fā)生的事情相當(dāng)驚人，」 Burchell 說�！杆�需要 GPU，并且需要以成本效益高的方式使用 GPU。所以，如果你有足夠的計(jì)算能力來解決這個問題，那么它不一定是一個不可逾越的問題。但以一種不過分昂貴的方式能夠做到這一點(diǎn)是困難的。」

　　這個過程的一個有趣副作用是蒸餾。這意味著隨著模型的發(fā)展，運(yùn)行它所需的神經(jīng)網(wǎng)絡(luò)會隨著時間的推移變得更小，因?yàn)樗�能夠用更少的參�?shù)提供相同的性能，她說。

　　供應(yīng)商正在積極解決 LLMs 的挑戰(zhàn)，但這是 JetBrains 正在與第三方供應(yīng)商合作的原因之一：這樣做有助于降低成本，并使 JetBrains 能夠提供負(fù)擔(dān)得起的產(chǎn)品， Burchell 說。該公司還在探索開源替代品。

　　Burchell 表示，有些人對于將 AI 系統(tǒng)捆綁到其 IDE 中表示擔(dān)憂。為了適應(yīng)這些開發(fā)者，JetBrains 已經(jīng)引入了禁用 AI 的功能。