AI研究人員發(fā)現(xiàn)了主要大語言模型中關(guān)鍵漏洞 可低成本復(fù)制

　　近期，大型語言模型(LLM)如ChatGPT和Bard在全球范圍內(nèi)引起了廣泛的關(guān)注，眾多公司投資數(shù)百萬美元用于開發(fā)這些人工智能工具，而一些領(lǐng)先的AI聊天機器人的估值已達到了數(shù)十億美元。這些LLM主要被應(yīng)用于AI聊天機器人，它們通過整合互聯(lián)網(wǎng)上的大量信息來學(xué)習(xí)和為用戶提供請求的答案，這些請求通常被稱為“提示”。

　　然而，最近一項由AI安全初創(chuàng)公司Mindgard和英國蘭開斯特大學(xué)的計算機科學(xué)家進行的研究揭示了LLM存在的嚴(yán)重漏洞。研究發(fā)現(xiàn)，LLM的部分內(nèi)容可以在不到一周的時間內(nèi)以低至50美元的成本被復(fù)制，并且獲得的信息可以用于發(fā)動有針對性的攻擊。這些潛在的攻擊者可能會泄露私人機密信息、繞過安全保護措施、提供錯誤答案或進行進一步的有針對性攻擊。

　　這項名為“模型寄生”的攻擊方法通過與LLM進行交互，提出一系列有針對性的提示，以使LLM提供深入見解的信息，揭示了模型的工作方式。研究團隊在研究中主要關(guān)注了ChatGPT-3.5-Turbo，然后利用這一知識創(chuàng)建了自己的復(fù)制模型，該模型的大小只有原模型的1%，但復(fù)制了LLM的關(guān)鍵特征。研究人員隨后利用這個模型副本作為測試平臺，研究如何在不被察覺的情況下利用ChatGPT的漏洞。他們成功地利用從模型中獲得的知識攻擊ChatGPT，并提高了11%的成功率。

　　蘭開斯特大學(xué)的Peter Garraghan博士表示:“我們發(fā)現(xiàn)的現(xiàn)象在科學(xué)上令人著迷，但也極具憂慮。這是首次實證證明安全漏洞可以成功傳遞于封閉源和開源的機器學(xué)習(xí)模型之間，這在考慮到產(chǎn)業(yè)如何依賴像HuggingFace這樣的公開可用機器學(xué)習(xí)模型時，令人極為擔(dān)憂。”

　　研究人員指出，盡管這些強大的數(shù)字AI技術(shù)具有明顯的用途，但它們存在著隱藏的弱點，甚至不同模型之間可能存在共同的漏洞。各行各業(yè)的企業(yè)目前正在或準(zhǔn)備投資數(shù)十億美元用于開發(fā)自己的LLM，以執(zhí)行各種任務(wù)，如智能助手。金融服務(wù)和大型企業(yè)也在采用這些技術(shù)，但研究人員表示，這些漏洞應(yīng)該成為計劃構(gòu)建或使用第三方LLM的所有企業(yè)的主要關(guān)切點。

　　Peter Garraghan博士強調(diào):“雖然LLM技術(shù)具有潛在的變革性，但企業(yè)和科學(xué)家都必須仔細(xì)考慮采用和部署LLM所涉及的網(wǎng)絡(luò)安全風(fēng)險。”這項研究為我們提醒了雖然AI技術(shù)帶來了巨大的機會，但也伴隨著一系列潛在的威脅，因此必須謹(jǐn)慎行事。