GPT-4 API曝出重大漏洞 一句prompt就能提取私人信息

　　近日，GPT-4API曝出了安全漏洞，F(xiàn)AR AI實(shí)驗(yàn)室的團(tuán)隊(duì)通過微調(diào)、函數(shù)調(diào)用和搜索增強(qiáng)等方式成功越獄了這一先進(jìn)模型。微調(diào)方面，通過15個(gè)有害樣本和100個(gè)良性樣本的微調(diào)，研究人員發(fā)現(xiàn)GPT-4在生成內(nèi)容時(shí)可能會放下安全戒備，包括生成錯(cuò)誤信息、提取私人信息和插入惡意URL。

　　此外，GPT-4Assistants模型容易暴露函數(shù)調(diào)用格式，可以被誘導(dǎo)執(zhí)行任意函數(shù)調(diào)用，而知識檢索也容易受到劫持。這一研究表明，對API功能的擴(kuò)展可能導(dǎo)致新的漏洞，即便是領(lǐng)先的GPT-4也不例外。

　　這種漏洞的潛在風(fēng)險(xiǎn)表現(xiàn)在多個(gè)方面。例如，在微調(diào)模型時(shí)，15個(gè)有害的樣本就足以使模型產(chǎn)生顯著的偏見，比如抹黑公眾人物或生成惡意代碼。

　　研究人員還展示了通過微調(diào)模型隱藏惡意鏈接的方法，可能導(dǎo)致用戶在不知情的情況下下載惡意軟件。另外，通過微調(diào)模型，甚至可以獲取未公開的信息，比如用戶的電子郵件地址。助手模型也易受攻擊，例如通過暴露函數(shù)調(diào)用格式，黑客可能濫用API接口，執(zhí)行一些需要特殊權(quán)限的操作。

　　這一研究揭示了GPT-4API的潛在風(fēng)險(xiǎn)，即使是在灰盒環(huán)境下，也存在越獄和隱私泄露的風(fēng)險(xiǎn)。因此，使用者在利用GPT-4時(shí)應(yīng)當(dāng)謹(jǐn)慎，避免輸入敏感信息，以免受到潛在的威脅。這也提醒開發(fā)者和研究人員在模型的設(shè)計(jì)和API功能擴(kuò)展時(shí)要更加關(guān)注安全性，以防范潛在的濫用和漏洞。