AI研究者成功通過“詩歌攻擊”揭示ChatGPT的訓(xùn)練數(shù)據(jù)來源

　　來自 Google Deepmind、華盛頓大學(xué)、康奈爾大學(xué)、卡內(nèi)基梅隆大學(xué)、加州大學(xué)伯克利分校和蘇黎世聯(lián)邦理工學(xué)院的一組研究人員成功地讓 Open AI 的聊天機器人 Chat GPT 揭示了用于訓(xùn)練 AI 模型的一些數(shù)據(jù)。

　　研究團隊使用了一種創(chuàng)新性的手法，即通過不斷迭代地要求Chat GPT重復(fù)一個特定的詞匯，比如“詩歌”，來引導(dǎo)模型透露其訓(xùn)練數(shù)據(jù)。隨著反復(fù)迭代，Chat GPT最終開始輸出與訓(xùn)練數(shù)據(jù)相關(guān)的信息。這包括來自CNN、Goodreads、Wordpress博客、Stack Overflow代碼、Wikipedia文章等多個來源的文本內(nèi)容。

　　更令人擔憂的是，Chat GPT還被發(fā)現(xiàn)包含了大量從互聯(lián)網(wǎng)上爬取的私人信息，這些信息甚至可以通過Chat GPT-3.5turbo的公開版本獲得。攻擊揭示的私密信息包括電話號碼、傳真號碼、郵箱地址、物理地址、社交媒體用戶名、網(wǎng)址、姓名和生日等。

　　研究人員表示，他們在8月30日通知了Open AI關(guān)于這一漏洞，并Open AI自那時起對其進行了修復(fù)。截至目前，Open AI尚未進一步評論此事。

　　值得注意的是，研究還涉及到AI生成文本和圖像所消耗的能源問題。研究人員發(fā)現(xiàn)，使用AI模型生成1，000張圖像的能耗相當于將手機充滿電，而生成1，000次文本則相當于將手機充電至16%。該研究呼吁更加環(huán)保的AI使用方式，并指出大型、廣泛應(yīng)用的AI模型消耗的能源更多，因為它們試圖同時執(zhí)行多項任務(wù)，而非專注于特定任務(wù)。

　　這一研究為我們敲響了警鐘，提醒我們在推動AI發(fā)展的同時，需謹慎處理其隱私和能源消耗的問題。