卡內(nèi)基大學(xué)開源TOFU框架，幫助大模型遺忘隱私數(shù)據(jù)

　　1月19日 消息:TOFU框架是一個(gè)旨在提升大模型安全性的工具，由卡內(nèi)基梅隆大學(xué)研究人員開發(fā)。該框架包含遺忘、數(shù)據(jù)集、評(píng)估等多個(gè)模塊，幫助開發(fā)者提升大模型的安全性。

　　TOFU數(shù)據(jù)集則致力于幫助開發(fā)人員更深入地理解大模型的遺忘過(guò)程，并提供了全新的評(píng)估方案，涵蓋了遺忘質(zhì)量和模型效用兩個(gè)方面的比較。TOFU的遺忘模塊可以幫助開發(fā)者從大語(yǔ)言模型中移除敏感數(shù)據(jù)，使其在行為上表現(xiàn)得好像從未學(xué)習(xí)過(guò)這些遺忘數(shù)據(jù)一樣。

　　TOFU框架的核心功能之一是遺忘模塊，它可以幫助開發(fā)者從大語(yǔ)言模型中移除敏感數(shù)據(jù)，使其在行為上表現(xiàn)得好像從未學(xué)習(xí)過(guò)這些遺忘數(shù)據(jù)一樣。遺忘模塊需要根據(jù)遺忘集的數(shù)據(jù)對(duì)模型進(jìn)行調(diào)整，以實(shí)現(xiàn)遺忘效果。

　　主要包含參數(shù)調(diào)整和樣本選擇兩種方法。參數(shù)調(diào)整通過(guò)修改模型的參數(shù)，重新訓(xùn)練模型以減少對(duì)遺忘集的依賴性，達(dá)到遺忘敏感信息的效果。而樣本選擇則是通過(guò)選擇性地使用遺忘數(shù)據(jù)集的樣本，以逐漸遺忘與這些樣本相關(guān)的敏感信息或相關(guān)性進(jìn)行篩選，以便更有針對(duì)性地移除敏感數(shù)據(jù)。

　　綜上所述，TOFU框架的發(fā)布為大模型的安全性提供了有力支持，其包含的數(shù)據(jù)集和評(píng)估方案為開發(fā)者提供了更多的工具和方法來(lái)保護(hù)用戶隱私數(shù)據(jù)。遺忘模塊的實(shí)現(xiàn)更是為大模型的安全應(yīng)用提供了切實(shí)可行的解決方案。這一框架的開源將為整個(gè)領(lǐng)域的發(fā)展帶來(lái)新的動(dòng)力和方向。