Nightshade 工具助力創(chuàng)作者保護(hù)版權(quán) 對抗 AI 訓(xùn)練數(shù)據(jù)的濫用

　　隨著人工智能(AI)技術(shù)的快速發(fā)展，其訓(xùn)練數(shù)據(jù)的獲取和使用變得日益重要，但也出現(xiàn)了濫用現(xiàn)象。為了抵御這種濫用，一款名為「Nightshade」的新工具應(yīng)運(yùn)而生，為創(chuàng)作者提供了一種保護(hù)他們創(chuàng)意作品不被無授權(quán)用于 AI 模型訓(xùn)練的方法。

　　Nightshade工具使得用戶能夠?qū)⑵涓郊拥剿麄兊膭?chuàng)意作品上，從而在使用該作品進(jìn)行訓(xùn)練時「毒化」AI 模型的數(shù)據(jù)。通過對數(shù)字藝術(shù)作品的像素進(jìn)行不可見的修改，Nightshade 能夠在作品被 AI 模型訓(xùn)練時利用安全漏洞對模型造成混淆。例如，它可以讓模型無法識別汽車圖像，反而識別為牛的圖像。最終，這種毒化數(shù)據(jù)可以破壞諸如 DALL-E、Stable Diffusion 和 Midjourney 等 AI 藝術(shù)平臺的未來模型，剝奪其生成圖像的能力。

　　《麻省理工學(xué)院科技評論》報告稱，芝加哥大學(xué)教授兼 Nightshade 的創(chuàng)建者之一 Ben Zhao 希望通過這款工具，改變目前 AI 公司借助侵權(quán)數(shù)據(jù)訓(xùn)練模型的現(xiàn)狀。Nightshade 的研究論文指出，文本至圖像的 AI 模型很容易受到這種攻擊的影響。

　　創(chuàng)作者可通過上傳他們的作品到 Nightshade 創(chuàng)建者開發(fā)的另一款工具 Glaze 中，保護(hù)其藝術(shù)風(fēng)格不被模仿。例如，Glaze 可以將通常的現(xiàn)實(shí)主義繪圖轉(zhuǎn)變?yōu)榱Ⅲw主義風(fēng)格。未來，Nightshade 將被集成到 Glaze 中，讓用戶選擇是否使用「毒丸」，或滿足于模型無法模仿他們的藝術(shù)風(fēng)格。

　　Nightshade 的創(chuàng)建者在論文中提議，應(yīng)將 Nightshade 及類似工具作為保護(hù)創(chuàng)作者免受不遵守退出規(guī)則的網(wǎng)絡(luò)爬蟲侵害的「最后防線」。

　　目前，圍繞 AI 生成內(nèi)容和訓(xùn)練數(shù)據(jù)的版權(quán)問題在缺乏相關(guān)法規(guī)的情況下仍然是一個灰色地帶。許多與版權(quán)侵權(quán)戰(zhàn)斗的訴訟仍在法庭上進(jìn)行。同時，防止網(wǎng)絡(luò)爬蟲未經(jīng)許可獲取數(shù)據(jù)的方法也受到了限制。Adobe 公司計(jì)劃使用標(biāo)記來標(biāo)識是否為 AI 生成的內(nèi)容，同時顯示圖像的所有者。

　　最初針對生成性 AI 平臺的一些訴訟集中在版權(quán)材料被無授權(quán)用于模型訓(xùn)練上，特別是在文本至圖像平臺方面。今年 1 月，三名藝術(shù)家分別起訴了 Stable Diffusion、Midjourney 和藝術(shù)網(wǎng)站 DeviantArt，聲稱其模型未經(jīng)許可使用了他們的藝術(shù)作品。Getty Images 也在構(gòu)建自己的基于許可圖像訓(xùn)練的 AI 圖像生成器之前，對 Stable Diffusion 提起了訴訟。

　　谷歌和微軟表示，如果客戶在使用他們的生成性 AI 產(chǎn)品時因侵犯版權(quán)而被起訴，他們愿意承擔(dān)法律責(zé)任。然而，大多數(shù)這些產(chǎn)品都是基于文本的。