Nightshade：使AI模型在未經(jīng)許可的情況下無法訓(xùn)練圖片

　　據(jù)報道，芝加哥大學(xué)的研究人員開發(fā)了一種名為Nightshade的工具，旨在防止未經(jīng)許可的AI圖像生成。該工具可以使AI圖像生成器無法使用未經(jīng)許可的圖像進行訓(xùn)練，從而保護了藝術(shù)家和版權(quán)所有者的作品。

　　Nightshade的工作原理是在圖像中添加隱藏信息，這些信息對人眼不可見。當(dāng)像Stable Diffusion這樣的AI圖像生成器嘗試使用這些圖像進行訓(xùn)練時，這些額外的信息會導(dǎo)致生成的輸出失真，從而防止圖像被有效地用作訓(xùn)練數(shù)據(jù)。即使用戶對這些被“毒害”的圖像進行裁剪、編輯和壓縮，效果也仍然存在。Nightshade甚至在對被“毒害”的圖像截屏或在顯示器上顯示時也能起作用;任何由此產(chǎn)生的圖像如果被AI模型處理，都會產(chǎn)生失真。

　　相比于其他工具，如Stability提供的選擇退出機制，Nightshade的設(shè)計初衷是增加使用未經(jīng)許可內(nèi)容的圖像生成器開發(fā)者的成本。Nightshade還不同于Glaze，后者旨在阻止AI模型未經(jīng)許可地訓(xùn)練圖像，而Glaze則旨在增加AI模型復(fù)制藝術(shù)家獨特風(fēng)格的難度。

　　Nightshade工具對任何人都是可用的。用戶可以從該項目的網(wǎng)站上下載，并且可以在Windows和Mac上運行。運行Nightshade不需要任何額外的GPU驅(qū)動程序。

　　Nightshade加入了越來越多的工具，為藝術(shù)家保護其作品，例如麻省理工學(xué)院的PhotoGuard，它創(chuàng)建了扭曲AI編輯圖像的“掩碼”。

　　此外，還有一些其他工具，如谷歌DeepMind的SynthID和Meta的Stable Signature，可用于識別由AI創(chuàng)建的圖像。然而，這些工具僅適用于特定的圖像生成模型，僅為Imagen和Emu等模型提供功能。