首個(gè)生成式AI安全指導(dǎo)性文件發(fā)布 包含31項(xiàng)安全要求

　　最新發(fā)布的生成式AI安全規(guī)定明確了31項(xiàng)安全要求，只有符合這些要求的生成式AI服務(wù)提供者才能“持證上崗”。這一規(guī)范涵蓋了語料安全、模型安全、安全措施和安全評(píng)估等四大關(guān)鍵領(lǐng)域。

　　對(duì)于語料安全，要求提供者建立語料來源黑名單，不使用來自黑名單的數(shù)據(jù)進(jìn)行訓(xùn)練。如果某一來源的語料中包含違法不良信息超過5%，則該來源會(huì)被列入黑名單。此外，規(guī)定了多元化的語料來源，包括不同語言和不同類型的語料，以及要求語料來源可追溯。

　　在模型安全方面，提供者不得使用未備案的基礎(chǔ)模型進(jìn)行研發(fā)，必須公開第三方基礎(chǔ)模型的使用情況。生成內(nèi)容要符合科學(xué)常識(shí)，不得包含錯(cuò)誤信息。

　　安全措施方面，根據(jù)不同場(chǎng)景和使用者需求，規(guī)定了不同的保護(hù)措施，特別是在關(guān)鍵信息基礎(chǔ)設(shè)施和未成年人使用的情況下。此外，要求設(shè)置監(jiān)看人員以提高生成內(nèi)容質(zhì)量。

　　安全評(píng)估方面提供了具體的評(píng)估方法，包括語料安全評(píng)估、生成內(nèi)容安全評(píng)估、內(nèi)容拒答評(píng)估等。要求提供者使用人工抽檢，確保語料安全。

　　總的來說，這一生成式AI安全規(guī)定為生成式AI服務(wù)提供者提供了具體的安全標(biāo)準(zhǔn)，以確保其生成內(nèi)容的質(zhì)量和安全性。這對(duì)于保護(hù)用戶權(quán)益和社會(huì)安全具有重要意義。