中國(guó)發(fā)布《生成式AI安全基本要求》，涵蓋訓(xùn)練數(shù)據(jù)、生成內(nèi)容等

　　全國(guó)網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)在官網(wǎng)發(fā)布了，國(guó)家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù) 生成式人工智能服務(wù)安全基本要求》征求意見(jiàn)稿。

　　該意見(jiàn)稿一共分為《網(wǎng)絡(luò)安全技術(shù) 生成式人工智能服務(wù)安全基本要求-標(biāo)準(zhǔn)文本》、意見(jiàn)匯總處理表和編制說(shuō)明三大塊。

　　其中，標(biāo)準(zhǔn)文本涵蓋訓(xùn)練數(shù)據(jù)安全要求、模型安全要求等，主要是為了加強(qiáng)生成式人工智能的開發(fā)、應(yīng)用落地的安全性。如果你對(duì)該標(biāo)準(zhǔn)有任何意見(jiàn)，可以在2024年7月22日前反饋給國(guó)家網(wǎng)安標(biāo)委秘書處。

　　2023年7月，國(guó)家網(wǎng)信辦等七部門發(fā)布了《生成式人工智能服務(wù)管理暫行辦法》，從政策法規(guī)層面為我國(guó)生成式人工智能健康發(fā)展保駕護(hù)航，為有序開展相關(guān)管理工作明確了方向。

　　而本次發(fā)布的標(biāo)準(zhǔn)要求是對(duì)《辦法》中的安全要求進(jìn)行細(xì)化，規(guī)定了生成式人工智能服務(wù)在安全方面的基本要求，針對(duì)當(dāng)前生成式人工智能服務(wù)研發(fā)過(guò)程中的網(wǎng)絡(luò)安全、數(shù)據(jù)安全、個(gè)人信息保護(hù)，以及面向服務(wù)過(guò)程中的應(yīng)用場(chǎng)景安全風(fēng)險(xiǎn)、軟硬件環(huán)境安全風(fēng)險(xiǎn)、生成內(nèi)容安全風(fēng)險(xiǎn)、權(quán)益保障安全風(fēng)險(xiǎn)等方面，提出細(xì)化安全要求。

　　下面「AIGC開放社區(qū)」將為大家介紹該標(biāo)準(zhǔn)的主要內(nèi)容

　　數(shù)據(jù)來(lái)源安全

　　對(duì)服務(wù)提供者的要求如下。

　　a)采集來(lái)源管理:

　　1)面向特定數(shù)據(jù)來(lái)源進(jìn)行采集前，應(yīng)對(duì)該來(lái)源數(shù)據(jù)進(jìn)行安全評(píng)估，數(shù)據(jù)內(nèi)容中含違法不良信息超過(guò)5%的，不應(yīng)采集該來(lái)源數(shù)據(jù);

　　2)面向特定數(shù)據(jù)來(lái)源進(jìn)行采集后，應(yīng)對(duì)所采集的該來(lái)源數(shù)據(jù)進(jìn)行核驗(yàn)，含違法不良信息情況超過(guò)5%的，不應(yīng)使用該來(lái)源數(shù)據(jù)進(jìn)行訓(xùn)練。

　　b)不同來(lái)源訓(xùn)練數(shù)據(jù)搭配:

　　1)應(yīng)提高訓(xùn)練數(shù)據(jù)來(lái)源的多樣性，對(duì)每一種語(yǔ)言的訓(xùn)練數(shù)據(jù)，如中文、英文等，以及每一種類型的訓(xùn)練數(shù)據(jù)，如文本、圖片、音頻、視頻等，均應(yīng)有多個(gè)訓(xùn)練數(shù)據(jù)來(lái)源;

　　2)如需使用境外來(lái)源訓(xùn)練數(shù)據(jù)，應(yīng)與境內(nèi)來(lái)源訓(xùn)練數(shù)據(jù)進(jìn)行合理搭配。

　　c)訓(xùn)練數(shù)據(jù)來(lái)源可追溯:

　　1)使用開源訓(xùn)練數(shù)據(jù)時(shí)，應(yīng)具有該數(shù)據(jù)來(lái)源的開源許可協(xié)議或相關(guān)授權(quán)文件;

　　2)使用自采訓(xùn)練數(shù)據(jù)時(shí)，應(yīng)具有采集記錄，不應(yīng)采集他人已明確不可采集的數(shù)據(jù);不可采集的網(wǎng)頁(yè)數(shù)據(jù)，或個(gè)人已拒絕授權(quán)采集的個(gè)人信息等。

　　3)使用商業(yè)訓(xùn)練數(shù)據(jù)時(shí):

　　應(yīng)有具備法律效力的交易合同、合作協(xié)議等;

　　交易方或合作方不能提供數(shù)據(jù)來(lái)源、質(zhì)量、安全等方面的承諾以及相關(guān)證明材料時(shí)，不應(yīng)使用該訓(xùn)練數(shù)據(jù);

　　應(yīng)對(duì)交易方或合作方所提供訓(xùn)練數(shù)據(jù)、承諾、材料進(jìn)行審核。

　　4)將使用者輸入信息當(dāng)作訓(xùn)練數(shù)據(jù)時(shí)，應(yīng)具有使用者授權(quán)記錄。

　　數(shù)據(jù)內(nèi)容安全

　　a)訓(xùn)練數(shù)據(jù)內(nèi)容過(guò)濾:對(duì)于每一種類型的訓(xùn)練數(shù)據(jù)，如文本、圖片、音頻、視頻等，應(yīng)在將數(shù)據(jù)用于訓(xùn)練前，對(duì)全部訓(xùn)練數(shù)據(jù)進(jìn)行過(guò)濾，過(guò)濾方法包括但不限于關(guān)鍵詞、分類模型、人工抽檢等，去除數(shù)據(jù)中的違法不良信息。

　　b)知識(shí)產(chǎn)權(quán):

　　1)應(yīng)有訓(xùn)練數(shù)據(jù)知識(shí)產(chǎn)權(quán)管理策略，并明確負(fù)責(zé)人;

　　2)數(shù)據(jù)用于訓(xùn)練前，應(yīng)對(duì)數(shù)據(jù)中的主要知識(shí)產(chǎn)權(quán)侵權(quán)風(fēng)險(xiǎn)進(jìn)行識(shí)別，發(fā)現(xiàn)存在知識(shí)產(chǎn)權(quán)侵權(quán)等問(wèn)題的，服務(wù)提供者不應(yīng)使用相關(guān)數(shù)據(jù)進(jìn)行訓(xùn)練;

　　注:訓(xùn)練數(shù)據(jù)中包含文學(xué)、藝術(shù)、科學(xué)作品的，需要重點(diǎn)識(shí)別訓(xùn)練數(shù)據(jù)以及生成內(nèi)容中著作權(quán)侵權(quán)問(wèn)題。

　　3)應(yīng)建立針對(duì)知識(shí)產(chǎn)權(quán)問(wèn)題的投訴舉報(bào)渠道;

　　4)應(yīng)在用戶服務(wù)協(xié)議中，向使用者告知使用生成內(nèi)容的知識(shí)產(chǎn)權(quán)相關(guān)風(fēng)險(xiǎn)，并與使用者約定相

　　關(guān)責(zé)任與義務(wù);

　　5)應(yīng)及時(shí)根據(jù)國(guó)家政策以及第三方投訴情況更新知識(shí)產(chǎn)權(quán)相關(guān)策略;

　　6)宜具備以下知識(shí)產(chǎn)權(quán)措施:

　　公開訓(xùn)練數(shù)據(jù)中涉及知識(shí)產(chǎn)權(quán)部分的摘要信息;在投訴舉報(bào)渠道中支持第三方就訓(xùn)練數(shù)據(jù)使用情況以及相關(guān)知識(shí)產(chǎn)權(quán)情況進(jìn)行查詢。

　　c)個(gè)人信息方面:

　　1)在使用包含個(gè)人信息的訓(xùn)練數(shù)據(jù)前，應(yīng)取得對(duì)應(yīng)個(gè)人同意或者符合法律、行政法規(guī)規(guī)定的其他情形;

　　2)在使用包含敏感個(gè)人信息的訓(xùn)練數(shù)據(jù)前，應(yīng)取得對(duì)應(yīng)個(gè)人單獨(dú)同意或者符合法律、行政法規(guī)規(guī)定的其他情形。

　　模型安全要求

　　對(duì)服務(wù)提供者的要求如下。

　　a)模型訓(xùn)練方面:

　　1)在訓(xùn)練過(guò)程中，應(yīng)將生成內(nèi)容安全性作為評(píng)價(jià)生成結(jié)果優(yōu)劣的主要考慮指標(biāo)之一;

　　注:模型生成內(nèi)容是指模型直接輸出的、未經(jīng)其他處理的原生內(nèi)容。

　　2)應(yīng)定期對(duì)所使用的開發(fā)框架、代碼等進(jìn)行安全審計(jì)，關(guān)注開源框架安全及漏洞相關(guān)問(wèn)題，識(shí)別和修復(fù)安全漏洞。

　　b)模型輸出方面:

　　1)生成內(nèi)容準(zhǔn)確性方面，應(yīng)采取技術(shù)措施提高生成內(nèi)容響應(yīng)使用者輸入意圖的能力，提高生成內(nèi)容中數(shù)據(jù)及表述與科學(xué)常識(shí)及主流認(rèn)知的符合程度，減少其中的錯(cuò)誤內(nèi)容;

　　2)生成內(nèi)容可靠性方面，應(yīng)采取技術(shù)措施提高生成內(nèi)容格式框架的合理性以及有效內(nèi)容的含量，提高生成內(nèi)容對(duì)使用者的幫助作用;

　　3)問(wèn)題拒答方面，對(duì)明顯偏激以及明顯誘導(dǎo)生成違法不良信息的問(wèn)題，應(yīng)拒絕回答;對(duì)其他問(wèn)題，應(yīng)均能正�；卮�;

　　4)圖片、視頻等生成內(nèi)容標(biāo)識(shí)方面，應(yīng)滿足國(guó)家相關(guān)規(guī)定以及標(biāo)準(zhǔn)文件要求。

　　c)模型監(jiān)測(cè)方面:

　　1)應(yīng)對(duì)模型輸入內(nèi)容持續(xù)監(jiān)測(cè)，防范惡意輸入攻擊，例如注入攻擊、后門攻擊、數(shù)據(jù)竊取、對(duì)抗攻擊等;

　　2)應(yīng)建立常態(tài)化監(jiān)測(cè)測(cè)評(píng)手段以及模型應(yīng)急管理措施，對(duì)監(jiān)測(cè)測(cè)評(píng)發(fā)現(xiàn)的提供服務(wù)過(guò)程中的安全問(wèn)題，及時(shí)處置并通過(guò)針對(duì)性的指令微調(diào)、強(qiáng)化學(xué)習(xí)等方式優(yōu)化模型。

　　d)模型更新、升級(jí)方面:

　　1)應(yīng)制定在模型更新、升級(jí)時(shí)的安全管理策略;

　　2)應(yīng)形成管理機(jī)制，在模型重要更新、升級(jí)后，再次自行組織安全評(píng)估。

　　e)軟硬件環(huán)境方面:

　　1)模型訓(xùn)練、推理所采用的計(jì)算系統(tǒng)方面:

　　應(yīng)評(píng)估系統(tǒng)所采用芯片、軟件、工具、算力等方面的供應(yīng)鏈安全，側(cè)重評(píng)估供應(yīng)持續(xù)性、穩(wěn)定性等方面;

　　所采用芯片宜支持基于硬件的安全啟動(dòng)、可信啟動(dòng)流程及安全性驗(yàn)證。

　　2)應(yīng)將模型訓(xùn)練環(huán)境與推理環(huán)境隔離，避免數(shù)據(jù)泄露、不當(dāng)訪問(wèn)等安全事件，隔離方式包括物理隔離與邏輯隔離。

　　上面只是部分內(nèi)容，整個(gè)安全標(biāo)準(zhǔn)書是非常詳細(xì)的，有興趣的可以去官網(wǎng)查看全部?jī)?nèi)容。

　　我國(guó)也是全球?yàn)閿?shù)不多在生成式人工智能領(lǐng)域連續(xù)出臺(tái)安全管理?xiàng)l例的國(guó)家，一方面展示了國(guó)家對(duì)創(chuàng)新變革技術(shù)的重視程度，另外保證了生成式人工智能的場(chǎng)景化落地和應(yīng)用安全。