Anthropic公布AI人工智能安全級(jí)別ASL系統(tǒng)

　　Anthropic創(chuàng)始人Dario Amodei在英國(guó)人工智能安全峰會(huì)上介紹了該公司提出的負(fù)責(zé)任擴(kuò)張政策(Responsible Scaling Policy，RSP)。該政策旨在確保人工智能系統(tǒng)的安全性和可控性，防止?jié)撛诘娘L(fēng)險(xiǎn)和濫用。

　　RSP包括兩個(gè)主要組成部分:ASL系統(tǒng)和縮放曲線。

　　ASL系統(tǒng)是模仿生物安全等級(jí)(BSL)系統(tǒng)設(shè)計(jì)的，每個(gè)等級(jí)都有一個(gè)相應(yīng)的保障措施。ASL-1代表幾乎沒有風(fēng)險(xiǎn)的模型，例如下棋的專業(yè)人工智能;ASL-2代表目前所處的階段，模型具有廣泛的風(fēng)險(xiǎn)，但尚未表現(xiàn)出真正危險(xiǎn)的能力;ASL-3是AI模型在CBRN(化學(xué)、生物、放射和核)領(lǐng)域變得具有操作危險(xiǎn)的時(shí)候;ASL-4代表了災(zāi)難性濫用風(fēng)險(xiǎn)的升級(jí)，當(dāng)AI系統(tǒng)接近人類水平的自主能力，或成為至少一個(gè)嚴(yán)重的全球安全威脅(如生物武器)的主要來(lái)源時(shí)，將觸發(fā)ASL-4。

　　縮放曲線是用來(lái)測(cè)試這些危險(xiǎn)能力的間隔時(shí)間，以確保不會(huì)盲目地創(chuàng)造出具有危險(xiǎn)能力的模型。隨著人工智能系統(tǒng)的規(guī)模和能力的提升，保障措施也需要相應(yīng)地升級(jí)。