谷歌OpenAI等14家公司成立安全AI聯(lián)盟

　　全球科技巨頭谷歌攜手微軟、亞馬遜、英特爾、英偉達(dá)、IBM、思科、Paypal、OpenAI、Anthropic、Cohere、Chainguard、WIZ及GenLab等共計(jì)14家領(lǐng)先企業(yè)，于7月18日在阿斯彭安全論壇上正式宣布成立了安全人工智能聯(lián)盟（CoSAI）。

　　該聯(lián)盟由備受尊崇的OASIS全球標(biāo)準(zhǔn)機(jī)構(gòu)鼎力支持并主辦，作為一項(xiàng)前瞻性的開源計(jì)劃，CoSAI旨在構(gòu)建一個(gè)面向全體AI從業(yè)者及開發(fā)者的資源共享平臺(tái)，通過提供詳盡的指導(dǎo)手冊(cè)與高效工具，助力他們?cè)O(shè)計(jì)出更加安全可靠的人工智能系統(tǒng)。這一舉措不僅促進(jìn)了行業(yè)內(nèi)知識(shí)與技術(shù)的交流共享，還為構(gòu)建安全的AI生態(tài)系統(tǒng)奠定了堅(jiān)實(shí)的基礎(chǔ)。

　　CoSAI聚焦于三大核心目標(biāo)：一是深入挖掘并推廣人工智能安全的最佳實(shí)踐，為行業(yè)樹立標(biāo)桿；二是積極應(yīng)對(duì)人工智能領(lǐng)域不斷涌現(xiàn)的新挑戰(zhàn)，確保技術(shù)發(fā)展的穩(wěn)健前行；三是全面保障人工智能應(yīng)用的安全性，為用戶和社會(huì)帶來福祉。

　　在具體實(shí)施層面，CoSAI的工作范圍廣泛而深入，涵蓋了從人工智能系統(tǒng)的安全構(gòu)建、無縫集成、高效部署到穩(wěn)定運(yùn)行的全過程。

　　尤為重要的是，聯(lián)盟將重點(diǎn)聚焦于降低一系列潛在風(fēng)險(xiǎn)，包括但不限于模型盜竊、數(shù)據(jù)中毒、提示注入、規(guī)模濫用以及推理攻擊等，這些威脅不僅威脅著AI系統(tǒng)的穩(wěn)定與安全，更可能對(duì)社會(huì)經(jīng)濟(jì)造成不可估量的損失。