微軟、OpenAI等投入1000萬美元用于增強生成式AI產(chǎn)品的安全

　　微軟、OpenAI、谷歌和Anthropic宣布了一項重要舉措，共同投入1000萬美元用于增強生成式AI產(chǎn)品的安全。這個決定包括任命Chris Meserole為“前沿模型論壇”的執(zhí)行董事，該論壇由上述公司聯(lián)合創(chuàng)立，旨在確保前沿AI模型的安全和負(fù)責(zé)任開發(fā)。這反映了這些科技巨頭對生成式AI安全的關(guān)切，也是他們簽署的“AI安全承諾”的一部分，旨在推動生成式AI的健康發(fā)展。

　　“前沿模型論壇”的核心目標(biāo)包括推進(jìn)AI安全研究，降低風(fēng)險，實現(xiàn)AI能力和安全性的獨立評估，制定負(fù)責(zé)任的開發(fā)和部署最佳實踐，與政策制定者、學(xué)者和社會合作分享關(guān)于信任和安全風(fēng)險的知識，以及支持開發(fā)AI應(yīng)用程序以解決社會挑戰(zhàn)，如氣候變化、癌癥檢測和網(wǎng)絡(luò)威脅。

　　Chris Meserole將在“前沿模型論壇”中擔(dān)任重要職務(wù)，推動AI安全研究，確定最佳實踐，分享知識，以及支持解決社會問題的AI應(yīng)用。他認(rèn)為，強大的AI模型承載著巨大的社會責(zé)任，但為了實現(xiàn)其潛力，我們需要更好地了解如何安全開發(fā)和評估它們。

　　為了解決生成式AI的潛在安全風(fēng)險，微軟、OpenAI、谷歌和Anthropic成立了AI安全基金，旨在支持來自世界各地的獨立研究人員，共同構(gòu)建健康、安全的AI生態(tài)。該基金的重點是支持開發(fā)新的模型評估技術(shù)，以幫助測試和確保前沿AI模型的安全性。這將有助于提高AI系統(tǒng)的安全標(biāo)準(zhǔn)，為整個行業(yè)和開發(fā)者提供更好的控制措施。

　　這一舉措凸顯了科技公司對生成式AI安全的關(guān)切，并強調(diào)了他們對該領(lǐng)域的長期承諾。這將對生成式AI的未來發(fā)展產(chǎn)生積極影響，同時為全球提供更安全的AI解決方案。