Check Point：企業(yè)運(yùn)營中應(yīng)用 AI 的風(fēng)險(xiǎn)與回報(bào)

　　自從2023年以來，人工智能(AI)技術(shù)不斷取得重大突破、使用場景也不斷豐富。企業(yè)和消費(fèi)者都希望利用人工智能 (AI) 的規(guī)模效益，AI 已幾乎廣泛應(yīng)用于各行各業(yè)。在企業(yè)日常運(yùn)營中，用戶已經(jīng)逐漸習(xí)慣通過AI輔助快速完成數(shù)據(jù)分析、文本轉(zhuǎn)錄、客戶支持等工作任務(wù)。在今年7月于上海舉辦的“2024世界人工智能大會(huì)暨人工智能全球治理高級(jí)別會(huì)議”上，相關(guān)部門發(fā)布了《中國AI大模型工業(yè)應(yīng)用指數(shù)(2024年)》。在這份報(bào)告中可以看出，AI以及大模型的行業(yè)應(yīng)用能力在包含電力、石化、鋼鐵、醫(yī)藥等重點(diǎn)行業(yè)中都有顯著提升。這也意味著在全球范圍內(nèi)，AI已經(jīng)成為企業(yè)提升生產(chǎn)力的主要工具之一。

　　根據(jù) F2 Strategy 的一項(xiàng)調(diào)查，超過一半的財(cái)富管理公司正在實(shí)施 AI 項(xiàng)目。他們感興趣的用例包括有關(guān)市場狀況和證券隨時(shí)間變化的預(yù)測(cè)性分析、用于分析文件的光學(xué)字符識(shí)別、工作流程自動(dòng)化、聊天機(jī)器人等。AI 的潛力顯而易見——它可以將相應(yīng)的人工操作時(shí)間縮短最多 90%。與此同時(shí)，超過 60% 的公司表示需要加大 AI 應(yīng)用安全的培訓(xùn)。由此可見，盡管其潛力毋庸置疑，但部署、應(yīng)用AI工具的風(fēng)險(xiǎn)已經(jīng)成為用戶關(guān)注的焦點(diǎn)。

　　Check Point的安全專家認(rèn)為，企業(yè)用戶首先應(yīng)該明確認(rèn)知，不法分子也在積極使用 AI。它同樣為攻擊者帶來了好處，可幫助他們顯著擴(kuò)大攻擊活動(dòng)的規(guī)模和威力。攻擊者甚至可以使 AI 模型本身中毒，致其泄露敏感信息或傳播惡意內(nèi)容。此外，未經(jīng)充分培訓(xùn)的員工可能會(huì)在向 AI 工具輸入信息時(shí)無意中暴露敏感信息，而 AI 工具隨后會(huì)將這些信息應(yīng)用到其機(jī)器學(xué)習(xí)活動(dòng)中，這就使得企業(yè)潛在受攻擊維度不斷增多。因此，安全控制必須融入整個(gè) AI 生命周期，包括員工培訓(xùn)。在使用任何 AI 工具之前，用戶必須了解可能輸入的所有數(shù)據(jù)的密級(jí)、用于訓(xùn)練 AI 工具的數(shù)據(jù)來源，以及為保護(hù)敏感信息而實(shí)行的安全協(xié)議的具體內(nèi)容。務(wù)必從一開始就將安全控制融入 AI 部署中。開放式 AI 系統(tǒng)帶來了更大的風(fēng)險(xiǎn)，因?yàn)樗鼈儗?duì)公眾開放，這雖然便于它們從大型數(shù)據(jù)集中學(xué)習(xí)，但也會(huì)被攻擊者操縱。封閉式系統(tǒng)更安全，但需要更多的人工管理和模型訓(xùn)練。企業(yè)應(yīng)該為員工提供深度培訓(xùn)，讓他們了解工具及其工作原理，以及如何安全地使用工具，并強(qiáng)調(diào)哪些數(shù)據(jù)可使用，哪些數(shù)據(jù)絕不能暴露在大型語言模型 (LLM) 中，例如支持生成式 AI 應(yīng)用的模型。

　　在實(shí)施 AI 解決方案時(shí)，必須確定工具的工作范圍，并確保它只能訪問其訓(xùn)練所必需的數(shù)據(jù)。全面了解信息隱私、模型數(shù)據(jù)來源以及內(nèi)置的原生安全機(jī)制。許多 AI 工具都內(nèi)置防御機(jī)制，以防止濫用——舉例來說，ChatGPT 的規(guī)則旨在防止人們用其圖謀不軌，比如構(gòu)建惡意軟件。然而，這些規(guī)則顯然也可通過精心編制的可掩蓋用戶真實(shí)意圖的提示詞繞過。  這是一種專門針對(duì) AI 系統(tǒng)的提示注入攻擊。用戶必須采取強(qiáng)有力的控制措施，防患于未然。從廣義上講，這些控制措施屬于零信任網(wǎng)絡(luò)安全防護(hù)策略的范疇。

　　AI 工具，特別支持生成式 AI 的 LLM，不應(yīng)被視為典型的軟件工具。它們更像是工具和用戶的混合體。零信任程序根據(jù)個(gè)人的工作職能、范圍和需求來限制對(duì)資源的訪問，并通過限制橫向移動(dòng)的范圍，限制攻擊者通過攻擊單個(gè)員工而造成的破壞。企業(yè)添加任何軟件工具都會(huì)擴(kuò)大攻擊面，為攻擊者提供更多入口點(diǎn)。一款工具，比如 AI 工具，如果可以無限制地訪問個(gè)人身份信息、公司機(jī)密、專有工具、戰(zhàn)略預(yù)測(cè)、競爭分析等，一旦遭到入侵，可能會(huì)帶來災(zāi)難性后果。因此，在有關(guān) AI 工具實(shí)施的戰(zhàn)略討論中，必須將對(duì)此類入侵的防范放在首位。否則，一旦網(wǎng)絡(luò)安全事件發(fā)生，一切為時(shí)已晚。

　　作為網(wǎng)絡(luò)安全行業(yè)長期領(lǐng)導(dǎo)者，Check Point公司近幾年一直關(guān)注AI技術(shù)為用戶帶來的風(fēng)險(xiǎn)挑戰(zhàn)，并在今年年初發(fā)布Infinity AI Copilot，通過生成式 AI 服務(wù)，利用自動(dòng)化將安全管理速度加快最多 90%，并通過更快的事件緩解和響應(yīng)提高安全性。在今年4月，Check Point公司宣布其Infinity AI Copilot 與微軟展開合作，通過與 Microsoft Azure OpenAI 服務(wù)集成進(jìn)一步增強(qiáng) Check Point Infinity AI Copilot效能。增強(qiáng)后的解決方案現(xiàn)在能利用微軟提供的高級(jí)大型語言模型 (LLM) ，更有力、更高效地幫助用戶應(yīng)對(duì)各種網(wǎng)絡(luò)安全挑戰(zhàn)。

　　Check Point公司中國區(qū)技術(shù)總監(jiān)王躍霖認(rèn)為：“雖然大多數(shù) AI 工具都內(nèi)置安全防護(hù)，但企業(yè)必須注意根據(jù)自身的具體需求部署更符合自身特點(diǎn)的安全解決方案。網(wǎng)絡(luò)安全風(fēng)險(xiǎn)可謂是當(dāng)今各企業(yè)所面臨的主要威脅之一，因此企業(yè)有必要采取主動(dòng)的安全防護(hù)以確保業(yè)務(wù)正常運(yùn)營。AI技術(shù)的不斷落地不僅能夠幫助企業(yè)提升核心競爭力，同時(shí)也會(huì)帶來全新的安全威脅。模型的規(guī)模和其所攝入的數(shù)據(jù)以指數(shù)方式擴(kuò)大了攻擊面，一次泄露事件就足以使公司從 AI 所獲得的所有收益化為零。因此，零信任模式下的網(wǎng)絡(luò)安全分析和控制、更有針對(duì)性的安全解決方案對(duì)于企業(yè)充分釋放 AI 工具的潛力必不可少。”