大模型產(chǎn)業(yè)落地，安全運營能否迎來“自動駕駛”時刻？

　　通過一段文字描述，就能生成60秒堪比大片的視頻，來自大模型Sora的出色表現(xiàn)，讓全球都為之震撼。

　　無論是ChatGPT還是Sora，都只是大模型走出實驗室的第一步，大模型如何在產(chǎn)業(yè)中落地，為具體的行業(yè)和場景帶來價值飛躍，才是業(yè)內(nèi)最關(guān)心的問題。

　　隨著百模大戰(zhàn)如火如荼，大模型向千行百業(yè)垂直領(lǐng)域下沉，安全成為大模型在B端市場落地最具可行性的行業(yè)之一。

　　全球多家云和安全廠商如：微軟、谷歌、PA、Crowdstrike、奇安信、騰訊安全都推出了自己的安全大模型。

　　IDC在《大模型在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用市場洞察，2023：破土萌芽，未來充滿無限想象》報告中指出，大模型技術(shù)在安全運營、威脅情報、威脅檢測與分析、應(yīng)用程序安全、數(shù)據(jù)分類分級等應(yīng)用場景初露崢嶸。

　　隨著大模型技術(shù)的快速發(fā)展，將有更多的網(wǎng)絡(luò)安全工具因為大模型的加入帶來能力、效率和可用性等方面的跨越式發(fā)展。

　　那么，安全大模型能否像Sora一樣，為安全行業(yè)帶來顛覆性的影響?大模型如何在安全運營中發(fā)揮作用?又將如何全面走向行業(yè)落地?

　　安全大模型帶來“效率”革命

　　近年來AI技術(shù)的快速發(fā)展，使得網(wǎng)絡(luò)安全防護(hù)在分析、檢測、策略制定等方面有了很大的提升。盡管AI在攻防對抗中已嶄露頭角，但效果的提升依然緩慢。

　　“這些年安全行業(yè)要解決的問題沒有本質(zhì)上的變化，無非是黑客打進(jìn)來，我們要防住。但在防守的環(huán)節(jié)中，對安全技術(shù)的理解、以及對安全工具使用的熟練程度，都會影響防守者的效率。所以，我們一直在思考，這個過程中，攻防的效率有沒有可能出現(xiàn)極大的提升？”騰訊安全副總經(jīng)理董文輝在采訪中談道。

　　直到AI大模型的出現(xiàn)，讓整個技術(shù)圈都為之震撼——龐大的規(guī)模和深度，使得大模型能夠處理和理解復(fù)雜的文本、圖像、聲音，其性能表現(xiàn)超越了傳統(tǒng)的機(jī)器學(xué)習(xí)模型，同時還展現(xiàn)出強(qiáng)大的學(xué)習(xí)和泛化能力，仿佛展現(xiàn)了人類般的智慧。

　　“大模型讓安全行業(yè)看到了更多提效的可能性”，董文輝表示。

　　以騰訊安全為例，2023年底，騰訊安全在混元大模型基礎(chǔ)上，投喂安全知識語料庫二次訓(xùn)練出安全行業(yè)大模型，并且基于安全行業(yè)大模型打造了一款騰訊云AI安全助手，覆蓋告警解釋、漏洞修復(fù)、日志處理、智能客服等四大能力。

　　比如漏洞修復(fù)，過去一旦發(fā)生漏洞安全事件，安全運營人員不僅要具備豐富的漏洞知識，還需要快速查閱各類漏洞通告和資料，去了解最新漏洞的類型、影響面以及處置方案，整個過程至少需要2-3天、20多次操作。

　　但是現(xiàn)在有了安全大模型的加持，漏洞修復(fù)可以交給騰訊云AI Copilot來進(jìn)行輔助，3次對話、5次操作就能走完從發(fā)現(xiàn)到處置的閉環(huán)。

　　再比如告警處置，過去發(fā)生攻擊時，安全運營人員面對幾十萬乃至上百萬的告警，很難判斷到底發(fā)生了什么，以及如何做。

　　現(xiàn)在通過騰訊云AI Copilot，安全人員只需要用自然語言對話，就可以清楚地了解告警發(fā)生了什么，并讓AI Copilot自動化處置告警。

　　同時，AI Copilot還能拓展檢測和處置的范圍，用人的語言告訴安全人員，是否在其他地方有類似的問題、還可以做什么來阻斷風(fēng)險等。

　　在事件溯源分析時，AI Copilot可以自動化生成報告，也可以讓安全人員通過對話的形式，來完成日志檢索、資產(chǎn)剖析、安全性評估、SOAR劇本生成等操作。

　　例如，“我要查詢近一個月攻擊過我某資產(chǎn)的所有攻擊者IP”，而不用像以前一樣通過手動操作來查詢。

　　這種安全服務(wù)的自動化，讓安全廠商的客戶成功、售后和工單處理效率大幅提升，“(騰訊云安全)從每人服務(wù)5個客戶提升到了10余人”，騰訊安全副總經(jīng)理龍海表示。

　　不難發(fā)現(xiàn)，在安全防護(hù)的“事前、事中、事后”全生命周期里，大模型都在為安全提速——不僅提升了安全產(chǎn)品的體驗和交互效率，也提升了安全廠商服務(wù)的效率。

　　不僅如此，大模型還在安全能力的提升上有著令人驚嘆的表現(xiàn)。

　　比如，攻擊者通常會通過樣本的快速變種繞過安全產(chǎn)品的防護(hù)，AI Copilot則可以快速生成規(guī)則，提升樣本的檢出率、準(zhǔn)確率，同時相關(guān)率也在大幅提升。

　　盡管這種“水下”的安全能力，不能被用戶直接感知，但大模型技術(shù)的加入，的確將安全的水位一次次拉高，為安全能力的提升帶來了無限的可能性。

　　安全大模型更需務(wù)實

　　正如風(fēng)靡技術(shù)圈的一句話：“所有行業(yè)都值得用大模型重做一遍”，安全行業(yè)亦是如此。不過隨著安全廠商蜂擁而上爭做大模型，其整體表現(xiàn)并沒有想象中的那么驚艷，部分安全產(chǎn)品僅僅停留在類似ChatGPT問答對話框的形式改進(jìn)上，沒有帶來跨越式的效果提升。

　　如何讓大模型在安全運營中發(fā)揮出革命性的作用，其實與安全行業(yè)大模型的能力息息相關(guān)。

　　目前，通用大模型對于各個行業(yè)的理解還有局限性，因此各大廠商著力在訓(xùn)練針對行業(yè)的垂直大模型。

　　安全行業(yè)大模型就像是安全領(lǐng)域的專家，掌握著更全面的安全知識，具備安全行業(yè)的通識和常識，以及在安全領(lǐng)域特有問題上的邏輯推理能力，能夠更精準(zhǔn)地解決安全領(lǐng)域內(nèi)的問題。

　　為了進(jìn)一步提升安全行業(yè)大模型的效果，在其之上訓(xùn)練安全場景模型也必不可少，從而能夠更好地完成一個或多個場景中的任務(wù)。

　　據(jù)騰訊安全副總經(jīng)理龍海表示，騰訊云的安全行業(yè)大模型，就是在騰訊自研的“混元”通用模型基礎(chǔ)上，投喂安全知識語料庫(全部安全數(shù)據(jù)和日志)，訓(xùn)練成具備安全知識的語言模型，通過3B安全知識庫(未來會擴(kuò)充至100B)訓(xùn)練了7B和13B安全基礎(chǔ)模型。

　　同時，騰訊云還訓(xùn)練了多個安全場景模型，以適配云安全中的多種場景，如：漏洞檢測和分析，告警研判和處置;威脅情報研判和生產(chǎn)等。

　　事實上，訓(xùn)練大模型是一個長期投入并不斷調(diào)優(yōu)的過程，這種高投入對廠商的實力要求很高，同時也要求廠商務(wù)實地打磨產(chǎn)品，而不是短期追逐熱點。

　　一方面，是技術(shù)實力。

　　訓(xùn)練安全行業(yè)大模型，既需要通用大模型作為“底座”打基礎(chǔ)，也需要行業(yè)數(shù)據(jù)作為“養(yǎng)料”進(jìn)行投喂。

　　目前業(yè)內(nèi)已有不少開源大模型，能夠在短時間內(nèi)拉低大模型的入場門檻，但是缺乏大模型的自研能力，廠商就會受制于開源模型本身的效果，在大模型為人所詬病的“幻覺”、“可解釋性”等方面無法進(jìn)一步突破。

　　同時，從GPT的實驗可以看到，隨著模型參數(shù)量的增加，模型性能均得到不同程度的提高，而來自人類反饋的強(qiáng)化學(xué)習(xí)(RLHF)生成的模型效果更好。這表明高質(zhì)量的數(shù)據(jù)，是提升大模型效果的關(guān)鍵要素。

　　以騰訊為例，其通用大模型“混元”擁有超千億參數(shù)規(guī)模，預(yù)訓(xùn)練語料超2萬億Tokens。

　　純自研的“混元”，采用了在預(yù)訓(xùn)練階段優(yōu)化目標(biāo)函數(shù)的“探真”技術(shù)方法，與目前市場上常見的開源大模型相比，該方法能有效降低幻覺30%至50%。

　　這種能力也同樣體現(xiàn)在騰訊安全行業(yè)大模型上，讓用戶能夠更加信任其給出的安全解決方案。

　　在效果提升上，騰訊云安全AI Copilot之所以能夠展現(xiàn)出安全效率和能力的質(zhì)的提升，和騰訊云安全行業(yè)大模型可以充分利用自身獨有的數(shù)據(jù)積累密不可分。

　　過去多年來，騰訊安全科恩實驗室、大數(shù)據(jù)實驗室、玄武實驗室等，在安全和AI領(lǐng)域有大量的創(chuàng)新研究成果，擁有業(yè)內(nèi)領(lǐng)先的人工智能技術(shù)，積累了獨有的安全行業(yè)數(shù)據(jù)。在安全和AI領(lǐng)域有大量的創(chuàng)新研究成果，擁有業(yè)內(nèi)領(lǐng)先的人工智能技術(shù)，積累了獨有的安全行業(yè)數(shù)據(jù)。

　　海量非公開的安全領(lǐng)域知識、專業(yè)經(jīng)驗，包括安全日志、文檔、知識庫、情報類數(shù)據(jù)，以及豐富的實戰(zhàn)攻防和重保經(jīng)驗等，對于調(diào)優(yōu)安全大模型、落地安全場景應(yīng)用，起到了關(guān)鍵作用。

　　除此之外，云作為大模型背后的底座，為大模型長期訓(xùn)練提供堅實基礎(chǔ)。

　　去年4月以來，騰訊云發(fā)布一系列面向大模型訓(xùn)練的基礎(chǔ)設(shè)施，從自研的星星海服務(wù)器，到新一代HCC高性能計算集群，無疑都為其訓(xùn)練大模型擴(kuò)充了軍備。

　　另一方面，是商業(yè)化能力。

　　安全大模型想要長期發(fā)展，就必須深入到行業(yè)場景中去驗證自己的價值，并通過商業(yè)化來保持正向的發(fā)展。

　　盡管目前多家廠商已推出安全大模型，但暫時還沒有出現(xiàn)比較好的商業(yè)化安全產(chǎn)品，其中很重要的原因在于缺乏閉環(huán)場景的落地驗證。

　　在多云、混合云架構(gòu)逐漸普及的當(dāng)下，企業(yè)內(nèi)部往往涉及多個部門和多個安全工具，安全運營團(tuán)隊需要同時對接多個云的安全體系，很難實現(xiàn)安全協(xié)同，這在一定程度上阻礙了大模型的效果。

　　騰訊云安全產(chǎn)品負(fù)責(zé)人周荃認(rèn)為，在未來，安全應(yīng)該是一體的、統(tǒng)一的、標(biāo)準(zhǔn)的，這種一體化體現(xiàn)在針對公有云、混合云、自研云的多云統(tǒng)一管理，以及橫跨生產(chǎn)網(wǎng)、辦公網(wǎng)、互聯(lián)網(wǎng)的三位一體防護(hù)，即是“全域安全”。

　　有了“全域一體化”的安全產(chǎn)品，安全大模型才能夠在場景閉環(huán)中更好地發(fā)揮出“質(zhì)”的提升效果，也能進(jìn)一步驗證其商業(yè)化路徑，最終走向主流市場。

　　總的來說，基礎(chǔ)大模型+安全數(shù)據(jù)積累+閉環(huán)場景驗證，構(gòu)成了安全大模型的核心競爭力。

　　從長期來看，大模型的競爭肯定會很激烈，也很容易出現(xiàn)贏家通吃的現(xiàn)象，但保有核心競爭力的安全大模型，最終用戶會用腳投票。

　　“自動駕駛”的安全智能體

　　業(yè)界常說，一項新技術(shù)出現(xiàn)后，市場往往高估了它的短期效益，而低估了長期的影響。這句話也同樣適用于大模型。目前安全大模型的應(yīng)用，只是安全產(chǎn)業(yè)發(fā)展中的一個階段，但肯定不會是最終形態(tài)。

　　在龍海看來，安全大模型的終局是以大模型的能力重構(gòu)安全產(chǎn)品的交互方式和安全核心能力，進(jìn)入安全的“自動駕駛”階段，實現(xiàn)安全運營的全自動化階段。

　　龍海將安全大模型的演進(jìn)路徑比喻為自動駕駛的三個階段：

　　“油轉(zhuǎn)電”階段：大模型天然適合做自然語言交互的輸入和輸出，這部分工作比較明確，對模型的精確度要求不高，這是現(xiàn)階段安全大模型普遍能達(dá)到的能力。

　　“輔助駕駛”階段：同步研究安全基礎(chǔ)模型和安全場景模型，選擇一些能力場景輔助原有的安全體系提升安全能力。目前，騰訊云安全力爭在80%的安全產(chǎn)品上都達(dá)到這一能力。

　　“自動駕駛”階段：改造傳統(tǒng)的交互方式和基于規(guī)則、特征和人工運營的能力模式，進(jìn)入安全的全自動駕駛階段。這是安全運營的理想形態(tài)，也是安全大模型無限逼近的未來。

　　在這個過程中，安全廠商正在探索從“輔助駕駛”到“自動駕駛”的多種可能性，AI Agent就是一個被業(yè)內(nèi)廣泛認(rèn)可的方向。

　　騰訊安全科恩實驗室高級安全研究員唐祺壹表示，如果說目前的AI Copilot更多是扮演“安全助手”角色，讓人能夠以自然語言與計算機(jī)進(jìn)行交互，那么未來的AI Copilot則是一個“安全AI Agent(智能體)”，能夠接受復(fù)雜形態(tài)的數(shù)據(jù)輸入，獨立決策并自主完成復(fù)雜任務(wù)，一定程度上取代人的工作。

　　比如在情報研判工作中，過去需要收集多方情報來源，結(jié)合各方面信息綜合考慮，并不斷積累經(jīng)驗，由安全專家參與研判。

　　但是安全大模型本身有海量的安全知識儲備，以及“舉一反三”的能力，使得情報研判“智能體”能夠理解情報研判人員日常工作所接收到的所有信息，使用情報研判人員日常工作所使用的所有工具，具備情報研判人員所具條的知識和常識，最終正確決策，完成情報研判任務(wù)。

　　而在情報研判過程中，會有多個AI Agent，以自然語言對話的形式，互相之間不斷對話。之后，綜合研判Agent會匯總各子任務(wù)的研判結(jié)論和論據(jù)，自主決策形成最終研判結(jié)論，并形成報告。

　　整個過程就如同安全專家開展討論一樣，只是再也不用人類坐在桌前了。

　　結(jié)語

　　大模型的出現(xiàn)，猶如一股強(qiáng)大的變革之力，正在重塑人們對安全運營的認(rèn)知和體驗。盡管大模型在安全領(lǐng)域的應(yīng)用還有很長的路要走，但是它所展示的安全“自動駕駛”的未來，讓人無限向往。到那時，安全將如水電一樣觸手可得。

　　相關(guān)閱讀

　　AI Agent：大模型的下一個高地

　　大模型的陰面：無法忽視的安全隱憂

　　AI時代，對構(gòu)建云安全提出了哪些新要求?

　　安全運營之風(fēng)將吹向何方?

　　【科技云報道原創(chuàng)】