F5：伴隨生成式AI的發(fā)展，2024年將出現(xiàn)十大網(wǎng)絡安全風險威脅

　　隨著ChatGPT在2023年的橫空出世，人工智能將增強攻擊者的能力，這似乎成為了安全領域公認的事實。生成式AI的不斷演進，安全領域的專家們就開始預測大語言模型(LLM)將會成為攻擊者用于編寫網(wǎng)絡釣魚郵件的工具。根據(jù)F5 Lab的安全研究，這僅僅只是開始，未來生成式AI將以更多種方式成為網(wǎng)絡威脅的助推器。

　　盡管目前的技術水平尚難以對不明確的威脅加以控制，F(xiàn)5的多位安全專家依然對攻擊者如何利用LLM發(fā)動攻擊進行了深入預測，從而為企業(yè)防范人工智能威脅提供前瞻性洞察。

　　預測1：生成式 AI 將能夠與網(wǎng)絡釣魚受害者進行對話

　　在2023年4月，美國計算機安全專家Bruce Schneier指出，網(wǎng)絡釣魚的真正瓶頸不在于用戶最初點擊惡意鏈接，而在于轉出現(xiàn)金，而在這過程中，網(wǎng)絡釣魚者需要與受害者進行比想象中還要多的互動。

　　F5安全情報中心負責人Tafara Muwandi對Bruce Schneier的預測帶來更進一步的分析，他表示LLM將接管釣魚者和受害者之間的往來交流。過往釣魚者需要雇傭個人來翻譯受害者的信息，但生成式 AI 的出現(xiàn)，將可以直接翻譯釣魚者使用的非母語信息，并通過整合公開可用的個人信息，創(chuàng)建極其逼真的騙局。因此，有組織的網(wǎng)絡犯罪集團將會把已知的網(wǎng)絡釣魚作為一種服務，并在規(guī)模和效率方面將其放大。

　　預測2：有組織犯罪將利用生成式 AI 創(chuàng)建虛假賬戶

　　有組織的網(wǎng)絡犯罪將能創(chuàng)建完全虛假的在線人物形象。生成式 AI 將用于創(chuàng)建包含帖子和圖片在內(nèi)的虛假賬戶，使得這些內(nèi)容與真人賬號內(nèi)容看上去并無差異。所有由虛假賬戶產(chǎn)生的攻擊策略，包括欺詐、憑證填充、傳播虛假信息和操縱市場，當其不費吹灰之力就能達到人類賬戶的真實性時，其犯罪效率也將獲得大幅提升。

　　預測3：使用生成式 AI 進行虛假信息傳播

　　生成式 AI 工具有顯著改變惡意信息操作方式的潛力。將虛假內(nèi)容創(chuàng)作、自動文本生成用于傳播虛假信息、具有針對性的宣傳錯誤信息以及規(guī)避內(nèi)容審查，此類手段促成了惡劣影響的激增。

　　預測4：生成式 AI 的進步將助長黑客行為

　　隨著計算能力持續(xù)變得更加經(jīng)濟實惠以及易于使用，預計與世界重大事件相關的黑客行為將有所增長。通過使用 AI 工具以及利用智能手機和筆記本電腦，更多未經(jīng)磨練的新手可能會作為黑客加入到網(wǎng)絡空間的戰(zhàn)斗中。

　　對此，F(xiàn)5 CISO辦公室網(wǎng)絡威脅情報分析師Samantha Borer表示，“過去幾年中，黑客活動在世界各地不斷發(fā)生的戰(zhàn)爭沖突中復蘇。最初只是出現(xiàn)了少量的黑客活動，但隨著戰(zhàn)場上暴力的不斷升級，黑客活動也逐漸轉向更具破壞性的攻擊，其中包括DDoS攻擊、數(shù)據(jù)泄露、網(wǎng)站篡改，以及明顯企圖破壞關鍵基礎設施的攻擊。”

　　預測5：網(wǎng)絡攻擊將使用生成式 AI 的實時輸入能力

　　近年來，生成式AI在創(chuàng)造數(shù)字內(nèi)容方面的能力已經(jīng)不再是秘密，無論是制作網(wǎng)絡釣魚郵件還是虛假資料，都已得到廣泛應用。因此，其在攻擊中的使用可以被視為是被動的。

　　F5 Lab總監(jiān)David Warburton指出，憑借生成式AI強大的編碼能力，LLM 可以被用來指導實時攻擊中的程序序列，使得攻擊者在遇到防御時作出反應。通過利用 ChatGPT 等開源GenAI系統(tǒng)的 API，或者構建自己的 LLM，攻擊者將能夠在對網(wǎng)站或網(wǎng)絡的實時攻擊中融入 AI 系統(tǒng)的知識和想法。如果攻擊者的網(wǎng)站攻擊被安全控制措施攔截，AI 系統(tǒng)可以用來評估響應，并提供其他攻擊方式。未來，隨著LLM 的不斷發(fā)展，可能會使攻擊鏈更加多樣化，并產(chǎn)生更加不利影響。

　　預測6：大語言模型的數(shù)據(jù)泄露問題

　　AI將會帶來新的漏洞風險，且大語言模型具有的強大不透明自動化潛力，將使企業(yè)的安全、隱私和合規(guī)團隊履行職責的任務日益復雜化。

　　F5 Lab高級威脅研究員Malcolm Heath表示，“生成式AI 驅動的工具可能會造成重大問題，比如大規(guī)模的個人身份信息泄露、獲得未授權訪問的新技術和DoS。與云泄露相似，由于涉及數(shù)據(jù)量龐大，LLM 泄露也將產(chǎn)生嚴重后果。”

　　根據(jù)研究顯示，目前應用簡單方式即可誘使LLM泄露其包括專有和個人數(shù)據(jù)在內(nèi)的訓練數(shù)據(jù)，而如今企業(yè)急于創(chuàng)建專有 LLM 的熱潮，將可能導致更多訓練數(shù)據(jù)的泄露。而出現(xiàn)問題的原因，可能并非來自新型攻擊，而是企業(yè)倉促和配置不當?shù)陌踩�控制措施而致�?/p>

　　預測7：生成式漏洞

　　如今，無論是老手還是新手開發(fā)人員，在編寫代碼或檢查漏洞時都開始越來越多地依賴生成式AI。但如果沒有采用正確的安全防范措施，預計LLM將創(chuàng)造出難以確保其安全的漏洞代碼洪流。盡管開源軟件存在風險，但其優(yōu)勢在于其固有的一次性修復方法——如果在開源軟件庫中發(fā)現(xiàn)漏洞，只需修復一次，就可以供所有使用該庫的人使用。通過GenAI代碼生成技術，每個開發(fā)人員最終都會得到一個獨特的定制代碼。

　　F5網(wǎng)絡安全布道師Jim Downey表示，“代碼助手編寫代碼的速度如此之快，以至于開發(fā)人員可能沒有時間進行審查。根據(jù) LLM 的構建時間，它可能甚至無法識別最新的漏洞，使得該模型無法構建避免這些漏洞的代碼，或避免導入存在漏洞的庫。而在生成式 AI 時代，優(yōu)先考慮速度而非安全的企業(yè)將不可避免地引入新漏洞。”

　　預測8：邊緣攻擊

　　F5高級解決方案架構師Shahn Backer表示，“邊緣計算的興起將導致攻擊面的大幅擴張。物理篡改、管理挑戰(zhàn)，以及軟件和API漏洞都具有在邊緣環(huán)境中被放大的風險。75%的企業(yè)數(shù)據(jù)將在傳統(tǒng)數(shù)據(jù)中心或云環(huán)境之外生成和處理。這一范式重新定義了企業(yè)的邊界，因為邊緣位置的工作負載可能包含敏感信息和特權。”

　　如同多重身份驗證(MFA)一樣，攻擊者將把重點放在其付出的時間能產(chǎn)生最大影響的領域。如果企業(yè)像處理云計算一樣，以同樣疏忽的方式處理向邊緣計算的轉變，預計在未來安全事件也將會持續(xù)頻發(fā)。

　　預測9：攻擊者將提升其離地攻擊的能力

　　架構的不斷復雜化為攻擊者提供了更多機會，他們能夠巧妙地利用企業(yè)現(xiàn)有工具進行反向攻擊。F5安全解決方案架構師Kieron Shepard預測到，“IT環(huán)境的日益復雜，尤其是在云和混合架構中，將使監(jiān)控和檢測離地攻擊(LOTL)變得更具挑戰(zhàn)性。攻擊者越來越傾向于使用LOTL技術，利用受攻擊系統(tǒng)上已有的合法管理軟件來實現(xiàn)其惡意目標。更為嚴重的是，LOTL攻擊可以并入供應鏈攻擊，以危害關鍵基礎架構并中斷系統(tǒng)運營。因此，企業(yè)需加強網(wǎng)絡可見性，以有效應對攻擊者越來越頻繁地利用企業(yè)工具造成的安全威脅。”

　　預測10：網(wǎng)絡安全貧困線將變成網(wǎng)絡安全貧困矩陣

　　F5高級威脅安全研究員Sander Vinberg指出，安全架構趨勢將對網(wǎng)絡安全貧困線產(chǎn)生深遠影響。這一概念最早由思科首席信息安全官顧問主管Wendy Nather提出，定義為實現(xiàn)最低限度的安全控制所需的知識、權限以及最重要的預算水平。

　　Vinberg表示，“當前安全產(chǎn)品的成本和復雜性可能迫使企業(yè)在整個系統(tǒng)的安全控制措施之間做出選擇。如今，企業(yè)需要安全編排、自動化和事件響應(SOAR)、安全信息與事件管理(SIEM)、漏洞管理工具和威脅情報服務，以及配置管理、事件響應、滲透測試和治理、合規(guī)與風險等多重安全保障。然而關鍵的問題在于，許多企業(yè)選擇將這些控制措施作為托管服務使用，盡管這一方式可以確保專業(yè)性，但同時也為企業(yè)帶來相應的成本壓力。隨著進入每個細分領域的準入成本增加，企業(yè)面臨的抉擇將更趨向于完全投入或徹底放棄，這導致越來越多的企業(yè)必須在這兩者之間做出抉擇。”

　　寫在最后

　　上述的網(wǎng)絡安全預測強調了企業(yè)在持續(xù)適應和創(chuàng)新方面對抗不斷演變的網(wǎng)絡威脅的必要性。無論是解決社會經(jīng)濟差異對網(wǎng)絡安全韌性的影響、加強邊緣計算環(huán)境，還是為看似無休止的AI驅動的攻擊做好準備，2024年的網(wǎng)絡安全形勢都需要企業(yè)采取主動和協(xié)作的方式，以共同保護美好的數(shù)字未來。