人工智能和自動(dòng)化：網(wǎng)絡(luò)安全的雙刃劍

　　近年來，網(wǎng)絡(luò)安全格局發(fā)生了重大變化，尤其是隨著防御者和攻擊者都采用了人工智能 (AI) 和自動(dòng)化技術(shù)。ReliaQuest 年度網(wǎng)絡(luò)威脅報(bào)告：2024 強(qiáng)調(diào)了一個(gè)令人擔(dān)憂的趨勢(shì)：威脅行為者越來越多地利用人工智能和自動(dòng)化來提高攻擊的效率和有效性。這包括開發(fā)惡意版本的人工智能模型，如 ChatGPT，它們被用于生成惡意軟件、進(jìn)行拒絕服務(wù) (DoS) 攻擊，甚至為網(wǎng)絡(luò)釣魚頁面編寫 HTML 代碼。

　　這些發(fā)展的影響是深遠(yuǎn)的。通過利用人工智能，威脅行為者可以自動(dòng)化其攻擊鏈的各個(gè)階段，例如利用 Citrix Bleed (CVE-2023-4966) 等漏洞，從而提高攻擊的速度和規(guī)模。例如，已經(jīng)開發(fā)了名為 WormGPT 和 FraudGPT 的人工智能驅(qū)動(dòng)模型，能夠自動(dòng)執(zhí)行以前需要大量人力和技術(shù)知識(shí)的任務(wù)。

　　勒索和復(fù)雜攻擊不斷增加

　　報(bào)告還揭示了勒索活動(dòng)的急劇增加，勒索數(shù)據(jù)泄露網(wǎng)站上列出的實(shí)體數(shù)量創(chuàng)下了歷史新高。使用“雙重勒索”策略的情況持續(xù)增加，攻擊者不僅加密組織的數(shù)據(jù)，還威脅如果不支付贖金，就公開發(fā)布數(shù)據(jù)。值得注意的是，LockBit 勒索軟件組織創(chuàng)下了新紀(jì)錄，一年內(nèi)列出了一千多個(gè)實(shí)體的名字。

　　此外，網(wǎng)絡(luò)犯罪分子中人工智能工具的激增增強(qiáng)了他們進(jìn)行復(fù)雜社會(huì)工程攻擊的能力。網(wǎng)絡(luò)釣魚仍然是獲得網(wǎng)絡(luò)初始訪問權(quán)限的主要方法，人工智能的進(jìn)步使得創(chuàng)建更具說服力的網(wǎng)絡(luò)釣魚誘餌和場(chǎng)景成為可能。

　　ReliaQuest 報(bào)告解釋說：“GenAI 還可能自動(dòng)化 BEC 中使用的魚叉式網(wǎng)絡(luò)釣魚策略。機(jī)器學(xué)習(xí)算法可以分析網(wǎng)上大量可用的個(gè)人信息，以創(chuàng)建受害者的個(gè)性化檔案。通過‘學(xué)習(xí)’目標(biāo)的偏好、關(guān)系和活動(dòng)，人工智能系統(tǒng)可以制作極具欺騙性的電子郵件。”

　　主動(dòng)防御策略

　　為了應(yīng)對(duì)這些不斷演變的威脅，我們敦促各組織將人工智能和機(jī)器學(xué)習(xí)整合到其網(wǎng)絡(luò)安全策略中，以實(shí)現(xiàn)更主動(dòng)的防御。通過利用人工智能，組織可以增強(qiáng)其檢測(cè)能力，自動(dòng)響應(yīng)安全事件，并進(jìn)行更全面的行為分析，以盡早發(fā)現(xiàn)可疑活動(dòng)。

　　為了有效應(yīng)對(duì)報(bào)告中討論的威脅，ReliaQuest 建議安全防御者采用多層防御策略。這包括加強(qiáng)電子郵件安全性、實(shí)施強(qiáng)大的可移動(dòng)媒體策略以及通過嚴(yán)格的測(cè)試和修補(bǔ)來保護(hù)面向公眾的資產(chǎn)。此外，采用能夠識(shí)別和緩解人工智能攻擊的先進(jìn)檢測(cè)和響應(yīng)技術(shù)至關(guān)重要。

　　人工智能在網(wǎng)絡(luò)安全中的雙重用途

　　人工智能在網(wǎng)絡(luò)安全中的雙重用途既帶來了機(jī)遇，也帶來了挑戰(zhàn)。

　　雖然人工智能可以顯著增強(qiáng)組織抵御攻擊的能力，但它也使攻擊者能夠執(zhí)行更復(fù)雜和自動(dòng)化的攻擊。網(wǎng)絡(luò)防御者和攻擊者之間正在進(jìn)行的軍備競(jìng)賽凸顯了網(wǎng)絡(luò)安全策略需要不斷創(chuàng)新，并采用先進(jìn)技術(shù)以跟上不斷變化的威脅形勢(shì)。

　　通過了解人工智能驅(qū)動(dòng)的網(wǎng)絡(luò)威脅并主動(dòng)將人工智能融入網(wǎng)絡(luò)安全實(shí)踐，組織可以更好地準(zhǔn)備應(yīng)對(duì)這些新興挑戰(zhàn)。成功的關(guān)鍵在于不僅要利用人工智能進(jìn)行防御，還要更深入地了解威脅行為者的策略、技術(shù)和程序，從而能夠更明智、更有效地應(yīng)對(duì)網(wǎng)絡(luò)威脅。

　　作者： Tony Bradley