人工智能如何預(yù)防黑客攻擊

　　將人工智能工具引入業(yè)務(wù)工作流程可以讓一些信息變得可用，這些信息對(duì)黑客來說可能更有價(jià)值，而且也更難防范。

　　似乎越來越有可能的是，人工智能正在改變各行各業(yè)的It運(yùn)營(yíng)，從最小的初創(chuàng)企業(yè)到大型傳統(tǒng)企業(yè)。在某些方面，人工智能的出現(xiàn)是一股均衡力量，由于人工智能仍處于起步階段，所有企業(yè)在探索如何利用這些新工具時(shí)都同樣處于早期階段。在制定新的安全措施以配合在工作場(chǎng)所內(nèi)外使用人工智能時(shí)，大多數(shù)企業(yè)也處于平等地位。

　　與之前的顛覆性技術(shù)一樣，探索中的一個(gè)主要問題是在創(chuàng)新和信息安全之間取得適當(dāng)?shù)钠胶�。盡管人工智能具有增強(qiáng)業(yè)務(wù)運(yùn)營(yíng)的潛力，但它也同樣有可能使企業(yè)面臨危險(xiǎn)。對(duì)首席技術(shù)官來說，非常謹(jǐn)慎地對(duì)待人工智能的采用是一個(gè)好主意，因?yàn)榧词顾鼜氐赘淖兞薎T領(lǐng)導(dǎo)者開展業(yè)務(wù)的方式，它也會(huì)同樣徹底改變黑客和其他不良行為者的攻擊方式。

　　黑客長(zhǎng)期以來一直將數(shù)據(jù)作為他們的“戰(zhàn)利品”，無論是可以在商業(yè)競(jìng)爭(zhēng)中利用的專有企業(yè)數(shù)據(jù)，還是可以幫助獲取個(gè)人個(gè)人財(cái)富等等的個(gè)人數(shù)據(jù)，人工智能不會(huì)阻止數(shù)據(jù)的盜竊和利用。

　　人工智能收集數(shù)據(jù)的黑客攻擊

　　由于人工智能既可以從數(shù)據(jù)中學(xué)習(xí)，也可以用來處理和解析大量數(shù)據(jù)，因此它的崛起可能會(huì)導(dǎo)致更多不同類型的數(shù)據(jù)暴露，成為黑客攻擊的目標(biāo)。也就是說，將人工智能工具引入業(yè)務(wù)工作流程有可能導(dǎo)致人們提供一些對(duì)黑客來說更有價(jià)值的信息，而且也更難防范黑客攻擊。

　　當(dāng)任何人，無論是企業(yè)決策者還是個(gè)人，選擇使用人工智能時(shí)，他們都需要意識(shí)到向人工智能程序提供數(shù)據(jù)所涉及的風(fēng)險(xiǎn)，并確保他們對(duì)決策充滿信心。在企業(yè)環(huán)境中，我傾向于認(rèn)為單個(gè)團(tuán)隊(duì)成員應(yīng)該避免單獨(dú)做出這個(gè)決定。一個(gè)知情的團(tuán)隊(duì)，不僅包括首席技術(shù)官，還包括營(yíng)銷和法律等其他關(guān)鍵群體的代表，應(yīng)該幫助指導(dǎo)有關(guān)人工智能工具的所有決策。

　　人工智能促進(jìn)黑客攻擊

　　那些旨在制定負(fù)責(zé)任的人工智能使用政策、符合企業(yè)最大利益的人，可以從了解他們所面臨的不斷變化的威脅中受益。雖然人工智能的進(jìn)步可能不會(huì)改變黑客的目標(biāo)，信息可能仍然是一種有價(jià)值的商品，但它幾乎肯定會(huì)改變他們的目標(biāo)方式。

　　畢竟，人工智能是一種強(qiáng)大的工具，可以大規(guī)模地自動(dòng)化各種分析過程，其中包括邪惡的分析過程。因此，雖然許多首席技術(shù)官，自然渴望充分利用人工智能的許多潛在用例，但我們所有人都應(yīng)該記住，黑客也是如此。

　　許多開發(fā)人員在構(gòu)建人工智能工具時(shí)，熱衷于追求的目標(biāo)之一是讓這些工具盡可能地顯得人性化。像ChatGPT這樣的大型語言模型(LLM)不僅可以模擬語言的流暢性，還可以模擬語氣，甚至可以模擬引人入勝的對(duì)話。

　　在最成功的情況下，這可能意味著人工智能將能夠通過圖靈測(cè)試，這是計(jì)算機(jī)科學(xué)家艾倫·圖靈提出的一項(xiàng)測(cè)試，旨在確定機(jī)器表現(xiàn)出人類特征的能力;通過圖靈測(cè)試意味著機(jī)器可以欺騙不知情的人，讓他們認(rèn)為他們正在與另一個(gè)人交談。

　　這可能對(duì)網(wǎng)絡(luò)釣魚黑客的規(guī)模和有效性產(chǎn)生重大影響。網(wǎng)絡(luò)釣魚需要冒充某個(gè)機(jī)構(gòu)或個(gè)人來欺騙受害者交出金錢、敏感信息或機(jī)密訪問權(quán)限(通過密碼等)。現(xiàn)代網(wǎng)絡(luò)釣魚詐騙，例如近年來愈演愈烈的國(guó)稅局騙局已經(jīng)比21世紀(jì)初的“尼日利亞王子”騙局復(fù)雜了好幾光年，但要想讓人信服，它們可能會(huì)很麻煩，而且需要耗費(fèi)大量時(shí)間。

　　人工智能可能會(huì)提供黑客正在尋找的解決方案，而首席技術(shù)官們應(yīng)該對(duì)此感到恐懼。一種可以快速解析所需信息的工具的承諾，可以對(duì)代表某個(gè)機(jī)構(gòu)的人或任何其他人進(jìn)行高級(jí)模仿，這為許多同時(shí)對(duì)話打開了大門，從而說服受害者提供信息。這可能意味著，相對(duì)小規(guī)模的黑客行動(dòng)可能比以往任何時(shí)候都有可能犯下更多、更高級(jí)的欺詐行為。

　　但事情并沒有就此結(jié)束。如果企業(yè)的團(tuán)隊(duì)成員正在與LLMAI進(jìn)行交互，即使小心地將敏感數(shù)據(jù)保密，他們?nèi)匀豢赡芟蚱涮峁┛赡芙o您公司帶來風(fēng)險(xiǎn)的信息而沒有意識(shí)到這一點(diǎn)。在與任何人交談時(shí)，即使是表面上平淡無奇的話題，人工智能也會(huì)了解這個(gè)人的聊天方式、感興趣的話題類型等等。

　　事實(shí)上，即使團(tuán)隊(duì)從未與人工智能互動(dòng)，我們所有人仍然有很多相對(duì)不受保護(hù)的數(shù)據(jù)，從瀏覽歷史記錄到電子郵件訂閱，再到可用于操縱的其他信息，在互聯(lián)網(wǎng)上流動(dòng)并可供購(gòu)買。這可能適用于所有團(tuán)隊(duì)成員，包括公司的CEO，甚至是CTO。不難想象，黑客要么購(gòu)買個(gè)人數(shù)據(jù)來訓(xùn)練人工智能，要么利用人工智能通過與人的直接互動(dòng)了解到的信息來冒充他們。

　　這在個(gè)人層面上已經(jīng)足夠可怕了，想象一下，當(dāng)朋友和家人認(rèn)為他們正在與我們聊天時(shí)，這樣的機(jī)器能夠從他們那里收集什么信息。然而，在專業(yè)層面上，它為員工創(chuàng)造了代表黑客執(zhí)行任務(wù)的機(jī)會(huì)，這些任務(wù)可能會(huì)危及企業(yè)，以響應(yīng)看似來自同事的指令。利用這些信息可以創(chuàng)建的攻擊，將比我們今天看到的典型網(wǎng)絡(luò)釣魚更有針對(duì)性，因此更復(fù)雜和先進(jìn)。

　　這種進(jìn)步也延續(xù)到了更基本和更細(xì)粒度的黑客元素上。到目前為止，如果黑客想要收集有關(guān)團(tuán)隊(duì)成員或整個(gè)企業(yè)的信息，他們必須準(zhǔn)備好投入一些時(shí)間。借助人工智能，大部分繁瑣的偵察工作都可以在算法的幫助下得到簡(jiǎn)化，這些算法幾乎可以立即消化大量信息。此外，人工智能能夠在收集數(shù)據(jù)時(shí)進(jìn)行分析，這對(duì)黑客來說意味著識(shí)別漏洞和攻擊點(diǎn)。所有這些都使黑客能夠迅速發(fā)動(dòng)更多、更大規(guī)模的攻擊。

　　與此相關(guān)的是，如果人工智能能夠在眨眼間收集信息并識(shí)別和分析漏洞，它也將能夠比我們以前見過的更快地開發(fā)復(fù)雜的對(duì)策。通常，如果黑客想要在計(jì)算機(jī)、服務(wù)器或網(wǎng)絡(luò)上安裝惡意軟件，他們必須首先進(jìn)行偵察以找到漏洞，確定哪種惡意軟件最能利用這些漏洞，然后編寫軟件。人工智能強(qiáng)大的分析和外推能力意味著這三步過程幾乎可以立即發(fā)生。這可能意味著高度定制且?guī)缀蹼y以察覺的惡意軟件，可以幾乎實(shí)時(shí)地收集信息并逃避反病毒工作。

　　這就是為什么我說首席技術(shù)官和首席信息官需要先于黑客思考。所有IT領(lǐng)導(dǎo)者都需要了解是什么讓企業(yè)容易受到這些攻擊，并在新一波人工智能黑客攻擊到來之前加強(qiáng)防御。

　　總結(jié)

　　關(guān)于人工智能進(jìn)化的討論已經(jīng)無處不在，以前的技術(shù)往往在開發(fā)和采用方面走得更遠(yuǎn)，然后才達(dá)到人工智能已經(jīng)享受的外行熟悉程度。目前對(duì)于如何應(yīng)對(duì)人工智能大規(guī)模黑客攻擊還沒有足夠的了解，如何防止這些攻擊就更不清楚了。雖然新技術(shù)也非常令人興奮，并將為各行業(yè)的首席信息官和首席技術(shù)官打開無數(shù)的大門，但我們應(yīng)該意識(shí)到，黑客和我們一樣興奮。