ChatGPT和生成式AI時(shí)代的五大AI風(fēng)險(xiǎn)

　　多年來(lái)，我們一直在通過(guò)語(yǔ)音助手、社交媒體、搜索算法、手機(jī)面部識(shí)別等方式悄悄地與人工智能互動(dòng)。但隨著ChatGPT等生成式人工智能的出現(xiàn)，人工智能占據(jù)了前沿和中心位置。

　　突然間，我們開(kāi)始發(fā)自內(nèi)心地見(jiàn)證人工智能，對(duì)所見(jiàn)所聞感到驚訝。人工智能不再讓人感覺(jué)像是“某一天會(huì)出現(xiàn)的東西”。它現(xiàn)在是“存在于此，并準(zhǔn)備好改變世界”。

　　改變會(huì)帶來(lái)風(fēng)險(xiǎn)。對(duì)于尚未制定AI風(fēng)險(xiǎn)管理計(jì)劃的企業(yè)和管理團(tuán)隊(duì)而言，ChatGPT應(yīng)該是一個(gè)令人震驚的警鐘。本文將探討廣泛實(shí)施人工智能所帶來(lái)的風(fēng)險(xiǎn)。

　　以下是企業(yè)領(lǐng)導(dǎo)者應(yīng)注意的5大人工智能風(fēng)險(xiǎn)：

　　1、中斷風(fēng)險(xiǎn)

　　人工智能將以前所未有的技術(shù)顛覆現(xiàn)有的商業(yè)模式和市場(chǎng)。最明顯的例子就是ChatGPT本身。誰(shuí)會(huì)想到Google作為無(wú)可爭(zhēng)議的搜索冠軍的地位會(huì)受到如此突然和不穩(wěn)定的挑戰(zhàn)?

　　似乎就在一兩年前，大多數(shù)人都設(shè)想人工智能會(huì)顛覆依賴相對(duì)低技能勞動(dòng)力的行業(yè)，如卡車運(yùn)輸和客戶服務(wù)，或者在最壞的情況下，顛覆高度有條不紊的工作，比如金融交易和放射學(xué)�，F(xiàn)在我們了解到，媒體和廣告等創(chuàng)意產(chǎn)業(yè)，以及教學(xué)和財(cái)務(wù)咨詢等個(gè)性化服務(wù)行業(yè)，甚至是醫(yī)藥研發(fā)和計(jì)算機(jī)科學(xué)等精英技能領(lǐng)域，都面臨著風(fēng)險(xiǎn)。

　　根據(jù)Goldman Sachs 2023年3月的一份報(bào)告，像ChatGPT這樣的生成式人工智能可能會(huì)在全球范圍內(nèi)淘汰多達(dá)3億個(gè)工作崗位，其中包括美國(guó)現(xiàn)有工作崗位的19%。無(wú)論從事何種行業(yè)或職業(yè)，幾乎可以肯定是，企業(yè)將在未來(lái)幾年內(nèi)面臨巨大變化。與以往的技術(shù)顛覆不同，這次的賭注真的可能是“生死攸關(guān)”。

　　2、網(wǎng)絡(luò)安全風(fēng)險(xiǎn)

　　保護(hù)組織數(shù)據(jù)、系統(tǒng)和人員免受黑客和其他破壞者的侵害，已經(jīng)成為企業(yè)領(lǐng)導(dǎo)者面臨的一個(gè)日益嚴(yán)重的問(wèn)題。2022年，攻擊次數(shù)增加了38%，平均每個(gè)組織每周攻擊超過(guò)1,000次，每次數(shù)據(jù)泄露的平均成本激增至超過(guò)400萬(wàn)美元。

　　人工智能將成倍加劇這一挑戰(zhàn)。想象一下，當(dāng)像ChatGPT這樣復(fù)雜的AI向員工發(fā)送電子郵件時(shí)，這些電子郵件看似來(lái)自老板，使用的信息通常只有老板才知道，甚至還使用了老板的寫作風(fēng)格，這樣的網(wǎng)絡(luò)釣魚攻擊將有多大。

　　至少自2019年開(kāi)始，就有報(bào)道稱在網(wǎng)絡(luò)詐騙中使用語(yǔ)音克隆等深度偽造技術(shù)。隨著人工智能每天都在改進(jìn)和多樣化，網(wǎng)絡(luò)風(fēng)險(xiǎn)管理的問(wèn)題只會(huì)越來(lái)越嚴(yán)重。

　　如果認(rèn)為防火墻和其他當(dāng)今的網(wǎng)絡(luò)防御技術(shù)可以拯救，請(qǐng)三思。AI將幫助壞人找到防御中最薄弱的環(huán)節(jié)，然后全天候工作，直到找到突破口。

　　3、聲譽(yù)風(fēng)險(xiǎn)

　　當(dāng)ChatGPT首次出現(xiàn)在公眾視野時(shí)，Google高管最初以“聲譽(yù)風(fēng)險(xiǎn)”為理由，表示不會(huì)立即推出與之競(jìng)爭(zhēng)的人工智能。但幾天后就撤回了聲明，并宣布推出Bard。Bing和其他生成AI領(lǐng)域出現(xiàn)的錯(cuò)誤和尷尬，證明了Google最初的擔(dān)憂是有根據(jù)的。

　　公眾正在觀望。當(dāng)AI以不符合價(jià)值觀的方式行事時(shí)，可能會(huì)導(dǎo)致公關(guān)災(zāi)難。新興形式的人工智能已經(jīng)表現(xiàn)得像一個(gè)種族主義者、厭惡女性的怪物，導(dǎo)致了錯(cuò)誤的逮捕，并放大了員工招聘中的偏見(jiàn)。

　　有時(shí)，人工智能會(huì)破壞人員關(guān)系。根據(jù)Forrester的數(shù)據(jù)，75%的消費(fèi)者對(duì)客戶服務(wù)聊天機(jī)器人感到失望，30%的消費(fèi)者在人工智能驅(qū)動(dòng)的客戶服務(wù)互動(dòng)不佳后將業(yè)務(wù)轉(zhuǎn)移到別處。人工智能還很年輕，容易出錯(cuò)。然而，盡管風(fēng)險(xiǎn)很高，但我們希望許多商業(yè)組織在部署人工智能時(shí)，會(huì)完全了解所涉及的聲譽(yù)風(fēng)險(xiǎn)。

　　4、法律風(fēng)險(xiǎn)

　　聯(lián)邦政府正準(zhǔn)備應(yīng)對(duì)人工智能崛起帶來(lái)的社會(huì)挑戰(zhàn)。2022年，拜登政府公布了《人工智能權(quán)利法案》藍(lán)圖，以保護(hù)隱私和公民自由。2023年，美國(guó)國(guó)家標(biāo)準(zhǔn)技術(shù)研究院發(fā)布了人工智能風(fēng)險(xiǎn)管理框架，以幫助企業(yè)董事會(huì)和其他組織領(lǐng)導(dǎo)應(yīng)對(duì)人工智能風(fēng)險(xiǎn)�！�2022年的算法問(wèn)責(zé)法》仍然只是一項(xiàng)法案，旨在在廣泛的自動(dòng)化決策機(jī)制中建立透明度。這只是聯(lián)邦立法。僅在2022年，就有不少于17個(gè)州提出了管理人工智能的立法，目標(biāo)是面部識(shí)別、招聘偏見(jiàn)、上癮算法和其他人工智能用例。對(duì)于跨國(guó)企業(yè)，歐盟擬議的《人工智能法案》旨在禁止或適度使用生物識(shí)別、心理操縱、剝削弱勢(shì)群體以及社會(huì)信用評(píng)分。

　　新法規(guī)即將出臺(tái)，可能會(huì)在2023年內(nèi)出臺(tái)。企業(yè)面臨的風(fēng)險(xiǎn)不僅僅是合規(guī)性。如果使用AI的產(chǎn)品或服務(wù)出現(xiàn)問(wèn)題，誰(shuí)將承擔(dān)責(zé)任：產(chǎn)品或服務(wù)提供商?人工智能開(kāi)發(fā)者?數(shù)據(jù)供應(yīng)商?還是企業(yè)法人?至少，這需要為AI的決策方式提供透明度，以遵守新法律中的透明度規(guī)定。

　　5、操作風(fēng)險(xiǎn)

　　人工智能風(fēng)險(xiǎn)的最后一個(gè)領(lǐng)域可能是最明顯的，但在某些方面也是最危險(xiǎn)的。如果員工不小心誤用了ChatGPT，導(dǎo)致商業(yè)機(jī)密泄露，會(huì)發(fā)生什么?當(dāng)AI沒(méi)有按預(yù)期工作時(shí)會(huì)發(fā)生什么?過(guò)快采用人工智能的負(fù)面影響可能是巨大的。

　　ChatGPT是當(dāng)今進(jìn)人工智能最著名的例子，全世界都在測(cè)試它，且每天都在報(bào)告其缺點(diǎn)。但企業(yè)使用的人工智能可能無(wú)法享受這種好處。當(dāng)AI告知在特定供應(yīng)商、材料或產(chǎn)品上加倍下注時(shí)，但卻做錯(cuò)了——如何知道會(huì)發(fā)生什么?

　　IBM的Watson曾為癌癥患者提出不正確且危險(xiǎn)的治療方法。英國(guó)Tyndaris Investments在其對(duì)沖基金AI每天損失高達(dá)2000萬(wàn)美元后，被香港大亨李健勤起訴。還有，失控的特斯拉撞死了行人?這是企業(yè)領(lǐng)導(dǎo)者的職責(zé)——意識(shí)到這種操作風(fēng)險(xiǎn)，并加以管理。