調(diào)查顯示:超一半新西蘭Z世代員工正使用生成式AI工具

　　近日，Kordia委托Perceptive開展的一項(xiàng)獨(dú)立調(diào)查顯示，超過一半的Z世代新西蘭員工正在使用像ChatGPT或DalleE這樣的生成式AI工具，其中超過四分之一的人表示已經(jīng)將其用于工作。然而值得注意的是，只有五分之一的受訪者意識(shí)到AI使用存在網(wǎng)絡(luò)安全或隱私風(fēng)險(xiǎn)。

　　Aura信息安全公司的首席顧問阿拉斯泰爾·米勒(Alastair Miller)表示，盡管AI具有潛力，但關(guān)于生成AI工具的許多問題企業(yè)簡單地忽視了。他認(rèn)為，企業(yè)領(lǐng)導(dǎo)人需要提高對(duì)AI的認(rèn)識(shí)，確保員工了解可接受的使用方式以及不當(dāng)使用生成AI可能帶來的風(fēng)險(xiǎn)。

　　米勒指出，理解公共和私人生成式AI工具之間的區(qū)別對(duì)于領(lǐng)導(dǎo)者來說尤為重要。他舉出了三星的例子，員工在使用公共ChatGPT工具總結(jié)信息時(shí)，無意中泄露了源代碼和內(nèi)部會(huì)議記錄。進(jìn)入公共AI工具的數(shù)據(jù)將成為訓(xùn)練數(shù)據(jù)池的一部分，而企業(yè)無法控制誰可能訪問它。因此，企業(yè)需要確保生成AI得到適當(dāng)使用，任何敏感數(shù)據(jù)或個(gè)人信息遠(yuǎn)離這些工具。

　　此外，調(diào)查的其他結(jié)果表明，各年齡段的新西蘭人對(duì)使用生成式AI工具的其他問題知之甚少。僅五分之一的受訪者擔(dān)心生成AI可能產(chǎn)生有偏見的輸出，三分之一的人擔(dān)心它可能產(chǎn)生不準(zhǔn)確的信息或被用于信息誤導(dǎo)活動(dòng)。

　　米勒表示，生成式AI的缺點(diǎn)之一是其容易出現(xiàn)“幻覺”。它像一個(gè)聰明的富有想象力的孩子，在某些情況下會(huì)制造與源相矛盾或在事實(shí)外觀下制造事實(shí)錯(cuò)誤的內(nèi)容。已經(jīng)有記錄的生成AI幻覺事件給組織帶來問題。一家美國律師事務(wù)所因使用ChatGPT搜索支持客戶案件的法律先例而面臨制裁，這導(dǎo)致偽造的材料被提交法院。

　　米勒稱，某些數(shù)據(jù)絕不能委托給公共生成式AI工具。財(cái)務(wù)信息或商業(yè)敏感信息不應(yīng)暴露于ChatGPT等公共AI工具，否則可能泄露商業(yè)優(yōu)勢或甚至違反市場法規(guī)。與客戶數(shù)據(jù)或個(gè)人信息如健康記錄、憑據(jù)或聯(lián)系方式也是如此。

　　私人AI工具可能可以與敏感數(shù)據(jù)一起使用，但米勒仍表示應(yīng)謹(jǐn)慎行事。即使是私人AI工具，在委托公司數(shù)據(jù)給它之前，也應(yīng)進(jìn)行安全評(píng)估，以確保有防護(hù)控制到位，從而獲得任何好處而不受后果影響。

　　米勒說，盡管存在風(fēng)險(xiǎn)，企業(yè)不應(yīng)該回避AI。作為創(chuàng)新和生產(chǎn)力的偉大工具，許多主要軟件公司正在將AI融入日常業(yè)務(wù)技術(shù)，例如Microsoft365Copilot或Bing搜索。與任何新技術(shù)一樣，不要盲目采用，而是定義想要實(shí)現(xiàn)的價(jià)值或結(jié)果，這樣才能有效和安全地在組織中實(shí)現(xiàn)它。