專家對(duì) ChatGPT 等平臺(tái)中的AI幻覺(jué)表示擔(dān)憂

　　據(jù)美媒報(bào)道，專家們對(duì)熱門平臺(tái)如ChatGPT等AI程序的幻覺(jué)現(xiàn)象提出了擔(dān)憂。所謂的AI幻覺(jué)是指信息看似正確，但實(shí)際上是不準(zhǔn)確的現(xiàn)象。

　　ChatGPT等平臺(tái)出現(xiàn)提供不準(zhǔn)確信息的情況。例如，杜克大學(xué)圖書(shū)館指出存在虛假引用的問(wèn)題，福布斯發(fā)表了一篇新聞報(bào)道，指出ChatGPT通過(guò)虛假摘要愚弄了科學(xué)家，而《財(cái)富》雜志引用了一項(xiàng)研究，顯示ChatGPT在回答數(shù)學(xué)問(wèn)題時(shí)的準(zhǔn)確率從98%下降到僅為2%。

　　針對(duì)是否ChatGPT是在編造信息、錯(cuò)誤解釋數(shù)據(jù)或依賴于錯(cuò)誤信息的問(wèn)題，ChatGPT的回應(yīng)是，它的回應(yīng)是基于其在截至2021年9月最后更新前所訓(xùn)練數(shù)據(jù)和輸入的模式生成的。然而，如果輸入數(shù)據(jù)或查詢存在缺陷，AI模型可能會(huì)產(chǎn)生不正確或不準(zhǔn)確的信息，但這與傳統(tǒng)意義上的幻覺(jué)并不相同。

　　根據(jù)AI創(chuàng)新領(lǐng)袖Usha Jagannathan的建議，她表示我們需要始終引用來(lái)源或驗(yàn)證信息的準(zhǔn)確性，以確保我們使用了正確的詳細(xì)信息。可以通過(guò)查看學(xué)術(shù)研究和報(bào)告的Google Scholar、主要來(lái)源以及領(lǐng)域內(nèi)的專家來(lái)檢查信息的準(zhǔn)確性。