專家對 ChatGPT 等平臺中的AI幻覺表示擔(dān)憂

　　據(jù)美媒報道，專家們對熱門平臺如ChatGPT等AI程序的幻覺現(xiàn)象提出了擔(dān)憂。所謂的AI幻覺是指信息看似正確，但實際上是不準(zhǔn)確的現(xiàn)象。

　　ChatGPT等平臺出現(xiàn)提供不準(zhǔn)確信息的情況。例如，杜克大學(xué)圖書館指出存在虛假引用的問題，福布斯發(fā)表了一篇新聞報道，指出ChatGPT通過虛假摘要愚弄了科學(xué)家，而《財富》雜志引用了一項研究，顯示ChatGPT在回答數(shù)學(xué)問題時的準(zhǔn)確率從98%下降到僅為2%。

　　針對是否ChatGPT是在編造信息、錯誤解釋數(shù)據(jù)或依賴于錯誤信息的問題，ChatGPT的回應(yīng)是，它的回應(yīng)是基于其在截至2021年9月最后更新前所訓(xùn)練數(shù)據(jù)和輸入的模式生成的。然而，如果輸入數(shù)據(jù)或查詢存在缺陷，AI模型可能會產(chǎn)生不正確或不準(zhǔn)確的信息，但這與傳統(tǒng)意義上的幻覺并不相同。

　　根據(jù)AI創(chuàng)新領(lǐng)袖Usha Jagannathan的建議，她表示我們需要始終引用來源或驗證信息的準(zhǔn)確性，以確保我們使用了正確的詳細(xì)信息�？梢酝ㄟ^查看學(xué)術(shù)研究和報告的Google Scholar、主要來源以及領(lǐng)域內(nèi)的專家來檢查信息的準(zhǔn)確性。