專家認(rèn)為，ChatGPT生成的錯誤信息是“胡說八道”而非“幻覺”

　　最近，兩支研究團(tuán)隊(duì)發(fā)布的論文引發(fā)了廣泛關(guān)注，直言生成式人工智能(AI)產(chǎn)品的內(nèi)容基本可以被視為 “胡說八道”。這篇名為 “ChatGPT 是胡說八道” 的論文指出，生成式 AI 在產(chǎn)出信息時，對準(zhǔn)確性的漠視為公眾服務(wù)者帶來了許多挑戰(zhàn)，尤其是那些有法律責(zé)任必須說實(shí)話的官員。

　　作者 Michael Townsen Hicks、James Humphries 和 Joe Slater 強(qiáng)調(diào)，生成式 AI 產(chǎn)生的錯誤信息，不能簡單地用 “謊言” 或 “幻覺” 來形容。與故意欺騙的謊言不同，胡說八道是指一種不在乎真相的表達(dá)方式，企圖給人一種特定的印象。他們認(rèn)為，將 AI 的錯誤稱為 “幻覺” 只會誤導(dǎo)公眾，讓大家覺得這些機(jī)器在某種程度上仍然試圖傳達(dá)他們所 “相信” 的東西。

　　他們表示:“稱這些錯誤為‘胡說八道’而不是‘幻覺’，不僅更準(zhǔn)確，也有助于提升公眾對科技的理解。” 這段話突顯了用更精準(zhǔn)的術(shù)語來描述 AI 錯誤的重要性，尤其是在當(dāng)前科技傳播亟需改善的背景下。

　　與此同時，另一篇關(guān)于大型語言模型(LLMs)的研究論文則集中探討了歐盟在此問題上的法律與倫理環(huán)境。論文的結(jié)論是，目前關(guān)于 AI 的法律法規(guī)仍然不夠完善，無法有效防止由這些 AI 所產(chǎn)生的 “胡說八道” 帶來的危害。作者 Sandra Wachter、Brent Mittelstadt 和 Chris Russell 建議引入類似于出版領(lǐng)域的法規(guī)，強(qiáng)調(diào)避免可能造成社會危害的 “隨意發(fā)言”。

　　他們指出，這種義務(wù)強(qiáng)調(diào)，沒有任何單一實(shí)體，無論是公共還是私營部門，應(yīng)該成為真理的唯一裁決者。他們還表示，生成式 AI 的 “隨意發(fā)言” 可能將真理轉(zhuǎn)變?yōu)轭l率和多數(shù)意見的問題，而不是真實(shí)的事實(shí)。