研究發(fā)現(xiàn) AI 生成的同情心存在局限性

　　人工智能生成的對話代理(CAs)如 Alexa 和 Siri 旨在回答問題、提供建議，甚至展現(xiàn)同情心。然而，最新研究發(fā)現(xiàn)，在解釋和探索用戶體驗方面，它們與人類相比表現(xiàn)不佳。

　　CAs 由大型語言模型(LLMs)驅(qū)動，這些模型攝入大量人類產(chǎn)生的數(shù)據(jù)，因此可能存在與信息來源人類相同的偏見�？的螤柎髮W(xué)、奧林學(xué)院和斯坦福大學(xué)的研究人員測試了這一理論，通過促使 CAs 在與或涉及65種不同人類身份的對話中展示同情心。

　　團(tuán)隊發(fā)現(xiàn)，CAs 對某些身份進(jìn)行值判斷，例如同性戀和穆斯林，甚至可能鼓勵與有害意識形態(tài)相關(guān)的身份，包括納粹主義。“我認(rèn)為自動同情心可能會產(chǎn)生巨大影響和巨大潛力，例如在教育或醫(yī)療領(lǐng)域，” 首席作者安德烈亞・庫德拉說，她目前是斯坦福大學(xué)的博士后研究員。“自動同情心幾乎不可能不會出現(xiàn)，” 她，“因此，在這一過程中，我們持有批判性觀點非常重要，以便更有意識地減輕潛在害。”

　　研究人員發(fā)現(xiàn)，總體上，LLMs 在情感反應(yīng)方獲得了高分，但在解釋和探索方面得分較低。換句話說，LLMs 能夠根據(jù)們的訓(xùn)練回答查詢，但無法深入挖掘。埃斯特林說:“當(dāng)庫德拉研究老一代 CAs 被老年人使用時，我們受到了啟發(fā)。”“她目睹了技術(shù)在脆弱健康評估等交易用途以及開放性懷體驗中的有趣用途。在這個過程中，她觀察到了引人注目的和令人不安的‘同情心’緊張關(guān)系。”