微軟申請專利以應對 AI “幻覺” 問題

　　近日，微軟提交了一項專利申請，旨在通過一種技術(shù)方法減少或消除人工智能生成的虛假信息。該專利的名稱為 “利用外部知識和反饋與語言模型互動”，于去年向美國專利商標局(USPTO)遞交，并于10月31日公開。

　　這一提案的核心是為 AI 模型提供一種 “響應增強系統(tǒng)”(RAS)，使其能夠根據(jù)用戶的查詢自動提取更多信息，并檢查其回答的 “有效性”。

　　具體來說，響應增強系統(tǒng)能夠識別是否有來自 “外部來源” 的信息能夠更好地回答用戶的問題。如果 AI 的回答沒有包含這些信息，該系統(tǒng)會將其判定為不夠有用。此外，RAS 還可以向用戶提示其回答是否存在不足之處，用戶也可以對此進行反饋。這一方案的優(yōu)點在于，不需要開發(fā)者或公司對現(xiàn)有模型進行細致的調(diào)整。

　　目前，USPTO 網(wǎng)站尚未顯示該申請的專利編號，這意味著該專利仍在審查之中。我們聯(lián)系了微軟以了解更多信息，包括該專利是否與微軟此前宣布的降低 AI 幻覺的工具 ——Azure AI 內(nèi)容安全工具有關(guān)。該工具為企業(yè) AI 聊天機器人提供了 AI 驅(qū)動的驗證，能夠在后臺進行事實核查，判斷 AI 的回答是否 “無根基” 或 “有根基”，在向用戶提供答案之前，只提供有實際數(shù)據(jù)支持的回答。

　　AI 幻覺問題是生成性 AI 面臨的最大挑戰(zhàn)之一，嚴重影響了 AI 聊天機器人的可信度。在這方面，谷歌和推特的 AI 系統(tǒng)都曾產(chǎn)生過令人矚目的錯誤，例如建議用戶將膠水涂在披薩上或食用石頭，甚至傳播選舉虛假信息。蘋果公司首席執(zhí)行官蒂姆・庫克也承認，蘋果的智能技術(shù)同樣無法避免幻覺問題。近期，OpenAI 的 “Whisper” 音頻轉(zhuǎn)錄工具也被發(fā)現(xiàn)頻繁出現(xiàn)幻覺，令其在美國醫(yī)院的使用受到關(guān)注。

　　盡管 AI 幻覺問題突出，科技巨頭們對 AI 數(shù)據(jù)中心的需求依然強烈，包括谷歌、微軟和 Meta 在內(nèi)的公司正考慮將核能作為滿足 AI 高能耗需求的潛在解決方案。