嚴(yán)防“胡說八道”，蘋果Apple Intelligence智能回復(fù)功能加入“反幻覺”指令

2024年08月07日 09:32:56 遠(yuǎn)洋 來源：IT之家

　　近日有網(wǎng)友在 macOS 15.1 測試版中發(fā)現(xiàn)了蘋果公司為 Apple Intelligence 的智能回復(fù)(Smart Reply)功能設(shè)置的一系列內(nèi)部指令。這些指令以 JSON 文件的形式存在，詳細(xì)規(guī)定了該功能的工作流程。其中最引人注目的是，蘋果明確要求系統(tǒng)“不要編造事實(shí)，不要產(chǎn)生幻覺”。

　　據(jù)了解，智能回復(fù)是蘋果郵件應(yīng)用的一項(xiàng)功能，旨在通過分析郵件內(nèi)容自動生成可能的回復(fù)選項(xiàng)，這一功能的背后是蘋果自研的智能技術(shù)。然而，與其他生成式 AI 一樣，智能回復(fù)也面臨著“幻覺”問題，即系統(tǒng)可能會生成虛假或誤導(dǎo)性的信息。

　　為了防止這種情況發(fā)生，蘋果在系統(tǒng)內(nèi)部設(shè)置了嚴(yán)格的指令。根據(jù)泄露的指令，智能回復(fù)功能被要求僅提取郵件中明確提出的問題，并提供相應(yīng)的回答選項(xiàng)。這一做法有助于減少 AI 在生成回復(fù)時(shí)的錯(cuò)誤。

　　雖然蘋果明確要求 AI 不要編造信息，但業(yè)內(nèi)人士認(rèn)為，要完全消除“幻覺”問題仍然面臨挑戰(zhàn)。因?yàn)樯墒?AI 模型本質(zhì)上并不理解文本內(nèi)容，無法準(zhǔn)確判斷信息的真?zhèn)巍?/p>

　　文章內(nèi)容僅供閱讀，不構(gòu)成投資建議，請謹(jǐn)慎對待。投資者據(jù)此操作，風(fēng)險(xiǎn)自擔(dān)。

[No. ]
分享到微信