AI預(yù)測你的購物意圖，大廠正在瓜分"意圖經(jīng)濟(jì)"新蛋糕

　　未來，AI助手可能在早期就預(yù)測并影響我們的決策，甚至在我們意識到自己做出決定之前，就將這些正在形成的“意圖”實時出售給能夠滿足需求的公司。這并非科幻小說，而是來自劍橋大學(xué)AI倫理學(xué)家的警告。他們認(rèn)為，我們正處于一個“利潤豐厚但令人不安的數(shù)字意圖信號新市場”的開端，從購買電影票到為候選人投票，都將受到影響。他們稱之為“意圖經(jīng)濟(jì)”。

　　劍橋大學(xué)未來智能中心(LCFI)的研究人員認(rèn)為，生成式AI的爆發(fā)以及我們對聊天機器人的日益熟悉，開啟了“說服性技術(shù)”的新領(lǐng)域，而科技巨頭的最新公告已經(jīng)暗示了這一點。

　　類人AI代理，例如聊天機器人助手、數(shù)字導(dǎo)師甚至虛擬戀人，將能夠訪問大量的個人心理和行為數(shù)據(jù)，這些數(shù)據(jù)通常是通過非正式的對話收集的。這些AI不僅知道我們的在線習(xí)慣，還具備一種令人驚異的能力，能夠以我們感到舒適的方式與我們建立聯(lián)系——模仿個性并預(yù)測我們期望的回應(yīng)。研究人員警告，這種程度的信任和理解，將使大規(guī)模的社會操縱成為可能。

　　LCFI訪問學(xué)者Yaqub Chaudhary博士表示:“投入巨額資源將AI助手定位到生活的各個領(lǐng)域，這引發(fā)了一個問題，即這些所謂的助手究竟是為了誰的利益和目的而設(shè)計的。” 他強調(diào)，人們在交談時所說的話、說話的方式，以及由此而來的實時推斷，都比單純的在線互動記錄更私密。“我們警告說，AI工具已經(jīng)在開發(fā)中，旨在引出、推斷、收集、記錄、理解、預(yù)測，并最終操縱人類的計劃和目的，使其商業(yè)化。”

　　劍橋大學(xué)LCFI的技術(shù)歷史學(xué)家Jonnie Penn博士指出:“幾十年來，注意力一直是互聯(lián)網(wǎng)的貨幣。與Facebook和Instagram等社交媒體平臺分享你的注意力推動了在線經(jīng)濟(jì)的發(fā)展。”他警告說:“如果不加以監(jiān)管，意圖經(jīng)濟(jì)將把你的動機視為新的貨幣。對于那些定位、引導(dǎo)和出售人類意圖的人來說，這將是一場淘金熱。”

　　Penn博士和Chaudhary博士在《哈佛數(shù)據(jù)科學(xué)評論》的一篇論文中指出，意圖經(jīng)濟(jì)將是注意力經(jīng)濟(jì)的“時間化”:分析用戶注意力、溝通方式與行為模式以及最終決策之間的聯(lián)系。Chaudhary博士解釋說:“雖然一些意圖是短暫的，但分類和鎖定那些持久的意圖對于廣告商來說將是非常有利可圖的。”

　　在意圖經(jīng)濟(jì)中，大型語言模型(LLM)可以被用來以低成本鎖定用戶的語調(diào)、政治立場、詞匯、年齡、性別、在線歷史，甚至對奉承的偏好。這些信息將被鏈接到經(jīng)紀(jì)競價網(wǎng)絡(luò)，以最大限度地實現(xiàn)特定目標(biāo)，例如出售電影票(“你提到感覺工作過度，我來幫你訂那張我們談?wù)撨^的電影票?”)。研究人員認(rèn)為，這可能包括引導(dǎo)對話以服務(wù)于特定的平臺、廣告商、企業(yè)，甚至政治組織。

　　雖然研究人員認(rèn)為，意圖經(jīng)濟(jì)目前仍是科技行業(yè)的“愿景”，但他們通過已發(fā)表的研究和幾家主要科技公司暗示的信息，追蹤到了這一趨勢的早期跡象。其中包括OpenAI在2023年發(fā)布的博客文章中公開征集“表達(dá)人類意圖的數(shù)據(jù)，包括任何語言、主題和格式”，以及Shopify的產(chǎn)品總監(jiān)在同年的一次會議上談到聊天機器人如何“明確獲取用戶的意圖”。

　　Nvidia的CEO曾公開談?wù)撌褂肔LM來了解意圖和欲望，而Meta早在2021年就發(fā)布了“Intentonomy”研究，這是一個用于理解人類意圖的數(shù)據(jù)集。2024年，蘋果公司的新“App Intents”開發(fā)者框架，用于將應(yīng)用程序連接到Siri，其中包含“預(yù)測某人未來可能采取的行動”以及“使用你[開發(fā)者]提供的預(yù)測，在未來向某人推薦應(yīng)用程序意圖”的協(xié)議。

　　Chaudhary博士指出，Meta的AI代理CICERO據(jù)說在依賴于推斷和預(yù)測意圖并使用說服性對話來推進(jìn)自身立場的游戲《外交》中達(dá)到了人類水平。他警告說:“這些公司已經(jīng)在出售我們的注意力。為了獲得商業(yè)優(yōu)勢，邏輯上的下一步是利用他們正在開發(fā)的這項技術(shù)來預(yù)測我們的意圖，并在我們完全理解這些意圖之前，就出售我們的欲望。”

　　Penn博士指出，這些發(fā)展并非一定不好，但有可能造成破壞性后果。“公眾對即將發(fā)生的事情的認(rèn)識是確保我們不會走錯道路的關(guān)鍵，”他說。