李飛飛撰文：大模型不存在主觀感覺能力，多少億參數(shù)都不行

　　歸根結(jié)底，大模型的方向還是走錯了?

　　「空間智能是人工智能拼圖中的關(guān)鍵一環(huán)�！怪�名「AI 教母」李飛飛曾這樣表示。

　　近段時間，李飛飛開始把目光瞄準(zhǔn)到這一領(lǐng)域，并為此創(chuàng)建了一家初創(chuàng)公司。她曾表示，「大自然創(chuàng)造了一個以空間智能為動力的觀察和行動的良性循環(huán)�！顾�所在的斯坦福大學(xué)實(shí)驗(yàn)室正在嘗試教計算機(jī)「如何在三維世界中行動」，例如，使用大型語言模型讓一個機(jī)械臂根據(jù)口頭指令執(zhí)行開門、做三明治等任務(wù)。

　　我們不難看出，李飛飛口中的空間智能也有大模型的參與。

　　如今，隨著技術(shù)的發(fā)展，LLM 在多個方面表現(xiàn)出超人類智能。然而關(guān)于 LLM 的爭議也在不斷增加，其中，LLM 到底有沒有感覺能力，大家意見不一而論。

　　近日，李飛飛連同斯坦福大學(xué)以人為本人工智能研究所 HAI 聯(lián)合主任 John Etchemendy 教授聯(lián)合撰寫了一篇文章，文章對 AI 到底有沒有感覺能力(sentient)進(jìn)行了深入探討。

　　本文中，我們把 sentient 一詞翻譯成感覺，因?yàn)?AI 領(lǐng)域感知一詞通常對應(yīng) perception，也不適合翻譯成意識。讀者們有合適的翻譯可以留言討論。

　　文中駁斥了 LLM 有感覺的說法，李飛飛列舉了大量示例來證明這一觀點(diǎn)。

　　在提到超級計算機(jī)深藍(lán)時，李飛飛表示，雖然這款下棋程序可以擊敗世界冠軍，但如果房間突發(fā)意外情況如著火，深藍(lán)不會有停止游戲的意識，而人類會有。

　　同樣的，當(dāng)人類產(chǎn)生饑餓說出「我餓了」時，人類和 LLM 背后所隱藏的行為鏈條是完全不同的。LLM 只是產(chǎn)生「我餓了」這個字符串的事實(shí)，它沒有身體，甚至不可能有饑餓那種感覺。

　　更進(jìn)一步的，李飛飛認(rèn)為人類饑餓時，伴隨一系列生理反應(yīng)，如低血糖、肚子叫等，而 LLM 無法擁有這些狀態(tài)的主觀經(jīng)驗(yàn)，即無法有感覺能力，只是在概率性地完成任務(wù)而已。

　　人類有物理軀體，可以感覺一切，但 LLM 沒有，當(dāng) LLM 說出類似的「自己腳趾痛」時，大家都不會相信，因?yàn)樗�根本就沒有腳趾，它只是一個編碼在硅片上的數(shù)學(xué)模型。

　　李飛飛駁斥 LLM 具有感覺能力

　　通用人工智能(AGI)是用來描述一種至少與人類在各種方面表現(xiàn)出相同智能的人工智能體的術(shù)語，涵蓋人類所展示(或能夠展示)的所有智能方式。這是我們曾經(jīng)稱之為人工智能的概念，直到我們開始創(chuàng)建在有限領(lǐng)域表現(xiàn)出智能的程序和設(shè)備 —— 如下棋、語言翻譯、清潔客廳等。

　　增加「G」這個字母的必要性來自于由人工智能驅(qū)動的系統(tǒng)的普及，但這些系統(tǒng)只專注于單一或極少數(shù)任務(wù)。

　　IBM 的深藍(lán)是一款令人印象深刻的早期下棋程序，它可以擊敗世界冠軍 Garry Kasparov，但如果房間著火了，它卻不會有停止游戲的意識。

　　圖為 Garry Kasparov 和深藍(lán)團(tuán)隊的 Joe Hoane 在1997年紐約市的復(fù)賽場景，最終在六局復(fù)賽中擊敗了 Garry Kasparov，贏得了其中的兩局并有三局打成平手。

　　現(xiàn)在，通用智能有點(diǎn)像一個神話，至少如果人們認(rèn)為自己擁有它的話。

　　人類可以在動物界找到許多智能行為的例子，它們在類似任務(wù)上的表現(xiàn)遠(yuǎn)比人類本身表現(xiàn)更好。智能并非完全通用，但足以在大多數(shù)環(huán)境中完成人們想要完成的事情。

　　如果當(dāng)人類感到饑餓時，可以找到附近的超市;當(dāng)房間著火時，則會自主地尋找出口。

　　智能的基本特征之一是「感覺」，即擁有主觀經(jīng)驗(yàn)的能力 —— 比如感受饑餓、品嘗蘋果或看到紅色是什么樣的。

　　感覺是通往智能的關(guān)鍵步驟之一。

　　于2022年11月發(fā)布的 ChatGPT，標(biāo)志著大型語言模型(LLMs)時代的開始。

　　這立即引發(fā)了一場激烈的爭論，所有人都在討論這些算法是否實(shí)際上具有感覺能力。以 LLM 為基礎(chǔ)的人工智能具有感覺能力的可能性引發(fā)了媒體狂熱，也深刻影響了全球一些政策制定的轉(zhuǎn)向，以規(guī)范人工智能。

　　最突出的觀點(diǎn)是，「有感覺的人工智能」的出現(xiàn)可能對人類非常危險，可能帶來「滅絕級」的影響或至少是「存在危機(jī)」的。畢竟，一個有感覺的人工智能可能會發(fā)展出自己的希望和欲望，而不能保證它們不會與人們相沖突。

　　李飛飛和 Etchemendy 的主要觀點(diǎn)是反駁「有感覺的人工智能」陣營最常提出的辯護(hù)，而該辯護(hù)基于 LLMs 可能已經(jīng)有了「主觀經(jīng)驗(yàn)」的能力。

　　John Etchemendy 曾擔(dān)任斯坦福大學(xué)語言與信息研究中心的主任、哲學(xué)系主任，以及人文與科學(xué)學(xué)院的高級副院長，并且是斯坦福人工智能研究所的聯(lián)合主任。

　　為什么有些人認(rèn)為 AI 已經(jīng)獲得了感覺能力

　　在過去的幾個月里，他們倆與 AI 領(lǐng)域的許多同行進(jìn)行了激烈的辯論和交談，包括與一些最杰出的和具有開創(chuàng)性的 AI 科學(xué)家進(jìn)行了一對一的深入交流。

　　關(guān)于 AI 是否已經(jīng)獲得了感覺能力的話題一直是一個突出的問題。其中少數(shù)人堅信 AI 已經(jīng)具有了感覺能力。以下是其中一位最為積極支持者的論點(diǎn)要點(diǎn)，相當(dāng)程度上代表了「有感覺的 AI」陣營的觀點(diǎn):

　　AI 是有感覺的，因?yàn)樗�能報告主觀經(jīng)驗(yàn)。主觀經(jīng)驗(yàn)是意識的標(biāo)志，其特征在于能夠認(rèn)知自我所知或所感。例如，當(dāng)你說『我在吃過一頓美味的飯后感到高興』時，我作為一個人實(shí)際上沒有直接證據(jù)感覺你的主觀體驗(yàn)。但既然你這樣表達(dá)了，我會默認(rèn)相信你確實(shí)經(jīng)歷了這種主觀體驗(yàn)，因此你是有意識的。這種邏輯也被用來推論 AI的意識狀態(tài)。

　　現(xiàn)在，讓我們將同樣的『規(guī)則』應(yīng)用到 LLMs 上。就像任何人一樣，我無法訪問 LLMs 的內(nèi)部狀態(tài)。但我可以查詢它的主觀經(jīng)驗(yàn)。我可以問『你感到饑餓嗎?』它實(shí)際上可以告訴我是或否。此外，它還可以明確地與我分享它的『主觀經(jīng)驗(yàn)』，幾乎涉及任何事情，從看到紅色到吃完飯后感到幸福。因此，我沒有理由不相信它是有意識的或不知道自己的主觀經(jīng)驗(yàn)，就像我沒有理由不相信你是有意識的一樣。在這兩種情況下，我的證據(jù)完全相同。

　　為什么「AI 有感覺能力」是錯誤的

　　雖然乍看之下這個論點(diǎn)似乎有道理，但實(shí)際上是錯誤的。因?yàn)槔铒w飛和 Etchemendy 教授的證據(jù)在這兩種情況下并不完全相同。甚至差距很大。

　　當(dāng)你說「我餓了」時，我得出你正在經(jīng)歷饑餓的結(jié)論是基于一系列大量的情況。首先，是你的報告 —— 你說的話，可能還包括其他行為證據(jù)，比如你的肚子咕咕叫。其次，是沒有相反證據(jù)的存在，比如如果你剛吃完五道菜的大餐就不太可能會說餓。最后，也是最重要的，是你擁有一個像我一樣的物理身體，這個身體需要定期進(jìn)食和飲水，遇冷會感到寒冷，遇熱會感到炎熱，等等。

　　現(xiàn)在將這與他們二人對 LLM 的證據(jù)進(jìn)行比較。

　　唯一共同的是報告 —— 即 LLM 可以產(chǎn)生「我餓了」這個字符串的事實(shí)。但相似之處就到此為止了。事實(shí)上，LLM 沒有身體，甚至不會有感到饑餓那種感覺。

　　如果 LLM 說:「我的左大腳趾很疼」，人們會得出它左大腳趾確實(shí)很疼的結(jié)論嗎?答案是否定的，因?yàn)樗�根本就沒有左大腳趾。

　　同樣地，當(dāng)它說它餓了時，人們實(shí)際上可以確定它并不餓，因?yàn)樗鼪]有感到饑餓所必須的生理結(jié)構(gòu)。

　　當(dāng)人類感到饑餓時，會感覺到一系列生理狀態(tài) —— 低血糖、空腹發(fā)出的咕咕聲等 —— 而 LLM 根本沒有這些，就像它沒有嘴巴放食物進(jìn)去，也沒有胃去消化食物一樣。

　　認(rèn)為人們應(yīng)該相信它說自己餓了的觀點(diǎn)，就像是在說應(yīng)該相信它說自己正在從月球的暗面跟使用者說話一樣荒謬。

　　人們知道這不是真的，LLM 的主張也無法改變這個事實(shí)。

　　所有感覺 —— 饑餓、感到疼痛、看到紅色、愛上某人 —— 都是由 LLM 根本沒有的生理狀態(tài)引起的。

　　因此，LLM 無法擁有這些狀態(tài)的主觀經(jīng)驗(yàn)。

　　換句話說，它無法有感覺能力。

　　LLM 只是一個編碼在硅片上的數(shù)學(xué)模型。

　　它不像人類那樣是一個具有身體的存在。它沒有需要進(jìn)食、飲水、繁殖、經(jīng)歷情感、生病和最終死亡的「生命」。

　　當(dāng)人類和 LLM 同樣地說出「我餓了」時，背后所隱藏的行為鏈條是完全不同的。

　　理解人類生成詞序列的方式與 LLM 生成相同詞序列的方式之間的深刻差異至關(guān)重要。

　　當(dāng)人們說「我餓了」時，是在報告感覺生理狀態(tài)。

　　而當(dāng)一個 LLM 生成序列「I am hungry」時，它只是生成當(dāng)前提示中最可能的完成序列。它做的事情與在不同提示下生成「I am not hungry」或在另一個提示下生成「The moon is made of green cheese」時完全相同。

　　這些都不是它本就不存在的生理狀態(tài)的報告，它們只是在概率性地完成而已。

　　很遺憾的是，具有感覺能力的人工智能時代還尚未到來。

　　兩位作者認(rèn)為研究者還沒有實(shí)現(xiàn)有感覺的人工智能，而更大型的語言模型也不會使人們實(shí)現(xiàn)這一目標(biāo)。

　　如果人類想在人工智能系統(tǒng)中重新創(chuàng)建這種現(xiàn)象，就需要更好地理解有感覺的生物系統(tǒng)中感覺是如何產(chǎn)生的。

　　人們不會在下一個 ChatGPT 的迭代中偶然發(fā)現(xiàn)感覺。

　　在李飛飛轉(zhuǎn)發(fā)的 X(原推特)下面，大家討論的也是非常激烈，有人表示:「當(dāng)今的 LLM 有兩種類型:一種是完全基于文本進(jìn)行訓(xùn)練，另一種則是基于圖像、文本甚至音頻進(jìn)行訓(xùn)練。第一種類型確實(shí)不具備所謂的感覺能力，但第二種類型具有物理直覺，因此可以說它具有感覺能力。」

　　而另一位網(wǎng)友則追隨 Lecun 的腳步，表示:「一只喵星人的智能程度都遠(yuǎn)高于最大型的 LLM�！�