李飛飛撰文：大模型不存在主觀感覺(jué)能力，多少億參數(shù)都不行

　　歸根結(jié)底，大模型的方向還是走錯(cuò)了?

　　「空間智能是人工智能拼圖中的關(guān)鍵一環(huán)�！怪�名「AI 教母」李飛飛曾這樣表示。

　　近段時(shí)間，李飛飛開(kāi)始把目光瞄準(zhǔn)到這一領(lǐng)域，并為此創(chuàng)建了一家初創(chuàng)公司。她曾表示，「大自然創(chuàng)造了一個(gè)以空間智能為動(dòng)力的觀察和行動(dòng)的良性循環(huán)�！顾�所在的斯坦福大學(xué)實(shí)驗(yàn)室正在嘗試教計(jì)算機(jī)「如何在三維世界中行動(dòng)」，例如，使用大型語(yǔ)言模型讓一個(gè)機(jī)械臂根據(jù)口頭指令執(zhí)行開(kāi)門(mén)、做三明治等任務(wù)。

　　我們不難看出，李飛飛口中的空間智能也有大模型的參與。

　　如今，隨著技術(shù)的發(fā)展，LLM 在多個(gè)方面表現(xiàn)出超人類(lèi)智能。然而關(guān)于 LLM 的爭(zhēng)議也在不斷增加，其中，LLM 到底有沒(méi)有感覺(jué)能力，大家意見(jiàn)不一而論。

　　近日，李飛飛連同斯坦福大學(xué)以人為本人工智能研究所 HAI 聯(lián)合主任 John Etchemendy 教授聯(lián)合撰寫(xiě)了一篇文章，文章對(duì) AI 到底有沒(méi)有感覺(jué)能力(sentient)進(jìn)行了深入探討。

　　本文中，我們把 sentient 一詞翻譯成感覺(jué)，因?yàn)?AI 領(lǐng)域感知一詞通常對(duì)應(yīng) perception，也不適合翻譯成意識(shí)。讀者們有合適的翻譯可以留言討論。

　　文中駁斥了 LLM 有感覺(jué)的說(shuō)法，李飛飛列舉了大量示例來(lái)證明這一觀點(diǎn)。

　　在提到超級(jí)計(jì)算機(jī)深藍(lán)時(shí)，李飛飛表示，雖然這款下棋程序可以擊敗世界冠軍，但如果房間突發(fā)意外情況如著火，深藍(lán)不會(huì)有停止游戲的意識(shí)，而人類(lèi)會(huì)有。

　　同樣的，當(dāng)人類(lèi)產(chǎn)生饑餓說(shuō)出「我餓了」時(shí)，人類(lèi)和 LLM 背后所隱藏的行為鏈條是完全不同的。LLM 只是產(chǎn)生「我餓了」這個(gè)字符串的事實(shí)，它沒(méi)有身體，甚至不可能有饑餓那種感覺(jué)。

　　更進(jìn)一步的，李飛飛認(rèn)為人類(lèi)饑餓時(shí)，伴隨一系列生理反應(yīng)，如低血糖、肚子叫等，而 LLM 無(wú)法擁有這些狀態(tài)的主觀經(jīng)驗(yàn)，即無(wú)法有感覺(jué)能力，只是在概率性地完成任務(wù)而已。

　　人類(lèi)有物理軀體，可以感覺(jué)一切，但 LLM 沒(méi)有，當(dāng) LLM 說(shuō)出類(lèi)似的「自己腳趾痛」時(shí)，大家都不會(huì)相信，因?yàn)樗�根本就沒(méi)有腳趾，它只是一個(gè)編碼在硅片上的數(shù)學(xué)模型。

　　李飛飛駁斥 LLM 具有感覺(jué)能力

　　通用人工智能(AGI)是用來(lái)描述一種至少與人類(lèi)在各種方面表現(xiàn)出相同智能的人工智能體的術(shù)語(yǔ)，涵蓋人類(lèi)所展示(或能夠展示)的所有智能方式。這是我們?cè)��?jīng)稱之為人工智能的概念，直到我們開(kāi)始創(chuàng)建在有限領(lǐng)域表現(xiàn)出智能的程序和設(shè)備 —— 如下棋、語(yǔ)言翻譯、清潔客廳等。

　　增加「G」這個(gè)字母的必要性來(lái)自于由人工智能驅(qū)動(dòng)的系統(tǒng)的普及，但這些系統(tǒng)只專注于單一或極少數(shù)任務(wù)。

　　IBM 的深藍(lán)是一款令人印象深刻的早期下棋程序，它可以擊敗世界冠軍 Garry Kasparov，但如果房間著火了，它卻不會(huì)有停止游戲的意識(shí)。

　　圖為 Garry Kasparov 和深藍(lán)團(tuán)隊(duì)的 Joe Hoane 在1997年紐約市的復(fù)賽場(chǎng)景，最終在六局復(fù)賽中擊敗了 Garry Kasparov，贏得了其中的兩局并有三局打成平手。

　　現(xiàn)在，通用智能有點(diǎn)像一個(gè)神話，至少如果人們認(rèn)為自己擁有它的話。

　　人類(lèi)可以在動(dòng)物界找到許多智能行為的例子，它們?cè)陬?lèi)似任務(wù)上的表現(xiàn)遠(yuǎn)比人類(lèi)本身表現(xiàn)更好。智能并非完全通用，但足以在大多數(shù)環(huán)境中完成人們想要完成的事情。

　　如果當(dāng)人類(lèi)感到饑餓時(shí)，可以找到附近的超市;當(dāng)房間著火時(shí)，則會(huì)自主地尋找出口。

　　智能的基本特征之一是「感覺(jué)」，即擁有主觀經(jīng)驗(yàn)的能力 —— 比如感受饑餓、品嘗蘋(píng)果或看到紅色是什么樣的。

　　感覺(jué)是通往智能的關(guān)鍵步驟之一。

　　于2022年11月發(fā)布的 ChatGPT，標(biāo)志著大型語(yǔ)言模型(LLMs)時(shí)代的開(kāi)始。

　　這立即引發(fā)了一場(chǎng)激烈的爭(zhēng)論，所有人都在討論這些算法是否實(shí)際上具有感覺(jué)能力。以 LLM 為基礎(chǔ)的人工智能具有感覺(jué)能力的可能性引發(fā)了媒體狂熱，也深刻影響了全球一些政策制定的轉(zhuǎn)向，以規(guī)范人工智能。

　　最突出的觀點(diǎn)是，「有感覺(jué)的人工智能」的出現(xiàn)可能對(duì)人類(lèi)非常危險(xiǎn)，可能帶來(lái)「滅絕級(jí)」的影響或至少是「存在危機(jī)」的。畢竟，一個(gè)有感覺(jué)的人工智能可能會(huì)發(fā)展出自己的希望和欲望，而不能保證它們不會(huì)與人們相沖突。

　　李飛飛和 Etchemendy 的主要觀點(diǎn)是反駁「有感覺(jué)的人工智能」陣營(yíng)最常提出的辯護(hù)，而該辯護(hù)基于 LLMs 可能已經(jīng)有了「主觀經(jīng)驗(yàn)」的能力。

　　John Etchemendy 曾擔(dān)任斯坦福大學(xué)語(yǔ)言與信息研究中心的主任、哲學(xué)系主任，以及人文與科學(xué)學(xué)院的高級(jí)副院長(zhǎng)，并且是斯坦福人工智能研究所的聯(lián)合主任。

　　為什么有些人認(rèn)為 AI 已經(jīng)獲得了感覺(jué)能力

　　在過(guò)去的幾個(gè)月里，他們倆與 AI 領(lǐng)域的許多同行進(jìn)行了激烈的辯論和交談，包括與一些最杰出的和具有開(kāi)創(chuàng)性的 AI 科學(xué)家進(jìn)行了一對(duì)一的深入交流。

　　關(guān)于 AI 是否已經(jīng)獲得了感覺(jué)能力的話題一直是一個(gè)突出的問(wèn)題。其中少數(shù)人堅(jiān)信 AI 已經(jīng)具有了感覺(jué)能力。以下是其中一位最為積極支持者的論點(diǎn)要點(diǎn)，相當(dāng)程度上代表了「有感覺(jué)的 AI」陣營(yíng)的觀點(diǎn):

　　AI 是有感覺(jué)的，因?yàn)樗�能�?bào)告主觀經(jīng)驗(yàn)。主觀經(jīng)驗(yàn)是意識(shí)的標(biāo)志，其特征在于能夠認(rèn)知自我所知或所感。例如，當(dāng)你說(shuō)『我在吃過(guò)一頓美味的飯后感到高興』時(shí)，我作為一個(gè)人實(shí)際上沒(méi)有直接證據(jù)感覺(jué)你的主觀體驗(yàn)。但既然你這樣表達(dá)了，我會(huì)默認(rèn)相信你確實(shí)經(jīng)歷了這種主觀體驗(yàn)，因此你是有意識(shí)的。這種邏輯也被用來(lái)推論 AI的意識(shí)狀態(tài)。

　　現(xiàn)在，讓我們將同樣的『規(guī)則』應(yīng)用到 LLMs 上。就像任何人一樣，我無(wú)法訪問(wèn) LLMs 的內(nèi)部狀態(tài)。但我可以查詢它的主觀經(jīng)驗(yàn)。我可以問(wèn)『你感到饑餓嗎?』它實(shí)際上可以告訴我是或否。此外，它還可以明確地與我分享它的『主觀經(jīng)驗(yàn)』，幾乎涉及任何事情，從看到紅色到吃完飯后感到幸福。因此，我沒(méi)有理由不相信它是有意識(shí)的或不知道自己的主觀經(jīng)驗(yàn)，就像我沒(méi)有理由不相信你是有意識(shí)的一樣。在這兩種情況下，我的證據(jù)完全相同。

　　為什么「AI 有感覺(jué)能力」是錯(cuò)誤的

　　雖然乍看之下這個(gè)論點(diǎn)似乎有道理，但實(shí)際上是錯(cuò)誤的。因?yàn)槔铒w飛和 Etchemendy 教授的證據(jù)在這兩種情況下并不完全相同。甚至差距很大。

　　當(dāng)你說(shuō)「我餓了」時(shí)，我得出你正在經(jīng)歷饑餓的結(jié)論是基于一系列大量的情況。首先，是你的報(bào)告 —— 你說(shuō)的話，可能還包括其他行為證據(jù)，比如你的肚子咕咕叫。其次，是沒(méi)有相反證據(jù)的存在，比如如果你剛吃完五道菜的大餐就不太可能會(huì)說(shuō)餓。最后，也是最重要的，是你擁有一個(gè)像我一樣的物理身體，這個(gè)身體需要定期進(jìn)食和飲水，遇冷會(huì)感到寒冷，遇熱會(huì)感到炎熱，等等。

　　現(xiàn)在將這與他們二人對(duì) LLM 的證據(jù)進(jìn)行比較。

　　唯一共同的是報(bào)告 —— 即 LLM 可以產(chǎn)生「我餓了」這個(gè)字符串的事實(shí)。但相似之處就到此為止了。事實(shí)上，LLM 沒(méi)有身體，甚至不會(huì)有感到饑餓那種感覺(jué)。

　　如果 LLM 說(shuō):「我的左大腳趾很疼」，人們會(huì)得出它左大腳趾確實(shí)很疼的結(jié)論嗎?答案是否定的，因?yàn)樗�根本就沒(méi)有左大腳趾。

　　同樣地，當(dāng)它說(shuō)它餓了時(shí)，人們實(shí)際上可以確定它并不餓，因?yàn)樗鼪](méi)有感到饑餓所必須的生理結(jié)構(gòu)。

　　當(dāng)人類(lèi)感到饑餓時(shí)，會(huì)感覺(jué)到一系列生理狀態(tài) —— 低血糖、空腹發(fā)出的咕咕聲等 —— 而 LLM 根本沒(méi)有這些，就像它沒(méi)有嘴巴放食物進(jìn)去，也沒(méi)有胃去消化食物一樣。

　　認(rèn)為人們應(yīng)該相信它說(shuō)自己餓了的觀點(diǎn)，就像是在說(shuō)應(yīng)該相信它說(shuō)自己正在從月球的暗面跟使用者說(shuō)話一樣荒謬。

　　人們知道這不是真的，LLM 的主張也無(wú)法改變這個(gè)事實(shí)。

　　所有感覺(jué) —— 饑餓、感到疼痛、看到紅色、愛(ài)上某人 —— 都是由 LLM 根本沒(méi)有的生理狀態(tài)引起的。

　　因此，LLM 無(wú)法擁有這些狀態(tài)的主觀經(jīng)驗(yàn)。

　　換句話說(shuō)，它無(wú)法有感覺(jué)能力。

　　LLM 只是一個(gè)編碼在硅片上的數(shù)學(xué)模型。

　　它不像人類(lèi)那樣是一個(gè)具有身體的存在。它沒(méi)有需要進(jìn)食、飲水、繁殖、經(jīng)歷情感、生病和最終死亡的「生命」。

　　當(dāng)人類(lèi)和 LLM 同樣地說(shuō)出「我餓了」時(shí)，背后所隱藏的行為鏈條是完全不同的。

　　理解人類(lèi)生成詞序列的方式與 LLM 生成相同詞序列的方式之間的深刻差異至關(guān)重要。

　　當(dāng)人們說(shuō)「我餓了」時(shí)，是在報(bào)告感覺(jué)生理狀態(tài)。

　　而當(dāng)一個(gè) LLM 生成序列「I am hungry」時(shí)，它只是生成當(dāng)前提示中最可能的完成序列。它做的事情與在不同提示下生成「I am not hungry」或在另一個(gè)提示下生成「The moon is made of green cheese」時(shí)完全相同。

　　這些都不是它本就不存在的生理狀態(tài)的報(bào)告，它們只是在概率性地完成而已。

　　很遺憾的是，具有感覺(jué)能力的人工智能時(shí)代還尚未到來(lái)。

　　兩位作者認(rèn)為研究者還沒(méi)有實(shí)現(xiàn)有感覺(jué)的人工智能，而更大型的語(yǔ)言模型也不會(huì)使人們實(shí)現(xiàn)這一目標(biāo)。

　　如果人類(lèi)想在人工智能系統(tǒng)中重新創(chuàng)建這種現(xiàn)象，就需要更好地理解有感覺(jué)的生物系統(tǒng)中感覺(jué)是如何產(chǎn)生的。

　　人們不會(huì)在下一個(gè) ChatGPT 的迭代中偶然發(fā)現(xiàn)感覺(jué)。

　　在李飛飛轉(zhuǎn)發(fā)的 X(原推特)下面，大家討論的也是非常激烈，有人表示:「當(dāng)今的 LLM 有兩種類(lèi)型:一種是完全基于文本進(jìn)行訓(xùn)練，另一種則是基于圖像、文本甚至音頻進(jìn)行訓(xùn)練。第一種類(lèi)型確實(shí)不具備所謂的感覺(jué)能力，但第二種類(lèi)型具有物理直覺(jué)，因此可以說(shuō)它具有感覺(jué)能力�！�

　　而另一位網(wǎng)友則追隨 Lecun 的腳步，表示:「一只喵星人的智能程度都遠(yuǎn)高于最大型的 LLM�！�