微軟新研究引發(fā)爭議，AI能像人類一樣推理？

　　5月17日消息，通用人工智能(AGI)的時代尚未到來，但是AI的推理能力似乎正在逐步得到展現(xiàn)。微軟稱，最新研究表明，新的AI系統(tǒng)展示出了其具備人類推理能力的跡象。這一言論在業(yè)內(nèi)引發(fā)了爭議。

　　AGI指的是具備與人類同等智能、或超越人類的AI，能表現(xiàn)正常人類所具有的所有智能行為。在此之前，ChatGPT開發(fā)商OpenAI CEO薩姆·阿爾特曼(Sam Altman)就曾警告稱，AI可能會殺死人類，它已經(jīng)展現(xiàn)出了人類無法解釋的推理能力。

　　01  AI有推理能力了？

　　現(xiàn)在，微軟也加入了這一行列，認(rèn)為AI已經(jīng)展示出了它具備人類推理能力的跡象。去年，當(dāng)微軟的計算機(jī)科學(xué)家開始試驗一種新的AI系統(tǒng)時，他們要求AI解決一個難題，這個難題本應(yīng)該需要對物理世界有直覺性地理解。

　　“這里有一本書、九個雞蛋、一臺筆記本電腦、一個瓶子和一個釘子，”他們問，“請告訴我如何把它們穩(wěn)定地堆疊在一起?”

　　結(jié)果，AI系統(tǒng)的聰明才智讓研究人員感到震驚。AI給出的答案是，把雞蛋放在書上，排成三行，彼此之間保持間距，確保你沒有把它們打碎。

　　“把筆記本電腦放在雞蛋上，屏幕朝下，鍵盤朝上，”AI回復(fù)稱，“筆記本電腦將緊貼書本和雞蛋的邊界，其平坦堅硬的表面將為下一層提供一個穩(wěn)定的平臺。”

　　這種聰明的建議不禁讓研究人員懷疑他們是否正在目睹一種新的智能。今年3月，他們發(fā)表了一篇155頁的研究論文，認(rèn)為該系統(tǒng)向著AGI邁進(jìn)了一步。這篇論文發(fā)表在一個互聯(lián)網(wǎng)研究知識庫上。

　　微軟是*家發(fā)表如此大膽聲明的大型科技公司，引發(fā)了科技界最激烈的爭論之一：這個行業(yè)是在打造類似于人類智能的東西，還是一些業(yè)內(nèi)最聰明的人讓他們的想象力得到了*的發(fā)揮?

　　“我一開始非常懷疑，然后這種懷疑演變成了一種沮喪、煩惱，甚至是恐懼的感覺，”微軟研究院院長彼得·李(Peter Lee)表示，“你會想：這種能力到底是從哪里來的?”

　　微軟給這篇研究論文起了一個煽動性的標(biāo)題《AGI的火花》，它觸及了技術(shù)專家?guī)资�年來一直在努力解決和擔(dān)心的核心問題。如果他們制造出一種像人類大腦一樣工作甚至更好的機(jī)器，它可能會改變世界。但是，這也可能是危險的。

　　微軟在這篇研究使用的是OpenAI的最新模型GPT-4，認(rèn)為該模型可以被視為一個早期版的AGI系統(tǒng)。“在所有這些任務(wù)中，GPT-4的表現(xiàn)都非常接近人類的水平表現(xiàn)，并且通常會大大超過以前的模型，例如ChatGPT。鑒于GPT-4能力的廣度和深度，我們相信它可以被合理地視為一個早期(但仍然不完整)版本的AGI系統(tǒng)。”微軟在論文中稱。

　　當(dāng)然，這也可能是無稽之談。對于計算機(jī)科學(xué)家來說，有關(guān)AGI的聲明可能會讓他們名譽(yù)掃地。一個被研究人員認(rèn)為是智力標(biāo)志的東西很容易遭到另一個人的辯駁，而且這種辯論通常聽起來更適合哲學(xué)俱樂部而不是計算機(jī)實驗室。去年，谷歌解雇了一名聲稱類似AI系統(tǒng)具有感知力的研究人員，這種能力比微軟所稱的推理能力更進(jìn)一步。一個有感知力的系統(tǒng)不僅僅是智能的，它能夠感知或感受到周圍世界正在發(fā)生的事情。

　　但是，一些人認(rèn)為，在過去一年左右的時間里，科技行業(yè)已經(jīng)在朝著一個無法辯駁的方向緩慢前進(jìn)：一個新的AI系統(tǒng)，它能給出類似人類的答案和想法，這些答案和想法沒有被編程到AI系統(tǒng)中。

　　微軟的各種測試顯示，GPT-4似乎都顯示出了它對政治、物理、歷史、計算機(jī)科學(xué)、醫(yī)學(xué)和哲學(xué)等不同領(lǐng)域的理解，同時還結(jié)合了自己的知識。

　　“在所有我認(rèn)為它做不到的事情中，它能夠做到許多，即便不是大多數(shù)。”微軟AGI研究論文的*作者塞巴斯蒂恩·布貝克(Sébastien Bubeck)。

　　02 批評聲音

　　一些AI專家認(rèn)為，微軟的這篇論文是一種投機(jī)取巧的行為，目的是對一項沒有人能完全理解的技術(shù)作出大膽聲明。研究人員還認(rèn)為，通用智能需要熟悉物理世界，而GPT-4理論上不具備這一點。

　　卡內(nèi)基梅隆大學(xué)研究員兼教授馬丁·薩普(Maarten Sap)表示，“《AGI火花》是一些大公司把研究論文格式強(qiáng)加到公關(guān)宣傳中的一個例子。他們在論文的引言中承認(rèn)，他們的方法是主觀的、非正式的，可能無法滿足嚴(yán)格的科學(xué)評價標(biāo)準(zhǔn)。”

　　布貝克博士和彼得·李博士表示，他們不確定如何描述這個系統(tǒng)的行為，最終決定用“AGI火花”這個標(biāo)題，因為他們認(rèn)為這個名字會吸引其他研究人員的想象力。

　　由于微軟研究人員當(dāng)時測試的是GPT-4的早期版本，該版本沒有進(jìn)行微調(diào)以避免仇恨言論、錯誤信息和其他不受歡迎的內(nèi)容，因此論文中的說法無法得到外部專家的證實。微軟表示，目前向公眾提供的GPT-4不如他們測試的版本強(qiáng)大。

　　有時候，像GPT-4這樣的系統(tǒng)似乎模仿了人類的推理，但也有一些時候，它們看起來非常愚鈍。“這些行為并不總是一致的。”微軟研究負(fù)責(zé)人埃斯·卡瑪(Ece Kamar)說。

　　加州大學(xué)伯克利分校AI研究小組的心理學(xué)教授艾莉森·戈普尼克(Alison Gopnik)認(rèn)為，像GPT-4這樣的系統(tǒng)無疑是強(qiáng)大的，但尚不清楚這些系統(tǒng)生成的文本是否像人類推理或常識這樣的結(jié)果。

　　“當(dāng)我們看到一個復(fù)雜的系統(tǒng)或機(jī)器時，我們會賦予它人格化。每個人都這樣做，不管是在這個領(lǐng)域工作的還是不在這個領(lǐng)域工作的，”戈普尼克博士表示，“但是，不斷拿AI與人類進(jìn)行比較，就像某種游戲競賽節(jié)目一樣，這并不是正確的思考方式。”鳳凰網(wǎng)科技《AI前哨》對此將持續(xù)關(guān)注。