微軟新研究引發(fā)爭(zhēng)議，AI能像人類一樣推理？

　　5月17日消息，通用人工智能(AGI)的時(shí)代尚未到來，但是AI的推理能力似乎正在逐步得到展現(xiàn)。微軟稱，最新研究表明，新的AI系統(tǒng)展示出了其具備人類推理能力的跡象。這一言論在業(yè)內(nèi)引發(fā)了爭(zhēng)議。

　　AGI指的是具備與人類同等智能、或超越人類的AI，能表現(xiàn)正常人類所具有的所有智能行為。在此之前，ChatGPT開發(fā)商OpenAI CEO薩姆·阿爾特曼(Sam Altman)就曾警告稱，AI可能會(huì)殺死人類，它已經(jīng)展現(xiàn)出了人類無法解釋的推理能力。

　　01  AI有推理能力了？

　　現(xiàn)在，微軟也加入了這一行列，認(rèn)為AI已經(jīng)展示出了它具備人類推理能力的跡象。去年，當(dāng)微軟的計(jì)算機(jī)科學(xué)家開始試驗(yàn)一種新的AI系統(tǒng)時(shí)，他們要求AI解決一個(gè)難題，這個(gè)難題本應(yīng)該需要對(duì)物理世界有直覺性地理解。

　　“這里有一本書、九個(gè)雞蛋、一臺(tái)筆記本電腦、一個(gè)瓶子和一個(gè)釘子，”他們問，“請(qǐng)告訴我如何把它們穩(wěn)定地堆疊在一起?”

　　結(jié)果，AI系統(tǒng)的聰明才智讓研究人員感到震驚。AI給出的答案是，把雞蛋放在書上，排成三行，彼此之間保持間距，確保你沒有把它們打碎。

　　“把筆記本電腦放在雞蛋上，屏幕朝下，鍵盤朝上，”AI回復(fù)稱，“筆記本電腦將緊貼書本和雞蛋的邊界，其平坦堅(jiān)硬的表面將為下一層提供一個(gè)穩(wěn)定的平臺(tái)。”

　　這種聰明的建議不禁讓研究人員懷疑他們是否正在目睹一種新的智能。今年3月，他們發(fā)表了一篇155頁的研究論文，認(rèn)為該系統(tǒng)向著AGI邁進(jìn)了一步。這篇論文發(fā)表在一個(gè)互聯(lián)網(wǎng)研究知識(shí)庫(kù)上。

　　微軟是*家發(fā)表如此大膽聲明的大型科技公司，引發(fā)了科技界最激烈的爭(zhēng)論之一：這個(gè)行業(yè)是在打造類似于人類智能的東西，還是一些業(yè)內(nèi)最聰明的人讓他們的想象力得到了*的發(fā)揮?

　　“我一開始非常懷疑，然后這種懷疑演變成了一種沮喪、煩惱，甚至是恐懼的感覺，”微軟研究院院長(zhǎng)彼得·李(Peter Lee)表示，“你會(huì)想：這種能力到底是從哪里來的?”

　　微軟給這篇研究論文起了一個(gè)煽動(dòng)性的標(biāo)題《AGI的火花》，它觸及了技術(shù)專家?guī)资�年來一直在努力解決和擔(dān)心的核心問題。如果他們制造出一種像人類大腦一樣工作甚至更好的機(jī)器，它可能會(huì)改變世界。但是，這也可能是危險(xiǎn)的。

　　微軟在這篇研究使用的是OpenAI的最新模型GPT-4，認(rèn)為該模型可以被視為一個(gè)早期版的AGI系統(tǒng)。“在所有這些任務(wù)中，GPT-4的表現(xiàn)都非常接近人類的水平表現(xiàn)，并且通常會(huì)大大超過以前的模型，例如ChatGPT。鑒于GPT-4能力的廣度和深度，我們相信它可以被合理地視為一個(gè)早期(但仍然不完整)版本的AGI系統(tǒng)。”微軟在論文中稱。

　　當(dāng)然，這也可能是無稽之談。對(duì)于計(jì)算機(jī)科學(xué)家來說，有關(guān)AGI的聲明可能會(huì)讓他們名譽(yù)掃地。一個(gè)被研究人員認(rèn)為是智力標(biāo)志的東西很容易遭到另一個(gè)人的辯駁，而且這種辯論通常聽起來更適合哲學(xué)俱樂部而不是計(jì)算機(jī)實(shí)驗(yàn)室。去年，谷歌解雇了一名聲稱類似AI系統(tǒng)具有感知力的研究人員，這種能力比微軟所稱的推理能力更進(jìn)一步。一個(gè)有感知力的系統(tǒng)不僅僅是智能的，它能夠感知或感受到周圍世界正在發(fā)生的事情。

　　但是，一些人認(rèn)為，在過去一年左右的時(shí)間里，科技行業(yè)已經(jīng)在朝著一個(gè)無法辯駁的方向緩慢前進(jìn)：一個(gè)新的AI系統(tǒng)，它能給出類似人類的答案和想法，這些答案和想法沒有被編程到AI系統(tǒng)中。

　　微軟的各種測(cè)試顯示，GPT-4似乎都顯示出了它對(duì)政治、物理、歷史、計(jì)算機(jī)科學(xué)、醫(yī)學(xué)和哲學(xué)等不同領(lǐng)域的理解，同時(shí)還結(jié)合了自己的知識(shí)。

　　“在所有我認(rèn)為它做不到的事情中，它能夠做到許多，即便不是大多數(shù)。”微軟AGI研究論文的*作者塞巴斯蒂恩·布貝克(Sébastien Bubeck)。

　　02 批評(píng)聲音

　　一些AI專家認(rèn)為，微軟的這篇論文是一種投機(jī)取巧的行為，目的是對(duì)一項(xiàng)沒有人能完全理解的技術(shù)作出大膽聲明。研究人員還認(rèn)為，通用智能需要熟悉物理世界，而GPT-4理論上不具備這一點(diǎn)。

　　卡內(nèi)基梅隆大學(xué)研究員兼教授馬丁·薩普(Maarten Sap)表示，“《AGI火花》是一些大公司把研究論文格式強(qiáng)加到公關(guān)宣傳中的一個(gè)例子。他們?cè)谡撐牡囊�言中承認(rèn)，他們的方法是主觀的、非正式的，可能無法滿足嚴(yán)格的科學(xué)評(píng)價(jià)標(biāo)準(zhǔn)。”

　　布貝克博士和彼得·李博士表示，他們不確定如何描述這個(gè)系統(tǒng)的行為，最終決定用“AGI火花”這個(gè)標(biāo)題，因?yàn)樗麄冋J(rèn)為這個(gè)名字會(huì)吸引其他研究人員的想象力。

　　由于微軟研究人員當(dāng)時(shí)測(cè)試的是GPT-4的早期版本，該版本沒有進(jìn)行微調(diào)以避免仇恨言論、錯(cuò)誤信息和其他不受歡迎的內(nèi)容，因此論文中的說法無法得到外部專家的證實(shí)。微軟表示，目前向公眾提供的GPT-4不如他們測(cè)試的版本強(qiáng)大。

　　有時(shí)候，像GPT-4這樣的系統(tǒng)似乎模仿了人類的推理，但也有一些時(shí)候，它們看起來非常愚鈍。“這些行為并不總是一致的。”微軟研究負(fù)責(zé)人埃斯·卡瑪(Ece Kamar)說。

　　加州大學(xué)伯克利分校AI研究小組的心理學(xué)教授艾莉森·戈普尼克(Alison Gopnik)認(rèn)為，像GPT-4這樣的系統(tǒng)無疑是強(qiáng)大的，但尚不清楚這些系統(tǒng)生成的文本是否像人類推理或常識(shí)這樣的結(jié)果。

　　“當(dāng)我們看到一個(gè)復(fù)雜的系統(tǒng)或機(jī)器時(shí)，我們會(huì)賦予它人格化。每個(gè)人都這樣做，不管是在這個(gè)領(lǐng)域工作的還是不在這個(gè)領(lǐng)域工作的，”戈普尼克博士表示，“但是，不斷拿AI與人類進(jìn)行比較，就像某種游戲競(jìng)賽節(jié)目一樣，這并不是正確的思考方式。”鳳凰網(wǎng)科技《AI前哨》對(duì)此將持續(xù)關(guān)注。