谷歌Deepmind表示開放式AI是實現(xiàn)超級智能的關(guān)鍵

　　谷歌 Deepmind 的研究人員表示，AI 系統(tǒng)具備開放式的能力是發(fā)展超級智能的關(guān)鍵。他們認(rèn)為，單純依靠不斷擴大的數(shù)據(jù)集并不足以實現(xiàn)超級人工智能(ASI)，而現(xiàn)有的規(guī)�；�策略往往集中在使用更多的計算資源和數(shù)據(jù)。相反，AI 系統(tǒng)必須能夠以開放式的方式產(chǎn)生新知識，并自主改進(jìn)其學(xué)習(xí)能力。

　　研究人員將 AI 系統(tǒng)定義為 “開放式” 的，如果它不斷產(chǎn)生新的、難以預(yù)測的且具有學(xué)習(xí)意義的物件，即使觀察者通過研究過去的物件已經(jīng)變得更擅長于預(yù)測。AI 生成內(nèi)容的開放性取決于觀察者是否將生成的事物視為新的，并且能否從中學(xué)到東西。舉例來說，對于老鼠來說，飛機是新的，但它無法理解背后的原理。對于航空航天工程學(xué)生來說，飛機的設(shè)計是新的且具有學(xué)習(xí)意義，這使得系統(tǒng)在這種情況下是開放的。一個具有廣泛航空知識的外星人可能并不覺得這些設(shè)計是新的，但它可以分析和理解它們。

　　研究人員舉例說明了一些開放系統(tǒng)及其局限性。AlphaGo 能不斷制定新的策略來擊敗學(xué)習(xí)中的人類，但僅限于人類設(shè)定的規(guī)則內(nèi)。盡管這樣的系統(tǒng)是開放的，但它太狹窄，無法發(fā)現(xiàn)新的科學(xué)或技術(shù)。另一個例子是 “AdA” 代理，它在一個具有數(shù)十億種可能變化的3D 世界中解決任務(wù)。通過訓(xùn)練，AdA 逐漸獲得了在越來越復(fù)雜和陌生的環(huán)境中的技能。

　　然而，這種開放性在環(huán)境設(shè)置的限制下存在局限性:POET 系統(tǒng)訓(xùn)練與不斷發(fā)展的環(huán)境相連接的代理。通過在環(huán)境之間進(jìn)行切換，代理最終解決了通過直接優(yōu)化無法解決的非常復(fù)雜的任務(wù)。然而，這種開放性受環(huán)境設(shè)置的限制:在某個時刻，POET，就像 AdA 一樣，達(dá)到了一個極限。

　　與之相反的是，當(dāng)前的基礎(chǔ)模型，如大型語言模型，不是 “開放式” 的，因為它們是在靜態(tài)數(shù)據(jù)集上訓(xùn)練的;它們最終會停止產(chǎn)生新的物件。根據(jù)論文，它們將 “很快達(dá)到瓶頸”。然而，如果它們不斷得到新數(shù)據(jù)并與開放式方法(如強化學(xué)習(xí)、自我改進(jìn)、自動生成任務(wù)和進(jìn)化算法)結(jié)合，它們可能會引領(lǐng)開放系統(tǒng)的道路。

　　研究人員還警告存在重大的安全風(fēng)險。所產(chǎn)生的物件必須始終能夠為人類所理解和控制。必須從一開始就將安全性內(nèi)置到開放式系統(tǒng)的設(shè)計中，以防止超級智能 AI 失控。但是，如果這些挑戰(zhàn)能夠被克服，研究人員相信開放式基礎(chǔ)模型可能會實現(xiàn)科學(xué)和技術(shù)領(lǐng)域的重大突破。

　　Deepmind 聯(lián)合創(chuàng)始人 Demis Hassabis 在一年前暗示谷歌 Deepmind 正在測試將 AlphaGo 等系統(tǒng)的優(yōu)勢與大型模型的知識相結(jié)合。然而，迄今為止谷歌發(fā)布的 Gemini 模型尚未提供如此突破性的創(chuàng)新，而且它幾乎無法與 OpenAI 的 GPT-4相媲美。OpenAI 的 Q * 模型也可能旨在結(jié)合類似于谷歌 Deepmind 的 AlphaZero 與語言模型的想法，類似于微軟研究人員最近展示的 “Everything of Thought”。