讓ChatGPT等模型學(xué)會(huì)自主思考！開(kāi)創(chuàng)性技術(shù)“自主認(rèn)知”框架

　　ChatGPT、百度文心一言、Bard等大語(yǔ)言模型展現(xiàn)出了超強(qiáng)的創(chuàng)造能力，加速了生成式AI的應(yīng)用進(jìn)程。但AI模型只能基于訓(xùn)練數(shù)據(jù)執(zhí)行各種任務(wù)，無(wú)法像人類一樣利用生活知識(shí)、過(guò)往經(jīng)驗(yàn)用于復(fù)雜的推理和決策。

　　例如，在玩游戲時(shí)，人類可以利用各種線索、常識(shí)、經(jīng)驗(yàn)以及對(duì)游戲規(guī)則的理解做出最佳決策。而AI只能通過(guò)大量訓(xùn)練學(xué)習(xí)游戲的模式，不具備人性化理解功能。一旦游戲規(guī)則或環(huán)境發(fā)生變化，AI就很難做出正確的選擇。

　　為了解決這些難題，克萊姆森大學(xué)AI實(shí)驗(yàn)室提出了自主認(rèn)知技術(shù)框(Autonomous Cognitive Entity，簡(jiǎn)稱“ACE”)。通過(guò)道德、全局戰(zhàn)略、代理模型、執(zhí)行、認(rèn)知控制和任務(wù)執(zhí)行6大分層設(shè)計(jì)，使AI模型可以實(shí)現(xiàn)“自主決策”和道德推理的認(rèn)知架構(gòu)。

　　長(zhǎng)期以來(lái)，讓AI模型具備“常識(shí)推理”的能力一直是科研界的重中之重。而ACE框架被視為解決這個(gè)難題的創(chuàng)新性突破研究。

　　其實(shí)ACE概念與前不久中國(guó)科學(xué)院自動(dòng)化研究所和耶魯大學(xué)提出的“思維傳播”技術(shù)框架類似，都是讓大模型學(xué)會(huì)利用過(guò)往經(jīng)驗(yàn)增強(qiáng)復(fù)雜推理能力來(lái)處理全新的問(wèn)題，只不過(guò)推理分層更加具體化，并加入了道德規(guī)范的限制保證輸出內(nèi)容的安全性。

　　ACE技術(shù)框架得到了業(yè)界眾多技術(shù)大牛的認(rèn)可。斯坦福大學(xué)計(jì)算機(jī)科學(xué)系教授John Etchemendy表示，ACE框架標(biāo)志著人工智能研究的新范式，其分層抽象和信息反饋的設(shè)計(jì)對(duì)實(shí)現(xiàn)人工常識(shí)推理大有幫助。

　　麻省理工AI實(shí)驗(yàn)室主任Daniela Rus認(rèn)為，ACE框架構(gòu)建了一個(gè)集成倫理、認(rèn)知和計(jì)算原理的完整結(jié)構(gòu)，為人工常識(shí)推理提供了新的研究方向。

　　ACE框架的總目標(biāo)是實(shí)現(xiàn)一種既高能又倫理的人工智能系統(tǒng)。其核心創(chuàng)新在于融合了頂層的抽象倫理推理與底層的具體任務(wù)實(shí)現(xiàn)，構(gòu)建一個(gè)閉環(huán)完整的認(rèn)知體系。

　　ACE主要由道德、全局戰(zhàn)略、代理模型、執(zhí)行、認(rèn)知控制和任務(wù)執(zhí)行6大層組成，每一層集中處理不同的功能，高層處理抽象推理，低層負(fù)責(zé)具體任務(wù)執(zhí)行。

　　道德層

　　最高的道德層確定了整個(gè)系統(tǒng)的方向和原則， 其功能是定義一個(gè)自治代理的核心價(jià)值觀和倫理原則，包含3部分。

　　(1)基本倫理準(zhǔn)則:這是直觀的道德準(zhǔn)則，為系統(tǒng)提供基本遵循。

　　(2)次要原則:諸如人權(quán)義務(wù)等提供具體指導(dǎo)。

　　(3)使命宣言:定義代理的核心目標(biāo)和意圖。

　　全局戰(zhàn)略層

　　在接收到來(lái)自道德層的抽象使命后，全局戰(zhàn)略層會(huì)結(jié)合具體情境，制定實(shí)現(xiàn)這些使命的長(zhǎng)期計(jì)劃，包含2部分。

　　(1)情境融合:吸收環(huán)境信息，理解代理面臨的具體情境。

　　(2)戰(zhàn)略文件:產(chǎn)出指導(dǎo)性文件，為下層提供行動(dòng)指南。

　　代理模型層

　　致力于理解一個(gè)代理在給定環(huán)境下的能力參數(shù)、系統(tǒng)結(jié)構(gòu)、限制條件等，構(gòu)建一個(gè)“自我模型”為決策提供依據(jù)，包含4部分。

　　(1)運(yùn)行參數(shù):通過(guò)監(jiān)測(cè)獲得的遙測(cè)數(shù)據(jù)。

　　(2)配置信息:軟硬件架構(gòu)、版本等。

　　(3)能力范圍:可以完成和不能完成的事項(xiàng)。

　　(4)局限性:只能在特定條件下工作的約束。

　　執(zhí)行功能層

　　執(zhí)行功能層扮演“項(xiàng)目經(jīng)理”的角色，將來(lái)自高層的戰(zhàn)略使命轉(zhuǎn)化為明確的計(jì)劃路線圖。路線圖提供所有具體的執(zhí)行步驟，同時(shí)考慮資源分配和風(fēng)險(xiǎn)管理，使戰(zhàn)略落地，包含4部分。

　　(1)定義任務(wù)步驟:將戰(zhàn)略任務(wù)分解為細(xì)粒度操作。

　　(2)設(shè)置檢查點(diǎn):定義重要的中間結(jié)果以驗(yàn)收進(jìn)展。

　　(3)分配資源:優(yōu)化資源使用以保證計(jì)劃順利執(zhí)行。

　　(4)評(píng)估風(fēng)險(xiǎn):預(yù)測(cè)可能的問(wèn)題并提前規(guī)劃應(yīng)對(duì)措施。

　　認(rèn)知控制層

　　認(rèn)知控制層扮演“任務(wù)管理”的角色，會(huì)根據(jù)當(dāng)前環(huán)境和反饋動(dòng)態(tài)選擇和調(diào)度合適的任務(wù)，包含4部分。

　　(1)任務(wù)選擇:根據(jù)優(yōu)先級(jí)、環(huán)境等選擇下一個(gè)任務(wù)。

　　(2)任務(wù)切換:在任務(wù)間流暢切換以優(yōu)化訂單。

　　(3)挫折感知:如果任務(wù)重復(fù)失敗會(huì)產(chǎn)生主動(dòng)變更。

　　(4)內(nèi)部調(diào)節(jié):思考不同選擇的利弊。

　　任務(wù)執(zhí)行層

　　最后的任務(wù)執(zhí)行層直接與環(huán)境交互，執(zhí)行由認(rèn)知控制層下達(dá)的特定任務(wù)。根據(jù)任務(wù)類型，可以調(diào)用API接口、控制機(jī)械裝置、進(jìn)行對(duì)話等，包含3部分。

　　(1)數(shù)字通信:使用編程語(yǔ)言和接口調(diào)用實(shí)現(xiàn)數(shù)字任務(wù)

　　(2)物理協(xié)同:控制機(jī)器人和傳感器完成物理任務(wù)

　　(3)結(jié)果監(jiān)測(cè):比較結(jié)果與預(yù)期，發(fā)送成功或失敗反饋

　　這種分工明確的多層設(shè)計(jì)有諸多好處:第一，不同層級(jí)可以同時(shí)并行工作，提升了效率;第二，分層的封裝和信息隱藏增強(qiáng)了系統(tǒng)的安全性和可解釋性;

　　第三，分層使系統(tǒng)可以模塊化迭代升級(jí)，而不需要全重構(gòu);第四，高層可以監(jiān)控低層的運(yùn)行， 當(dāng)Einmal出現(xiàn)偏差可以進(jìn)行修正，保證系統(tǒng)的可控性。

　　此外，ACE框架的另一個(gè)創(chuàng)新在于巧妙利用了當(dāng)前熱門的大語(yǔ)言模型，例如，ChatGPT、Bard等。

　　這些模型通過(guò)學(xué)習(xí)海量文本數(shù)據(jù)，已經(jīng)展現(xiàn)了接近人類的語(yǔ)言理解和語(yǔ)言生成能力。ACE框架將語(yǔ)言層面融入每個(gè)層級(jí)，使語(yǔ)言模型不再單獨(dú)運(yùn)行，而是成為支撐整個(gè)認(rèn)知架構(gòu)的關(guān)鍵組件。

　　從道德層到任務(wù)層，語(yǔ)言模型幫助理解抽象概念，進(jìn)行策略推理，建立自我模型，甚至最終控制機(jī)器人執(zhí)任務(wù)的方式都是語(yǔ)言化的。

　　這種融合為語(yǔ)言模型提供了明確的上下文和指導(dǎo)，讓其生成的輸出更加準(zhǔn)確，避免了“自說(shuō)自話”的問(wèn)題。

　　這也表明，大語(yǔ)言模型也可以在系統(tǒng)級(jí)扮演重要角色，而不僅僅是完成單個(gè)語(yǔ)言任務(wù)。ACE框架展示了如何更好地利用大語(yǔ)言模型的潛力，將其打造為推動(dòng)認(rèn)知發(fā)展的核心引擎，為人工常識(shí)推理提供動(dòng)力。