阿里研發(fā)了一種新的大語(yǔ)言模型情境學(xué)習(xí)框架

　　7月6日消息，據(jù)報(bào)道，阿里巴巴研究團(tuán)隊(duì)研發(fā)出一款名為 Deep-Thinking 的大語(yǔ)言模型情境學(xué)習(xí)框架。

　　這個(gè)框架是一種迭代式的前向訓(xùn)練框架，旨在讓大模型能夠深度思考和快速定制專(zhuān)屬模型。它摒棄了傳統(tǒng)的模型訓(xùn)練方法，通過(guò)情境學(xué)習(xí)(In-context Learning)使該模型功能更為強(qiáng)大。

　　情境學(xué)習(xí)框架是在大模型時(shí)代的背景下提出的新興框架。

　　大模型具有思維鏈、情景學(xué)習(xí)等涌現(xiàn)能力，能夠執(zhí)行人類(lèi)的指令，并可以直接與人類(lèi)進(jìn)行對(duì)話(huà)。其核心作用是突破數(shù)據(jù)標(biāo)注的困境，通過(guò)學(xué)習(xí)海量無(wú)標(biāo)注的數(shù)據(jù)來(lái)進(jìn)行預(yù)訓(xùn)練，從而提升大模型的知識(shí)水平，并在后續(xù)的下游任務(wù)中應(yīng)用。

　　這個(gè)框架的提出將有助于大模型更好地理解和適應(yīng)不同的情境，為人工智能的發(fā)展帶來(lái)新的可能性，有望在語(yǔ)言處理和人工智能領(lǐng)域發(fā)揮重要作用。